Você já parou para pensar em quem decide o que um chatbot pode ou não falar? Ou quem define se uma ferramenta de IA pode gerar imagens de pessoas reais sem permissão? A OpenAI, criadora do ChatGPT, lançou um programa chamado Democratic inputs to AI (algo como “Contribuições democráticas para a IA”) que coloca essa questão na mesa de forma inovadora.

A empresa anunciou que vai distribuir dez subsídios de 100 mil dólares cada (cerca de 500 mil reais) para financiar experimentos que testem processos democráticos de definição de regras para sistemas de IA. A ideia é simples, mas ambiciosa: em vez de uma única empresa ou um grupo de engenheiros decidir os limites éticos da IA, que tal abrir esse debate para a sociedade como um todo?

O que isso significa na prática?

Imagine que você está usando um assistente virtual para ajudar seu filho com a lição de casa. De repente, ele gera uma resposta com informações erradas ou até perigosas. Quem deve ser responsabilizado? O desenvolvedor? O usuário? Ou a própria IA? Essas são perguntas que o programa quer explorar, mas de um jeito diferente: convidando cidadãos comuns, especialistas, ONGs e governos a participarem de discussões organizadas para definir regras coletivas.

Na prática, os grupos que receberem o subsídio vão criar “júris” ou “assembleias” de cidadãos, parecidas com um conselho de bairro, mas com foco em IA. Eles vão discutir temas como transparência (saber quando uma resposta foi gerada por IA), privacidade (como seus dados são usados para treinar modelos) e justiça (evitar preconceitos raciais ou de gênero). O resultado dessas discussões será usado pela própria OpenAI para orientar o desenvolvimento de seus sistemas.

Como isso afeta seu dia a dia?

Você pode pensar que isso é coisa de laboratório, mas as consequências são muito práticas. Por exemplo:

• No trabalho: Se você usa ferramentas de IA para criar relatórios ou e-mails, as regras definidas nesse processo podem garantir que a IA não invente dados ou imite colegas sem permissão.
• Na escola: Com a IA ajudando na correção de redações, as regras podem evitar que o sistema favoreça um estilo de escrita em detrimento de outro, promovendo mais diversidade.
• Em casa: Ao usar um assistente virtual para controlar luzes e temperatura, as regras podem proteger seus dados de serem usados para publicidade direcionada.

O programa também abre espaço para que minorias e grupos historicamente excluídos da tecnologia tenham voz. Uma comunidade indígena poderia, por exemplo, exigir que a IA não reproduza estereótipos sobre suas culturas. Um grupo de idosos poderia pedir que os comandos sejam mais simples e acessíveis.

Mas é realmente democrático?

Essa é a pergunta que fica no ar. Por um lado, a iniciativa é um avanço em relação ao modelo atual, onde as regras são definidas nos bastidores por engenheiros e executivos. Por outro, críticos apontam que os subsídios são apenas uma pequena amostra do que seria necessário para um processo realmente democrático. Além disso, a OpenAI ainda terá a palavra final sobre quais recomendações serão adotadas.

Vale refletir: será que um grupo de 100 pessoas, por mais bem-intencionado que seja, pode representar a vontade de bilhões de usuários? E como garantir que as decisões não sejam influenciadas por interesses comerciais ou políticos?

O que você pode fazer agora?

Enquanto os experimentos não acontecem, você já pode contribuir participando de consultas públicas sobre regulamentação de IA, que estão sendo abertas em vários países, inclusive no Brasil. Outra forma é questionar as empresas de tecnologia sobre como elas estão coletando e usando seus dados. Quanto mais pessoas se interessarem pelo tema, mais pressão haverá para que a transparência e a participação popular se tornem padrão.

No fim das contas, a IA vai afetar praticamente todos os aspectos da nossa vida. A boa notícia é que, pela primeira vez, uma das empresas mais poderosas do setor está disposta a ouvir o que a sociedade tem a dizer. Resta saber se essa escuta será genuína ou apenas uma cortina de fumaça.

E você, o que acha? Deveria ter direito a voto nas regras da IA?

Produtos recomendados: MacBook Air M2 | Notebook Lenovo IdeaPad