Você acredita que a inteligência artificial pode fazer mais pela democracia na próxima década do que qualquer reforma institucional?
Com essa pergunta instigante comecei o dia de hoje no evento “The Civic Toolkit: Digital Literacy in the Era of AI” (tradução livre: “Kit de ferramentas cívico: letramento digital na era da IA”).
O primeiro palestrante, ex-curador global do TED, Bruno Giussani, começou citando Platão, que dizia que a diferença entre o remédio e o veneno estava na dose. E que tinha muita convicção que saberíamos dosar a IA para termos os melhores resultados possíveis.
Logo em seguida se formaram dois times de especialistas para debater: uma time que concordava com a afirmação, e outro que discordava. Que delícia é assistir um debate com gente inteligente que conhece o assunto; os argumentos não foram tão originais, mas foi muito bacana vê-los defendidos por quem domina o assunto. Os mais idealistas lembraram que a IA pode identificar padrões com muita facilidade, o que acelera o desenvolvimento da ciência e, segundo um dos especialistas, CEO de uma empresa de rastreamento de fake news, pode identificar a fonte da sujeira antes que ela vire um tsunami (o que é magnífico). O problema, porém, é que as redes sociais e as LLMs (Large Language Models, as Inteligências Artificiais generativas disponíveis ao grande público), praticamente o ambiente natural dessas notícias, pertencem a meia dúzia de bilionários que não necessariamente estão interessados em acabar com as mentiras veiculadas.
Além disso, sabemos que as IAs não são neutras, nem lineares e dependem basicamente de escolhas políticas. De minha parte, acredito que um dos maiores problemas seja a falta de governança e accountability (não sei exatamente como traduzir isso), indispensável para a democracia e inexistente nas IAs.
Tem também toda a preocupação com a privacidade, governos autoritários, poder de persuasão customizado para determinadas audiências, contexto geopolítico, enfim. Por mais que alguns desenvolvedores sejam bem intencionados no uso da ferramenta, a maioria da plateia terminou o debate não concordando com a afirmação inicial.
IDEIAS DE SOLUÇÕES PARA 3 PROBLEMAS
A próxima atividade foi separar todos os participantes em grupos para discutir soluções para 3 problemas; eu fiz parte do último grupo e a discussão foi bem interessante. No final, os grupos apresentaram suas ideias. Vou resumir (bastante) os principais pontos levantados.
1. Participação dos jovens como agentes cívicos
Aqui se falou muito sobre gamificação como forma de atrair essa faixa etária e sobre o ensino de pensamento crítico e letramento digital nas escolas.
2. Hiperlocalização e renovação democrática
Hiperlocalização trata de solucionar primeiro os problemas localmente (no bairro, na rua, na vila, no condomínio, nas cidades pequenas), em vez de querer resolver o problema da democracia no mundo. A ideia é que as pessoas se unam em grupos sob qualquer pretexto (clube do livro, esportes, artesanato, comida) e passem a se entender como agentes da democracia, como quem tem poder de decisão e organização na comunidade. Essa consciência coletiva pode fazer com que indivíduos isolados socialmente se sintam acolhidos e não virem presas fáceis de discursos de ódio e ideologias autoritárias.
3. Desinformação e inteligência artificial
Esse foi o meu grupo e começamos a discutir a questão das fake news. Um dos problemas é que parte das pessoas não se importam se uma notícia é mentira ou não, desde que ela esteja alinhada com a sua opinião (mesmo que inconscientemente, a guarda baixa muito nessa situação). Naturalmente se falou na falta de interesse das empresas proprietárias das redes sociais e das LLMs em eliminar essa notícias e da necessidade de letramento digital e ensino do pensamento crítico não apenas nas escolas, mas nas comunidades de uma maneira geral, de forma a atingir todas as idades.
Mas uma ferramenta que achei muito bacana e não conhecia é o Bad News Game, desenvolvido pela empresa Tilt em parceria com o Cambridge Social Decision-Making Lab, da Universidade de Cambridge. Pode ser jogado por pessoas acima dos 14 anos e está disponível em vários idiomas, inclusive o português.
A ideia é a pessoa criar uma fake news bem maléfica; no exercício, vai se tendo a noção de quais são as estratégias, recursos e truques que os criadores de notícias falsas usam — fica muito mais fácil desenvolver o pensamento crítico e se defender, quando se faz o exercício estando do outro lado do balcão. É como se fosse uma “vacina psicológica”. Eu achei simplesmente genial!
Numa livre associação de ideias, sugeri também que, cada vez que uma fake news fosse postada, existisse algum tipo de ação que usasse a mesma técnica, só que invertida, como uma espécie de antídoto, e espalhasse as true news numa quantidade maior. Foi então que um dos participantes contou que algo parecido foi utilizado em Taiwan, às vésperas de uma eleição e deu muito certo. Cada vez que uma fake news aparecia, os comediantes e influencers se reuniam e enchiam as redes sociais de piadas, ridicularizando a notícia, a ponto da pessoa ficar envergonhada em acreditar em tamanho absurdo. Perigoso? Sim. Mas, é uma maneira de jogar o jogo.
FECHAMENTO
A palestra de fechamento foi dada por Josephine Ballon, CEO and Co-Founder of HateAid, uma organização independente, apartidária e sem fins lucrativos que ajuda vítimas da violência digital ao redor do mundo. Basicamente eles defendem a liberdade de expressão para todos, porém repudiam ódio, violência e desinformação no espaço digital.
A ideia é colocar toda a ajuda psicológica e legal possível para pessoas que sofreram algum tipo de violência digital.
Só que, como Josephine nos contou, isso incomodou muito as big techs e Donald Trump, que, como presente de Natal, colocou ela e sua co-fundadora (Anna-Lena von Hodenberg), além de outros colegas, na lista de criminosos internacionais equivalentes a terroristas.
Do dia para a noite elas perderam acesso não somente a cartões de crédito, paypal e transferências internacionais mediadas por empresas americanas, mas também todos os softwares que a organização usava: Microsoft Office, Google Drive, Apple, Netflix, Claude, ChatGPT, Youtube, serviços de email, enfim, tudo!
Como eles têm 60 pessoas na equipe, passaram o natal numa operação de guerra para salvar os backups e o que dava. Hoje estão reconstruindo tudo usando somente softwares open source, muito cuidado nos backups, e o recado foi claro: eles têm o poder de tirar absolutamente tudo o que você usa sem avisar antes, incluindo todas as suas ferramentas de inteligência artificial que você usa na sua empresa. Justificativa? Ninguém liga.
CONCLUSÕES
Em novembro acontecerá o terceiro e último encontro (falhei e não fiz um texto sobre o que aconteceu no primeiro, em abril; agora já passou muito tempo, mas aqui está o link oficial com o resumo deles). Mas posso dizer que estou gostando muito de ver cientistas, pesquisadores, estudantes e pessoas comuns, como eu, participando de um debate sobre a democracia e a inteligência artificial.
No final, tinha um painel com a seguinte afirmação: “A tecnologia terá uma influência positiva na participação cívica”. A gente poderia colocar um sinal nas opções “eu sou pessimista”, “eu sou otimista”, “eu sou cético”. Para a minha surpresa, as duas últimas tiveram a maior quantidade de votos (eu sou cética) — achei que ia ter mais gente pessimista.
O evento foi organizado pela The Conduit Foundation, sediada em Londres, que trata de desenvolver soluções para clima, economia, saúde e alimentação, futuro e liderança, Inteligência Artificial e Democracia/Justiça.
