Publicado originalmente em inglês no site da Unesco
Em um mundo onde a inteligência artificial consegue criar manchetes impecáveis, imagens realistas e imitar vozes humanas com incrível precisão, distinguir o que é real do que não é se tornou um desafio diário. Pense uma situação que está se tornando cada vez mais comum: um artigo convincente aparece online, completo com citações de especialistas, datas específicas e linguagem profissional. Ele se espalha por diversas plataformas, moldando opiniões e influenciando decisões, até que se revele que as citações eram falsas, os especialistas nunca existiram e a história foi inteiramente criada por IA.
Esta é a nossa realidade hoje, onde o limite entre informação real e conteúdo artificial se torna cada vez mais difícil de distinguir. A inteligência artificial generativa chegou com uma promessa imensa, capaz de processar grandes volumes de dados e fornecer informações mais rapidamente do que nunca. Mas há um problema, e é um problema sério. Os grandes modelos de linguagem (LLMs) têm um hábito peculiar: eles “alucinam”. Criam informações que parecem críveis, mas são completamente inventadas, como citações falsas, fontes fictícias e estatísticas inventadas. E a parte preocupante é: esses erros não são falhas raras. Eles são inerentes ao funcionamento desses sistemas. Os modelos de IA são projetados para serem bons em responder perguntas. Quando estão inseguros, eles chutam, porque adivinhar, na verdade, melhora seu desempenho. O resultado? Respostas erradas entregues com total confiança.
O perigo não reside apenas no fato de a IA poder cometer erros, mas sim no fato de que esses erros podem enganar cidadãos, influenciar líderes e moldar a opinião pública — tudo isso enquanto aparentam ser completamente confiáveis. Os efeitos já são visíveis: conteúdo falso se espalha rapidamente, influenciando eleições, distorcendo fatos e corroendo a confiança no jornalismo. Quando as pessoas não conseguem mais distinguir reportagens reais de ficção gerada por IA, a própria democracia está em risco.
Leia a matéria completa em inglês aqui: https://www.unesco.org/en/articles/ai-can-make-mistakes-why-media-literacy-matters-more-ever.