Publicado originalmente por Tecmundo
O avanço do uso de inteligência artificial (IA) na produção de artigos científicos tem provocado preocupação crescente entre pesquisadores e editoras acadêmicas. Dois novos estudos internacionais apontam que ferramentas de IA generativa, como chatbots de linguagem, estão criando referências falsas que acabam sendo incluídas em trabalhos publicados sem que autores, revisores ou periódicos percebam o erro.
Um dos casos citados envolve o pesquisador Rafael Topaz, professor associado da Universidade de Columbia, nos EUA, que afirmou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente em um manuscrito acadêmico. Segundo ele, o sistema foi usado apenas para ajustes gramaticais no texto.
O alerta aparece em um estudo conduzido por pesquisadores da Universidade Cornell, da UCLA e da UC Berkeley. Os cientistas analisaram 111 milhões de citações presentes em 2,5 milhões de artigos publicados entre 2020 e 2025 em algumas plataformas de publicações acadêmicas. O trabalho identificou pelo menos 146.932 referências fabricadas por IA só em 2025.
Os pesquisadores rastrearam títulos de artigos que não puderam ser encontrados em bases acadêmicas como Google Scholar, Semantic Scholar e OpenAlex. A análise mostrou que o crescimento das referências falsas acelerou a partir de meados de 2024, cerca de um ano e meio após o lançamento público do ChatGPT, período em que ferramentas de IA passaram a ser usadas também para sugerir bibliografias e citações automáticas.
Leia a matéria na íntegra aqui.