Alucinações de IA viram praga na ciência: referências falsas entram para o conhecimento definitivo

Maxim Topaz, professor da Universidade Columbia, encontrou em seu próprio artigo uma referência que jamais havia escrito: uma fonte completamente fabricada, inserida por uma ferramenta de inteligência artificial usada por coautores. Este não é um caso isolado. Segundo reportagem do Yahoo News, a proliferação de alucinações de IA — referências falsas que parecem legítimas — 'verticalizou' em 2024, infiltrando-se no trabalho de especialistas e ganhando status de conhecimento consolidado.

Como alucinações de IA enganam pesquisadores?

As alucinações ocorrem quando modelos de linguagem geram informações que parecem plausíveis, mas são completamente inventadas. No caso acadêmico, isso se traduz em citações de artigos que nunca existiram, autores fictícios e dados inventados. Topaz relatou que o fenômeno não afeta apenas revisões de literatura, mas também artigos submetidos a periódicos, onde referências falsas passam despercebidas pelos avaliadores. O impacto é cumulativo: cada referência falsa aceita se torna parte do registro científico, contaminando futuras pesquisas que a citam. Isso é especialmente perigoso em áreas como medicina e políticas públicas, onde decisões baseadas em evidências podem ser comprometidas.

Impacto das alucinações de IA na ciência brasileira

O Brasil, com seu sistema de pós-graduação em expansão e pressão por publicações, é particularmente vulnerável. Pesquisadores brasileiros, muitas vezes sobrecarregados, podem recorrer a ferramentas de IA para acelerar revisões bibliográficas — sem verificar manualmente cada referência. A adoção crescente de IA no país, como aponta um alerta recente sobre ataques cibernéticos com IA, mostra o ritmo acelerado da tecnologia, mas a curadoria humana não acompanhou. Se um artigo brasileiro aceitar uma referência falsa, ela pode se espalhar por citações futuras, inflando um conhecimento que não existe. Instituições como CAPES e CNPq precisam incluir diretrizes de verificação de fontes em seus critérios de avaliação.

Estratégias para conter referências falsas em artigos

A solução não é banir a IA, mas criar barreiras de verificação. Ferramentas de detecção de alucinações — como verificadores de citações em tempo real — estão em desenvolvimento, mas ainda não são amplamente adotadas. Editores de periódicos devem exigir que autores declarem explicitamente o uso de IA e submetam referências a checagem humana. Além disso, universidades podem incluir treinamento sobre alucinações de IA em seus programas de ética em pesquisa. Para o pesquisador individual, a regra é simples: nunca confiar cegamente em uma referência gerada por IA; buscar o artigo original ou a base de dados confirmada é essencial.

Perguntas frequentes sobre alucinações de IA na ciência

As ferramentas de IA são confiáveis para pesquisas acadêmicas?

Não inteiramente. Ferramentas de IA podem gerar referências falsas com alta confiança, por isso é indispensável verificar cada citação em fontes confiáveis como Scopus ou Web of Science.

Como detectar uma referência falsa gerada por IA?

Desconfie de citações cujo título parece genérico, com autores pouco conhecidos ou que não aparecem em bases tradicionais. Busque o DOI ou a página do periódico — se não existir, é alucinação.

Quem é responsável por verificar as fontes antes da publicação?

O autor principal é o responsável final, mas revisores e editores também devem atuar como filtros. A adoção de ferramentas de detecção automática pode ajudar a compartilhar essa responsabilidade.