Alucinaciones de IA vieron plaga en la ciencia: referencias falsas entran al conocimiento definitivo

Maxim Topaz, profesor de la Universidad de Columbia, encontró en su propio artículo una referencia que jamás había escrito: una fuente completamente fabricada, insertada por una herramienta de inteligencia artificial usada por coautores. Este no es un caso aislado. Según el informe de Yahoo News, la proliferación de alucinaciones de IA — referencias falsas que parecen legítimas — 'verticalizó' en 2024, infiltrando en el trabajo de especialistas y ganando status de conocimiento consolidado.

¿Cómo las alucinaciones de IA engañan a los investigadores?

Las alucinaciones ocurren cuando modelos de lenguaje generan informaciones que parecen plausibles, pero son completamente inventadas. En el caso académico, esto se traduce en citas de artículos que nunca existieron, autores ficticios y datos inventados. Topaz relató que el fenómeno no afecta apenas revisiones de literatura, sino también artículos sometidos a periódicos, donde referencias falsas pasan desapercibidas por los evaluadores. El impacto es acumulativo: cada referencia falsa acepta se convierte en parte del registro científico, contaminando futuras investigaciones que la citan. Esto es especialmente peligroso en áreas como medicina y políticas públicas, donde decisiones basadas en evidencias pueden ser comprometidas.

Impacto de las alucinaciones de IA en la ciencia brasileña

Brasil, con su sistema de postgrado en expansión y presión por publicaciones, es particularmente vulnerable. Los investigadores brasileños, a menudo sobrecargados, pueden recurrir a herramientas de IA para acelerar revisiones bibliográficas, sin verificar manualmente cada referencia. La adopción creciente de IA en el país, como señala un alerta reciente sobre ciberataques con IA, muestra el ritmo acelerado de la tecnología, pero la curadora humana no acompañó. Si un artículo brasileño acepta una referencia falsa, puede propagarse por citas futuras, inflando un conocimiento que no existe. Instituciones como CAPES y CNPq necesitan incluir directrices de verificación de fuentes en sus criterios de evaluación.

Estrategias para contener referencias falsas en artículos

La solución no es prohibir la IA, sino crear barreras de verificación. Herramientas de detección de alucinaciones, como verificadores de citas en tiempo real, están en desarrollo, pero todavía no son ampliamente adoptadas. Los editores de periódicos deben exigir que autores declaren explícitamente el uso de IA y sometan referencias a verificación humana. Además, las universidades pueden incluir entrenamiento sobre alucinaciones de IA en sus programas de ética en investigación. Para el investigador individual, la regla es simple: nunca confiar ciegamente en una referencia generada por IA; buscar el artículo original o la base de datos confirmada es esencial.

Preguntas frecuentes sobre alucinaciones de IA en la ciencia

¿Las herramientas de IA son confiables para investigaciones académicas?

No enteramente. Herramientas de IA pueden generar referencias falsas con alta confianza, por lo que es indispensable verificar cada cita en fuentes confiables como Scopus o Web of Science.

¿Cómo detectar una referencia falsa generada por IA?

Desconfie de citas cuyo título parece genérico, con autores poco conocidos o que no aparecen en bases tradicionales. Busque el DOI o la página del periódico — si no existe, es alucinación.

¿Quién es responsable de verificar las fuentes antes de la publicación?

El autor principal es el responsable final, pero revisores y editores también deben actuar como filtros. La adopción de herramientas de detección automática puede ayudar a compartir esa responsabilidad.