La inteligencia artificial bajo la lupa en la investigación científica
NewsITe
Más de 100 mil publicaciones científicas podrían contener referencias bibliográficas inventadas o incorrectas, muchas de ellas generadas con ayuda de herramientas de inteligencia artificial (IA). La advertencia surge de un análisis publicado por la revista Nature en conjunto con la empresa Grounded AI, especializada en detectar este tipo de irregularidades.
[prompt_tokens]
El estudio se centró en artículos publicados en 2025 y estimó que, sobre un total cercano a 7 millones de trabajos académicos, una porción relevante presenta fallas graves en su aparato de citas. El problema no se limita a simples errores de tipeo: en numerosos casos se detectaron fuentes inexistentes, fruto de las conocidas “alucinaciones” de los modelos de lenguaje.
En el ámbito de la IA, se denomina alucinación a la generación de información que parece coherente y convincente, pero que no está respaldada por datos reales. Trasladado al mundo académico, esto se traduce en referencias a artículos, revistas o conferencias que nunca existieron, lo que pone en riesgo la credibilidad de los trabajos y erosiona la confianza en el sistema de revisión científica.
Para dimensionar el fenómeno, los especialistas analizaron más de 4.000 publicaciones recientes pertenecientes a cinco grandes editoriales internacionales: Elsevier, Sage, Springer Nature, Taylor & Francis y Wiley. A cada paper se le asignó un puntaje de riesgo considerando la cantidad de referencias problemáticas y la probabilidad de que hubieran sido generadas por IA.
Luego, el equipo revisó manualmente los 100 trabajos más sospechosos. De ese grupo, 65 contenían al menos una cita inválida; en 22 casos se confirmó que las referencias correspondían a estudios reales, y en 13 no se pudo establecer con certeza si los trabajos citados existían o no. Aunque el muestreo es acotado, los autores señalan que la tendencia es preocupante.
Riesgos para la calidad de la ciencia y desafíos regulatorios
Si se extrapolan estos resultados al conjunto de la literatura académica producida en 2025, más de 110.000 publicaciones podrían incluir referencias inválidas. Los propios especialistas advierten que la cifra real podría ser aún mayor, ya que el análisis se concentró sólo en grandes editoriales, que en teoría disponen de mejores mecanismos de control que las publicaciones más pequeñas o de acceso abierto.
El uso masivo de sistemas de IA generativa en la redacción de artículos científicos abre un nuevo frente de discusión en universidades, revistas y organismos de financiamiento. Distintas instituciones ya evalúan protocolos más estrictos para declarar el uso de estas herramientas, así como la implementación de verificadores automáticos de citas y la obligación de que los autores corroboren cada referencia antes de enviar un manuscrito.
- Verificación manual y automatizada de bibliografías antes de la publicación.
- Declaración explícita del uso de IA en la redacción o edición de artículos.
- Responsabilidad final de los autores sobre la veracidad de las fuentes citadas.
“La IA puede acelerar la producción científica, pero si no se la controla, también puede multiplicar errores y socavar la confianza en la evidencia”, advierten los especialistas consultados.
Mientras la comunidad académica discute nuevas reglas de juego, el consenso es claro: la inteligencia artificial no puede reemplazar la revisión rigurosa ni la responsabilidad de los investigadores. En un contexto de creciente presión por publicar, el desafío será aprovechar las ventajas de estas herramientas sin poner en jaque la solidez del conocimiento científico.
