Los sistemas de inteligencia artificial generativa pueden incorporar, de forma aparente y con lenguaje persuasivo, información inventada o incorrecta que en contextos educativos entraña un riesgo relevante para la adquisición de conocimientos. Investigaciones recientes ponen de manifiesto la dificultad que tienen los alumnos para detectar estas «alucinaciones» y subrayan la necesidad de establecer protocolos de verificación en centros y en procesos de evaluación.
Estudios que evidencian la magnitud del problema
Un análisis realizado en una escuela de negocios del Reino Unido, vinculado a la iniciativa Stanford SCALE y firmado por Dang y Nguyen, reveló que sólo el 20% de 211 estudiantes de segundo año consiguió reconocer una alucinación introducida deliberadamente en una evaluación de alto impacto. El resultado sugiere que la mayoría del alumnado no dispone aún de las competencias necesarias para cuestionar o verificar la veracidad de respuestas generadas por modelos de IA.
Por otra parte, un estudio cualitativo con 63 estudiantes de ingeniería de la Universidad Khalifa (próximo a publicarse en la revista Computers and Education) documenta que casi un cuarto de los relatos sobre experiencias con alucinaciones mencionaban fuentes citadas que no existían al buscarlas. Ambos trabajos coinciden en que estas fallas no se limitan a errores tipográficos: incluyen DOIs falsos, nombres de revistas inventadas y datos históricos o estadísticos fabricados.
Tipos de alucinaciones y vulnerabilidades educativas
Los estudios describen, como categorías más habituales, los siguientes tipos de alucinaciones:
- Fuentes inventadas: referencias bibliográficas y DOIs que no corresponden a publicaciones reales.
- Fantasía algorítmica: invención de fechas, cifras o detalles biográficos.
- Información parcial o descontextualizada: fragmentos tomados de fuentes con acceso limitado que se presentan como completos.
Según las investigaciones, la aparición de estas alucinaciones es más frecuente cuando se consulta sobre temas muy especializados o poco representados en los datos de entrenamiento del sistema, y constituye un riesgo especialmente acentuado en niveles educativos tempranos, donde el alumnado carece de marcos de referencia que permitan detectar incoherencias.
Recomendaciones para centros y profesorado
Los autores y las investigaciones citadas proponen medidas concretas orientadas a reducir el impacto de las alucinaciones en la enseñanza y en la evaluación:
- Exigir a los sistemas de IA enlaces directos a las fuentes citadas y comprobar la existencia de los DOI cuando proceda.
- Verificar la información generada en buscadores académicos y bibliotecas especializadas.
- Introducir en el currículo actividades de alfabetización mediática y digital que enseñen a contrastar y validar contenidos procedentes de modelos generativos.
Estas pautas apuntan tanto a educadores como a responsables de diseño de pruebas y evaluaciones, donde la infiltración de una afirmación errónea puede tener consecuencias relevantes para la calificación y la formación del estudiante.
Implicaciones para la política educativa y la evaluación
El reconocimiento de la escasa capacidad del alumnado para identificar alucinaciones plantea interrogantes sobre la forma de integrar las herramientas de IA en los procesos docentes sin sacrificar la fiabilidad de los resultados académicos. La evidencia empírica citada indica que, hasta que no existan marcos institucionales claros y prácticas de verificación generalizadas, la adopción extensiva de modelos generativos en el aula puede requerir salvaguardas adicionales.
Además, las investigaciones subrayan la necesidad de formar al profesorado en estrategias de detección y validación, y de revisar protocolos de evaluación para evitar que respuestas automatizadas introduzcan sesgos o errores no detectados en trabajos y exámenes.
| Estudio | Muestra | Hallazgo principal |
|---|---|---|
| Dang y Nguyen (Stanford SCALE) | 211 estudiantes | 20% identificó una alucinación en una evaluación |
| Universidad Khalifa (próxima en Computers and Education) | 63 estudiantes | Casi 25% de relatos mencionaron fuentes inexistentes |
La convergencia de estos resultados obliga a considerar la implementación de políticas educativas que incorporen el uso responsable de la IA y herramientas formativas para la detección de información errónea. Mientras tanto, centros y docentes deberán reforzar prácticas de comprobación y promover entre el alumnado el hábito de contrastar referencias y datos antes de incorporarlos en tareas y evaluaciones.
