DESINFORMACIÓN E INTELIGENCIA ARTIFICIAL: IMPACTO DE LAS ALUCINACIONES EN EL USO DE CHATGPT EN EL CAMPO ACADÉMICO

Resumen

Los avances tecnológicos impulsados por las plataformas digitales han incrementado el riesgo de distorsión de la información, intensificando la desinformación en diversos contextos. La incorporación reciente de la inteligencia artificial generativa en la producción del conocimiento añade nuevos desafíos, al permitir la generación de contenidos inexactos conocidos como “alucinaciones”. Este artículo analiza manifestaciones de este fenómeno en sistemas de IA, con énfasis en pruebas realizadas con la herramienta ChatGPT. La metodología combinó revisión bibliográfica y experimentación mediante comandos específicos dirigidos a obtener información académica, citas y referencias. Los resultados evidenciaron inconsistencias, errores factuales y referencias inexistentes, lo que señala riesgos importantes para la integridad de la investigación científica. Se concluye que, si bien estas herramientas pueden apoyar la actividad académica, requieren verificación rigurosa, atención semántica y conocimiento de sus limitaciones para evitar la difusión de contenidos erróneos y garantizar la calidad de la producción científica.

DOI: https://doi.org/10.56238/sevened2025.038-069