El potencial de la IA y los riesgos para la investigación
No cabe duda de que la inteligencia artificial (IA) estará cada vez más presente en nuestra vida cotidiana. Diseñada para emular la capacidad cognitiva humana, puede superarnos con facilidad en determinadas tareas y realizar en segundos lo que a una persona le llevaría días, semanas o incluso meses.
Más allá de automatizar tareas, su capacidad de aprendizaje constante le permite evolucionar y abarcar nuevos ámbitos. Así lo vemos en las IA que generan imágenes, capaces de producir ilustraciones extremadamente realistas, y en las orientadas a la comunicación, como ChatGPT.
La IA puede aportar numerosos beneficios a la humanidad, pero su uso indiscriminado también puede tener consecuencias catastróficas. En este artículo abordaré los peligros asociados a su uso en la investigación científica, especialmente en salud.
Mi experiencia con ChatGPT
Mi interés por comprender los avances tecnológicos me llevó al mundo de los chatbots de IA. Mi primer contacto fue a través de un compañero de trabajo, que me advirtió de los riesgos que estas plataformas podían plantear para el futuro de la investigación científica, especialmente en relación con el plagio, ya que muchos estudiantes habían empezado a utilizarlas para redactar sus trabajos académicos (YANG, 2023).
Su preocupación partía de que los textos generados por IA se basan en información disponible en internet, pero sin citar debidamente los datos utilizados. Esto impedía conocer las fuentes originales o determinar si se había plagiado a otro autor. Se preguntaba: «¿Podrían los programas actuales de detección de plagio identificar estos textos hechos de retazos?». Sin embargo, pese a esa preocupación, al principio no creía que existiera una tecnología capaz de escribir con tanta soltura. Para mi sorpresa, era más que posible.
Quise entonces conocer mejor los chatbots de IA y me sorprendió su capacidad de escritura. Podían imitar la escritura científica con tal precisión que el lector difícilmente distinguiría si el texto lo había escrito una persona o una máquina. Fascinada, empecé a explorar ChatGPT y pronto descubrí tanto sus posibilidades como sus graves riesgos.
Cuando los datos y las fuentes no existen
Desde el principio me preguntaba de dónde salía toda aquella información. Cuando le pedía que redactara un artículo de ejemplo y después le preguntaba qué fuentes había utilizado, la respuesta era siempre la misma: «Como modelo de lenguaje, no tengo acceso a la lista específica de fuentes». Esto me recordó la advertencia de mi compañero. Lo que empezó como una pequeña sospecha acabó convirtiéndose en un problema imposible de ignorar.
Para explorar cómo podía ayudar en la investigación, pedí al chatbot datos actualizados sobre la participación de estudiantes de enfermería en proyectos y grupos de investigación. Me enumeró los estudios y recursos que supuestamente podía consultar: «Pesquisa Nacional de Perfil dos Graduandos em Enfermagem (2018)», «Censo da Educação Superior (INEP)» y «Cadastro Nacional de Grupos de Pesquisa (CNPq)». A primera vista, no había nada sospechoso.
Después le pedí que concretara las cifras. Fue entonces cuando recibí la siguiente respuesta:
«¡Excelente!», pensé. «Estos son justo los datos que necesito para mi investigación y que no había encontrado en ninguna parte». Hice lo que corresponde como investigadora: los busqué en Google para localizar y leer los estudios originales. No encontré resultados. Pedí al chatbot más información, desde el título exacto hasta un enlace de acceso, pero tampoco conseguí localizar las fuentes.
Fue entonces cuando encontré algo sumamente preocupante: todos los enlaces que me enviaba el chatbot estaban rotos o llevaban a artículos o páginas sin relación con la supuesta investigación. Ni siquiera los títulos de los artículos daban resultados en Google. Decidí preguntarle directamente si estaba inventando los datos. Esta fue su respuesta:
Sabía que el estudio «Perfil da Enfermagem no Brasil» sí existía, así que empecé a rastrear la información que me había proporcionado el chatbot. Sin embargo, el único estudio disponible en el sitio web del Conselho Federal de Enfermagem de Brasil, COFEN (http://www.cofen.gov.br/perfilenfermagem/index.html) no correspondía a 2018 ni contenía datos sobre la participación de estudiantes de enfermería en proyectos de investigación durante el grado. Tampoco encontré estudios que citaran el supuesto documento.
El nivel de detalle de la respuesta podría hacer pensar que el estudio había existido, pero que después se había retirado de internet. Por eso contacté con los investigadores responsables del estudio real para preguntarles por esa información. Por correo electrónico, me enviaron todas las publicaciones derivadas de la investigación original, además del informe final y las bases de datos disponibles en el sitio de COFEN. Tras una lectura exhaustiva, no encontré la información generada por la IA en ninguno de los materiales, lo que apuntaba a una alta probabilidad de que el chatbot hubiera fabricado los datos.
Referencias inventadas con apariencia de verdad
Todas las listas de referencias que solicité contenían estudios inventados, sin excepción. El chatbot los atribuía a autores reales y expertos en el campo, aunque nunca hubieran realizado esas investigaciones. En otros casos, inventaba títulos o combinaba los de dos o más estudios para crear uno nuevo. A primera vista, sin embargo, las referencias parecían auténticas: estaban formateadas correctamente e incluían el nombre de una revista, el volumen, las páginas e incluso un identificador de objeto digital (DOI), que invariablemente resultaba ser falso o corresponder a otra investigación.
Aunque pueda parecer una experiencia aislada, en una noticia reciente de Nature sobre ChatGPT, Brian Owens expresó su preocupación por la fiabilidad de los chatbots y recogió testimonios de que estas herramientas estaban creando listas bibliográficas completamente ficticias (OWENS, 2023). La noticia reforzaba otra publicada anteriormente en el sitio de la revista, que criticaba la inclusión de ChatGPT como coautor de trabajos científicos y explicaba los problemas estructurales y éticos que esto plantea (STOKEL-WALKER, 2023).
Las consecuencias para la investigación en salud
Los estudios retractados por mala conducta pueden seguir recibiendo citas mucho tiempo después (OLIVEIRA, 2015). En ese contexto, estas debilidades apuntan a un futuro peligroso para la investigación en salud: la información ficticia puede incorporarse a la literatura, tener un impacto incalculable y seguir circulando cuando las retractaciones no llegan al público general.
Los datos científicos son la base de los tratamientos y de la planificación de las políticas públicas de salud. Por eso, su uso indiscriminado o malintencionado puede causar daños permanentes y afectar a la confianza en la práctica profesional, a la defensa colectiva de la profesión y a la identidad de quienes, por el momento, han optado por sustituir su papel como investigadores por las respuestas inmediatas de la IA.
Cómo utilizar estas herramientas con cautela
Por graves que sean, estos problemas son habituales en una IA que todavía está aprendiendo. ChatGPT, por ejemplo, se lanzó en noviembre de 2022 y su IA aún se está desarrollando, por lo que podría llegar a corregir sus problemas actuales en un futuro próximo. A pesar de las debilidades descritas, su uso continuado podría ayudar a convertirla en una herramienta valiosa para docentes e investigadores.
A los estudiantes les recomiendo esperar antes de adentrarse en el mundo de los chatbots de IA, ya que se necesita una formación adecuada para distinguir la información falsa de la verdadera. A docentes e investigadores les sugiero cautela, rigor en su trabajo y una actitud crítica ante los datos que ofrecen estas herramientas. Aun así, los chatbots de IA, como ChatGPT, están llamados a desempeñar un papel fundamental en la investigación científica y a convertirse, en un futuro no muy lejano, en herramientas cotidianas que ayuden a fortalecer la conexión entre docencia, investigación y vinculación con la comunidad.
Referencias
OLIVEIRA, M.B. A epidemia de más condutas na ciência: o fracasso do tratamento moralizador. Scientiae Studia, São Paulo, vol. 13, núm. 4, pp. 867–897, 2015. DOI: 10.1590/S1678-31662015000400007. Disponible en: https://www.scielo.br/j/ss/a/hMs7Y4FVZvbjwHkmYKTn3Ny/?lang=pt#. Consultado el 11 mar. 2023.
OWENS, B. How Nature readers are using ChatGPT. Nature, Londres, vol. 615, p. 20, 20 feb. 2023. DOI: 10.1038/d41586-023-00500-8. Disponible en: https://www.nature.com/articles/d41586-023-00500-8. Consultado el 11 mar. 2023.
STOKEL-WALKER, C. ChatGPT listed as author on research papers: many scientists disapprove. Nature, Londres, vol. 613, pp. 620–621, 18 ene. 2023. DOI: 10.1038/d41586-023-00107-z. Disponible en: https://www.nature.com/articles/d41586-023-00107-z. Consultado el 11 mar. 2023.
YANG, M. New York City schools ban AI chatbot that writes essays and answers prompts. The Guardian, Nueva York, 6 ene. 2023. Disponible en: https://www.theguardian.com/us-news/2023/jan/06/new-york-city-schools-ban-ai-chatbot-chatgpt. Consultado el 11 mar. 2023.