Hechos o ficción: Integridad de la información & IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. Muchas de las personas entrevistadas destacan la importancia de contar con información precisa para tomar decisiones racionales en todos los ámbitos de la vida: la política, las finanzas, la medicina y muchos otros. ¿Está de acuerdo con esta afirmación? ¿Por qué sí o por qué no?
2. Sabemos que los modelos lingüísticos de gran tamaño (LLM) no están entrenados para generar hechos, sino para predecir la palabra más probable a continuación dentro de una secuencia de texto. ¿Le sorprende, entonces, que los sistemas de IA produzcan alucinaciones? ¿Conocía este fenómeno antes de ver el video? ¿Qué opina al respecto? ¿Alguna vez ha sido inducido a error por una alucinación generada por la IA? Describa su experiencia.
3. A medida que los LLM se vuelven más potentes y sofisticados, las alucinaciones parecen ser menos frecuentes. Sin embargo, cuando ocurren, suelen ser mucho más difíciles de detectar. ¿Le tranquiliza saber que muchos modelos de IA están mejorando en este aspecto? ¿Qué opina sobre la creciente dificultad para identificar las alucinaciones producidas por los modelos más avanzados? ¿Deberían las empresas de IA ser responsables por las alucinaciones que generan sus modelos o corresponde únicamente a los usuarios verificar la exactitud de las respuestas? Explique.
4. Hoy en día, toda persona que consume información debe ser más crítica y escéptica respecto de lo que ve y escucha en internet y en otros medios. Pero ¿es eso suficiente? A medida que la propaganda, la desinformación y los contenidos falsos generados mediante IA se vuelven cada vez más convincentes y frecuentes, ¿deberían intervenir los organismos reguladores para prevenir o sancionar estas prácticas? ¿Cómo podría ser esa regulación? Explique.
5. ¿Debería la creación de deepfakes y de otros contenidos engañosos o falsos estar protegida por la libertad de expresión reconocida en la Primera Enmienda de la Constitución de los Estados Unidos? ¿Por qué sí o por qué no?
6. Una de las personas entrevistadas explica que uno de los grandes desafíos del entrenamiento de los modelos de IA consiste en que estos aprenden recorriendo internet, donde encuentran tanto información veraz como información falsa. En su opinión, ¿debería un LLM afirmar categóricamente que la Tierra es redonda? ¿Por qué? ¿Debería afirmar categóricamente que Joe Biden ganó las elecciones presidenciales de Estados Unidos de 2020? ¿Por qué? Respalde su respuesta con evidencia.
7. En un estudio, un grupo de investigadores inventó una enfermedad ficticia llamada bixonimania y publicó en internet diversos artículos científicos falsos sobre ella. Los artículos incluían numerosas señales de que eran fraudulentos: universidades inexistentes, ciudades inventadas e incluso una publicación que afirmaba explícitamente: «Todo este artículo es inventado.» Aun así, cuando los investigadores realizaron consultas similares a las que haría una persona en busca de información médica, varios chatbots citaron esos estudios como si fueran auténticos. ¿Qué opina sobre este resultado? ¿Qué riesgos considera que plantea? ¿Cómo le gustaría que respondieran los responsables de formular políticas públicas?
8. Algunas empresas están desarrollando chatbots especializados en el ámbito de la salud con el propósito de incorporar salvaguardas que reduzcan errores como los descritos en la pregunta anterior. ¿Debería permitirse la comercialización de estos sistemas antes de demostrar ante los organismos reguladores que esos problemas han sido resueltos? ¿Cuál es su opinión? Fundamente su respuesta.
9. El economista ganador del Premio Nobel Joseph Stiglitz y uno de sus colegas desarrollaron un modelo para explicar el creciente deterioro de la calidad de la información disponible en internet. Durante muchos años, gran parte de la información llegaba al público a través de medios de comunicación tradicionales, cuyos periodistas invertían tiempo y recursos en verificar sus fuentes y producir información confiable, financiados principalmente por la publicidad. Con la aparición de las redes sociales, prácticamente cualquier persona pudo obtener ingresos generando contenido sin necesidad de investigar o verificar los hechos. Influencers y llamados «periodistas ciudadanos» podían atraer audiencias simplemente repitiendo rumores, difundiendo teorías conspirativas o inventando información. Cuanto más polémico, escandaloso o polarizante fuera el contenido, mayores eran las ganancias potenciales. En ese contexto, prácticamente no existían incentivos económicos para verificar la información antes de publicarla. Ahora, además, la IA permite producir enormes cantidades de este llamado «AI slop» con un costo mínimo. ¿Considera que este modelo describe adecuadamente lo que está ocurriendo en la actualidad? ¿Por qué sí o por qué no? Respalde su respuesta con ejemplos.
10. Si el modelo descrito en la pregunta anterior es correcto —o incluso parcialmente correcto—, ¿qué podríamos hacer para enfrentar este problema? ¿Qué riesgos implicaría no hacer nada? Explique.
11. El Centro Común de Investigación de la Unión Europea (Joint Research Centre) ha señalado que la IA también tiene el potencial de ayudar a las personas a identificar y desacreditar información falsa en internet. ¿Le resulta alentadora esta posibilidad? ¿Por qué sí o por qué no? Fundamente su respuesta con base en la investigación que haya realizado.

Actualmente estamos desarrollando un estudio de caso sobre este tema. Suscríbase a nuestro boletín para ser de los primeros en enterarse cuando esté disponible.

Haga clic aquí para explorar nuestros otros estudios de caso relacionados con la inteligencia artificial.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.