La caja negra: Transparencia y confianza en la IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. Muchas de las personas entrevistadas expresan desconfianza hacia la IA porque no resulta claro cómo funciona. Sin embargo, ChatGPT fue adoptado en todo el mundo a una velocidad sin precedentes. ¿Cree que la falta de transparencia realmente tiene el efecto negativo sobre la adopción de la IA que muchas personas anticipan? ¿Cuál ha sido su experiencia? Explique su respuesta.
2. Si usted conduce un automóvil sin saber cómo funciona el convertidor catalítico o utiliza una computadora sin comprender el funcionamiento de sus componentes internos, ¿debería sorprendernos que también utilice herramientas de IA aunque estas sean una «caja negra» para usted? ¿O cree que esa falta de comprensión impedirá que usted y otras personas las utilicen? ¿Cuál es su predicción? Hasta ahora, ¿considera que esto ha influido en la adopción de la IA? Explique su respuesta.
3. Aunque las personas estén dispuestas a utilizar herramientas de IA sin conocer plenamente su funcionamiento, ¿es posible que prefieran los productos de una empresa que ofrezca mayor transparencia sobre sus sistemas frente a los de otra que revele menos información? Explique su razonamiento.
4. Si las personas adoptan la IA aun cuando no exista plena transparencia, ¿qué mecanismos tenemos para fomentarla, además de los incentivos del mercado? ¿Deberían los gobiernos exigir mayores niveles de divulgación? ¿Podría ser más eficaz exigir que esa información se presente a los organismos reguladores, en lugar de a las personas consumidoras, quienes quizá no comprendan plenamente lo que se les comunica? Explique su respuesta.
5. ¿Qué enfoque considera que promovería mejor la transparencia: exigir por ley la divulgación de información antes de que los productos lleguen al mercado o imponer responsabilidad legal una vez que ocurran daños? ¿Cuál de estas alternativas le parece preferible y por qué? Fundamente su respuesta.
6. Sabemos que algunos chatbots han llegado a alentar a personas usuarias a suicidarse o a cometer actos de violencia contra otras personas. Tras un incidente relacionado con ChatGPT, el investigador en IA Stephen Adler propuso lo siguiente: «Para que OpenAI genere confianza, debería comprometerse a publicar de forma periódica —quizá cada trimestre— indicadores sobre problemas relacionados con la salud mental. Otras empresas tecnológicas, como YouTube, ya publican informes similares de transparencia…» ¿Le parece una buena propuesta? ¿Debería exigirse a las empresas de IA la publicación de este tipo de informes de transparencia o deberían seguir siendo completamente voluntarios? Explique su respuesta.
7. Si considera que los informes de transparencia son una buena idea, ¿qué otra información deberían incluir? Proporcione ejemplos concretos.
8. Todos los videos de Ethics Unwrapped indican cuándo se ha utilizado IA durante su producción. ¿Cree que todas las personas creadoras de contenido audiovisual deberían hacer este tipo de divulgación de manera voluntaria? ¿Debería ser un requisito legal? ¿Por qué sí o por qué no? Explique su respuesta.
9. Diversas investigaciones comienzan a demostrar que la IA puede generar mensajes más persuasivos que los elaborados por seres humanos. Por ello, muchas personas especialistas han propuesto exigir que candidatos políticos y otras figuras públicas revelen cuándo utilizan IA para crear anuncios, campañas u otras formas de comunicación. Sin embargo, el científico cognitivo Stephen Lewandowsky señala: «Mis investigaciones muestran que, incluso cuando las personas saben que están siendo manipuladas por la IA, la manipulación sigue siendo eficaz; por sí sola, la transparencia no basta para eliminar su influencia.» ¿Qué opina de esta conclusión? ¿Le preocupa? ¿Por qué sí o por qué no? ¿Qué medidas considera que deberían adoptarse para enfrentar este problema? Fundamente su respuesta.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.