¿Quién responde? Responsabilidad y rendición de cuentas en la IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. Con frecuencia se habla de la responsabilidad moral de quienes diseñan, desarrollan, comercializan y utilizan sistemas de IA. ¿Es suficiente esa responsabilidad moral para garantizar una adecuada rendición de cuentas por los daños que puedan derivarse del uso de la IA? ¿Se necesita algo más además de esa responsabilidad moral? Explique su respuesta.
2. ¿Cuál considera que es la mejor manera de exigir rendición de cuentas a quienes diseñan, desarrollan, comercializan, venden y poseen productos de IA: la presión de las personas consumidoras, la persuasión moral, la regulación preventiva, la responsabilidad legal, una combinación de estos mecanismos u otra alternativa? Fundamente su respuesta y respáldela con evidencia.
3. ¿Poseen las personas legisladoras los conocimientos necesarios para regular adecuadamente el desarrollo y la implementación de la IA? Si considera que no, ¿deberían rendir cuentas por no desarrollar las capacidades necesarias para desempeñar esa función? Explique su respuesta.
4. Una de las personas entrevistadas sostiene que las empresas de IA no están haciendo lo suficiente para desarrollar esta tecnología de manera ética. ¿Está de acuerdo con esa afirmación? ¿Constituye un ejemplo de esa falta de responsabilidad el intento de la industria de trasladar al gobierno la responsabilidad principal de regular la IA? ¿Por qué sí o por qué no? ¿Puede citar otros ejemplos? Respalde su respuesta con evidencia.
5. En la década de 1990, las empresas de redes sociales promovieron la aprobación de la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996 (Communications Decency Act), la cual todavía hoy las protege, en gran medida, de la responsabilidad legal por el contenido publicado por sus personas usuarias, como material pornográfico o declaraciones difamatorias. Actualmente, muchas empresas de IA buscan obtener un nivel de protección similar, o incluso mayor. ¿Cómo debería responder la sociedad a este intento de limitar su responsabilidad por los daños que puedan ocasionar sus sistemas de IA? ¿Debería concedérseles ese nivel de protección frente a la rendición de cuentas? Fundamente su respuesta.
6. Una de las personas entrevistadas plantea que, si alguien utiliza incorrectamente una tostadora, quien la diseñó no debería ser considerado responsable por ese mal uso. Pero ¿qué ocurriría si una empresa desarrollara una herramienta de IA capaz de explicar cómo fabricar armas químicas letales y una persona utilizara esa información para causar un daño masivo? ¿Debería existir algún tipo de responsabilidad para quienes diseñaron el sistema sin incorporar las salvaguardas necesarias para impedir ese uso? La primera parte de este escenario —la creación de herramientas capaces de proporcionar este tipo de información— ya ha ocurrido. ¿Qué medidas propondría para reducir el riesgo de que se produzcan daños de esta naturaleza? Explique su respuesta.
7. En la primavera de 2026, Anthropic informó que su nuevo modelo de IA, Mythos, había identificado miles de vulnerabilidades de ciberseguridad en programas informáticos ampliamente utilizados. Dado el enorme potencial de daño, la empresa decidió no poner el modelo a disposición del público y limitar su acceso a únicamente doce grandes compañías para que pudieran adoptar medidas defensivas. ¿Considera que esta decisión fue un ejemplo de actuación responsable? ¿Cree que una herramienta con estas capacidades podría llegar a distribuirse ampliamente de manera responsable? Explique su razonamiento.
8. Cuando varias empresas de IA contrataron filósofos y dialogaron con líderes religiosos con el propósito de fortalecer la dimensión ética de sus decisiones, el periodista Kyle Chayka respondió: «Una estrategia más eficaz sería que las empresas de IA dejaran de considerarse las únicas árbitras de la seguridad, dejaran de pedir un acto de fe por parte del público y comenzaran a construir un verdadero sistema de rendición de cuentas externa, con participación de la sociedad.» ¿Está de acuerdo con esta afirmación o considera que Chayka simplemente adopta una postura excesivamente pesimista frente a la IA? Explique su respuesta.
9. Los tribunales comienzan a imponer importantes indemnizaciones por negligencia a empresas cuyos chatbots han alentado a algunas personas usuarias a suicidarse o a ejercer violencia contra otras personas. En otros casos, estos sistemas han facilitado ese tipo de actos al proporcionar instrucciones sobre cómo obtener armas u otros medios para causar daño. ¿Le parece una forma razonable de exigir rendición de cuentas, o considera que constituye una reacción exagerada? ¿Es suficiente este mecanismo para responsabilizar a las empresas? Fundamente su respuesta.
10. A lo largo de la historia, muchas personas manifestaron preocupación por las posibles consecuencias del motor de vapor, los automóviles, las vacunas, la energía nuclear y otras innovaciones que hoy forman parte de nuestra vida cotidiana. Sin embargo, la mayoría considera actualmente que esos avances han beneficiado a la humanidad. ¿Cómo podemos determinar, con un grado razonable de certeza, si imponer mayores mecanismos de rendición de cuentas a las empresas de IA —cuando ello pudiera ralentizar o impedir el desarrollo de modelos avanzados, incluida la inteligencia artificial general (AGI) o incluso la superinteligencia— terminaría beneficiando o perjudicando a la sociedad? Respalde su respuesta con evidencia.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.