¿Quién tiene el control? Agencia humana e IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. Una de las personas entrevistadas señala que las personas solemos —y con razón— delegar decisiones relacionadas con nuestros vehículos en mecánicos y aquellas relacionadas con nuestra salud en profesionales de la medicina. Sin embargo, sostiene que delegar decisiones a la IA representa «un paso más allá». ¿Está de acuerdo? ¿Considera que realmente supone un paso adicional o que se trata, en esencia, del mismo tipo de delegación cuando la IA posee conocimientos especializados en ese ámbito? Explique su respuesta.
2. Con frecuencia, las personas buscan una segunda opinión después de recibir un diagnóstico médico. ¿Es equivalente mantener a un ser humano en el proceso de decisión cuando se utiliza IA a consultar a un segundo profesional cuando un médico ha emitido un diagnóstico inicial? ¿Por qué sí o por qué no? Explique su respuesta.
3. ¿Tiene sentido insistir en mantener a un ser humano en el proceso de decisión cuando la principal ventaja de la IA no es necesariamente una mayor precisión, sino su capacidad para procesar información y generar respuestas miles de veces más rápido que una persona? Explique su respuesta.
4. Hoy existe abundante evidencia de que incluso las personas que diseñan los modelos de IA más avanzados no comprenden plenamente cómo funcionan ni cómo llegan a sus conclusiones. Una de las personas entrevistadas advierte que debemos ser cautelosos al delegar demasiada capacidad de decisión en sistemas que no entendemos por completo. ¿Le parece un consejo acertado? ¿Qué sería lo que más le preocuparía de delegar una decisión importante a un sistema de IA? Explique su respuesta.
5. Una de las personas entrevistadas menciona un fenómeno ampliamente documentado conocido como sesgo de automatización, según el cual las personas tendemos a confiar más en la información proporcionada por una máquina que en información contradictoria proveniente de otras personas o incluso de nuestros propios sentidos. Teniendo en cuenta este sesgo, ¿cree que realmente podremos mantener a un ser humano en el proceso de decisión cuando utilicemos IA para tomar decisiones importantes? ¿Es posible reducir los efectos del sesgo de automatización? En caso afirmativo, ¿cómo? Explique su respuesta.
6. Un ingeniero civil afirmó que le resulta difícil imaginar que quienes ejercen esa profesión lleguen a ceder por completo la supervisión y el control de su trabajo a la IA. Sin embargo, seguramente ha leído sobre abogados y jueces que enfrentaron problemas por confiar en que la IA redactara escritos jurídicos o resoluciones judiciales, solo para descubrir que el sistema había inventado casos y citas inexistentes. Si algunos profesionales del derecho pueden llegar a delegar de esa manera en la IA, ¿podría ocurrir lo mismo con profesionales de la medicina, la arquitectura, la ingeniería civil u otras disciplinas? ¿Qué tan preocupante considera esta posibilidad? ¿Cuáles cree que son los riesgos de delegar el control a la IA? Explique su respuesta.
7. Una de las personas entrevistadas sostiene que el principal valor que aportan los seres humanos al proceso de decisión es su empatía, su comprensión emocional y su capacidad para entender el panorama general. También afirma que nuestra mayor fortaleza consiste en ir más allá de un razonamiento puramente lógico y secuencial. ¿Cómo podemos saber cuándo apartarnos de la lógica conducirá a mejores decisiones y no a decisiones peores? Explique su respuesta.
8. ¿Es realista pensar que las personas pueden mejorar las decisiones tomadas por la IA cuando ni siquiera comprenden plenamente cómo funcionan estos sistemas? Sin un conocimiento profundo de la manera en que un modelo de IA llega a sus conclusiones, ¿cómo podría una persona identificar y corregir sus errores? En ese caso, ¿mantener a un ser humano en el proceso de decisión realmente mejora la calidad de las decisiones? Si no es así, ¿no terminaríamos dependiendo por completo de la IA? ¿Le parece una posibilidad preocupante? ¿Por qué? Respalde su respuesta con evidencia.
9. Varias de las personas entrevistadas sostienen que el principal aporte de mantener a un ser humano en el proceso de decisión consiste en incorporar principios éticos que permitan mejorar las decisiones de la IA. ¿Está de acuerdo? ¿Qué le da confianza —o le genera dudas— sobre esa afirmación? Explique su respuesta.
10. Una de las personas entrevistadas afirma: «Se trata del panorama general: cómo queremos que sean nuestras vidas, cómo queremos que sea nuestra sociedad y cómo queremos que se trate a las personas. No podemos dejar de tomar esas decisiones.» ¿Está de acuerdo con esta afirmación? ¿Es realmente posible que mantener a un ser humano en el proceso de decisión permita alcanzar ese objetivo? ¿Por qué sí o por qué no? Explique su respuesta.
11. Al diseñar sistemas de IA, con frecuencia se habla del problema del alineamiento (alignment problem). ¿Cómo podemos alinear los objetivos de un sistema de IA con los objetivos de las personas? ¿Cómo podemos asegurarnos de que sus decisiones sean compatibles con los valores y principios éticos de la sociedad? ¿Cree que obtendremos mejores resultados resolviendo el problema del alineamiento, manteniendo a un ser humano en el proceso de decisión, o procurando hacer ambas cosas? Explique su respuesta.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.