Las trampas de la mente humana: Ética del comportamiento & IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. La ética del comportamiento estudia cómo y por qué las personas toman decisiones éticas y no éticas. En cierta medida, busca comprender por qué personas esencialmente buenas pueden llegar a actuar de manera incorrecta. Se trata de un campo de estudio sustentado en investigaciones provenientes de disciplinas como la psicología, las neurociencias, el desarrollo infantil, la primatología y muchas otras. ¿Conoce personalmente o ha leído acerca de personas buenas que hayan hecho cosas malas? ¿Cree que eso es posible? Proporcione ejemplos concretos.
2. ¿Los conceptos psicológicos presentados en el video le parecieron razonables o le resultaron poco convincentes? Explique.
3. Diversos estudios muestran que las personas tendemos a obedecer a quienes ocupan posiciones de autoridad. Incluso se ha observado que los centros de recompensa de nuestro cerebro se activan cuando complacemos a quienes están por encima de nosotros en una jerarquía. ¿Alguna vez ha hecho algo que consideraba moralmente cuestionable porque una figura de autoridad —como un padre o una madre, un docente o un jefe— se lo pidió? ¿Puede imaginar a una persona programadora sintiéndose incómoda con una función que el director ejecutivo le ha pedido incorporar a un nuevo sistema de IA, pero haciéndolo de todas formas porque «es una orden del jefe»? Explique.
4. El sesgo de conformidad es la tendencia a tomar como referencia el comportamiento de quienes nos rodean para decidir cómo actuar: cómo conducir, cómo vestirnos, qué comer o incluso cómo comportarnos desde un punto de vista ético. Si usted trabajara en una empresa de IA cuya cultura organizacional normalizara ignorar consideraciones éticas, ¿cree que sería más probable que actuara de la misma manera? Del mismo modo, si todas sus amistades utilizaran la IA sin preocuparse por sus efectos sobre el medio ambiente o sobre otras personas, ¿cree que usted tendería a hacer lo mismo? ¿Ha observado algo parecido en su propia experiencia, como ocurre con el fenómeno de la moda rápida (fast fashion) mencionado en el video? Sea específico.
5. El sesgo de exceso de confianza consiste en la tendencia de las personas a sobreestimar sus propias capacidades, incluso en el ámbito moral. Es muy probable que la mayoría de las figuras más influyentes en el desarrollo de la IA se consideren personas bien intencionadas que simplemente desean mejorar el mundo. Investigue las decisiones, los cambios de postura y las controversias protagonizadas por algunos de estos líderes durante la última década y determine si observa evidencia de este sesgo. Respalde su respuesta con ejemplos concretos.
6. El sesgo de interés propio describe la tendencia a interpretar la información de maneras que favorecen nuestros propios intereses o confirman nuestras creencias previas, incluso de manera inconsciente. En el video Conozca a su nuevo compañero de trabajo: La IA en el mundo laboral, una profesora comenta que sus estudiantes de ciencias de la computación solían pensar que el gobierno no debía intervenir cuando las nuevas tecnologías sustituían empleos. Sin embargo, ahora que los puestos de trabajo en informática también comienzan a verse amenazados por la IA, muchos de esos mismos estudiantes consideran que la intervención gubernamental podría ser necesaria. ¿Podría interpretarse este cambio de opinión como un ejemplo del sesgo de interés propio? Explique.
7. El incrementalismo describe un proceso gradual mediante el cual pequeñas transgresiones éticas pueden conducir, casi sin que las personas lo adviertan, a faltas cada vez más graves. Investigue cómo ha evolucionado la opinión de Sam Altman sobre los riesgos de la IA a lo largo de la última década. ¿Considera que esa evolución podría interpretarse como un ejemplo de incrementalismo? ¿Por qué sí o por qué no? ¿Ha experimentado usted mismo situaciones similares en su vida? Proporcione ejemplos.
8. El concepto de lo tangible y lo abstracto describe la tendencia de las personas a concentrarse excesivamente en factores inmediatos y cercanos, prestando poca atención a consecuencias más lejanas en el tiempo o más amplias en alcance. Se ha sugerido, por ejemplo, que este sesgo contribuyó a la decisión de Ford Motor Company de comercializar el automóvil Pinto durante la década de 1970, a pesar de que no había superado las pruebas de seguridad en colisiones por la parte trasera. Una de las personas entrevistadas señala que este mismo fenómeno podría llevar a directivos de empresas de IA a lanzar productos potencialmente peligrosos sin considerar plenamente las consecuencias para quienes los utilizarán y para la sociedad en general. ¿Le parece una explicación convincente? ¿Por qué sí o por qué no?
9. Las emociones morales son aquellas emociones que influyen en nuestras decisiones éticas. ¿Le parece razonable pensar que muchas personas actúan correctamente, en parte, porque sentirían culpa si hicieran algo malo y vergüenza si sus familiares o amistades descubrieran su conducta? Si está de acuerdo con esta idea, ¿qué opina del hecho de que la IA no experimente este tipo de emociones al tomar decisiones con consecuencias morales? ¿Cómo podríamos reducir ese riesgo?
10. Tener un sesgo implícito significa mantener, de manera inconsciente, determinadas actitudes o estereotipos hacia otras personas. Como señala una de las personas entrevistadas, no deberíamos castigarnos excesivamente por tener sesgos implícitos, ya que forman parte de la condición humana. Sin embargo, sí es fundamental reconocerlos y procurar reducir su influencia, manteniéndonos abiertos a las perspectivas de los demás. En el video ¿Es justo? Sesgo e IA, muchas de las personas entrevistadas sostienen que los sesgos humanos que pueden trasladarse a los modelos de IA deben identificarse y mitigarse. ¿Está de acuerdo? ¿Por qué sí o por qué no? ¿Qué medidas propondría para lograrlo?
11. Todas las personas entrevistadas en este video —muchas de ellas estudiantes de ciencias de la computación— consideran que la ética es una materia fundamental en la formación de quienes desarrollan tecnologías de IA. ¿Comparte esa opinión? ¿Por qué sí o por qué no? ¿En qué otras disciplinas considera que la ética debería desempeñar un papel importante en el diseño, desarrollo, comercialización o uso de la IA? Proporcione ejemplos concretos.

Actualmente estamos desarrollando un estudio de caso sobre inteligencia artificial y ética del comportamiento. Suscríbase a nuestro boletín para ser de los primeros en enterarse cuando esté disponible.

Haga clic aquí para explorar nuestros otros estudios de caso relacionados con la inteligencia artificial.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.