¿Es justo? Sesgo & IA

[Nota: Estas preguntas fueron redactadas en el verano de 2026. El desarrollo, la adopción y el impacto de la inteligencia artificial continúan evolucionando a un ritmo acelerado. Al responder las preguntas y elaborar sus argumentos, incorpore información reciente y pertinente cuando sea apropiado.]

1. Vivimos en una sociedad predominantemente capitalista. ¿Sería posible reducir la injusticia de la que hablan varias de las personas entrevistadas garantizando que todas las personas tengan un acceso equitativo a las herramientas de IA? Si así fuera, ¿cómo podría lograrse? Explique su respuesta.
2. En 2017, Sam Altman, director ejecutivo de OpenAI, afirmó que la revolución impulsada por la IA tendría un impacto aún mayor que la Revolución Agrícola y la Revolución Industrial. Con esa visión, propuso una nueva Constitución para Estados Unidos basada en tres principios fundamentales: prosperidad derivada de la tecnología, equidad económica y libertad individual. ¿Le resulta atractiva esta propuesta? ¿Cómo garantizaría que esa equidad se materializara realmente? Explique su respuesta.
3. En 2023, la autora Susie Alegre preguntó a ChatGPT: «¿Quién es Susie Alegre?» A pesar de haber publicado durante más de veinticinco años, contar con un doctorado y ser autora del exitoso libro Freedom to Think, ChatGPT respondió que no sabía quién era. Cuando preguntó quién había escrito ese libro —seleccionado por el Financial Times como uno de los mejores del año—, el sistema respondió con el nombre de un hombre. Tras indicarle que estaba equivocado, ChatGPT volvió a disculparse y proporcionó otro nombre masculino, también incorrecto. En total ofreció veinte respuestas distintas, todas erróneas; diecinueve correspondían a hombres. Alegre sugiere que, dado que gran parte de los datos utilizados para entrenar el modelo probablemente provenían de obras escritas por hombres, el sistema terminó reproduciendo ese sesgo. ¿Considera que este episodio representa simplemente un error aislado o evidencia un problema mucho más amplio relacionado con el sesgo en la IA? Explique su respuesta.
4. ¿Observa la presencia de sesgos implícitos en la sociedad? ¿Considera que se trata de un fenómeno real? Respalde su respuesta con evidencia.
5. ¿Cree que tendría una opinión distinta sobre el sesgo implícito si perteneciera a otro grupo racial o tuviera una identidad de género diferente? Respalde su respuesta con evidencia.
6. Explique, con sus propias palabras, cómo los sesgos presentes en el mundo real pueden incorporarse a un modelo de IA durante su desarrollo o entrenamiento.
7. Una de las personas entrevistadas menciona el sesgo en sistemas de IA utilizados en el sector bancario. Otra expresa preocupación por su impacto en la atención médica. ¿Conoce ejemplos similares en otros ámbitos? Proporcione ejemplos concretos y respalde su respuesta con evidencia.
8. Una de las personas entrevistadas afirma que «este es un mundo injusto». ¿Debemos aceptar que, por esa razón, los modelos de IA inevitablemente también serán injustos? ¿Por qué sí o por qué no? Explique su respuesta.
9. ¿Cómo podríamos incentivar o exigir que las empresas de IA reduzcan, en la mayor medida posible, los sesgos injustos presentes en las herramientas que desarrollan y comercializan? ¿Qué considera más eficaz: la regulación gubernamental, la responsabilidad legal, mecanismos de mercado u otra alternativa? Fundamente su respuesta.
10. Un estudio realizado por la Universidad de Stanford en 2023 encontró que diversas herramientas para detectar textos generados por IA clasificaron erróneamente como producidos por IA más de la mitad de los ensayos escritos por personas cuya lengua materna no era el inglés, mientras que identificaron correctamente casi todos los ensayos escritos por hablantes nativos. ¿Constituye este resultado otra forma de sesgo introducida involuntariamente por quienes desarrollaron estas herramientas? Como sostienen algunos especialistas, ¿será más fácil eliminar el sesgo de los sistemas de IA que el de quienes evalúan esos trabajos? ¿Por qué sí o por qué no? Explique su respuesta.

Solo disponible en inglés.

AI Ethics Companion Handbook

Este libro electrónico recopila todos los recursos sobre ética de la IA disponibles en el sitio web de Ethics Unwrapped. Continuará actualizándose a medida que se publiquen nuevos materiales.

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials).”

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics.”

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?”

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases.”. Revista de Educación en Ética Empresarial 1 (1): 57-74.