Skip to main content

Sesgo Implícito

El sesgo implícito existe cuando las personas inconscientemente tienen actitudes hacia otros o asocian estereotipos con ellos.

Preguntas de discusión

1. En una presentación, el profesor Will Cox muestra dos nuevas fotografías publicadas de las secuelas del huracán Katrina. Una muestra a un joven hombre negro caminando por aguas turbulentas sosteniendo una caja de gaseosas. La otra muestra a una pareja blanca en agua similar, sosteniendo una bolsa de pan. Las leyendas de las fotos decían, respectivamente: “Un joven camina por agua hasta el pecho después de saquear un supermercado” y “Dos residentes caminan por agua profunda después de encontrar pan y gaseosas.” ¿Crees que los dos autores de estas leyendas se consideran a sí mismos como racistas?

2. Los estudios muestran que los latinos reciben menos medicamento para el dolor que los pacientes blancos en situaciones similares, que las mujeres de edad avanzada reciben menos intervenciones de salvamento que los hombres de edad avanzada, y que es más probable que los maestros asuman que los niños obesos son menos inteligentes que los niños delgados. ¿Son estos ejemplos de sesgo implícito?

3. ¿Puedes pensar en ejemplos del sesgo implícito?

4. ¿Crees que el sesgo implícito es un problema serio? Si piensas que sí, ¿es más serio que el sesgo explícito?

Encontrémonos en Starbucks

Encontrémonos en Starbucks

Dos hombres negros que se reunieron en un Starbucks fueron arrestados y detenidos por allanamiento después de que un empleado llamó a la policía, lo que llevó a la compañía a implementar una capacitación de «prejuicio racial» en todas sus tiendas.

Ver

Notas de enseñanza

Este video introduce el sesgo de la ética del comportamiento conocido como sesgo implícito. El sesgo implícito existe cuando las personas inconscientemente tienen actitudes hacia otros o asocian estereotipos con ellos. El sesgo implícito de las personas puede ir en contra de sus creencias conscientes sin darse cuenta de ello. El sesgo implícito también es conocido como sesgo inconsciente o cognición social implícita.

Al enseñar sobre el sesgo implícito, puede ser buena idea enviar a los estudiantes a la página web del Project Implicit (Proyecto Implícito) de Harvard para que ellos mismos tomen una o más de las pruebas que proveen alguna (no toda) evidencia académica del sesgo implícito: https://implicit.harvard.edu/implicit/. Se debe saber que aunque hay una aceptación generalizada del fenómeno del sesgo implícito, hay críticas de la evidencia que viene de este grupo de pruebas en particular. Dos de los académicos detrás del Project Implicit, Mahzarin R. Banaji y Anthony G. Greenwald escribieron Blind Spot: Hidden Biases of Good People (Punto muerto: Los sesgos escondidos de la gente buena) (Delacorte Press 2013), el cual es un libro muy accesible sobre el tema. Otra fuente muy accesible es un artículo del Scientific American del 27 de marzo de 2018 escrito por los psicólogos Keith Payne, Laura Niemi y John Doris llamado “How to Think about “Implicit Bias” (Cómo pensar sobre el sesgo implícito), el cual se puede encontrar en https://www.scientificamerican.com/article/how-to-think-about-implicit-bias/.

Aceptar el hecho del sesgo implícito no debería ser muy difícil si uno ve nuestros videos de Conceptos al descubierto sobre varios otros tipos de sesgo generados por el cerebro humano, incluyendo el sesgo del conformismo, el sesgo del autoservicio y el sesgo de exceso de confianza.

Un asunto importante en la ética de los “Macrodatos” y la inteligencia artificial tiene que ver con el sesgo implícito que puede afectar la creación de algoritmos y el análisis de datos. Cathy O’Neil discute esto en detalle en su libro Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Armas de destrucción matemática: Cómo los macrodatos incrementan la desigualdad y amenazan la democracia) (Broadway Books 2016).  Una búsqueda rápida en el internet del tema “sesgo implícito e inteligencia artificial” mostrará muchas fuentes para una discusión fructífera sobre este tema importante. Un ejemplo controversial es el hecho de que algunas versiones de programas de reconocimiento facial parecen ser mucho más precisos al evaluar caras masculinas blancas que al evaluar caras femeninas negras. Esto puede tener consecuencias significativas cuando programas como estos son implementados en el mundo real por oficiales de policía, compañías de seguros y otros. Un artículo interesante es “Addressing Gender and Racial Bias in Facial Recognition Technology” (Abordando el sesgo de género y raza en la tecnología de reconocimiento facial) de WGBH News, disponible en: https://www.wgbh.org/news/2018/03/21/science-and-technology/addressing-gender-and-racial-bias-facial-recognition-technology.

El caso de estudio “Encontrémonos en Starbucks” que acompaña este video parece ser un ejemplo informativo del sesgo implícito en acción y un ejemplo inspirador de una compañía tratando, de buena fe, de al menos empezar a abordar el problema.

Recursos adicionales

El recurso más reciente de Ethics Unwrapped es un libro, Behavioral Ethics in Practice: Why We Sometimes Make the Wrong Decisions, escrito por Cara Biasucci y Robert Prentice. Este libro accesible tiene abundantes notas a pie de página con estudios de ética del comportamiento e investigaciones asociadas. También incluye sugerencias al final de cada capítulo para videos y estudios de casos relacionados con Ética sin envolver. Algunos instructores usan este recurso para educarse a sí mismos, mientras que otros lo usan en lugar de (o además de) un libro de texto.

Cara Biasucci también escribió recientemente un capítulo sobre la integración de Ethics Unwrapped en la educación superior, que se puede encontrar en la última edición de Teaching Ethics: Instructional Models, Methods and Modalities for University Studies. El capítulo incluye ejemplos de cómo se utiliza Ética al descubierto en varias universidades.

El artículo más reciente escrito por Cara Biasucci y Robert Prentice describe los conceptos básicos de la ética del comportamiento y presenta videos y materiales de apoyo de Ethics Unwrapped junto con ejemplos de enseñanza. También incluye datos sobre la eficacia de Ethics Unwrapped para mejorar la pedagogía de la ética en todas las disciplinas. Publicado en Journal of Business Law and Ethics Pedagogy (Vol. 1, agosto de 2018), se puede descargar aquí: “Teaching Behavioral Ethics (Using “Ethics Unwrapped” Videos and Educational Materials)”.

Un artículo escrito por los autores de Ethics Unwrapped, Minette Drumwright, Robert Prentice y Cara Biasucci, presenta conceptos clave en la ética del comportamiento y enfoques para la instrucción eficaz de la ética, incluidas tareas de clase de muestra. Publicado en Decision Sciences Journal of Innovative Education, se puede descargar aquí: “Behavioral Ethics and Teaching Ethical Decision Making”.

Un artículo detallado escrito por Robert Prentice, con amplios recursos para la enseñanza de la ética del comportamiento, se publicó en Journal of Legal Studies Education y se puede descargar aquí: “Teaching Behavioral Ethics”.

Otro artículo de Robert Prentice, que analiza cómo la ética del comportamiento puede mejorar la ética de la toma de decisiones humanas, se publicó en Notre Dame Journal of Law, Ethics & Public Policy. Se puede descargar aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?

Un artículo más antiguo (pero aún útil) sobre la enseñanza de la ética del comportamiento se puede acceder a través de Google Scholar buscando: Prentice, Robert A. 2004. “Teaching Ethics, Heuristics, and Biases”. Revista de Educación en Ética Empresarial 1 (1): 57-74.

Transcripción de la narración

Written and Narrated by

Robert Prentice, J.D.
Business, Government & Society Department 
McCombs School of Business
The University of Texas at Austin

El “sesgo implícito” existe cuando inconscientemente tenemos actitudes hacia otras personas o asociamos estereotipos con ellos. Por ejemplo, frecuentemente tenemos estereotipos de otras personas sin darnos cuenta conscientemente de que los tenemos.

El sesgo implícito, también llamado “sesgo inconsciente” o “cognición social implícita”, es un prejuicio que está muy arraigado en el cerebro, bajo el nivel de conciencia. Algunos estudios han demostrado el sesgo implícito hacia grupos raciales, de género, LGBTQ, y otros grupos marginalizados. Podemos incluso tener prejuicios hacia nuestro propio grupo, aunque tendemos a favorecer a nuestro grupo de pertenencia con estereotipos positivos y desfavorecer a los grupos de no-pertenencia con estereotipos negativos.

El sesgo implícito a menudo ocurre en contra de las creencias conscientes y expresadas de las personas. Pocos médicos apoyan puntos de vista racialmente discriminatorios, pero los doctores tienden a recomendar menos medicamentos para el dolor a los pacientes negros que a los pacientes blancos con heridas idénticas. En otras palabras, la gente puede ser explícitamente imparcial, pero implícitamente parcial, según el psicólogo Daniel Kelly y sus colegas.

El sesgo implícito ha sido encontrado en una gran variedad de estudios que usan varias pruebas, pero mucha de la evidencia del fenómeno viene de la página web del Proyecto Implícito (Proyect Implicit) de la Universidad Harvard, la cual alberga la Prueba de Sesgo Implícito (Implicit Association Test), llamado IAT por sus siglas en inglés. Literalmente millones de personas han visitado este sitio y han tomado varias pruebas que les piden que respondan rápidamente a preguntas que requieren que asocien a personas negras o blancas, hombres o mujeres, jóvenes o viejos, etc. con palabras positivas o negativas. El profesor Nosek y sus colegas probaron a más de 700.000 sujetos y encontraron que más del 70% de los sujetos blancos asociaron más fácilmente las caras blancas con palabras positivas y las caras negras con palabras negativas, concluyendo que esta es evidencia de sesgo racial implícito. De hecho, evidencia adicional indica que las medidas de sesgo implícito predicen la conducta de las personas mejor que las medidas de sesgo explícito.

Aquí hay algunas buenas noticias. Varios científicos han criticado al IAT. Ellos señalan, por ejemplo, que los individuos que toman la prueba en diferentes fechas a menudo obtienen calificaciones sustancialmente diferentes. Aun los partidarios del IAT admiten que el sesgo implícito, al menos como es demostrado por la prueba, es generalizado pero relativamente menor y tiene solo un pequeño impacto en las acciones reales de las personas. En otras palabras, los resultados de la prueba no son suficientemente fuertes para predecir comportamientos particulares de personas individuales.

Sin embargo, no nos pongamos muy cómodos. Aun si el IAT no puede predecir la conducta futura de un individuo en alguna ocasión específica, sí puede indicar cómo los grupos de personas actuarán en promedio, y eso sí es preocupante.

Por ejemplo, pocas personas abogan abiertamente a favor de la discriminación en las contrataciones de empleados, pero los solicitantes blancos reciben 50% más respuestas de empleadores potenciales que los solicitantes negros con el mismo currículum. De igual manera, es sustancialmente más probable que los profesores de universidad respondan a los correos electrónicos de estudiantes si los nombres de los estudiantes indican que probablemente son blancos, que si los nombres suenan como que pertenecen a estudiantes negros. Y en un estudio se encontró que era 94% más probable que los instructores de cursos en línea respondieran a los aportes de discusión de estudiantes que son hombres blancos que los de otros estudiantes.

Ya que el sesgo implícito opera primordialmente a un nivel inconsciente, es difícil de superar. Ningún régimen de entrenamiento ha probado ser particularmente efectivo para eliminar el sesgo del sesgo implícito. Pero, afortunadamente, algunas investigaciones muestran que los estereotipos pueden ser olvidados y que se pueden colocar salvaguardias para minimizar su impacto. Por ejemplo, las mujeres solían componer solo un porcentaje relativamente pequeño de los músicos en las orquestas. Pero cuando las orquestas empezaron a tener audiciones ciegas donde los solicitantes tocaban detrás de una cortina y su género era desconocido a los jueces, el porcentaje de mujeres seleccionadas para tocar en las orquestas sinfónicas se duplicó.

Quizás podemos reducir el sesgo implícito después de todo.

Bibliografía

Mahzarin Banaji & Anthony Greenwald, Blind Spot: Hidden Biases of Good People (2013).

Marianne Bertrand et al., Implicit Discrimination, 95 American Economic Review 94 (2005).

Jack Glaser & Eric Knowles, Implicit Motivation to Control Prejudice, 44 Journal of Experimental Social Psychology 164 (2008).

A. R. Green et al., Implicit Bias Among Physicians and Its Prediction of Thrombolysis Decisions for Black and White Patients, 22 Journal of General Internal Medicine 1231 (2007).

Anthony Greenwald et al., Statistically Small Effects of the Implicit Association Test Can Have Societally Large Effects, 108 Journal of Personality and Social Psychology 553 (2015).

Jerry Kang et al., Implicit Bias in the Courtroom, 59 UCLA Law Review 1124 (2012).

Daniel Kelly et al., Race and Racial Cognition, in The Moral Psychology Handbook 433 (John M. Doris, ed. 2010).

Gregory Mitchel, “An Implicit Bias Primer,” (March 2018), available at https://ssrn.com/abstract=3151740.

Brian Nosek, The Implicit Association Test at Age 7: A Methodological and Conceptual Review, in Automatic Processes in Social Thinking and Behavior (J.A. Bargh, ed. 2007).

Keith Payne et al., How to Thiink About “Implicit Bias,” Scientific American, March 27, 2018.

Jesse Singal, Psychology’s Favorite Tool for Measuring Racism Isn’t Up to the Job, New Yorker, Jan. 11, 2017.

Bibliografía

Ariely, Dan. 2012. The (Honest) Truth About Dishonesty: How We Lie to Everyone—Especially Ourselves. New York: HarperCollins Publishers.

Bazerman, Max H., and Ann E. Tenbrunsel. 2011. Blind Spots: Why We Fail to Do What’s Right and What to Do about It. Princeton, NJ: Princeton University Press.

De Cremer, David (Editor). 2009. Psychological Perspectives on Ethical Behavior and Decision Making. Charlotte, NC: Information Age Publishing.

De Cremer, David, and Ann E. Tenbrunsel (Editors). 2012. Behavioral Business Ethics: Shaping an Emerging Field. New York: Routledge.

DeSteno, David, and Piercarlo Valdesolo. 2011. Out of Character: The Surprising Truths about the Liar, Cheat, Sinner (and Saint) Lurking in All of Us. New York: Crown Publishers.

Dienhart, John William, Dennis J. Moberg, and Ronald F. Duska (Editors). 2001. The Next Phase of Business Ethics: Integrating Psychology and Ethics. Bingley, UK: Emerald Group Publishing.

Gino, Francesca. 2013. Sidetracked: Why Our Decisions Get Derailed, and How We Can Stick to the Plan. Boston: Harvard Business Review Press.

Heffernan, Margaret. 2011. Willful Blindness: Why We Ignore the Obvious at Our Peril. New York: Walker Publishing Company.

Matousek, Mark. 2012. Ethical Wisdom: The Search for a Moral Life. New York: Anchor Books.

Messick, David M., and Ann E. Tenbrunsel (Editors). 1996. Codes of Conduct: Behavioral Research into Business Ethics. New York: Russell Sage Foundation.

Rhode, Deborah L. (Editor). 2006. Moral Leadership: The Theory and Practice of Power, Judgment, and Policy. San Francisco, CA: Jossey-Bass.

Werhane, Patricia H., Laura Pincus Hartman, Crina Archer, Elaine E. Englehardt, and Michael S. Pritchard. 2013. Obstacles to Ethical Decision-Making: Mental Modes, Milgram and the Problem of Obedience. Cambridge, UK: Cambridge University Press.

Shares