Sesgo Implícito

El sesgo implícito existe cuando las personas inconscientemente tienen actitudes hacia otros o asocian estereotipos con ellos.

Preguntas de discusión

  1. En una presentación, el profesor Will Cox muestra dos nuevas fotografías publicadas de las secuelas del huracán Katrina. Una muestra a un joven hombre negro caminando por aguas turbulentas sosteniendo una caja de gaseosas. La otra muestra a una pareja blanca en agua similar, sosteniendo una bolsa de pan. Las leyendas de las fotos decían, respectivamente: “Un joven camina por agua hasta el pecho después de saquear un supermercado” y “Dos residentes caminan por agua profunda después de encontrar pan y gaseosas.” ¿Crees que los dos autores de estas leyendas se consideran a sí mismos como racistas?
  2. Los estudios muestran que los latinos reciben menos medicamento para el dolor que los pacientes blancos en situaciones similares, que las mujeres de edad avanzada reciben menos intervenciones de salvamento que los hombres de edad avanzada, y que es más probable que los maestros asuman que los niños obesos son menos inteligentes que los niños delgados. ¿Son estos ejemplos de sesgo implícito?
  3. ¿Puedes pensar en ejemplos del sesgo implícito?
  4. ¿Crees que el sesgo implícito es un problema serio? Si piensas que sí, ¿es más serio que el sesgo explícito?

Caso de estudio

Encontrémonos en Starbucks

El 12 de abril de 2018, en una tienda de Starbucks en Filadelfia, dos hombres negros, Rashon Nelson y Donte Robinson, estaban esperando a un amigo, Andrew Yaffe. Nelson y Robinson eran emprendedores e iban a discutir oportunidades de inversión de negocios con Yaffe, un agente de bienes raíces. Mientras esperaban, un empleado les preguntó si los podía ayudar. Ellos dijeron “no”, que solo estaban esperando una reunión de negocios. Entonces un gerente le dijo a Nelson que no podía usar el baño porque no era un cliente real.
Como los dos hombres todavía no habían comprado nada, un gerente de la tienda llamó a la policía, aunque Robinson había sido cliente en esa tienda por casi una década y los dos hombres habían usado esa tienda para reuniones de negocios anteriormente. Al menos seis oficiales del departamento de policía de Filadelfia llegaron. Los oficiales de policía no les hicieron ninguna pregunta a los hombres; solo exigieron que se fueran inmediatamente. Ellos se negaron a irse. Los oficiales de policía entonces procedieron a arrestar a los hombres por invasión de propiedad privada. Mientras ocurría el arresto, El señor Yaffe llegó y dijo “¿Por qué les pedirían que se vayan? ¿Alguien más piensa que esto es ridículo? Es total discriminación.” Los dos hombres fueron sacados esposados. Fueron llevados a la estación de policía, fotografiados, y sus huellas fueron tomadas. Estuvieron detenidos por casi nueve horas antes de ser liberados. Los fiscales decidieron que no había suficiente evidencia para acusar a los hombres de un crimen.
Después de que un video del arresto se hiciera viral, el director ejecutivo de Starbucks, Kevin Johnson, emitió un comunicado: “Nos disculpamos con los dos individuos y nuestros clientes y estamos decepcionados de que esto haya llevado a un arresto. Tomamos estos asuntos seriamente y claramente tenemos más trabajo que hacer con respecto a cómo manejamos incidentes en nuestras tiendas.”
Johnson luego anunció que todas las tiendas de las cuales Starbucks es dueño en el país cerrarían el 29 de mayo de 2018 para realizar “educación de sesgo racial”. Cuando un cliente se quejó en Facebook de que cerrar las tiendas por un solo incidente parecía una exageración, Starbucks respondió: “Hay innumerables ejemplos de sesgo implícito que resultan en discriminación en contra de las personas de color, ambos dentro y fuera de nuestras tiendas.” Una queja similar sobre el cierre de miles de tiendas por las acciones de un puñado de empleados generó esta respuesta de Starbucks “Nuestra meta es que nuestras tiendas sean un lugar seguro y hospitalario para todos, y hemos fallado. Este entrenamiento es crucial para asegurar que cumplamos nuestra meta.”

Preguntas de discusión:

1. En una presentación, el profesor Will Cox muestra dos nuevas fotografías publicadas de las secuelas del huracán Katrina. Una muestra a un joven hombre negro caminando por aguas turbulentas sosteniendo una caja de gaseosas. La otra muestra a una pareja blanca en agua similar, sosteniendo una bolsa de pan. Las leyendas de las fotos decían, respectivamente: “Un joven camina por agua hasta el pecho después de saquear un supermercado” y “Dos residentes caminan por agua profunda después de encontrar pan y gaseosas.” ¿Crees que los dos autores de estas leyendas se consideran a sí mismos como racistas?
2. Los estudios muestran que los latinos reciben menos medicamento para el dolor que los pacientes blancos en situaciones similares, que las mujeres de edad avanzada reciben menos intervenciones de salvamento que los hombres de edad avanzada, y que es más probable que los maestros asuman que los niños obesos son menos inteligentes que los niños delgados. ¿Son estos ejemplos de sesgo implícito?
3. ¿Puedes pensar en ejemplos del sesgo implícito?
4. ¿Crees que el sesgo implícito es un problema serio? Si piensas que sí, ¿es más serio que el sesgo explícito?
Fuentes
“CEO de Starbucks se disculpa después de que un empleado llama a la policía por dos hombres negros que estaban esperando en una mesa”
https://www.washingtonpost.com/news/business/wp/2018/04/14/starbucks-apologizes-after-employee-calls-police-on-black-men-waiting-at-a-table/?noredirect=on&utm_term=.58c312135cfa
“Starbucks a usuarios de Facebook enojados: No podemos negar que este es un asunto de raza”
https://www.fastcompany.com/40561997/starbucks-to-angry-facebookers-we-cant-deny-this-is-a-race-issue
“Hombres negros arrestados en un Starbucks de Filadelfia dicen que temían por sus vidas”
https://www.cbsnews.com/news/starbucks-arrest-rashon-nelson-donte-robinson-feared-for-their-lives/
“¿Es así como termina la discriminación?»
https://www.theatlantic.com/science/archive/2017/05/unconscious-bias-training/525405/
“¿Entiende Starbucks la ciencia del sesgo racial?»
https://www.theatlantic.com/science/archive/2018/05/starbucks-unconscious-bias-training/559415/

Notas de enseñanza

Este video introduce el sesgo de la ética del comportamiento conocido como sesgo implícito. El sesgo implícito existe cuando las personas inconscientemente tienen actitudes hacia otros o asocian estereotipos con ellos. El sesgo implícito de las personas puede ir en contra de sus creencias conscientes sin darse cuenta de ello. El sesgo implícito también es conocido como sesgo inconsciente o cognición social implícita.
Al enseñar sobre el sesgo implícito, puede ser buena idea enviar a los estudiantes a la página web del Project Implicit (Proyecto Implícito) de Harvard para que ellos mismos tomen una o más de las pruebas que proveen alguna (no toda) evidencia académica del sesgo implícito: https://implicit.harvard.edu/implicit/. Se debe saber que aunque hay una aceptación generalizada del fenómeno del sesgo implícito, hay críticas de la evidencia que viene de este grupo de pruebas en particular. Dos de los académicos detrás del Project Implicit, Mahzarin R. Banaji y Anthony G. Greenwald escribieron Blind Spot: Hidden Biases of Good People (Punto muerto: Los sesgos escondidos de la gente buena) (Delacorte Press 2013), el cual es un libro muy accesible sobre el tema. Otra fuente muy accesible es un artículo del Scientific American del 27 de marzo de 2018 escrito por los psicólogos Keith Payne, Laura Niemi y John Doris llamado “How to Think about “Implicit Bias” (Cómo pensar sobre el sesgo implícito), el cual se puede encontrar en https://www.scientificamerican.com/article/how-to-think-about-implicit-bias/.
Aceptar el hecho del sesgo implícito no debería ser muy difícil si uno ve nuestros videos de Conceptos al descubierto sobre varios otros tipos de sesgo generados por el cerebro humano, incluyendo el sesgo del conformismo, el sesgo del autoservicio y el sesgo de exceso de confianza.
Un asunto importante en la ética de los “Macrodatos” y la inteligencia artificial tiene que ver con el sesgo implícito que puede afectar la creación de algoritmos y el análisis de datos. Cathy O’Neil discute esto en detalle en su libro Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Armas de destrucción matemática: Cómo los macrodatos incrementan la desigualdad y amenazan la democracia) (Broadway Books 2016).  Una búsqueda rápida en el internet del tema “sesgo implícito e inteligencia artificial” mostrará muchas fuentes para una discusión fructífera sobre este tema importante. Un ejemplo controversial es el hecho de que algunas versiones de programas de reconocimiento facial parecen ser mucho más precisos al evaluar caras masculinas blancas que al evaluar caras femeninas negras. Esto puede tener consecuencias significativas cuando programas como estos son implementados en el mundo real por oficiales de policía, compañías de seguros y otros. Un artículo interesante es “Addressing Gender and Racial Bias in Facial Recognition Technology” (Abordando el sesgo de género y raza en la tecnología de reconocimiento facial) de WGBH News, disponible en: https://www.wgbh.org/news/2018/03/21/science-and-technology/addressing-gender-and-racial-bias-facial-recognition-technology.
El caso de estudio “Encontrémonos en Starbucks” que acompaña este video parece ser un ejemplo informativo del sesgo implícito en acción y un ejemplo inspirador de una compañía tratando, de buena fe, de al menos empezar a abordar el problema.

Recursos adicionales

Para recursos de enseñanza sobre la ética del comportamiento, un articulo escrito por los autores Minnete Drumwright, Robert Prentice y Cara Biasucci, de Ethics Unwrapped, introduce conceptos clave en la ética del comportamiento y los aproches para la instrucción efectiva de la ética —incluyendo ejemplos de ejercicios para el aula. El articulo, publicado en el Decision Sciences Journal of Innovative Education, puede ser descargado aquí: “Behavioral Ethics and Teaching Ethical Decision Making.”
Un artículo detallado sobre la enseñanza de la ética del comportamiento con amplios recursos para la enseñanza, publicado en el Journal of Legal Studies Education, puede ser descargado aquí: “Teaching Behavioral Ethics.”

Un articulo por Robert Prentice sobre como la ética del comportamiento puede mejorar la ética de la toma de decisiones, publicado en el Notre Dame Journal of Law, Ethics & Public Policy, puede ser descargado aquí: “Behavioral Ethics: Can It Help Lawyers (And Others) Be their Best Selves?

Otro documento más antiguo, pero que sigue siendo útil, es el artículo de introducción a la enseñanza de la ética del comportamiento en: Robert A. Prentice (2004), “Teaching Ethics, Heuristics, and Biases,” Journal of Business Ethics Education, 1 (1), 57-74 que es accesible a través de Google Scholar.

Hay muchos buenos libros y artículos sobre la ética del comportamiento. Estos incluyen:

Ariely, Dan. 2012. The (Honest) Truth About Dishonesty: How We Lie to Everyone—Especially Ourselves. New York: HarperCollins Publishers.

Bazerman, Max H., and Ann E. Tenbrunsel. 2011. Blind Spots: Why We Fail to Do What’s Right and What to Do about It. Princeton, NJ: Princeton University Press.

De Cremer, David (Editor). 2009. Psychological Perspectives on Ethical Behavior and Decision Making. Charlotte, NC: Information Age Publishing.

De Cremer, David, and Ann E. Tenbrunsel (Editors). 2012. Behavioral Business Ethics: Shaping an Emerging Field. New York: Routledge.

DeSteno, David, and Piercarlo Valdesolo. 2011. Out of Character: The Surprising Truths about the Liar, Cheat, Sinner (and Saint) Lurking in All of Us. New York: Crown Publishers.

Dienhart, John William, Dennis J. Moberg, and Ronald F. Duska (Editors). 2001. The Next Phase of Business Ethics: Integrating Psychology and Ethics. Bingley, UK: Emerald Group Publishing.

Gino, Francesca. 2013. Sidetracked: Why Our Decisions Get Derailed, and How We Can Stick to the Plan. Boston: Harvard Business Review Press.

Heffernan, Margaret. 2011. Willful Blindness: Why We Ignore the Obvious at Our Peril. New York: Walker Publishing Company.

Matousek, Mark. 2012. Ethical Wisdom: The Search for a Moral Life. New York: Anchor Books.

Messick, David M., and Ann E. Tenbrunsel (Editors). 1996. Codes of Conduct: Behavioral Research into Business Ethics. New York: Russell Sage Foundation.

Rhode, Deborah L. (Editor). 2006. Moral Leadership: The Theory and Practice of Power, Judgment, and Policy. San Francisco, CA: Jossey-Bass.

Werhane, Patricia H., Laura Pincus Hartman, Crina Archer, Elaine E. Englehardt, and Michael S. Pritchard. 2013. Obstacles to Ethical Decision-Making: Mental Modes, Milgram and the Problem of Obedience. Cambridge, UK: Cambridge University Press.

Transcripción de la narración

Written and Narrated by

Robert Prentice, J.D.
Business, Government & Society Department 
McCombs School of Business
The University of Texas at Austin

El “sesgo implícito” existe cuando inconscientemente tenemos actitudes hacia otras personas o asociamos estereotipos con ellos. Por ejemplo, frecuentemente tenemos estereotipos de otras personas sin darnos cuenta conscientemente de que los tenemos.

El sesgo implícito, también llamado “sesgo inconsciente” o “cognición social implícita”, es un prejuicio que está muy arraigado en el cerebro, bajo el nivel de conciencia. Algunos estudios han demostrado el sesgo implícito hacia grupos raciales, de género, LGBTQ, y otros grupos marginalizados. Podemos incluso tener prejuicios hacia nuestro propio grupo, aunque tendemos a favorecer a nuestro grupo de pertenencia con estereotipos positivos y desfavorecer a los grupos de no-pertenencia con estereotipos negativos.

El sesgo implícito a menudo ocurre en contra de las creencias conscientes y expresadas de las personas. Pocos médicos apoyan puntos de vista racialmente discriminatorios, pero los doctores tienden a recomendar menos medicamentos para el dolor a los pacientes negros que a los pacientes blancos con heridas idénticas. En otras palabras, la gente puede ser explícitamente imparcial, pero implícitamente parcial, según el psicólogo Daniel Kelly y sus colegas.

El sesgo implícito ha sido encontrado en una gran variedad de estudios que usan varias pruebas, pero mucha de la evidencia del fenómeno viene de la página web del Proyecto Implícito (Proyect Implicit) de la Universidad Harvard, la cual alberga la Prueba de Sesgo Implícito (Implicit Association Test), llamado IAT por sus siglas en inglés. Literalmente millones de personas han visitado este sitio y han tomado varias pruebas que les piden que respondan rápidamente a preguntas que requieren que asocien a personas negras o blancas, hombres o mujeres, jóvenes o viejos, etc. con palabras positivas o negativas. El profesor Nosek y sus colegas probaron a más de 700.000 sujetos y encontraron que más del 70% de los sujetos blancos asociaron más fácilmente las caras blancas con palabras positivas y las caras negras con palabras negativas, concluyendo que esta es evidencia de sesgo racial implícito. De hecho, evidencia adicional indica que las medidas de sesgo implícito predicen la conducta de las personas mejor que las medidas de sesgo explícito.

Aquí hay algunas buenas noticias. Varios científicos han criticado al IAT. Ellos señalan, por ejemplo, que los individuos que toman la prueba en diferentes fechas a menudo obtienen calificaciones sustancialmente diferentes. Aun los partidarios del IAT admiten que el sesgo implícito, al menos como es demostrado por la prueba, es generalizado pero relativamente menor y tiene solo un pequeño impacto en las acciones reales de las personas. En otras palabras, los resultados de la prueba no son suficientemente fuertes para predecir comportamientos particulares de personas individuales.

Sin embargo, no nos pongamos muy cómodos. Aun si el IAT no puede predecir la conducta futura de un individuo en alguna ocasión específica, sí puede indicar cómo los grupos de personas actuarán en promedio, y eso sí es preocupante.

Por ejemplo, pocas personas abogan abiertamente a favor de la discriminación en las contrataciones de empleados, pero los solicitantes blancos reciben 50% más respuestas de empleadores potenciales que los solicitantes negros con el mismo currículum. De igual manera, es sustancialmente más probable que los profesores de universidad respondan a los correos electrónicos de estudiantes si los nombres de los estudiantes indican que probablemente son blancos, que si los nombres suenan como que pertenecen a estudiantes negros. Y en un estudio se encontró que era 94% más probable que los instructores de cursos en línea respondieran a los aportes de discusión de estudiantes que son hombres blancos que los de otros estudiantes.

Ya que el sesgo implícito opera primordialmente a un nivel inconsciente, es difícil de superar. Ningún régimen de entrenamiento ha probado ser particularmente efectivo para eliminar el sesgo del sesgo implícito. Pero, afortunadamente, algunas investigaciones muestran que los estereotipos pueden ser olvidados y que se pueden colocar salvaguardias para minimizar su impacto. Por ejemplo, las mujeres solían componer solo un porcentaje relativamente pequeño de los músicos en las orquestas. Pero cuando las orquestas empezaron a tener audiciones ciegas donde los solicitantes tocaban detrás de una cortina y su género era desconocido a los jueces, el porcentaje de mujeres seleccionadas para tocar en las orquestas sinfónicas se duplicó.

Quizás podemos reducir el sesgo implícito después de todo.

Bibliografía

Mahzarin Banaji & Anthony Greenwald, Blind Spot: Hidden Biases of Good People (2013).

Marianne Bertrand et al., Implicit Discrimination, 95 American Economic Review 94 (2005).

Jack Glaser & Eric Knowles, Implicit Motivation to Control Prejudice, 44 Journal of Experimental Social Psychology 164 (2008).

A. R. Green et al., Implicit Bias Among Physicians and Its Prediction of Thrombolysis Decisions for Black and White Patients, 22 Journal of General Internal Medicine 1231 (2007).

Anthony Greenwald et al., Statistically Small Effects of the Implicit Association Test Can Have Societally Large Effects, 108 Journal of Personality and Social Psychology 553 (2015).

Jerry Kang et al., Implicit Bias in the Courtroom, 59 UCLA Law Review 1124 (2012).

Daniel Kelly et al., Race and Racial Cognition, in The Moral Psychology Handbook 433 (John M. Doris, ed. 2010).

Gregory Mitchel, “An Implicit Bias Primer,” (March 2018), available at https://ssrn.com/abstract=3151740.

Brian Nosek, The Implicit Association Test at Age 7: A Methodological and Conceptual Review, in Automatic Processes in Social Thinking and Behavior (J.A. Bargh, ed. 2007).

Keith Payne et al., How to Thiink About “Implicit Bias,” Scientific American, March 27, 2018.

Jesse Singal, Psychology’s Favorite Tool for Measuring Racism Isn’t Up to the Job, New Yorker, Jan. 11, 2017.

Shares