Responsabilidad en el diseño

Sesgo y racismo en UX: Un reflejo de la sociedad

Durante la última semana, el tema en boga (además de la crisis sanitaria en la que nos encontramos en todo el mundo) ha sido el asesinato de George Floyd. Y con justa razón. El hombre afroamericano fue asesinado durante una detención en la vía pública, a vista y presencia de transeúntes y de los mismos miembros de la policía de Minneapolis, además responsables de su muerte. Los mismos que no encontraron nada fuera de lo común en su accionar.

El horror de esta situación, que nuevamente se comete, es una herida dolorosa dentro de la sociedad mundial. Y reabre el debate acerca del problema del racismo y la percepción de nuestras propias etnias. En el caso de Chile, la sociedad local es conocida por poseer una cantidad casi desconocida de mixturas, etnias y culturas, en donde imperan las sangres indígenas, como lo es la mapuche en mi caso personal.

Teniendo esto en cuenta, el cuestionamiento resultó en un ejercicio que muchos hemos practicado durante estos días. En algunos casos, no es sólo un ejercicio temporal, sino parte del sentido común de vivir en sociedad, sobre todo con la basta inmigración vista en nuestro país durante los últimos años. Nos convertimos en una sociedad diversa y multicultural, que nos obliga a integrar cada una de las diferentes culturas dentro de nuestro día a día.

Sesgo y racismo: Reflejo de la realidad

Llevado al campo personal del diseño y del desarrollo de proyectos, no es muy difícil darse cuenta de la falta de integración de las distintas “razas”, etnias e incluso géneros con los que convivimos a diario. Un ejercicio bastante rápido que podemos realizar al ingresar a diferentes sitios web, es ver las fotografías utilizadas en las interfaces y notar un cierto sesgo hacia quiénes apuntan sus contenidos y quiénes representan mejor el “espíritu” que tratan de promover.

Algo muy fácil de observar entre la distinción de productos destinados a estereotipos dominantes y diversidades aceptadas, versus las que no lo son. Esto lo podemos comprobar en la elección de modelos para las fotografías. Desde niños hasta adultos. 

¿Cómo podemos evitar estos sesgos?

El Diseño Centrado en el Usuario (DCU), se enfoca en solucionar los problemas potenciales que una plataforma puede presentar durante su interacción. La idea es minimizar el esfuerzo y roce al mínimo, para lograr una experiencia agradable. Parte del UX Research se enfoca en reconocer el comportamiento, gustos y necesidades de esas personas, con el único fin de mejorar nuestro producto. ¿Pero qué pasa si nuestro sitio es funcionalmente perfecto pero totalmente sesgado?

La presencia o no de discriminación, también es parte de la experiencia. En el caso del Diseño Centrado en el Medio Ambiente, los profesionales del área estudian todo el sistema relacionado con su producto para lograr construir productos sostenibles. Aquí encontramos proyectos que abordan tanto las limitaciones técnicas como personales de cada individuo. Desde ahí, también podemos conectarnos con la accesibilidad. Otro grupo de usuarios olvidados que nos invitan a reflexionar sobre el mensaje tras nuestra elección de elementos en cada interfaz.

No es de extrañar que dicho sesgo se transfiera a otras plataformas, tales como spot publicitarios, redes sociales, etc.

Tampoco es de extrañar que dicha intención (discriminar o sesgar) no sea tal al momento específico de, por ejemplo, buscar imágenes para poblar un sitio web. Es de amplio conocimiento que en la mayor cantidad de ocasiones estas imágenes suelen pertenecer a bancos de imágenes, tales como Shutterstock, Pexels, Unsplash, etc. Dichos bancos poseen una infinidad de imágenes, divididas por temáticas y colaboradores.

Al ingresar a ellos y buscar por palabras claves, podemos observar un claro y terrible sesgo en los resultados de búsqueda. En los siguientes ejemplos, las palabras a buscar fueron “Éxito” y “Familia”, términos por lo demás muy comunes cuando se quiere presentar algo de esta manera.

Resultados para “Éxito”

No es necesario señalar la predominante presencia de tez blanca y masculina al momento de buscar ejemplos de éxito en Shutterstock 

Resultados para “Familia”

Así se ve reflejada una familia “hispana” (ojo al filtro y criterio de búsqueda que seleccionamos), “perfectamente constituida” por un papá y una mamá, según Shutterstock

Bonus track: Resultados para “Hombre malo”

Gente tatuada, personas en situación de calle, ¿Hindúes? Nop, ese no fue el criterio de búsqueda de Pixabay

Estos ejemplos nos demuestran que por mucho que una plataforma nos permite filtrar para tratar de neutralizar nuestros resultados, el sesgo es mayor. ¿De dónde viene esta predeterminación?

Qué fue primero: ¿el huevo o la gallina?

Si bien en muchos de los casos, la responsabilidad debiese recaer en dichos bancos de imágenes, también cae sobre cada uno de nosotros e incluso, sobre los realizadores. Muchos de estos bancos son alimentados especialmente por fotógrafos. 

¿Es a ellos a quienes debemos culpar? ¿Existe un sesgo cultural que nos permite sesgar a priori cuando ingresamos una imagen en la web? ¿Es la inteligencia artificial la que termina por decidir en base a su constante aprendizaje? Cualquiera sea la razón de fondo, lo cierto es que recae en nosotros igualmente.

Lo más fácil sería culpar a dichos agentes externos, pero este aspecto tiene más de una lectura. Lo que ocurre comúnmente es que estos fotógrafos tienden a publicar su material de acuerdo a las tendencias o campos sobre los cuales se tiene una necesidad específica. Y donde dicha necesidad la ejercen/ejercemos nada más y nada menos que los usuarios. 

Bancos de imágenes gratuitos como Pexels invitan a hacerse usuario, de manera de poder ayudar en el criterio de búsqueda, dependiendo de las consultas realizadas anteriormente.

¿Cambias tu prejuicio?

Este ejercicio busca llevarnos a evaluar mejor la manera en que abordamos nuestros proyectos. En aquellas personas que pensamos serán impactadas por nuestro cliente, y por qué no, nos insta también a cuestionarnos aquellos estereotipos con los cuales hemos crecido durante toda nuestra vida.

Debemos dudar del motivo tras cada estereotipo y evidenciar estos diferentes sesgos que ejercemos sobre nuestros contenidos. No podemos normalizar así el hecho de que se clasifiquen a las personas. Mucho menos, en proyectos centrados en el usuario, donde éstas debieran ser lo más fundamental a la hora de pensar en nuestras soluciones. 

Debemos aprender a poner el foco en el usuario y no en el cliente. Ya que, de no ser así, estaríamos omitiendo un problema grave de nuestra sociedad. Es tarea de todos y todas no callar y no ser cómplices de un manejo social que ya quedó obsoleto. 

Y, que en la sociedad en la que vivimos (o en la que a estas alturas, esperamos poder vivir) estos hechos no sólo deben llamarnos la atención. Sino que debemos hacer evidente su impacto y dejar de reproducirlos. Porque es la única manera en que aquellos olvidados podrán ser visibles. Y todos lo vamos a terminar agradeciendo.