Interfaces inclusivas y representativas

Las tecnologías e interfaces no son inmunes a los sesgos de género, racismo o estructuras de poder. El desarrollo lo hacen las personas y sus creencias y valores se transmiten a los algoritmos, especialmente cuando se trata de recibir sugerencias o enviar órdenes.

Tener indicadores de género en chatbots, buscadores, ayudantes de voz, entre otros, sólo replica roles sociales que ayudan a mantener discursos sociales. Sin embargo, eso podría acabarse con la implementación de tecnologías neutrales que busquen ser más representativas o que estudien a sus usuarios para ser iguales (o parecidos) a ellos.

Esta necesidad de representar la multiculturalidad, no ha afectado únicamente a los desarrolladores, también al diseño y la forma de comunicarnos. Por ejemplo, los emoji evolucionan con frecuencia, tratando de aumentar la representatividad en sus íconos y agregando más características, ya sean nuevos colores de pelo, y piel, rasgos étnicos, comidas típicas de lugares del mundo, o nuevos animales, entre otras cosas.

Respecto a esto, Google anunció la variación de emojis, agregando tres géneros a los íconos que representan personas. Lo cual se traduce en una interfaz más inclusiva y representativa para los y las usuarias.

Género y androginia en las IT

El don de los asistentes de voz y los sistemas de búsqueda, es la ubicuidad. Están en todos lados y son omnipresentes. Al tener un nombre de mujer, y ser precisamente un asistente que realiza labores serviciales, como prender la luz, agendar nuestro día o ubicarnos en un mapa, se transmite el sesgo de la subordinación femenina.

El libro Wired for Speech, del año 2005, analizó la reacción de las personas ante voces artificiales. Si bien concluyó que todas las personas se sienten más cómodas al hablar o intercambiar información con alguien de su mismo género, también encontró sesgos respeto a lo femenino y masculino que justificarían la existencia de nuestras asistentes de voz.

El estudio, que recopiló varias investigaciones, concluyó que a las voces masculinas se les atribuye una figura de autoridad, que da órdenes directas. Mientras que las femeninas están asociadas a labores afectivas, de colaboración o ayuda.

Una de las soluciones a este problema, es que las tecnologías representen a los usuarios para los que fueron diseñadas. Sin embargo, sabemos que los usos de un producto no pueden controlarse, y lo correcto sería anticiparse a malas interpretaciones y usos. Por eso, contrario a crear tecnologías para niños, con voces de niño, éstas deberían ser transversales en género.

Por ello, crear tecnologías andróginas, parece ser el paso más adecuado para las y los desarrolladores. Sin nombre ni tono de voz asociado. Un ente neutro, a quien no le deberíamos asociar un sesgo. Eso es lo que algunas empresas ya están trabajando.

El primer chatbot sin género, fue hecho por Capital One. Su nombre es Eno y se desempeña en un banco. Eliminar los nombres para que los comandos se ejecuten, impactaría positivamente en la creación de tecnologías sin sesgos.

Según sus creadores, este cambio ayudó a dedicar tiempo en el desarrollo de sus funciones, y no en el entrenamiento para evitar sesgos. Esto demuestra que la neutralidad y androginia no significa inclusión, sino que también impacta en el desarrollo de tecnologías más eficientes