Twitter ha lanzado una competencia abierta a todos los hackers e investigadores que puedan encontrar información sobre sesgos tendenciosos en su algoritmo de recorte de imágenes.
Hace algunos meses, los usuarios de Twitter señalaron que el recorte de imágenes de la plataforma presentaba sesgos. Esto prendió las alarmas sobre cómo se privilegiaba el mostrar, por ejemplo, a personas de raza blanca por sobre personas de raza negra.
Rápidamente se dijo que el algoritmo era “racista” y, luego de bastante tiempo, Twitter ha decidido dejar la solución en las manos de hackers e investigadores. El llamado es a participar en una competencia que logre erradicar e investigar eventos similares en la industria.
Buscando sesgos algorítmicos en Twitter
Este concurso sería la primera competencia que busca identificar sesgos algorítmicos en la industria, y remediarlos, en asociación con Hacker One y AI Village.
Desde Twitter entienden que encontrar patrones de decisiones tendenciosos, en los modelos de aprendizaje automático – o de Machine Learning- es difícil. Además, a veces, las empresas descubren daños éticos no deseados una vez que han llegado al público.
Para ello, Twitter compartió el código de su algoritmo de corte de imágenes, el que debe ser evaluado por los participantes según una investigación cualitativa y cuantitativa.
Los premios
Los ganadores serán anunciados por DEFCON AI Village, y los premios son los siguientes para los distintos puestos:
- 1er lugar: $3,500 USD
- 2do lugar: $1,000 USD
- 3er lugar: $500 USD
- Premio a la innovación: $1,000 USD
- Premio para el algoritmo más generalizable: $1,000 USD
Para los interesados en postular, pueden hacerlo hasta el 6 de agosto de 2021. Revisa los requisitos y detalles del concurso en el sitio web de HackerOne.