Inteligencia artificial

¿Por qué es peligroso usar una IA para predecir el crimen?

Desde hace algún tiempo atrás, un grupo de científicos ha estado trabajando en una IA que se asegura, es capaz de predecir el crimen. Su aplicación se basa en el uso de un algoritmo que pronostica los delitos mediante el aprendizaje de patrones en el tiempo y ubicaciones geográficas.

Esta tecnología ha demostrado un éxito bastante amplio y de hecho, se estima que su precisión es de aproximadamente un 90%. Sin embargo, su presencia nuevamente ha hecho que los expertos comiencen a cuestionar este tipo de acciones, ya que, es de conocimiento público que las IA son altamente racistas.

Por otra parte, el uso del aprendizaje automático también ha arrojado datos alarmantes con respecto al actuar policial en las ocho principales ciudades de EE.UU. Según el informe realizado por investigadores de la Universidad de Chicago, la protección de la policía es inferior en los barrios más pobres y por lo tanto, son más propensos a crímenes de diversa índole.

Racismo en las IA

Según investigaciones realizadas por la Unión Estadounidense por las Libertades Civiles (ACLU), el racismo y el uso de IA para predecir el crimen están preocupantemente relacionados. Es muy posible que los sesgos que siempre han estado presentes en la vida cotidiana, también sean parte de los algoritmos. Además, se debe tener en cuenta que estos son los encargados de analizar toda la información disponible.

Además, aunque este tipo de tecnologías no se fije en los sospechosos sino que en los lugares también contribuye a esta situación. Al señalar un barrio por encima de otros, se supone que existirá una mayor presencia policial y en consecuencia, se encontrarán una mayor cantidad de delitos.

Tal como señalan desde ACLU, “la vigilancia en sí misma genera nuevos datos, lo que justifica más vigilancia”. Todo esto, no hace más que justificar que la presencia de las IA puede ser realmente peligrosa si no se usa correctamente.