IA de Google comienza a suspender cuentas por contener imágenes sensibles que involucran a menores

Durante los últimos días se ha reportado un caso bastante particular por parte de Google y es que, según un reporte entregado por The New York Times, la compañía podría suspender cuentas que tengan imágenes con contenido sensible que involucren a niñas y niños, aunque estas hayan sido capturadas bajo un contexto médico.

La situación en cuestión sucedió hace algunos meses y en un contexto pandémico. Debido a las restricciones sanitarias, las personas debían quedarse exclusivamente en sus casas, por lo que recurrir a un médico era bastante complejo. En consecuencia, un padre solicitó una hora de telemedicina y envió fotografías de su hijo, el que padecía de una hinchazón en la ingle, sin embargo, nunca esperó las consecuencias de este acto.

El afectado recibió una notificación por parte de Google, en donde se le señalaba que su cuenta fue bloqueada por poseer contenido dañino. Posteriormente, la empresa presentó un informe al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés). Todo esto sucede casi al mismo tiempo, en el que se dio a conocer la noticia sobre la moderación de contenido en TikTok que también involucra a niñas y niños. 

¿Cómo otras empresas se han enfrentado a esta situación?

La empresa ha destacado las complicaciones de diferenciar este tipo de material. ¿Cuándo existe una mala intención? ¿Cómo se diferencia una foto inocente frente a aquel material que puede significar un abuso hacia un menor? La discusión ha comenzado en Google y todo parece indicar que los próximos pasos no serán nada sencillos.

Por otra parte, Apple también ha realizado acciones para detener la propagación de material que afecte a menores. Aunque, esta respuesta sufrió una serie de críticas debido a que estaría yendo en contra de la privacidad de las personas que usan sus dispositivos. Estas políticas permiten que la compañía tome acciones legales en caso de encontrar contenido sensible que involucre a menores. 

Ahora bien, los críticos nuevamente cuestionan las acciones que ha tomado Google, ya que, el escanear fotos de las galerías privadas de cada persona podría, nuevamente, infringir la privacidad de los usuarios y más aún, cuando la consecuencia termina siendo la suspensión de diversas cuentas.