Datos personales

Línea de prevención de suicido comercializaba con los datos de sus usuarios

El servicio de intervención de crisis en Estados Unidos, Crisis Text Line, utilizó durante años los datos de sus usuarios para fines comerciales. Así lo informó hace algunos días una publicación del periódico Politico. El organismo sin fines de lucro de ayuda a personas con problemas de salud mental y riesgo de suicidio, utilizó la empresa Loris para monetizar los datos que obtenían de quienes llamaban a la línea directa.

Crisis Text Line fue fundado en 2013 por Nancy Lublin, con el objetivo de brindar apoyo gratuito a personas con problemas de salud mental o incluso con riesgo de suicidio. Sin embargo, con los años, la institución no logró recaudar todo el dinero necesario para mantenerse en el largo plazo. En ese contexto, Lublin planteó la idea de convertir todos los datos e ideas de los usuarios de la plataforma en un programa de capacitación basado en la empatía. Con esto, más la creación de lecciones para tener “conversaciones difíciles”, se crearía un flujo económico suficiente para iniciar una organización en el rubro de la salud mental.

Una cuestionada decisión

Aunque existieron dudas éticas sobre si los usuarios de la línea de crisis habían dado su consentimiento para que utilizaran los datos, de todas formas la junta aprobó la idea de Lublin. Fue así como en 2018 se creó Loris, una compañía de inteligencia artificial que brinda capacitación de “habilidades blandas” a las empresas.

Danah Boyd, miembro fundador de la junta, señaló en Mashable que “esta decisión me pesó mucho, pero voté a favor (…) Sabiendo lo que sé ahora, no lo habría hecho. Pero la retrospectiva siempre es más clara”.

Pese al análisis crítico que realizó Boyd sobre la situación de Crisis Text Line, también justificó el actuar de la organización. “Si pudiéramos construir herramientas que combatan los ciclos de dolor y sufrimiento, podríamos devolver lo que estábamos aprendiendo de aquellos a quienes servimos. Quería ayudar a otros a desarrollar y aprovechar la empatía”, dijo.

Loris desvió el camino

A pesar de lo controversial del caso de Crisis Text Line, la idea que tenían con respecto a Loris y la ayuda que podía ofrecer parecía ser buena. Pero, con el pasar del tiempo, la empresa de capacitación se alejó de su idea original, y comenzó a realizar asesoramiento a las empresas para optimizar la atención al cliente.

De hecho, Loris señala que su plataforma “ayuda a los equipos de atención al cliente a hacer que los clientes estén más felices y que las marcas se destaquen entre la multitud”. Lo anterior, creó la sensación de que Crisis Text Line se alejaba de sus principios, al monetizar con los datos de usuarios con angustia mental para ayudar en el rendimiento de las empresas.

Dilemas éticos

Lo sucedido con Crisis Text Line permite abrir el debate sobre el uso de datos en situaciones de grandes angustias mentales y lo ético que está detrás de ello. Pese a que es cuestionable, esa información que se obtiene puede ser de gran ayuda para diseñar algoritmos, que a su vez, permitan identificar aquellas personas que corren mayor peligro. Sin embargo, el tema de la ética en cuanto a los datos es relativamente reciente, por lo que aún no existen políticas gubernamentales sólidas que regulen este tipo de instancias. 

Hace unas semanas, la Comisión Federal de Comunicaciones (FCC) hizo una reprimenda a Crisis Text Line por el uso indebido de los datos mediante la empresa Loris. A raíz de toda la repercusión que causó el caso, la línea de prevención del suicidio informó que ya no utilizarán los datos de los usuarios para fines comerciales.