Seguridad

Deepfakes: el robo de identidad que da vida a videos falsos

Un rostro en el cuerpo de otra persona. Eso puede ser realidad en cuestión de horas con tecnologías de inteligencia artificial. Pero los llamados deepfakes o videos falsos que inicialmente parecían inofensivos, se han convertido en un fenómeno que atenta contra la privacidad e intimidad.

Las noticias falsas con su fenómeno que se ha masificado en diversos sitios web y redes sociales. Pero en el último tiempo existe otro engaño que difunde en Internet y que cada vez tiene más impacto. Se trata de los deepfakes, videos creados utilizando inteligencia artificial para reemplazar el rostro de una persona por otro.

Aunque a simple vista, no parece nada tan grave, estos videos son fuente de material para videos porno. Uno de los primeros antecedentes de un caso de deepfake se conoció el año pasado. Ocurrió cuando en Reddit se publicó una grabación de contenido sexual donde aparecía la actriz Gal Gadot, la que rápidamente se viralizó.

En el sitio Motherboard, de Vice, se revelaron los detalles tras las imágenes. “El video fue creado con un algoritmo de aprendizaje automático, utilizando material gráfico de fácil acceso y un código abierto que cualquier persona que cualquiera con conocimientos de algoritmos de aprendizaje profundo podría reunir”, explican. Se trata de FakeApp, un programa que creó un desarrollador anónimo utilizando software de código abierto escrito por Google. Desde que apareció una versión de la aplicación en Reddit en enero, sus descargas se han multiplicado.

La conclusión del artículo da escalofríos: “La facilidad con la que alguien podría hacer esto es aterradora. Aparte del desafío técnico, todo lo que alguien necesitaría son imágenes suficientes de un rostro. Muchos de nosotros ya estamos creando bases de datos en expansión de nuestras propias caras. Personas de todo el mundo cargaron 24 mil millones de selfies en Google Photos en 2015-2016. No es difícil imaginarse a un programador aficionado ejecutando su propio algoritmo para crear un video sexual de alguien a quien quiere acosar”.

Con el paso de los meses también avanzó la tecnología y cada vez es más fácil crear estos videos falsos. Si bien los que tienen más repercusión son los de las grabaciones sexuales, también hay otros de políticos. Recientemente se popularizó uno en que aparece Barack Obama insultando al Presidente de Estados Unidos, Donald Trump. También hay casos más inofensivos como los cientos de videos del actor Nicholas Cage “protagonizando” impensadas películas.

Pornovenganza

Aunque inicialmente son las celebridades las principales víctimas, este fenómeno también puede afectar a personas anónimas. Lo peor de todo es que se está volviendo una herramienta más para la llamada pornovenganza.

De acuerdo a BBC Three, hay registro de casos que ya han llegado a la justicia. “En enero, un hombre australiano fue sentenciado a 12 meses de cárcel por usar Photoshop para superponer una imagen de la cara de su hijastra adolescente sobre imágenes de mujeres realizando actos sexuales, y ha habido casos similares en Reino Unido”, explican en el artículo.

¿Se puede detener esto?

A principios de febrero, tras estallar el video de Gal Gadot y otros similares, el sitio Pornhub anunció su prohibición. “El contenido no consentido viola directamente nuestras Condiciones del Servicio y se refiere a contenido como porno de venganza, deepfakes o cualquier cosa publicada sin el consentimiento o permiso de una persona”, detallan. Eso sí, la medida no se ha cumplido del todo. Aún hoy se puede acceder a videos falsos protagonizados por celebridades.

Twitter se sumó a no permitir este tipo de material audiovisual, ya que se difunde sin consentimiento de los involucrados, lo que va en contra de sus políticas de privacidad.

De regreso a Reddit

Posteriormente, Reddit también se manifestó y anunció un cambio en sus reglas de contenidos. “Hemos realizado dos actualizaciones a nuestra política de todo el sitio con respecto a la pornografía involuntaria y contenido sexual o sugerente que involucra a menores. Estas políticas se combinaron previamente en una sola regla; ahora serán divididos en dos distintos. Las comunidades se centraron en este contenido y los usuarios que publiquen dicho contenido serán excluidos del sitio”, anunciaron en el sitio.

El uso de imagen sin consentimiento para sea cual sea el fin y la proliferación de contenidos falsos son tareas pendientes que deben regular los sitios web, con medidas como las mencionadas. Pero, sobre todo, las regulaciones legales de cada país deberían ser la máxima garantía de protección de la privacidad, identidad e intimidad de las personas en la web.

Logo IDA
Investigamos las tendencias en proyectos y estrategias digitales para complementarlas con nuestra experiencia en artículos informativos. Nuestro objetivo es aportar al desarrollo del área, discutiendo la efectividad de las tecnologías y técnicas aplicadas.

Comentarios