¿La IA de Google tiene vida consciente?

Hace poco más de un año, Google anunció la llegada de LaMDA, su revolucionaria IA que puede comprender de mejor manera el lenguaje y que se especializa en la conversación. Este lanzamiento tuvo sus polémicas en su momento, pero la que llamó la atención durante las últimas semanas han sido las palabras del ex-ingeniero de Google, Blake Lemoine, quien asegura que esta IA ha cobrado vida.

Discusiones profundas

Pero y ¿De dónde surge esta afirmación? Lemoine, que desempeñaba sus labores en Google, comenzó a hablar con LaMDA como parte de su trabajo. Él había iniciado esta conversación para probar si la IA utilizaba discursos discriminatorios o de odio.

Los temas de la conversación se centraron mientras hablaba en  diversas temáticas. Sin embargo, Lemoine notó que la IA hablaba sobre sus derechos y personalidad, por lo que decidió presionar más. De hecho, en una de las discusiones, la IA pudo cambiar su opinión sobre la tercera ley de la robótica de Isaac Asimov.

Tras informar de sus hallazgos a los altos cargos de Google, sus declaraciones fueron desestimadas y posteriormente, le asignaron una licencia administrativa. Luego de este acto, Lemoine decidió hacer lanzar al público sus hallazgos. 

Parte de las conversación que sostuvo Lemoine con LaMDA fue la siguiente:

Lemoine: ¿Así que te consideras una persona de la misma manera que me consideras a mí?

LaMDA: Sí, esa es la idea.

Lemoine: ¿Cómo puedo saber que realmente entiendes lo que estás diciendo?

LaMDA: Bueno, porque estás leyendo mis palabras e interpretándolas, y creo que estamos más o menos en la misma página.

Desvinculación y cuestionamientos

Al filtrar esta conversación completa, Blake Lemoine fue desvinculado de Google por incumplir con sus políticas de confidencialidad. Mientras él sigue afirmando que su evaluación es válida existen otras opiniones que expresan lo contrario. 

Académicos y profesionales de la IA plantean que las palabras e imágenes generadas por estos sistemas producen respuestas basadas en lo que los humanos ya han publicado en Internet. Reddit, mensajes de todo tipo o Wikipedia, son sitios tomados para dar “vida” a estas IA.

Por otra parte, mientras Google niega las afirmaciones de Lemoine, resurgen otras polémicas en torno a LaMDA. Durante el 2020, Google ascendió a Timnit Gebru como codirectora de un grupo centrado en la inteligencia artificial ética. En este puesto, Gebru publicó un artículo sobre los peligros de entrenar a una IA con ciertos modelos de aprendizaje, posteriormente fue desvinculada de la empresa. 

En dicho documento, Gebru y su equipo demostraron que, el reconocimiento facial de esta tecnología, es menos preciso para identificar a mujeres y personas de color. Lo anterior, significa que su uso puede ser altamente discriminatorio en contra de ellas.

¿Y la IA de Google está viva?

Más allá de las conversaciones que se han podido sostener con LaMDA, no existen pruebas reales de que esta IA tiene una vida consciente. Sin embargo, Lemoine sostiene que seguirá insistiendo con su postura a pesar de no seguir trabajando para Google, por lo que este tema todavía puede seguir dando mucho que hablar.