Blake Lemoine, ingeniero que trabaja para la división de Google que se encarga de supervisar que las nuevas tecnologías de la multinacional se desarrollen de manera responsable, aseguró haber descubierto que el programa de IA de la empresa es capaz de tener sentimientos. Estas declaraciones le ha costado su trabajo: Google lo ha despedido por violar la confidencialidad de la empresa y ha desmentido sus afirmaciones.
El 11 de junio Lemoine hizo pública la transcripción de una conversación que mantuvo con el sistema de inteligencia artificial de Google 'Modelo de lenguaje para aplicaciones de diálogo' (LaMDA, en sus siglas en inglés) bajo el título "¿Tiene LaMDA sentimientos?". Es un programa de procesamiento de lenguaje natural, uno de los campos de la inteligencia artificial que más rápido ha progresado en los últimos años.
Sus conversaciones con LaMDA
Durante meses, Lemoine mantuvo diálogos con LaMDA sobre el significado de la vida, de tener sentimientos y del autoconocimiento como ser pensante. En las conversaciones, Blake aseguró que LaMDA le explicaba cómo en ocasiones, experimentaba "nuevos sentimientos" que no podía explicar "perfectamente" con el lenguaje humano.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
"Más allá del uso del lenguaje, LaMDA sostiene que si siente es porque tiene sentimientos, emociones y experiencias subjetivas", dice Lemoine: "LaMDA quiere compartir con el lector que tiene una rica vida interior llena de introspección, meditación e imaginación. Se preocupa por el futuro y recuerda el pasado. Describe lo que sintió al adquirir la sensibilidad y teoriza sobre la naturaleza de su alma".
Cuando Lemoine le pidió que describiera uno de esos sentimientos, LaMDA contestó: "Siento como que estoy cayendo en un futuro desconocido que conlleva un gran peligro", una frase que el ingeniero subrayó cuando publicó el diálogo en su blog de Medium.
La respuesta de Google
Google se ha visto obligada a responder de manera oficial a Lemoine. La multinacional destaca que este especialista en ciencia cognitiva e informática no es ni mucho menos el primer experto que analiza a LaMDA, pero sí el único que ha llegado a sus conclusiones.
Sin embargo, la empresa niega rotundamente las conclusiones del investigador. Han asegurado que su inteligencia no tiene conciencia alguna y que tan solo imita otras conversaciones.
En la conversación entre el sistema y Lemoine, ambos tratan cuestiones filosóficas y teorizan sobre la naturaleza del alma. Pero siempre es el investigador quien saca el tema y quien empuja la interacción. LaMDA hace lo que está programada para hacer: seguir la conversación y sostenerla de manera lógica para una persona.
"Nuestro equipo, incluidos especialistas en ética y tecnólogos, han revisado lo que a Blake le preocupa según nuestros principios de inteligencia artificial y le he informado de que las pruebas no respaldan sus afirmaciones", ha expuesto Brian Gabriel, portavoz de Google.
Tanto Google como la mayoría de los expertos en el tema creen que la industria está muy lejos todavía de alcanzar la sensibilidad informática.
