El uso de Inteligencia Artificial no ha dejado de resultar controvertido. La gran capacidad de manipular imágenes ha llevado a generar multitud de confusiones, puesto que se trata de una tecnología que tiene una gran capacidad de generar creaciones hiperrealistas sin necesitar grandes conocimientos.
Por este motivo, precisamente, ha sido objeto de debate, especialmente por su empleo en la generación de informaciones falsas y la capacidad de alcance real entre los usuarios. Son de sobra conocidas algunas instantáneas precisamente creadas utilizando esta tecnología, como un supuesto arresto de Donald Trump, el Papa Francisco portando un plumífero blanco o a Vladímir Putin arrodillándose ante Xi Jinping durante un encuentro en Moscú.
De este modo, un usuario ha planteado a todos los usuarios en la red social X si, realmente, es fácil diferenciar una imagen manipulada por herramientas de Inteligencia Artificial respecto a una captura real. El debate rápidamente ha surgido.
Which of these two photos was generated by the S23 Ultra AI? pic.twitter.com/bcJQMs6gGt
— Sperandio4Tech (@ISAQUES81) April 14, 2024
En el post, que ya supera el medio millar de 'me gusta' y ha cosechado por el momento más de dos centenares de comentarios, el usuario incorpora dos instantáneas prácticamente iguales, aunque en una de ellas no aparece el elemento central. "¿Cuál de estas dos fotos fue generada por el S23 Ultra AI?" -herramienta de Inteligencia Artificial-.
Las redes arden en comentarios: ¿Cuál es la respuesta correcta?
El debate rápidamente ha incendiado las redes sociales y muchos usuarios se han lanzado a comentar: "Estoy sinceramente sorprendido por lo bien que funciona manipulando las sombras", ha expresado un usuario. "¿Ambas fotos?", se ha cuestionado otro.
Sin embargo, la respuesta real es que tan solo la imagen situada en la izquierda, en la que no aparece el elemento junto al hombre, está realmente manipulada con herramientas de Inteligencia Artificial. Por tanto, la captura sí se realizó con ese elemento situado en este lugar.
"La izquierda, las manos están distorsionadas", ha expresado un usuario. Otros usuarios se han percatado de que esta imagen, además, cuenta con el lago de la herramienta empleada en la parte inferior izquierda. "Es la izquierda, pero es obvio que sigue siendo muy impresionante el resultado", ha señalado otro usuario.
— Emma (@emmanuelRehbani) April 15, 2024
"La izquierda, pero solo porque lo estoy buscando bien", ha respondido otro usuario, que también ha recalcado la gran capacidad de engaño de esta tecnología. "Deberías haber puesto el logo de la aplicación en la foto equivocada para despistar a la gente en lugar de olvidarte de quitarlo de la foto correcta", ha bromeado otro usuario.
Uh oh pic.twitter.com/Ra7QuUADYH
— TALOOOLY (@TALOOOLYC00KIE) April 15, 2024
Una legislación europea para la IA
La Unión Europea ha diseñado una legislación pionera para regular el uso de la Inteligencia Artificial dentro de su territorio. El acuerdo alcanzado en diciembre de 2023 bajo la presidencia española de la UE prohíbe los usos que puedan suponer un "riesgo inaceptable". Se trata de los sistemas de puntuación social y la manipulación cognitiva de los grupos vulnerables. Además, contempla límites en el uso de esta tecnología en aplicaciones, que varían en función de las consecuencias que implican.
La norma prevé su implantación completa en 2026-2027 y ha evidenciado los criterios de los países. Austria, por ejemplo, ha expresado reticencias al empleo de sistemas intensivos que puedan invadir la privacidad de los ciudadanos, como el reconocimiento facial desde las autoridades. Francia, por su parte, busca un marco legislativo menos laxo para desarrollar una industria europea alrededor de esta tecnología y reducir las cargas burocráticas, en línea con el sector.
