La Inteligencia Artificial sigue siendo uno de los mayores avances del siglo XXI, pero también puede suponer un enorme peligro. Algunos expertos así lo sostienen al asegurar que esta tecnología va a tener una importancia parecida a la de Internet, mientras que otros apuntan que puede llegar a ser una herramienta muy dañina.
Durante los últimos meses, se ha comprobado que algunas personas utilizan los sistemas de IA con el objetivo de crear imágenes comprometidas, como ya ocurrió en su momento con las jóvenes de Almendralejo o las protestas públicas de Rosalía y Laura Escanes.
A esta lista se suma ahora la cantante estadounidense Taylor Swift, y es que se han hecho virales diversas publicaciones en la plataforma X (antes Twitter) en las que se muestra a la artista de una forma muy explícita. De hecho, una de estas imágenes ha llegado a acumular más de 45 millones de visitas, 24.000 retuits y miles de 'likes' antes de proceder al cierre de la cuenta del usuario por incumplir las normas de la red social.
Fueron 17 horas las que tardó la publicación en ser retirada, lo que contribuyó a que multitud de usuarios comenzasen a hablar del asunto y, otros muchos, descargasen y compartiesen las imágenes desde otras cuentas, por lo que el contenido generado por la IA seguía visible en la plataforma.
No es sorpresa para nadie saber que X (Twitter) ha sido siempre una de las redes sociales en las que más imágenes y vídeos explícitos podían aparecer. Es más, en sus propia política solo se hace mención a la desnudez no consensuada: "No puedes postear ni compartir fotos o vídeos íntimos de una persona que se produjeron o distribuyeron sin su consentimiento". A pesar de que este es el caso de la cantante, al tratarse de un acontecimiento tan viral no está resultando nada sencillo controlar las publicaciones.
¿De dónde proceden las fotografías?
Un informe de 404 Media revela que las imágenes modificadas por la Inteligencia Artificial de la cantante norteamericana podrían tener su origen en un grupo de la plataforma Telegram. Los expertos afirman que los usuarios que se encuentran en este comparten publicaciones sexualmente explícitas de mujeres desarrolladas por la IA, en muchas ocasiones elaboradas con Microsoft Designer.
De hecho, parece ser que los miembros del grupo de Telegram se jactaron de que las fotografías de Taylor Swift se hayan hecho virales en X, algo que da a pensar que los responsables de la creación de las mismas fueron ellos
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely...
— Safety (@Safety) January 26, 2024
La famosa red social aún no ha hecho ninguna declaración concreta en el caso de la cantante, aunque sí se han referido a la publicación del contenido pornográfico sin consentimiento, señalando que "la publicación de imágenes de desnudos no consentidos está estrictamente prohibida en X teniendo una política de tolerancia cero hacia dicho contenido".
"Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando medidas apropiadas contra las cuentas responsables de publicarlas. Estamos monitoreando de cerca la situación para asegurar que cualquier otra infracción se aborde inmediatamente y el contenido sea eliminado. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios", expone la red social.
Los fans de Taylor Swift han criticado enormemente a la aplicación al considerar que han tardado demasiado tiempo en eliminar las publicaciones con imágenes falsas. Como respuesta a lo sucedido y muestra de apoyo, están utilizando los hashtags en los que se incluía el contenido explícito con vídeos reales de la arista actuando.
