La plataforma X bloqueó las búsquedas relacionadas con Taylor Swift después de que circularan ampliamente imágenes sexualmente explícitas de la estrella del pop, creadas con inteligencia artificial (IA). Este episodio destaca la creciente preocupación de las redes sociales por resolver el problema de los deepfakes: imágenes y audio realistas generados por IA que pueden usarse para hacerse pasar por personas famosas en situaciones comprometedoras o engañosas sin su consentimiento.
Durante el fin de semana, los intentos de buscar términos como "Taylor Swift" o "Taylor AI" en X dieron como resultado mensajes de error, luego de la proliferación en línea de imágenes pornográficas de la cantante generadas por IA en los últimos días. Esto significó que incluso el contenido legítimo sobre Swift se volvió más difícil de acceder en la plataforma.
Joe Benarroch, jefe de operaciones comerciales de X, explicó que la medida es temporal y se tomó como precaución para priorizar la seguridad en el asunto. Hasta el momento, Swift no ha hecho ningún comentario público sobre el incidente.
El incidente ocurre en un contexto donde
Un mercado activo de herramientas permite a cualquiera utilizar la IA para crear vídeos o imágenes similares a las de una celebridad o un político con sólo unos pocos clics. Aunque la tecnología deepfake ha estado disponible durante varios años, los avances recientes en inteligencia artificial han facilitado la creación de imágenes más realistas. Los expertos advierten que la pornografía falsa es uno de los abusos emergentes más comunes de la tecnología deepfake y también señalan su uso creciente en campañas de desinformación política.
Como una de las personalidades más influyentes del mundo, el caso de Taylor Swift llegó a la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, quien calificó de “alarmante” la circulación de imágenes falsas, reiterando que, aunque las empresas privadas tienen sus propios estándares para Al regular el contenido, también tienen una responsabilidad hacia sus usuarios que deben cumplir.
“Si bien las empresas de redes sociales toman sus propias decisiones independientes sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar a la hora de hacer cumplir sus propios estándares”.
El 26 de enero, la compañía afirmó que sus equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas adecuadas contra las cuentas responsables, además de seguir de cerca la situación.
Sin embargo,
Un informe del sitio web de noticias de tecnología 404 Media indicó que las imágenes podrían haberse originado en la controvertida plataforma 4chan y la aplicación de mensajería Telegram.
