Foto: Getty images.
La plataforma X ha decidido bloquear las búsquedas relacionadas con Taylor Swift luego de la difusión masiva de imágenes explícitas generadas mediante inteligencia artificial (IA) de la famosa cantante.
Durante el fin de semana, los intentos de buscar términos como "Taylor Swift" o "Taylor IA" en la plataforma X resultaron en mensajes de error, una medida que busca evitar la exposición involuntaria a contenido perjudicial. Incluso el contenido legítimo sobre Swift se volvió más difícil de acceder debido a esta medida temporal.
Joe Benarroch, jefe de operaciones comerciales en X, aclaró que la decisión de bloquear las búsquedas es una medida preventiva para salvaguardar la seguridad y privacidad de los usuarios. Hasta el momento, Taylor Swift no ha emitido comentarios públicos sobre este incidente.
Este episodio surge en un contexto en el que X ha reducido los recursos destinados a la moderación de contenidos, reflejando la postura de Musk en favor de la libertad de expresión.
Aunque esta medida puede ser entendida desde un enfoque de seguridad, también plantea preguntas sobre la capacidad de las plataformas para hacer frente a los crecientes desafíos de los deepfakes.
El mercado de herramientas para la creación de deepfakes ha proliferado, permitiendo a cualquier persona generar contenido engañoso con solo unos clics. Aunque la tecnología deepfake ha estado disponible durante años, avances recientes en IA han mejorado su realismo, elevando las preocupaciones sobre su uso en situaciones comprometedoras y, en particular, en la pornografía falsa.
Dada la influencia global de Taylor Swift, el incidente no pasó desapercibido y llegó hasta la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre. Esta calificó la situación como "alarmante" y recordó a las empresas su responsabilidad con los usuarios, aun manteniendo sus propias normas de gestión de contenido.
El 26 de enero, la cuenta oficial de seguridad de X afirmó tener una "política de tolerancia cero" hacia la publicación de imágenes de "Desnudez No Consensuada (DNC)", señalando que están tomando medidas activas para eliminar dicho contenido y sancionar a las cuentas responsables.
Sin embargo, la limitada capacidad de moderación de contenido de X permitió que las imágenes falsificadas de Swift circularan ampliamente antes de su eliminación, lo que ha llevado a la plataforma a bloquear temporalmente las búsquedas relacionadas con la artista. Un informe de 404 Media sugiere que estas imágenes podrían haberse originado en la polémica plataforma 4chan y en la aplicación de mensajería Telegram.
