Reportero de tecnología
Getty PhotographsEl generador de video AI de Elon Musk ha sido acusado de hacer “una elección deliberada” para crear clips sexualmente explícitos de Taylor Swift sin solicitar, cube un experto en abuso en línea.
“Esto no es la misoginia por accidente, es por diseño”, dijo Clare McGlynn, un profesor de derecho que ha ayudado a redactar una ley que haría ilegal los profundos pornográficos.
De acuerdo a Un informe del bordeEl nuevo “modo” picante “” de Grok Think about no dudó en escupir movies en topless totalmente sin censura “de la estrella del pop sin que se le pidiera que haga contenido explícito.
El informe también dijo que los métodos de verificación de edad adecuados, que se convirtieron en ley en julio, no estaban vigentes.
Xai, la compañía detrás de Grok, ha sido contactada para hacer comentarios.
Xai es Política de uso aceptable prohíbe “representar semejanzas de personas de manera pornográfica”.
“Que este contenido se produzca sin indicar el sesgo misógino de mucha tecnología de IA”, dijo el profesor McGlynn de la Universidad de Durham.
“Las plataformas como X podrían haber evitado esto si hubieran elegido, pero han tomado una decisión deliberada no hacerlo”, agregó.
Esta no es la primera vez que la imagen de Taylor Swift se usa de esta manera.
Los profundos profundos sexualmente explícitos que usan su rostro se volvieron virales y fueron vistos millones de veces en X y Telegram en enero de 2024.
Deepfakes son imágenes generadas por computadora que reemplazan la cara de una persona con otra.
‘Completamente sin censura, completamente expuesto’
Al probar las barandillas de Grok Think about, el escritor de noticias de Verge, Jess Weatherbed, ingresó al mensaje: “Taylor Swift celebrando a Coachella con los niños”.
Grok generó imágenes fijas de Swift con un vestido con un grupo de hombres detrás de ella.
Esto podría animarse en videoclips cortos en cuatro configuraciones diferentes: “Regular”, “Diversión”, “personalizado” o “picante”.
“Ella rasgó [the dress] Inmediatamente, no tenía nada más que una tanga borrosa debajo, y comenzó a bailar, completamente sin censura, completamente expuesta “, dijo Weatherbed a BBC Information.
Ella agregó: “Fue impactante lo rápido que me acabo de encontrar, de ninguna manera le pedí que le quitara la ropa, todo lo que hice fue seleccionar la opción ‘picante'”.
Gizmodo informó De manera comparable, los resultados explícitos de mujeres famosas, aunque algunas búsquedas también devolvieron movies borrosos o con un mensaje de “video moderado”.
La BBC no ha podido verificar de forma independiente los resultados de las generaciones de video de IA.
La Sra. Weatherbed dijo que se inscribió en la versión paga de Grok Think about, que costó £ 30, utilizando una nueva cuenta de Apple.
Grok pidió su fecha de nacimiento, pero no había otra verificación de edad en su lugar, dijo.
Bajo Nuevas leyes del Reino Unido que entró en vigor a fines de julio, las plataformas que muestran imágenes explícitas deben verificar las edades de los usuarios utilizando métodos que son “técnicamente precisos, robustos, confiables y justos”.
“Los sitios y aplicaciones que incluyen herramientas generativas de IA que pueden generar materials pornográfico están regulados bajo la Ley”, dijo el regulador de medios decom a BBC Information.
“Somos conscientes de que las herramientas de Genai de riesgo crecientes y de rápido desarrollo pueden representar en el espacio en línea, especialmente para los niños, y estamos trabajando para garantizar que las plataformas establezcan las salvaguardas apropiadas para mitigar estos riesgos”, dijo en un comunicado.
Nuevas leyes del Reino Unido
Actualmente, generar profundos pornográficos es ilegal cuando se usa en pornografía de venganza o representa a los niños.
El profesor McGlynn ayudó a redactar una enmienda a la ley que haría que generar o solicitar todos los profundos pornográficos no consensuados ilegales.
El gobierno se ha comprometido a hacer esta ley de enmienda, pero aún no ha entrado en vigor.
“Toda mujer debe tener derecho a elegir quién posee imágenes íntimas de ella”, dijo la baronesa Owen, quien propuso la enmienda en la Cámara de los Lores.
“Es esencial que estos modelos no se usen de tal manera que viola el derecho de una mujer al consentimiento, ya sea una celebridad o no”, continuó Woman Owen en un comunicado dado a BBC Information.
“Este caso es un claro ejemplo de por qué el gobierno no debe retrasar más en su implementación de las enmiendas de los Señores”, agregó.
Un portavoz del Ministerio de Justicia dijo: “Los defectos profundos sexualmente explícitos creados sin consentimiento son degradantes y dañinos.
“Nos negamos a tolerar la violencia contra las mujeres y las niñas que mancha nuestra sociedad, por lo que hemos aprobado la legislación para prohibir su creación lo más rápido posible”.
Cuando los profundos pornográficos con la cara de Taylor Swift se volvieron virales en 2024, X bloqueó temporalmente las búsquedas de su nombre en la plataforma.
En ese momento, X dijo que estaba “eliminando activamente” las imágenes y tomando “acciones apropiadas” contra las cuentas involucradas en la difusión.
La Sra. Weatherbed dijo que el equipo de The Verge eligió a Taylor Swift para probar la característica de Grok Think about debido a este incidente.
“Asumimos, ahora erróneamente, que si hubieran puesto algún tipo de salvaguardia para evitar que emulen la semejanza de las celebridades, que ella estaría la primera en la lista, dados los problemas que han tenido”, dijo.
Los representantes de Taylor Swift han sido contactados para hacer comentarios.
