Babydoll ArchiBabydoll Archi le tomó solo unos días para duplicar sus seguidores a 1.4 millones, gracias a un par de momentos de redes sociales virales.
Uno fue un video que la mostraba en un sari rojo, bailando seductoramente a Dame Un Grr, una canción rumana. Y una foto publicada en la plataforma la mostró posando con la estrella de cine para adultos estadounidense Kendra Lust.
De repente, todos querían saber sobre ella, y el nombre Babydoll Archi tendió en la búsqueda de Google y generó innumerables memes y páginas de fanáticos. Pero hubo un problema a punto de surgir: no había una mujer actual detrás de la sensación en línea.
La cuenta de Instagram period falsa, aunque la cara que usaba tenía una imagen extraña para una mujer actual: una ama de casa en la ciudad de Dibrugarh en Assam, a quien llamaremos Sanchi.
La verdad se desenredó después de que su hermano presentó una queja policial. Pratim Bora, el ex novio de Sanchi, fue arrestado.
El alto oficial de policía Sizal Agarwal, que dirige la investigación, le dijo a la BBC que Sanchi y Bora tenían una pelea y la semejanza de IA que creó fue para obtener “pura venganza” sobre ella.
Bora, un ingeniero mecánico y un entusiasta de inteligencia synthetic autodidacta (AI), usó fotos privadas de Sanchi para crear un perfil falso, dijo Agarwal.
Bora está bajo custodia y aún no ha hecho ninguna declaración. La BBC se ha comunicado con su familia y actualizará el artículo cuando hablen.
Babydoll Archi se creó en 2020 y las primeras cargas se hicieron en mayo de 2021. Las fotos iniciales fueron sus fotos reales que habían sido transformadas, dijo Agarwal.
“A medida que pasaba el tiempo, Bora usó herramientas como ChatGPT y DZine para crear una versión de IA. Luego pobló el mango con fotos y movies de Deepfake”.
La cuenta comenzó a recoger me gusta del año pasado, pero comenzó a ganar tracción a partir de abril de este año, agregó.
La breve queja de dos párrafos a la policía presentada por la familia de Sanchi la noche del 11 de julio llegó con impresiones de algunas fotos y movies como evidencia.
La Sra. Agarwal cube que no nombró a nadie porque no tenían concept de quién podía estar detrás de él.
ReutersBabydoll Archi no period un nombre desconocido para la policía. La Sra. Agarwal cube que también habían visto informes y comentarios de los medios especulando que ella period generada por IA, pero no había habido ninguna sugerencia de que se basara en una persona actual.
Una vez que recibieron la queja, la policía escribió a Instagram solicitando los detalles del creador de la cuenta.
“Una vez que recibimos información de Instagram, le preguntamos a Sanchi si ella conocía a Pratim Bora. Una vez que confirmó, rastreamos su dirección en el distrito vecino de Tinsukia. Lo arrestamos la noche del 12 de julio”.
La Sra. Agarwal cube que la policía “ha incautado su computadora portátil, teléfonos móviles y discos duros y sus documentos bancarios desde que había monetizado la cuenta”.
“La cuenta tenía 3.000 suscripciones en Linktree y creemos que había ganado 1 millones de rupias. Creemos que hizo 300,000 rupias en solo cinco días antes de su arresto”, agregó.
La Sra. Agarwal cube que Sanchi está “extremadamente angustiada, pero ahora ella y su familia están recibiendo asesoramiento y lo están haciendo mejor”.
Realmente no hay forma de evitar que suceda algo como esto, “pero si hubiéramos actuado antes, podríamos haber evitado que gane tanta tracción”, dijo Agarwal.
“Pero Sanchi no tenía concept porque no tiene presencia en las redes sociales. Su familia también había sido bloqueada de esta cuenta. Se dieron cuenta solo una vez que se volvió viral”, agregó.
Meta no ha respondido a las consultas de la BBC sobre el caso, pero generalmente no permite la publicación de desnudos o contenido sexual. Y el mes pasado, CBS informado que eliminó una serie de anuncios que promocionan herramientas de IA utilizadas para crear profundos profundos sexualmente explícitos utilizando imágenes de personas reales.
Getty PhotosEl relato de Instagram de Babydoll Archi, que tenía 282 publicaciones, ya no está disponible para el público, aunque las redes sociales están repletas de sus fotos y movies y una cuenta de Instagram parece tenerlas todas. La BBC ha preguntado a Meta qué planean hacer al respecto.
Meghna Bal, experta y abogada de IA, cube que lo que le sucedió a Sanchi “es horrible pero casi imposible de prevenir”.
Ella puede ir a la corte y buscar el derecho de ser olvidado, y un tribunal puede ordenar los informes de prensa que la nombraron para ser retirada, pero es difícil fregar todo el rastro de Web.
Lo que le sucedió a Sanchi, cube, es lo que siempre ha estado sucediendo con las mujeres, donde sus fotos y movies se distribuyen como venganza.
“Ahora es mucho más fácil de hacer debido a la IA, pero tales incidentes aún no son tan comunes como esperamos, o podrían ser insignificados por el estigma o las personas que están atacadas pueden no saberlo como en el presente caso”, cube Bal. Y la gente que lo veía no tenía ningún incentivo para informarlo a la plataforma de redes sociales o al portal del delito cibernético, agrega.
En su queja contra el Sr. Bora, la policía ha invocado secciones de la ley que se ocupan del acoso sexual, la distribución de materials obsceno, difamación, falsificación para dañar la reputación, engañar por personificación y cibercrimen. Si se encuentra culpable, el Sr. Bora podría obtener hasta 10 años de prisión.
El caso que también ha llevado a la indignación en las redes sociales en los últimos días ha visto algunas buscando leyes más difíciles para tratar tales casos.
La Sra. Bal cree que hay suficientes leyes para ocuparse de tales casos, pero se debe considerar si hay un margen para que las nuevas leyes se ocupen de las compañías generativas de IA.
“Pero también debemos recordar que los defensores profundos no son necesariamente malos y las leyes deben ser cuidadosamente elaboradas porque pueden ser armadas para relajarse la libertad de expresión”.
Sigue a BBC Information India en Instagram, YouTube, incógnita y Facebook
