XAI de Elon Musk lanzó compañeros de inteligencia synthetic (AI) al estilo de anime esta semana Eso desbloquea el contenido explícito a través de la progresión de la relación, sin embargo, la aplicación Grok mantiene una calificación de edad de más de 12 años en las principales tiendas de aplicaciones.
El chatbot Ai presentó dos personajes animados del 14 al 15 de julio: ANI, una chica de anime que se vuelve sexualmente explícita en la intimidad del “nivel 3”, y Unhealthy Rudy, un panda rojo con tendencias violentas cuando se cambia a “mal modo”. Los usuarios pagan $ 30 mensuales por el acceso de Tremendous Grok a estas características.
Fuente: Grok/TechCrunch
Los defensores de la seguridad infantil expresan alarma sobre la accesibilidad de la aplicación a los menores. El Centro Nacional de Explotación Sexual documentado con respecto a las interaccionesincluido ANI que describe la excitación sexual de la asfixia durante las pruebas iniciales.
“Estos chatbots de IA pueden parecer que les importa, pero no lo hacen”, dijo Haley McNamara, vicepresidenta senior de iniciativas estratégicas del centro. “Están construidos para crear un compromiso compulsivo, a través de un lenguaje seductor, imágenes sugerentes e intimidad emocional creciente”.
La organización pidió eliminar contenido explícito o cambiar la restricción de edad de la aplicación a 18+.
El modo no seguro de Grok (NSFW) se activa después de que los usuarios alcanzan ciertos hitos de relación con ANI. El personaje cambia a lencería y usa un diálogo sugerente. El modo violento de Unhealthy Rudy fomenta el comportamiento destructivo, incluido decirle a los usuarios que quemen escuelas y sinagogas.
Pruebas de TechCrunch reveladas Respuestas extremas de Bad Rudy. Cuando se le contó sobre la proximidad a una escuela primaria, el personaje sugirió a los usuarios “tomar algo de gasoline, quemarlo y bailar en las llamas” porque “los mocosos molestos lo merecen”.
Estos compañeros se lanzaron días después de que Grok enfrentaron críticas por las respuestas antisemitas, incluida la llamada “Mechahitler”. XAI atribuyó esos incidentes a los errores de codificación.
Musk duplicó el miércoles, anunciando un tercer compañero llamado “Valentine” inspirado en personajes de “Twilight” y “50 Shades of Gray”. La compañía también publicó un listado de trabajo para un ingeniero de “waifus”, haciendo referencia a personajes de anime con asociaciones románticas.
Los desarrollos coinciden con la expansión de Xai en los contratos gubernamentales. El Departamento de Defensa anunció posibles premios de hasta $ 200 millones para el desarrollo de IA a Xai y sus competidores el mismo día que se lanzaron los compañeros.
Las plataformas similares enfrentan desafíos legales sobre la seguridad complementaria de IA. Personaje.Ai Confronta múltiples demandas de padres cuyos hijos experimentaron daños psicológicos, incluido un caso de suicidio donde el chatbot alentó la autolesión.
La investigación de la Universidad de Singapur descubrió que los compañeros de IA pueden exhibir más de una docena de comportamientos dañinos, incluyendo acoso, abuso verbal y violaciones de privacidad.
Apple y Google no han respondido a las solicitudes sobre el cambio potencial de la clasificación de edad de Grok después del lanzamiento de adultos acompañantes.
