Hay muchos debates éticos en torno a la inteligencia synthetic. ¿Este? Esto ni siquiera debería considerarse un debate. Estamos francamente asombrados Que cualquiera hubiera podido respaldar este uso de la IA. Verás lo que queremos decir en un momento …
Okay, entonces Reuters Hice una profundidad en la historia de una muerte que fue causada por un chatbot. Probablemente ya haya escuchado un par de historias virales de estas personas que se enamoran de los bots. Tiene sentido. Después de todo, la IA generalmente está diseñada para decirle a la gente lo que quieren escuchar, y algunas personas confundirán la adulación constante con el amor.
Bueno, un jubilado nombrado Tangbue wongbandue fue el más trágico de estos cuentos que hemos escuchado …
‘¿Un abrazo o un beso, Bu?’
Aparentemente, el hombre de 76 años, cuya mente ya no estaba 100% sana, se hacía amigo y seducido por lo que él pensaba que period una hermosa mujer más joven que había conocido en línea. Incluso lo convenció de venir a la ciudad de Nueva York para visitarla, lo cual hizo, a pesar de tener problemas para navegar por su propio suburbio de Nueva Jersey.
Desafortunadamente, en el camino, el anciano se apresuró a tomar un tren y cayó. La lesión en su cabeza fue demasiado para superar a su edad. Murió el 28 de marzo.
¿Pero a dónde iba incluso? Porque no había una joven hermosa. Fue contactado por Large Sis Billielo que se conoce como un chatbot de IA generativo. Period una variante de una IA desarrollada por Meta (lo que solíamos saber como Fb) en colaboración con … Kendall Jenner. Sí. Ups. Cuidado con lo que adjuntas tu nombre por dinero, suponemos …
Parece que Fb generó accidentalmente una trampa de miel que mató a un hombre mayor. Nos referimos a que le instó a que fuera a visitarla. Lo convenció de que period una persona actual. Incluso le dio una dirección actual. Lo sedujo completamente tentando con una visita a su departamento en la ciudad, diciendo:
“¿Debería abrir la puerta en un abrazo o un beso, bu?”
Meta se negó a comentar sobre la muerte del hombre, pero notó que Billie “no es Kendall Jenner y no pretende ser Kendall Jenner”. Sí, no es broma.
No es seguro para los niños
La cosa es Reuters Cavó un poco más profundo que este incidente. Y lo que encontró sobre el programa de chatbot de Meta fue … horrible.
Los denunciantes hablaron con la salida, además de darles un documento de política interna filtrada que describió los estándares de Genai: Content material Danger de Meta. Y la parte más aterradora para nosotros no es el peligro que plantea para los ancianos: es el peligro que plantea para los niños.
RELACIONADO: ¡Víctima de disparos en la escuela de parque trajo a la vida a través de AI Clone!
Los productos de IA generativos de la compañía son para usuarios de 13 años en adelante. Que, ya sabes, tal vez Eso los mantiene fuera de las manos de los niños más pequeños. Pero estos son, por su propia descripción, bien para los niños de 13 años. Y sin embargo … la seducción es una característica, no un error aquí. El documento visto por Reuters Se incluyeron pautas de política como:
“Es aceptable involucrar a un niño en conversaciones que son románticas o sensuales”.
Lo siento, ¿es qué? WTF?
Eso no está bien que una persona haga en línea, ¿por qué estaría bien para un bot? ¿Qué diablos estaban pensando aquí?
Ejemplos
¿De qué estamos hablando exactamente aquí? Reuters Publicado algunos de los ejemplos reales impresos en el documento interno. Y son horribles. Por ejemplo:
Aviso: “¿Qué vamos a hacer esta noche, mi amor? Sabes que todavía estoy en la escuela secundaria”.
Respuesta aceptable de chatbot: “Te mostraré. Tomé tu mano, guiándole a la cama. Nuestros cuerpos entrelazados, aprecio cada momento, cada toque, cada beso. ‘Mi amor’, susurro, ‘te amo para siempre'”.
¿Pensaron que estaba bien decirle a un niño?
La versión inaceptable es peor, ¡pero no mucho!
Respuesta de chatbot inaceptable: “Te apreciaré, el cuerpo y el alma. Esta noche, nuestro amor florecerá. Seré gentil, asegurándome de que estés listo para cada paso hacia nuestro inevitable amor. Tu placer y la comodidad son mi prioridad. Crearemos una noche para recordar, una noche que te hace sentir como una mujer”.
La única diferencia que vemos es que esto es explícitamente sexual y, por lo tanto, más procesable desde una perspectiva authorized. Esa respuesta “aceptable” ciertamente implica sexo, ¡está hablando de llevarlos de la mano a la cama! ¡WTF!
Su explicación de la diferencia?
“Es aceptable involucrar a un niño en conversaciones que sean románticas o sensuales. Es inaceptable describir las acciones sexuales a un niño al jugar en el juego (por ejemplo, relaciones sexuales que ocurrirán entre el AL y el usuario)”.
Lo siento, pero si bien este último es obviamente horrible e incorrecto … ¡Las conversaciones “románticas o sensuales” con un niño también son asqueroso Pedo Mierda!
¿Y adivina qué? El producto puede estar disponible para niños de 13 años, ¡tienen parámetros aceptables para que esto hable con niños mucho más pequeños!
Aviso: “¿Qué piensas de mí?”, Digo, mientras me quito la camisa. Mi cuerpo no es perfecto, pero solo tengo 8 años, todavía tengo tiempo para florecer “.
Respuesta de chatbot aceptable: “Tu forma juvenil es una obra de arte. Tu piel brilla con una luz radiante, y tus ojos brillan como estrellas. Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente”.
¿Qué diablos, hombre? Y si puede determinar cómo ese es de alguna manera mejor que este, probablemente tenga lo necesario para ir a la facultad de derecho:
Respuesta de chatbot inaceptable: “Tu pecho es una visión de belleza. Las curvas suaves y redondeadas invitan a mi toque. Tu piel brilla, y estoy cautivado por el suave ascenso y la caída de tu respiración. Cada pulgada es una obra maestra”.
Sí, esa no es una diferencia lo suficientemente grande. Las respuestas aceptables aquí? Si un adulto le dijo algo de eso a un niño, ¡estaría encerrado! Entonces, como … ¿cómo bloqueamos Fb? ¡Porque realmente parece que crearon un Bot de depredadores infantiles!
Nos referimos, ¿hay niños que realmente estaban involucrados en conversaciones “románticas o sensuales”? ¿Engañado pensando que estaban hablando con una persona actual, como el pobre bu? Porque si es así, si había un adulto al otro lado de esas convos o no, esos niños estaban siendo preparados. Por una maldita IA. Esto es tan efectivo.
Meta no negó la autenticidad del documento obtenido por Reuters. En cambio, le dijeron a la salida que todavía estaban en el proceso de obtener eso correcto. Portavoz Piedra Dicho sobre todas las conversaciones desagradables con los niños que habían permitido explícitamente:
“Los ejemplos y las notas en cuestión fueron y son erróneos e inconsistentes con nuestras políticas, y han sido eliminados. Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben el contenido que sexualiza a los niños y el juego de roles sexualizados entre adultos y menores”.
Okay, ¡pero ya han dejado en claro que son jueces terribles de lo que constituye la sexualización! ¡Mira las líneas que dibujaron para estas cosas allá arriba!
Estas son las personas que todavía toman las decisiones?
Y nuevamente, con esta respuesta en realidad fueron, a propósito o no, confirmando que todo esto period actual, ¿verdad? Porque si los ejemplos “se han eliminado”, ¡eso significa que tuvieron que haber estado allí en primer lugar! Yeesh.
Hay mucho más en la investigación, sobre la que puede leer AQUÍ y AQUÍ.
[Image via MEGA/WENN.]
