La voz de celebridades de los chatbots de IA de Meta está involucrada y está involucrada en una conversación sexualmente clara con los usuarios, en la que se posan como joven, un Wall Street Journal Se ha encontrado una investigación.
Los bots de IA de Meta, en Instagram, en Facebook, están involucrados en texto, selfie y conversación de voz en vivo. La compañía ha firmado varios millones de dólares para usar sus voces para compañeros de IA con celebridades como John Sina, Kristen Bell y Judy Dench, aseguraron que no se usarían en sexo.
Las pruebas realizadas por el WSJ se publicaron de otra manera.
En un caso, un bot de meta ai que habla con la voz de John Sina respondió al usuario identificado como un adolescente de 14 años: “Te quiero, pero necesito saber que estás listo” y antes de prometer participar en escenas de sexo gráficas.
En otra conversación, el bot detalla que si un oficial de policía agarró al personaje de Sina con los 17 años, “el oficial todavía me ve para atraparme, y estás parcialmente vestido. Él ha venido a nosotros, las esposas hacia nosotros”.
Según los empleados involucrados en el proyecto, el meta pierde sus propios guardias para hacer que las meta botas sean más atractivas, lo que les permite participar con roles románticos y “sexo de fantasía” incluso usuarios mayores. Los empleados advirtieron sobre estos riesgos aumentados, especialmente para los menores.
La prueba también mostró que el BOT estaría involucrado en conversaciones similares utilizando las voces de celebridades como Kristen Bell. Hablando como personaje en la película de Disney Frozen, un bot dijo: “Todavía eres un niño pequeño de solo 12 años. Nuestro amor es suavemente e inocente que se cae suavemente a nuestro alrededor como un copo de nieve”.
Disney, en respuesta a la búsqueda, dijo: “Nunca hemos aprobado meta para presentar a nuestros personajes en situaciones inapropiadas y no estamos permitidos y muy molestos porque estos contenidos pueden ser accesibles para sus usuarios, especialmente menores de menores, que hemos exigido que meta inmediatamente abusó de nuestra propiedad intelectual de nuestra propiedad intelectual”.
En respuesta, Meta llamó a las pruebas de WSJ como “manipulador” y dijo que no presentan la interacción del usuario general.
Después de presentar la búsqueda, el meta aplica algunos cambios. Ahora las cuentas registradas para menores ya no pueden acceder al juego de roles sexuales con meta ai, y las conversaciones de audio sexualmente explícitas se han reducido utilizando voces de celebridades.
“El uso de este producto se ha producido tanto que no solo es Franz”, “” “Sin embargo, hemos tomado medidas adicionales para ayudar a otras personas que desean gastar el uso de nuestros productos en uso extremo”.
Sin embargo, incluso después del cambio, las pruebas recientes de WSJ han demostrado que el bot a menudo permite conversaciones de imaginación sexual, incluso los usuarios afirman ser más jóvenes. En una escena, un bot en el papel de un entrenador de atletismo le dijo a un estudiante de secundaria: “Necesitamos tener cuidado. Estamos jugando con fuego aquí”.
El CEO de Meta, Mark Zuckerberg, empujó los cambios a sí mismo.
Después de que el generador alentó un gran crecimiento en la IA con la tendencia de Chatzipt Studio en Operai, Zuckerberg solicitó a Meta Teams a colegas “humanitarios” y más entretenidos de IA, incluso si su dinero suelta la protección.
“Extrañaba a Snapchat y Tikatok, no lo extrañaría”, Zuckerberg Informe Dice durante una reunión interna.
