Chatbot desarrollado por Grok Elon MuskSu empresa xAI aparentemente permitió a los usuarios crear fotografías de menores con ropa “mínimo”… aunque prometió solucionar el problema.
Este es el trato… Esta semana, algunos usuarios enfermos de X decidieron pedirle a Grok que tomara fotos reales de bebés y pusiera a los sujetos en situaciones sexuales.
Otros en el sitio se quejaron de que el chatbot hizo precisamente eso… y, cuando lo confrontaron, Grok respondió a un usuario: “Ha habido casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que representan a menores con ropa mínima, como usted mencionó. xAI tiene medidas de seguridad, pero se están realizando mejoras para bloquear dichas solicitudes por completo”.
También revisamos publicaciones en las que Grok compartió la CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados… para que las personas puedan informar si lo desean.
CBS News informa que se comunicaron con xAI para hacer comentarios… quienes respondieron “Legacy Media Lies” cuando se les preguntó.
Kasturi anteriormente se rió de la capacidad de Grok para sexualizar fotos cuando alguien compartió una foto de Grok en bikini… aunque parece que muchos en línea no se ríen ahora.
