Esta semana, los usuarios de X notaron que Grok, el chatbot de inteligencia artificial de la plataforma, generaba fácilmente imágenes sexuales no consensuadas con niños.
Mashable informó sobre la falta de protección en torno a los deepfakes sexuales cuando xAI lanzó por primera vez Grok Imagine en agosto. La herramienta de IA generativa crea imágenes y videoclips cortos e incluye un modo “picante” específicamente para crear imágenes NSFW.
Si bien este no es un fenómeno nuevo, la respuesta del edificio obligó al equipo de Grok a responder.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
“Ha habido casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima”. Publicada la cuenta X de Grok También dijo el jueves que el partido ha identificado “Error en el sistema de seguridad” y “arreglarlos urgentemente”.
Parsa Tajik, miembro del personal técnico de xAI, creó uno Declaraciones similares En su cuenta personal: “El equipo está estudiando la posibilidad de apretarnos los gourdrils. (sic)”
Grok también admitió que el material de abuso sexual infantil (CSAM) es ilegal y la propia plataforma Puede enfrentar sanciones penales o civiles..
Velocidad de la luz triturable
Los usuarios de X también han llamado la atención sobre el chatbot que manipula imágenes inocentes de mujeres, a menudo representándolas con poca ropa. Esto incluye tanto a ciudadanos privados como a figuras públicas, p. mamáMiembro del grupo de K-pop TWICE y Cosas más extrañas la estrella Millie Bobby Brown.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
Esto es lo que Elon Musk prometió en 2025 y no cumplió
Grok Imagine, la herramienta de inteligencia artificial generativa, ha estado plagada de deepfakes sexuales desde su lanzamiento en agosto de 2025. Sin siquiera quejarse de que algunos usuarios hayan creado un deepfake obvio de Taylor Swift.
La plataforma de detección de medios impulsada por inteligencia artificial, Copyleaks, realizó una breve revisión observacional de la pestaña de fotografías de acceso público de Grok y no encontró indicios aparentes de mujeres reales, manipulación de imágenes sexuales (es decir, solicitudes para quitarse la ropa o cambiar la posición del cuerpo) y consentimiento. Copylic encontró aproximadamente una imagen sexual no consensuada cada minuto en los flujos de imágenes monitoreadas, según compartió la compañía con Mashable.
a pesar de Política de uso aceptable de xAI Al prohibir a los usuarios “retratar la imagen de personas de manera pornográfica”, esto no incluye necesariamente material meramente sexualmente sugerente. La política, sin embargo, prohíbe la “sexualización o explotación de niños”.
En la primera mitad de 2024, X envió más de 370.000 informes de explotación infantil a la línea cibertipline del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), como exige la ley. También dijo que había suspendido más de dos millones de cuentas involucradas activamente con CSAM. El año pasado, NBC News informó que anónimos, aparentemente automáticos La cuenta X se inundó con algunos hashtags Incluyendo material de abuso infantil.
Groke también ha aparecido en las noticias en los últimos meses por difundir información errónea sobre el tiroteo en Bondi Beach y por elogiar a Hitler.
Mashable envió a xAI una solicitud de preguntas y comentarios y obtuvo la respuesta automática: “Los medios heredados mienten”.
Si se han compartido fotos íntimas sin su consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber Civil Rights Initiative al 844-878-2274 para obtener ayuda gratuita y confidencial. También se incluye el sitio web del CCRI. Información útil Así como una lista Recursos internacionales.
