La aplicación de inteligencia artificial Grok, propiedad de xAI de Elon Musk, casi fue retirada de la App Store de Apple a principios de este año. en un escándalo Deepfakes sexistas de personas reales creados por herramientas extendidas a X, antes conocidas como Twitter.
De acuerdo a Reportaje de NBC NewsApple dijo en una carta a los senadores estadounidenses sobre sus tratos con xAI en relación con la aplicación, advirtiendo que Grok sería eliminado de la App Store si no se realizaban cambios para abordar la crisis de los deepfake. En un informe separado de NBC esta semana, una investigación de Grok encontró que las imágenes sexuales generadas por IA Todavía viniendo de Grok Y difundiéndose en línea.
Los representantes de Apple y xAI no respondieron de inmediato a las solicitudes de comentarios. Los redactores de CNET también contactaron con las oficinas de prensa de tres senadores. Una carta a Apple y Google (PDF) Grok solicitó en enero hacer cumplir las reglas de la App Store para abordar sus problemas de deepfake.
Grok es la principal herramienta de inteligencia artificial disponible para los usuarios de la plataforma de redes sociales X y, además de poder responder preguntas como un chatbot, Grok puede generar imágenes y videos. A fines del año pasado, surgieron informes sobre un abuso generalizado de la función por parte de usuarios que solicitaron imágenes sexuales de niños, que luego se publicaron en X. Desde entonces, Musk ha publicado actualizaciones sobre los cambios en Grok y las medidas de seguridad que se han implementado, pero el informe de NBC News sugiere que estos cambios no han detenido el uso de Grok AI, incluida la reutilización de imágenes de IA femenina sexualmente profunda. Ropa, toallas o prendas como sujetadores deportivos.
A Declaración sobre xLa compañía dijo: “Prohibimos estrictamente a los usuarios crear deepfakes obvios no consensuados y usar nuestras herramientas para desnudar a personas reales. xAI tiene salvaguardias integrales para evitar tales abusos, como el monitoreo continuo del uso público, análisis en tiempo real de los intentos de evasión, actualizaciones frecuentes de modelos, archivos de seguridad adicionales e indicaciones.
Prohibimos estrictamente a los usuarios crear deepfakes obvios y no consensuados y utilizar nuestras herramientas para desnudar a personas reales. xAI cuenta con amplias salvaguardias para prevenir tales abusos, como el monitoreo continuo del uso público, el análisis de los intentos de evasión en tiempo real,… https://t.co/lhvuhr3p2D
– seguridad (@seguridad) 14 de abril de 2026
Manzanas de ida y vuelta
El informe de NBC News señala comunicaciones de Apple diciéndoles a los senadores que, en respuesta a la protesta pública por Grok, advirtió que era necesario realizar cambios tanto en las aplicaciones X como en Grok. xAI envió versiones de la aplicación para ambos, la aplicación Grok fue rechazada y luego modificada para cumplir con la aprobación de Apple.
En la carta de Apple, el director senior de asuntos gubernamentales de la compañía, Timothy Powderly, dijo a los senadores que “Apple aborrece este tipo de imágenes y el daño que causan. Las aplicaciones que crean y distribuyen este tipo de contenido violan nuestras políticas y no están permitidas en nuestra plataforma”.
La carta, compartida con CNET por la oficina del senador Ron Wyden, detalla las políticas de aplicaciones de Apple y las acciones tomadas con las aplicaciones X y Grok. Apple dijo que después de ese proceso, “determinamos que Grok había realizado mejoras sustanciales y, por lo tanto, aprobamos su último envío. Esta aprobación permite a Grok actualizar las aplicaciones instaladas en los dispositivos de los usuarios con software mejorado. Esperamos que Grok incluya mejoras adicionales en envíos posteriores”.
Apple dejó la puerta abierta a una futura eliminación si Grok violaba los términos de Apple. “Como les hemos dejado claro, como a todos los desarrolladores, si no pueden cumplir con las pautas, serán eliminados de la App Store”.
En una declaración a CNET, Wyden, un demócrata de Oregón, criticó a Google por no responder a las solicitudes de los legisladores sobre las preocupaciones sobre Grok. Un representante de Google no respondió de inmediato a una solicitud de comentarios.
“Aprecio la respuesta detallada de Apple a nuestras preguntas sobre cómo respondió a la atroz proliferación de CSAM y deepfakes no conformes en las aplicaciones Grok y X”, dijo Wyden. “Sigue siendo espantoso que el Departamento de Justicia de (el presidente Donald) Trump no haya tomado ninguna medida para responsabilizar a X de la producción y distribución de cantidades masivas de material ofensivo”.
