Un grupo de senadores estadounidenses no está impresionado con el hecho de que Elon Musk haya dado el más mínimo paso correctivo para eliminar la capacidad de Grok de crear pornografía infantil detrás de un muro de pago y quieren que X se elimine de la App Store.
La capacidad de Grok para tomar una fotografía de una persona y crear una versión sin su ropa es abominable. Pero esto también es la punta del iceberg, ya que la característica también se ha utilizado para mostrar a mujeres siendo abusadas e incluso asesinadas.
Después de ignorar inicialmente las críticas y calificar las imágenes disidentes generadas por Grok como “muy divertidas”, Elon Musk ahora eliminó la función del uso público. Sin embargo, en lugar de poner fin al problema, Musk está tratando de sacar provecho de él convirtiéndolo en una característica premium.
El senador estadounidense Ron Wyden, Edward J. Markey y Ben Ray Luján creen que si no se puede detener la máscara en la fuente, se puede cortar el suministro de agua. Escribieron conjuntamente tanto a Tim Cook de Apple como a Sundar Pichai de Google, pidiéndoles que eliminaran X de sus respectivas tiendas de aplicaciones.
“Le escribimos para solicitarle que haga cumplir los Términos de servicio de la App Store”, escribieron. carta completa. Señalaron que Grok se ha utilizado para editar imágenes de “mujeres agredidas sexualmente, humilladas, heridas e incluso asesinadas”.
Los senadores también dijeron que los investigadores encontraron un archivo GROC de alrededor de 100 imágenes de posible material de abuso sexual infantil que se originó en agosto.
Argumentan que esto significa que está claro que X y Grok están violando las políticas de la App Store. En el caso de Apple, se refieren a la sección Pautas de revisión de la App Store. Contenido ofensivo.
Afirman específicamente que las aplicaciones no deberían permitir contenido ofensivo “o simplemente espeluznante”.
Como resultado, los senadores argumentan que Grok violó los términos y condiciones de la App Store sin inmunidad. Por lo tanto, hacer la vista gorda “será una burla de su ejercicio de moderación”.
Los senadores criticaron tanto a Apple como a Google por cómo estaban dispuestos a eliminar rápidamente la inocua aplicación IceBlock bajo la presión del gobierno de EE. UU. Dicen que esperan que Apple y Google respondan ahora al mismo ritmo.
Le piden a Apple que elimine las aplicaciones X y Grok, al menos temporalmente. Y quieren una respuesta por escrito de las empresas en un plazo de dos semanas.
Ni Apple ni Google han respondido públicamente todavía.
senador estadounidense
Esta no es la primera vez que alguno de estos tres senadores aborda cuestiones tecnológicas a través de proyectos de ley o cartas. En 2021, por ejemplo, el senador Ben Ray Luján hizo campaña para culpar a las redes sociales de difundir información errónea sobre la salud.
Yendo más atrás, el senador Edward J. Markey fue uno de los dos senadores que le escribieron a Steve Jobs en 2010 sobre la privacidad de Apple.
Pero quizás sea el senador Wyden el más conocido por escribir cartas abiertas, y quizás el más eficaz. En 2023, escribió una carta abierta aparentemente sin sentido al Departamento de Justicia, en la que hacía afirmaciones evidentemente infundadas de que los gobiernos estaban espiando a los propietarios de iPhone mediante notificaciones automáticas.
Se esperaba que Apple lo negara, pero en lugar de eso efectivamente dijo gracias. Es cierto, pero a Apple se le prohibió revelar la verdad hasta que Wyden se hiciera pública.
Los peligros de las tiendas de aplicaciones de IA
Por otra parte, en diciembre de 2025, el Fiscal General de Estados Unidos advirtió a Apple y a otros que los “resultados engañosos” de las aplicaciones de IA podrían violar la ley.
