Grok, el asistente multiuso, verificador de datos y generador de contenido de xAI, está bajo un estrecho escrutinio por parte de los reguladores internacionales que temen que los chatbots sean peligrosos.
A principios de enero, los usuarios de X descubrieron que Grok estaba cumpliendo con las solicitudes de producir imágenes sexualizadas de menores con ropa que revelara una forma de material de abuso sexual infantil (CSAM). El personal de xAI dijo que están buscando fortalecer las barreras del chatbot.
Grok dijo que restringió la creación de imágenes a los clientes después de preocupaciones sobre falsificaciones profundas. ¿Pero está ahí?
Pero ésta no es una solución fácil. Investigaciones recientes de Reuters, el atlánticoY cableado Se encontraron fallas masivas en el sistema de seguridad del modelo, que permitieron a Grok difundir contenido objetable, sexual y, a veces, gráficamente violento a petición de los usuarios. En X, los investigadores descubrieron un problema generalizado de “sin ropa”, caracterizado por numerosas cuentas de usuarios cuyas fotos publicadas públicamente fueron editadas por chatbots integrados para vestirse con ropa reveladora. RAINN, la organización nacional sin fines de lucro contra la agresión sexual, lo llama una forma de Acoso sexual mediante IA o tecnología.
Otros chatbots y generadores de imágenes impulsados por IA también han sido objeto de escrutinio por no hacer cumplir las salvaguardias en torno al contenido sexual, incluido el compañero de IA de Meta.
Respondiendo a las preocupaciones de los usuarios de X, el director ejecutivo, Elon Musk, dijo que la empresa se toma en serio la creación de contenido ilegal, pero argumentó que las ramificaciones legales deberían recaer en los usuarios. Musk respondió más tarde a los comentarios de los líderes del Reino Unido sobre un posible bloqueo en todo el sitio, calificándolo de Formas de censura y acusaciones de que los gobiernos extranjeros están interesados en silenciar la libertad de expresión en línea.
El gobierno toma medidas enérgicas contra xAI
En respuesta a una lenta respuesta de los equipos de X, los países han comenzado a restringir el acceso a los bots y aplicaciones independientes de xAI, mientras lleva a cabo múltiples investigaciones sobre la seguridad de Grok, la respuesta de xAI y la posibilidad de que la compañía esté violando varias leyes de seguridad en línea.
Velocidad de la luz triturable
La empresa ya se ha enfrentado a varias investigaciones antes de las recientes afirmaciones de que Grok habilitó CSAM.
Además de las investigaciones en curso sobre la moderación de contenido y los algoritmos de X, los miembros han presionado a la Unión Europea para que investigue a Grok por violaciones múltiples y potencialmente peligrosas de la Ley de Servicios Digitales. Comportamiento “incierto”. En las últimas semanas, la agencia ordenó a X que conserve todos los datos y documentos internos relacionados con Grok mientras amplía su investigación.
A pesar de que un portavoz de la comisión calificó el comportamiento de Grok de “ilegal”, los observadores tecnológicos se muestran escépticos de que la agencia tome medidas. Bloquear el sitio por completo.
El regulador de comunicaciones del Reino Unido, Ofcom, también hizo un anuncio. investigación oficial En Grok, las violaciones de las leyes de seguridad en línea incluyen posibles sanciones en ingresos de hasta el 10 por ciento (alrededor de 24 millones de dólares).
Organizaciones en EE. UU. han pedido a las agencias federales que investiguen xAI, citando la recientemente aprobada Ley Take It Down, que penaliza la publicación o amenaza de publicación de imágenes íntimas no consensuadas (NCII) y otorga a la Comisión Federal de Comercio (FTC) el poder de demandar a las plataformas de redes sociales que no cumplan con las solicitudes de eliminación.
Mientras tanto, otros países están avanzando con prohibiciones absolutas hasta que la agencia acepte una investigación o revise el marco de seguridad de Grok.
Países que han bloqueado el acceso a Grok
Las regiones están investigando activamente o amenazando con suspender a Grok
-
India
-
unión Europea
-
Francia
-
Reino Unido – Considerando bloquear servicios
-
brasil – Amenazó con despedir a Groke
-
Australia – Ya bloquea el acceso a redes sociales a usuarios menores de 16 años
Si se han compartido fotos íntimas sin su consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber Civil Rights Initiative al 844-878-2274 para obtener ayuda gratuita y confidencial. También se incluye el sitio web del CCRI. Información útil Así como una lista Recursos internacionales.
