La plataforma de redes sociales X dijo el miércoles por la noche que está impidiendo que Grok, un chatbot de inteligencia artificial creado por Elon Musk, cree imágenes sexuales y desnudas de personas reales en su plataforma en ciertos lugares.
La medida se produce en medio de la indignación global por las imágenes sinceras generadas por IA que han inundado X. La semana pasada, los reguladores de todo el mundo La investigación ha comenzado En Grok y en algunos países se ha prohibido la aplicación.
El miércoles temprano, investigadores de California dijeron que estaban investigando si Groke violó la ley estatal. Ofcom, el organismo independiente de vigilancia de la seguridad en línea de Gran Bretaña, inició una investigación sobre Groke el lunes.
“Este es un avance bienvenido”, dijo el regulador británico en un comunicado el jueves en respuesta a las nuevas restricciones impuestas a Grok. “Sin embargo, nuestra investigación formal está en curso”.
Si se determina que X ha violado la ley británica y se niega a cumplir con las solicitudes de acción de Ofcom, el regulador tiene el poder, si es necesario, de buscar una orden judicial que impida a los pagadores y anunciantes trabajar con X.
X dice un declaración Utilizará “bloqueo geográfico” para impedir que Grok cumpla con las solicitudes de tales imágenes en jurisdicciones donde dicho contenido era ilegal, dijo el miércoles.
Fuera de X, estas restricciones no parecen aplicarse a las aplicaciones y sitios web independientes de Grok. Tanto Grok como X son propiedad de xAI. X no respondió a una solicitud de comentarios.
“Estamos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”, dice el comunicado.
La semana pasada, X anunció que limitaría las capacidades de generación de imágenes de Grok a los consumidores, quienes pagarían una prima por la función, pero eso hizo poco para apaciguar a los reguladores de todo el mundo. Indonesia y Malasia han prohibido los chatbots y la Unión Europea ha iniciado una investigación sobre aparentes “deepfakes”.
Ursula von der Leyen, presidenta de la Comisión Europea, el brazo ejecutivo de la UE, ha criticado duramente la tecnología. “Me horroriza que una plataforma tecnológica permita a los usuarios desnudar digitalmente a mujeres y niños en línea. Es un comportamiento impensable”, afirmó. Medios de comunicación europeos “Y el daño causado por eso es muy real”, dijo a principios de este mes.
La Unión Europea cuenta con poderosas herramientas para monitorear y suspender dicha actividad, incluida la Ley de Servicios Digitales, que obliga a las grandes empresas de tecnología a monitorear el contenido publicado en sus plataformas, o enfrentar las consecuencias, incluidas grandes multas.
Estas regulaciones han sido criticadas a menudo por la administración Trump, que ha argumentado que las reglas digitales de la UE equivalen a censura y discriminan injustamente a las grandes empresas tecnológicas estadounidenses.
Regulador de la Unión Europea Ordenó a Grok que conservara los documentos. Relacionado con los chatbots ya que examina la creación de imágenes sexuales. Poseer o compartir imágenes sexuales de niños es ilegal en muchos países, y algunos incluso prohíben las imágenes sexuales de niños generadas por IA.
Varios países, incluidos Estados Unidos y Gran Bretaña, han promulgado leyes contra el intercambio de imágenes de desnudos no consentidos, a menudo denominadas “pornografía de venganza”. La política de X impide a los usuarios “publicar fotos o vídeos íntimos de alguien que hayan sido creados o distribuidos sin su consentimiento”.
Gina Smilek Contribución informativa desde Bruselas.
