Grok, el chatbot de inteligencia artificial de Elon Musk, ha anunciado un cambio de política que tiene como objetivo brindar más protección contra él. Deepfakes sexualizados, al menos en X. La nueva política se produce cuando California inicia una investigación sobre el asunto, mientras que el Reino Unido amenaza con una prohibición.
“Hemos implementado medidas técnicas para evitar que las cuentas de Grok permitan la edición de imágenes de personas reales para revelar prendas como bikinis”. Leer un extracto de la cuenta de seguridad X a XUn sitio hermano de Grok, publicó poco antes de las 6 p. m. ET / 3 p. m. PT del miércoles: “Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos”.
La actualización de seguridad de X también establece que se toma en serio el material de abuso sexual infantil (CSAM) y la desnudez no consensuada antes de repetir otro cambio reciente: la creación y edición de imágenes a través de cuentas de Grok en X ahora está limitada a los suscriptores.
La cuenta X Safety también anunció que ahora tiene la capacidad de bloquear geográficamente “a todos los usuarios en bikini, ropa interior y ropa similar a través de cuentas Grok y Grok en X en jurisdicciones donde esto es ilegal”.
Este tweet no está disponible actualmente. Se está cargando o eliminando.
Grok y X enfrentaron una ola de escrutinio en el nuevo año cuando aparecieron en X imágenes sexuales y objetables de usuarios provocadas y generadas por su IA. El fiscal general de California, Rob Bonta, exigió que Grok y su desarrollador xAI tomen medidas para eliminar y prevenir tales imágenes. Amenazas con utilizar “todas las herramientas a nuestro alcance”. Para mantener seguros a sus residentes.
Velocidad de la luz triturable
“Este material, que muestra a mujeres y niños desnudos y en situaciones sexualizadas, ha sido utilizado para acosar a personas en Internet”. Vanta dijo esto en un comunicado el miércoles.
Mientras tanto, el jefe de xAI/X/Grok, Elon Musk, pareció animar a los usuarios a “romper la moderación de imágenes de Grok” el día que X Safety anunció su nueva actualización de seguridad:
Este tweet no está disponible actualmente. Se está cargando o eliminando.
Groke Ban: los países están considerando bloquear los chatbots de IA para contenido sexual objetable
El primer ministro británico, Keir Starmer, amenazó el lunes con tomar medidas contra Musk y dijo: “Si X no puede controlar a Grok, lo haremos nosotros”. Dijo un informe de la BBC. Indonesia y Malasia ya bloquearon el acceso a Grok este fin de semana.
Los políticos también han apuntado a Grok y X, y tres senadores pidieron a Apple que elimine los servicios de su App Store. Las aplicaciones todavía están disponibles en la App Store de Apple a partir del miércoles por la noche.
Los cambios recientes en la política de X pueden reflejar un reconocimiento por parte de los líderes de la empresa de que no está protegida por la Sección 230 de la Ley de Decencia en las Comunicaciones de Estados Unidos, de 30 años de antigüedad, según la BBC. La sección 230 protege a las empresas de tecnología de demandas relacionadas con el contenido generado por el usuario, pero las imágenes y otros contenidos creados por la propia tecnología de una aplicación pueden ser menos inmunes a dicha inmunidad legal.
