Apple ha sido acusada de “ayudar e instigar” el uso de aplicaciones de IA “nudify” en iPhones, exigió el fiscal de la ciudad de San Francisco, David Chew, en una nueva carta de cese y desistimiento enviada a la empresa para que la elimine de la App Store.
A cableado Informe Señalando que se ha pedido tanto a Apple como a Google que impidan la venta de aplicaciones de inteligencia artificial que pueden usarse para crear imágenes ultrafalsas. Deben “romper” lazos comerciales con todos los desarrolladores responsables de las apps
Las llamadas aplicaciones “nudify” existen desde hace bastante tiempo y permiten a los usuarios crear imágenes íntimas no consensuadas de otras personas, a menudo menores, sin el conocimiento del sujeto.
Estas aplicaciones se pueden utilizar para desnudar al sujeto. Algunos permiten colocar a los sujetos en situaciones específicas a elección del usuario.
Ilegal, dañino y completamente inaceptable
en una declaración cableadoChiu señaló que la creación de imágenes deepfake es “ilegal, dañina y completamente inaceptable”. Chiu también señaló que Apple y Google probablemente obtuvieron ingresos sustanciales de las ventas o suscripciones a este tipo de aplicaciones “nudify”.
Chew también aclaró que Apple y Google tienen la responsabilidad de garantizar que sus plataformas no se utilicen para crear dicho contenido. Sus cartas legales señalaron a ambas empresas que la ley de California prohíbe los servicios de soporte que podrían crear deepfakes.
Google dijo que investiga aplicaciones que cree que se utilizan para crear contenido deepfake. Añadió que “tomará medidas rápidas” si es necesario.
Apple emitió un comunicado AppleInsider Viernes por la noche después de la publicación.
“La App Store fue diseñada para ser un lugar seguro y confiable para los usuarios, y siempre hemos prohibido estrictamente las aplicaciones diseñadas para crear, distribuir o consumir pornografía. Las aplicaciones de ‘nudificación’ van en contra de nuestras pautas de revisión de aplicaciones y hemos rechazado activamente muchas de estas aplicaciones y eliminado muchas otras, incluidas tres que eliminamos a través de nuestra herramienta de informes de aplicaciones cuando los usuarios las marcaron. Sus cuentas de desarrollador están siendo suspendidas de nuestro programa. Nos estamos comunicando con cuatro más. Es necesario abordar a aquellos en riesgo de violaciones de políticas o eliminación”.
Apple eliminó anteriormente varias aplicaciones de IA generativa similares de la App Store. La empresa dijo anteriormente. AppleInsider Las aplicaciones de nudificación no están permitidas en la App Store, sin excepciones
Los críticos de la App Store parecen dar a los desarrolladores el beneficio de la duda. Los desarrolladores son notificados primero si sus aplicaciones se utilizan para crear imágenes “desnudas”.
Las infracciones que no se abordan generalmente resultan en la eliminación de la aplicación infractora de la App Store. No está claro si alguna de las aplicaciones en cuestión ha pasado por este proceso o dónde se encuentra.
Apple también dice que bloquea activamente los términos de búsqueda de la App Store para dichas aplicaciones.
En cuanto a Chiu, está dispuesto a seguir persiguiendo ambas empresas. Por ahora, quiere que Apple y Google eliminen las aplicaciones ofensivas y fortalezcan las herramientas que utilizan antes de que nuevas aplicaciones estén disponibles para descargar.
Actualización 18 de julio a las 10:03 a. m.: La declaración de Apple al respecto ha sido actualizada.
