En una carta obtenida exclusivamente por Noticias NBCApple contó a los senadores estadounidenses cómo trabajó entre bastidores para contrarrestar una ola viral de deepfakes sexistas generada por Grok a principios de este año. Aquí están los detalles.
Apple trabajó entre bastidores para resolver la controversia de Grok
A principios de este año, Apple se vio sometida a una intensa presión para retirar las aplicaciones Grok y X de la App Store después de que los usuarios descubrieran que el chatbot accedía fácilmente a las solicitudes de las personas en las fotografías, especialmente mujeres, de desnudar a mujeres, incluidas menores.
Sin embargo, Apple ha guardado silencio durante la controversia. Noticias NBC Informe Detrás de escena, la compañía “encontró que X y Grok violaban sus pautas” y “amenazó personalmente con eliminar” Grok de la App Store.
Según el informe, Apple “se acercó a los equipos detrás de X y Grok después de recibir quejas y ver la cobertura noticiosa del escándalo”, que “requiere que los desarrolladores de aplicaciones desarrollen un plan para mejorar la moderación del contenido”.
X, a su vez, envió una actualización de la aplicación Grok para su revisión, pero fue rechazada porque “los cambios no eran lo suficientemente sustanciales”. Luego, la compañía de Elon Musk presentó versiones modificadas de las aplicaciones X y Grok, pero solo una fue aceptada.
De la carta de Apple, De acuerdo a Noticias NBC:
“Apple revisó los envíos posteriores realizados por los desarrolladores y determinó que X había abordado sustancialmente sus violaciones, pero la aplicación Grok no cumplía. Como resultado, rechazamos el envío de Grok e informamos al desarrollador que se necesitarían cambios adicionales para remediar las violaciones, o la aplicación podría eliminarse de la App Store. Grok había realizado mejoras sustanciales y, por lo tanto, aprobó su último envío”.
Si bien estos detalles aún no se han publicado, ayudan a explicar la serie de confusos cambios de moderación anunciados en el momento álgido de la reacción, incluidas restricciones sobre quién puede usar las herramientas de imágenes de Grok y restricciones sobre la edición de fotografías de personas reales.
Sin embargo, un informe separado publicado hoy decía: Noticias NBC dicho Grok “sigue haciendo imágenes sexuales de personas sin su consentimiento” después de registrar decenas de casos de este tipo el mes pasado.
El informe señala que aunque el volumen de fotografías ha disminuido significativamente desde enero, un subconjunto de usuarios todavía puede eludir las restricciones a las mujeres que usan “ropa más reveladora, como toallas, sujetadores deportivos, trajes ceñidos de mujer araña o disfraces de conejitas”.
leer Noticias NBCInforme Paywalled sobre la carta de Apple a los senadores estadounidenses. Sigue este enlace. Y para un informe sobre los continuos problemas de Grok con los deepfakes sexualizados, Sigue este enlace.
