El controvertido multimillonario Elon Musk está siendo acusado de violar las reglas de su plataforma en DeepFax después de publicar un video manipulado burlándose de la vicepresidenta Kamala Harris.
El clip ha sido visto casi 130 millones de veces por usuarios de X. En el clip, una voz falsa de Harris dice: “Me eligieron por la máxima diversidad”. Luego añade que cualquiera que lo critique es “a la vez sexista y racista”.
El hombre más rico del mundo subtituló el vídeo: “Esto es asombroso”. Fue publicado originalmente por la cuenta X @MrReaganUSA, una cuenta de parodia designada que publica contenido a favor de Donald Trump.
El vídeo se refería a Harris, de 59 años, como un “títere del Estado profundo”. El clip fue editado a partir de un vídeo de campaña real que el exsenador de California publicó la semana pasada.
Musk, que ha respaldado a Donald Trump y ha abrazado muchos temas de conversación de extrema derecha en los últimos meses, no reconoció que el video era satírico en su publicación original.
Entre los que comentaron el vídeo de Musk se encontraba el creador de Veep, Armando Iannucci, quien llamó al sudafricano un “títere tecnológico equivocado”.
Elon Musk se burla de quienes lo criticaron por publicar el video, afirmando que era una ‘sátira’
La campaña de la vicepresidenta Kamala Harris está a la defensiva y denuncia tanto a Musk como a Donald Trump por difundir mentiras.
Mientras tanto, el gobernador de California, Gavin Newsom, comentó sobre el vídeo: ‘Debería ser ilegal manipular la voz en un “anuncio” como este. Firmaré un proyecto de ley dentro de unas semanas para garantizarlo”.
Musk, de 53 años, respondió a Newsom, de quien se rumorea que está considerando postularse para la presidencia en 2024: “Consulté con la reconocida autoridad mundial, el profesor Sugon Dznatz, y dijo que la parodia es legal en Estados Unidos”.
Según las directrices de X sobre el tema, los usuarios no pueden compartir “medios sintéticos, manipulados o fuera de contexto que puedan engañar o desorientar a las personas y causar daño”.
Los clips satíricos están excluidos siempre que no “creen una confusión significativa sobre la autenticidad de los medios”.
El video utiliza muchas de las mismas imágenes que el anuncio real que Harris lanzó cuando lanzó su campaña la semana pasada. Pero el video intercambia la voz en off con otra voz que se hace pasar por Harris.
“Yo, Kamala Harris, soy su candidata demócrata a la presidencia porque Joe Biden finalmente reveló su envejecimiento en el debate”, dice la voz en el vídeo.
Afirma que Harris es una “contratada por la diversidad” porque es una mujer y una persona de color, y dice que no conoce “los conceptos básicos de dirigir un país”.
El vídeo conserva la marca ‘Harris for President’. También agrega algunos clips pasados auténticos de Harris.
Foto del vicepresidente Harris del vídeo de la campaña ‘Elegimos la libertad’
En el vídeo, Harris habla sobre la libertad reproductiva. El aborto ha sido un tema principal para el vicepresidente en la campaña electoral desde que la Corte Suprema anuló Roe v. Wade.
Mia Ehrenberg, portavoz de la campaña de Harris, dijo a The Associated Press en un correo electrónico: ‘Creemos que el pueblo estadounidense quiere la verdadera libertad, oportunidad y seguridad que ofrece el vicepresidente Harris; Elon Musk y Donald Trump no son mentiras falsas y manipuladas.
Un ejemplo de lo vívido que es el vídeo ampliamente compartido. Imágenes, vídeos o clips de audio generados por IA A medida que se acercan las elecciones presidenciales de Estados Unidos, se ha utilizado tanto para divertirse como para distraer la atención de la política.
Expone cómo las herramientas de IA de alta calidad han recorrido un largo camino más accesibleHasta ahora ha habido una falta de acción federal significativa para regular su uso, dejando las reglas que dirigen la IA en la política principalmente a los estados y las plataformas de redes sociales.
El video también plantea preguntas sobre cuál es la mejor manera de manejar el contenido que desdibuja los límites de lo que se considera un uso apropiado de la IA, especialmente si entra en la categoría de sátira.
X usuarios que están familiarizados con la plataforma saben que deben hacer clic en la publicación del usuario original a través de la publicación de la máscara, donde la divulgación es visible. El título de Musk no les indica que lo hagan.
Si bien algunos participantes en la función ‘Notas de la comunidad’ de X sugirieron etiquetar la publicación de Musk para agregar contexto a las publicaciones, hasta el domingo por la tarde no se había agregado dicha etiqueta.
Dos expertos especializados en medios generados por IA revisaron el audio del anuncio falso y confirmaron que la mayor parte se generó utilizando tecnología de IA.
Musk ha apoyado durante mucho tiempo la campaña presidencial de Donald Trump y otras causas de extrema derecha.
Uno de ellos, el experto en forense digital Hani Farid de la Universidad de California en Berkeley, dijo que el vídeo muestra el poder de la IA generativa y los deepfakes.
“La voz generada por IA es muy buena”, dijo en un correo electrónico. “Aunque la mayoría de la gente no creerá que es la voz del vicepresidente Harris, el vídeo es mucho más poderoso cuando las palabras están en su voz”.
Dijo que las empresas de inteligencia artificial generativa que ponen a disposición del público herramientas de clonación de voz y otras herramientas de inteligencia artificial deberían hacer más para garantizar que sus servicios no se utilicen de manera que pueda dañar a las personas o la democracia.
Rob Weissman, vicepresidente del grupo de defensa Public Citizen, no estuvo de acuerdo con Farid y dijo que pensaba que el vídeo engañaría a mucha gente.
“No creo que sea obviamente una broma”, dijo Weisman en una entrevista. Estoy seguro de que la mayoría de la gente no cree que sea una broma. La calidad no es muy buena, pero es lo suficientemente buena. Y precisamente porque alimenta temas preexistentes que circulan a su alrededor, la mayoría de la gente creerá que es real.’
Weissman, cuya firma asesora al Congreso, agencias federales y estados sobre la regulación de la IA generativa, dijo que el video era “el tipo de cosas sobre las que nos han advertido”.
Otros deepfakes generativos de IA intentarán influir en los votantes de Estados Unidos y otros lugares a través de la desinformación, el humor o ambos.
En Eslovaquia en 2023, Clip de audio falso Un imitador de un candidato que habla sobre cómo manipular una elección y aumentar el precio de la cerveza antes del día de las elecciones.
En Luisiana en 2022, un comité de acción política Anuncio satírico Un candidato a la alcaldía de Luisiana superpuso su rostro al de un actor que lo retrataba como un estudiante de secundaria.
El Congreso aún tiene que aprobar legislación sobre la IA en la política, y Agencias federales ha tomado sólo medidas limitadas, dejando la mayoría de las regulaciones estadounidenses existentes en manos de los estados.
Más de un tercio están en los estados. hicieron sus propias leyes Regular el uso de IA en campañas y elecciones, según la Conferencia Nacional de Legislaturas Estatales.
Más allá de X, otras empresas de redes sociales también han desarrollado políticas con respecto a los medios sintéticos y manipulados compartidos en sus plataformas.
Los usuarios de la plataforma de vídeos YouTube, por ejemplo, deben revelar si utilizaron inteligencia artificial generativa para crear vídeos. o suspensión facial.
