Por Sophia Xu y Romero Púrpura
Christine Li es modelo e influencer, pero no actriz, por lo que se sorprendió, luego se enojó y se asustó cuando se encontró interpretando a un personaje cruel en un microdrama chino.
El joven de 26 años fue uno de los dos hombres que dijeron a la AFP que sus retratos fueron elegidos sin consentimiento para el programa generado por IA “The Peach Blossom Hairpin”, que se transmitió en Hong Kong, una importante aplicación de microdrama propiedad de ByteDance, la empresa matriz de TikTok.
Lee planea demandar a los creadores y plataformas de dramas, destacando las nuevas áreas grises legales y regulatorias creadas por la inteligencia artificial.
“Me sorprendió mucho. Obviamente fui yo”, dijo Li, que vive en Hangzhou, en el este de China.
“Era tan obvio que utilizaron un conjunto específico de fotografías tomadas hace dos años” y publicadas en las redes sociales, dijo.
Los microdramas son telenovelas en línea ultracortas que son extremadamente populares en China y otros lugares.
Cuando los fanáticos de Lee lo alertaron sobre la serie, se horrorizó al ver a su gemelo digital abofeteando a mujeres y abusando de animales.
“También sentí un miedo profundo. Me preguntaba qué clase de persona haría algo así”, dijo Lee.
Hongo también presenta miles de programas breves y gratuitos, tanto de acción en vivo como generados por IA, con episodios de dos o tres minutos.
En octubre, la plataforma tenía alrededor de 245 millones de usuarios activos mensuales, según datos citados por Wenwen Han, presidente de Short Drama Alliance.
Hongwoo dijo en un comunicado a principios de abril que canceló la serie porque los productores violaron las reglas y obligaciones contractuales de la plataforma.
Lo contrario de “sórdido”
La capacidad de la IA para imitar a personas reales ha causado preocupación mundial por el trabajo de los actores, y estos deepfakes se utilizan para estafas y publicidad.
Lee y un hombre que dijo que fue retratado como su marido AI en la serie, que fue un éxito en Hong Kong el mes pasado, hablaron en línea sobre sus descubrimientos inesperados por separado.
Pero aunque sus historias provocaron protestas públicas sobre la ética de la IA, la AFP vio “The Peach Blossom Hairpin” funcionando durante días antes de ser eliminada y los controvertidos personajes reemplazados silenciosamente.
Foto: Mahmoud Rizq/AFP.
Un estilista especializado en ropa y maquillaje tradicional chino, el hombre publicó fotos de sí mismo disfrazado en la aplicación Xiaohongshu, similar a Instagram.
Al igual que Lee, estaba molesto por la representación “fea” que hacía su homólogo en el programa como un antagonista “obsesionado”.
“¿Esto me afectará a mí, a mi trabajo, a mis futuras oportunidades laborales?” dijo el hombre, que pidió utilizar el seudónimo de Baikai.
Para mantener al público enganchado, los microdramas suelen estar llenos de momentos impactantes y tremendos.
Tanto Lee como Baikai mostraron a la AFP sus fotografías originales y los personajes de “The Peach Blossom Hairpin”, que guardan un gran parecido.
Riesgo legal
Para los microdramas de inteligencia artificial de bajo presupuesto, las regulaciones chinas establecen que las plataformas deben ser el principal punto de control para contenido potencialmente insidioso.
Si no se someten a revisiones de contenido obligatorias, los vídeos serán eliminados por la fuerza, según la Administración Nacional de Radio y Televisión.
Si las plataformas tuvieran conocimiento de una infracción pero no actuaran al respecto, las partes afectadas podrían alertar a las autoridades del ciberespacio de China, que podrían imponer multas administrativas, según Zhao Zhanling, socio de Beijing Xavi Law Firm.
Hong Kong también dijo en una segunda declaración este mes que continuará fortaleciendo la forma en que revisa el contenido y aprueba a los creadores, entre otras medidas.
Dijo que se había ocupado de 670 microdramas de IA que violaban las regulaciones, la mayoría de las cuales fueron eliminadas, y advirtió que tomaría medidas enérgicas contra las violaciones repetidas.
Al ser contactada para hacer comentarios, la empresa matriz ByteDance remitió a la AFP dos declaraciones de Honguo.
Li y Baikai dijeron que necesitaban más información de Hongu para confirmar la identidad del creador del drama, con dos organizaciones como posibles candidatas.
Un vinculado a una cuenta verificada en la versión china de TikTok también publicó la serie. Otro figura como productor de drama en el sistema de registro oficial chino.
La AFP se puso en contacto con ambas empresas pero no obtuvo respuesta.
Usar la IA para reducir costos puede resultar tentador en el mercado de microdrama de rápido crecimiento y multimillonario.
Pero mostrar a alguien de manera difamatoria sin permiso “puede ser una violación tanto de los derechos de imagen como de los derechos de reputación”, dijo Yi Zhao, abogado de Li en el bufete de abogados Henan Huailove.
‘controversial’
Las regulaciones nacionales exigen que los creadores de microdramas se registren para obtener una licencia, una medida que se hizo obligatoria para la animación generada por IA a partir de este mes.
Pero los productores pueden permanecer en la sombra registrando ropa temporal, dijo Zhao, mientras que algunos usan servidores en el extranjero para esconderse.
En 2024, un tribunal de Beijing ordenó a una empresa que se disculpara y compensara a una celebridad después de que su software de inteligencia artificial permitiera a los usuarios crear una persona virtual usando su foto y nombre que podía intercambiar mensajes íntimos.
VEA TAMBIÉN: El gigante tecnológico estadounidense demanda a anunciantes en Brasil y China por la estafa deepfake de MetaCelebrity
Pero los abogados dijeron a la AFP que la compensación para demandantes como Lee probablemente no sería mucha debido al valor comercial limitado de una réplica común.
A Lee le preocupa que la historia pueda costarle oportunidades en la industria del modelaje, ya que ahora está “involucrada en una controversia”.
Baikai no ha emprendido acciones legales, pero espera ver más medidas por parte de reguladores y plataformas para proteger a personas como él.
“Probablemente hay muchos casos con víctimas desconocidas”, afirmó.
