TikTok ha retirado su controvertida configuración de remezcla de IA, confirmó la compañía a CNET el jueves. Este es un cambio radical para una empresa que ha recorrido un largo camino para integrar la IA en cada parte de su plataforma.
TikTok lanzó la configuración para probar un creador de memes impulsado por inteligencia artificial inspirado en videos y clips de la plataforma, dijo la compañía a CNET a principios de esta semana. La nueva función de IA, llamada Meme Remixer, permite a cualquiera que vea tu vídeo de TikTok cambiar la cara o el fondo para crear una imagen generada por IA a partir de él. La configuración oculta permite automáticamente a los usuarios remezclar el contenido publicado con IA, a menos que lo desactives explícitamente.
Creadores que ven la configuración en aplicaciones de redes sociales queja Preocupado por la opción de participación automática en sus videos y por cómo se usarán sus datos.
Para algunos TikTokers, esto parecía ser una invasión de la privacidad y otro intento de las plataformas de redes sociales de alterar secretamente el contenido original.
“No debería ser tan difícil permitirnos optar por no usar una configuración de alternancia”, dijo el creador Sean Szolek-van Valkenburgh. en su vídeo. Si bien los creadores ceden a sabiendas algunos derechos sobre su contenido cuando se publica en la plataforma, debería haber opciones para limitar la cantidad de este que es explotado por la IA, dijo.
TikTok lleva varios años introduciendo funciones de inteligencia artificial en su plataforma. Es posible que hayas notado el nuevo ícono transparente encima de una imagen de perfil al pasar de un video a otro: ese es Tako (pronunciado “taco”), el asistente de inteligencia artificial de TikTok.
Al igual que otras plataformas de redes sociales, TikTok se ha enfrentado a reacciones negativas por integrar la IA, y los creadores han entrado en pánico. La decadencia de la IA está ahogando su contenido originaljunto con ambiental, legal Y moral La preocupación, sin embargo, no ha detenido a empresas como TikTok, Snapchat y Meta, cuyo dueño Instagram y FacebookDe la carga a la IA.
Contenido remezclable
Antes de que TikTok lo retirara, la configuración AI Remix estaba activada de forma predeterminada. Puedes desactivar una opción para evitar que otros creen memes de IA a partir de tus clips. La configuración funciona de manera similar y te permite controlar si las personas pueden hacer dúos o unir tus videos.
Entonces, si la configuración no está desactivada y publicas un video tuyo en una nueva cafetería, un comentarista podría hipotéticamente usar Meme Remixer para escribir un mensaje personalizado y generar una imagen de IA que muestre a tu doble en una playa u otra escena. Estas imágenes luego se compartirán en los comentarios del video original.
Aunque se podía desactivar la remezcla de IA en vídeos individuales, no había forma de desactivarla a nivel de cuenta. Los usuarios de TikTok tuvieron que desactivar esta configuración para cada vídeo. La herramienta de memes experimental también se ha pausado mientras TikTok evalúa los comentarios.
TikTok dijo que si permites que la IA mezcle tus vídeos, no se utilizarán para entrenar sus modelos de IA. TikTok dice que la alternancia no tiene ningún efecto sobre cómo TikTok usa o interactúa con su contenido.
Pero debido a la naturaleza de caja negra con la que las empresas de tecnología desarrollan la IA, no hay forma de que los fabricantes individuales lo confirmen.
Contenido de IA en TikTok
dentro de la empresa Principios generales de la IAAfirma que cualquier contenido editado o creado íntegramente por AI debe cumplir con eso Pautas de la comunidad.
Las reglas de TikTok sobre los medios editados prohíben específicamente el contenido que “engaña” a los usuarios haciéndoles creer que algo falso es cierto, especialmente cuando “representa fuentes auténticas falsas o eventos de crisis, o retrata falsamente a una figura pública en ciertos contextos”. Esto sugiere que se prohibirán los deepfakes. El material de abuso sexual infantil también está expresamente prohibido.
El contenido editado por IA que se comparte en TikTok tiene una marca de agua invisible, que cumple con el estándar C2PA. Pero con los nuevos y más potentes modelos de imágenes y vídeos de IA, es más difícil para las personas saber si algo es real o generado por IA.
Aunque las políticas pueden parecer buenas sobre el papel, es importante implementarlas. Una creadora, Georgie, que se deja guiar hora de sopaSe dice que ya es fácil para las personas volver a publicar o robar videos virales, y la nueva herramienta de inteligencia artificial hará que sea aún más fácil para creadores conocidos crear deepfakes sin su consentimiento.
Esto puede ser peligroso, como hemos visto. Grok AI en X. Sin las precauciones adecuadas, es fácil para los usuarios de las redes sociales tomar fotografías y vídeos que la gente comparte en línea y Conviértalos en contenido abusivo e ilegal..
