OpenAI dijo el jueves que está impidiendo que las personas creen videos usando imágenes del reverendo Dr. Martin Luther King Jr. a través de su aplicación Sora después de que los usuarios crearan imágenes obscenas y racistas de él.
La compañía dijo que tomó la decisión a petición del King Center, así como de la hija del líder de derechos civiles, la Dra. Bernice King, quien se opuso a los videos.
El anuncio fue otro intento de responder a las críticas a las herramientas de OpenAI, que según los críticos operan con pocas salvaguardias.
“Algunos usuarios han creado imágenes irrespetuosas del Dr. King”, dijo OpenAI en un comunicado. “OpenAI muestra al Dr. King deteniendo generaciones mientras fortalece las barreras para figuras históricas”.
OpenAI, que también opera ChatGPT, lanzó la última versión de Sora el 30 de septiembre y rápidamente se convirtió en la aplicación para iPhone más descargada en Estados Unidos. La aplicación permite a las personas generar videos a partir de inteligencia artificial mediante indicaciones de texto simples.
Los usuarios crearon clips en los que King y otras personalidades hacían comentarios ingeniosos que a menudo eran vulgares o racistas.
La gente ha publicado otros videos de apariencia realista con celebridades muertas, incluida Amy Winehouse presentando un programa de cocina, Michael Jackson trabajando en Walmart y una conversación falsa entre los actores James Gandolfini y Robin Williams.
En respuesta, Zelda Williams, la hija del señor Williams, instó este mes a la gente a dejar de usar la imagen de su padre. “Por favor, dejen de enviarme vídeos de papá con IA”, escribió Williams.
La señora King estuvo de acuerdo: “Estoy de acuerdo con mi padre”, dijo. escribió en las redes sociales. “Por favor, detente”.
La respuesta de OpenAI declaró que los representantes del público moribundo podrían solicitar limitar el uso de su imagen en los videos de Sora.
“Si bien existe un fuerte interés por la libertad en la representación de figuras históricas, OpenAI cree que, en última instancia, el público debería tener control sobre cómo las figuras y sus familias utilizan sus imágenes”, dijo OpenAI el jueves.
En términos más generales, a los expertos les preocupa que aplicaciones como Sora puedan convertirse en caldo de cultivo para la desinformación y el abuso. Otros videos interesantes y realistas creados con la aplicación muestran fraude electoral, arrestos de inmigrantes, protestas, crímenes y asaltos en las calles de la ciudad.
Sora, que puede utilizar imágenes de personajes ficticios, ha planteado dudas sobre la infracción de derechos de autor.
La aplicación también ha generado críticas en Hollywood, donde los estudios han expresado su preocupación de que los vídeos realizados con Sora ya infrinjan los derechos de autor de varias películas, programas y personajes.
Con Sora, OpenAI se ha centrado en construir una red social después de centrarse más en aplicaciones de investigación profunda para inteligencia artificial. Crear una gran base de usuarios para Sora podría abrir nuevas formas para que la empresa gane dinero, lo que no es rentable.
Adam Satarian Informes de contribución.
