Grammarly ha lanzado su función de revisión de expertos impulsada por IA llamado para uso Identidad de periodistas y escritores sin permiso. El software asistente de escritura es ahora una Demanda colectiva Acusado de explotar los nombres de los autores para su propio beneficio.
Grammarly anuncia el cambio de marca ‘Superhuman’ mientras duplica su apuesta por la IA
Lanzado en agosto pasado junto con otros siete agentes de IA, Expert Review estuvo disponible en el lanzamiento en los planes gratuito y Pro de $ 12 de Grammarly y promovió a los usuarios para que brindaran comentarios sobre su contenido escrito. Una página en el sitio web de Grammarly que desde entonces ha sido eliminada decía Expert Review “(se basa en conocimientos de expertos en la materia y publicaciones confiables” y “proporciona comentarios generados por IA basados en contenido de expertos disponible públicamente” (A través de Wayback Machine) los usuarios pueden incluso personalizar de qué fuentes gramaticalmente “expertas” extraen seleccionando los nombres de autores específicos.
“Los agentes de revisión expertos brindan experiencia en la materia y comentarios personalizados y específicos para mejorar la redacción que cumple con rigurosos estándares académicos o profesionales adaptados al campo del usuario”. Grammerly escribió en la publicación de su blog anunciando la función.
La revisión de expertos de Grammerly pasó a primer plano la semana pasada Informe cableado La función ofrece ediciones generadas por IA en nombres de autores y académicos reales, tanto vivos como muertos. Guía del usuario de la herramienta El descargo de responsabilidad establece que sus referencias a expertos son “sólo para fines informativos y no indican ninguna afiliación con Grammar o respaldo por parte de esa persona u organización”. Sin embargo, la misma página también afirma que las reseñas de expertos “brindan conocimientos de destacados profesionales, autores y expertos en la materia”.
Muchos han dicho que a los expertos en la materia no les ha agradado que la gramática utilice sus identidades sin su conocimiento o consentimiento.
“(Gramaticalmente) creó una lista de personas reales, dio a sus modelos rienda suelta para que alucinaran consejos que sonaran plausibles en su nombre y los puso detrás de una suscripción”, Escrito por el fundador del juego de plataformas, Casey Newton, quien estuvo entre los invitados por Grammarly. Es una elección deliberada monetizar las identidades de personas reales sin involucrarlas, y es malo”.
“Debe ser algún tipo de difamación o algo así”. La historiadora Mar Hicks publicó en Bluesky, Se incluyen en la revisión de expertos al compartir una captura de pantalla de su identidad. “No se puede simplemente robar la propiedad intelectual de las personas y luego fingir que están diciendo algo que nunca dijeron”.
Reaccionar gramaticalmente a la reacción violenta de las revisiones de expertos
En respuesta a la reacción, Grammarly le dijo a Platformer el lunes que permitiría a los autores enviarles correos electrónicos para optar por no ser incluidos en su función de revisión de expertos. Esto generó más críticas, ya que a los expertos no se les dijo que Grammarly estaba usando sus identidades, ni tampoco les habían dado permiso para ello en primer lugar. Los autores afectados no saben que tienen que optar por no participar a menos que un usuario de Grammarly vea su nombre mientras utiliza la revisión de expertos y les informe.
Además, brindar la opción de excluirse no abordaba el uso que hace Grammarly de las identidades de los autores muertos. Los autores muertos utilizados por la revisión de expertos incluyeron al astrónomo Carl Sagan y al académico interseccional Bell Hook.
Velocidad de la luz triturable
“Así que Grammerly (sic) está alterando la memoria de Bell Hook y creando versiones de inteligencia artificial del resto de nosotros antes de morir”. Escrito por la investigadora Sarah J. Jackson. “Que alguien me diga a quién demandar, ni siquiera es broma”.
Shishir Mehrotra, director ejecutivo del desarrollador de Grammarly, Superhuman, anunció más tarde el miércoles que retiraría Expert Review fuera de línea. Sin embargo, también insinuó que la compañía eventualmente tiene la intención de recuperarlo de alguna forma.
“La semana pasada recibimos comentarios críticos legítimos de expertos que estaban preocupados de que el agente hubiera tergiversado su voz”. Publicado por Mehrotra en LinkedIn. “Como contexto, Agent fue diseñado para ayudar a los usuarios a descubrir perspectivas influyentes y conocimientos académicos relevantes para su trabajo, al mismo tiempo que proporciona formas significativas para que los expertos construyan relaciones más profundas con sus fanáticos. Hemos escuchado los comentarios y reconocemos que nos quedamos cortos. Pido disculpas y reconozco que repensaremos nuestro enfoque.
“Después de una cuidadosa consideración, hemos decidido desactivar la revisión de expertos mientras reimaginamos la función para hacerla más fácil de usar, dando a los expertos un control real sobre cómo quieren ser representados, o no representados en absoluto”.
“El hecho de que existiera en primer lugar sugiere una desconexión completa de la sociedad humana normal”. El escritor climático Ketan Joshi respondió a la publicación de Mehrotra. “Debería haber sido inmediatamente obvio que esto era explotador, horrible y cruel”.
“Con todo lo que se habla sobre cómo la IA ‘construye’ (léase: ‘roba’) contenido existente, crear una herramienta que realmente genere ‘consejos’ de personas reales que pasan su vida escribiendo y preocupándose por sus habilidades… es difícil de comprender”. Escribe Dan Saltzstein del New York Times. “Debería haber consecuencias más allá de ‘vamos a reevaluar'”. Al menos promete no volver a hacer algo así”.
La demanda colectiva acusa a Grammarly de utilizar las identidades de los autores sin consentimiento
Aunque Grammarly actualmente no ha asumido ningún compromiso de este tipo, ya se enfrenta a reacciones negativas por sus acciones que van más allá del daño a la reputación. Archivado por la escritora del New York Times Julia Angwin Una demanda colectiva Contra Superman el miércoles, se descubrió que la revisión experta de Grammarly había utilizado su identidad sin su consentimiento. El bufete de abogados que lo representa, Peter Romer-Friedman Law PLLC, instó a los autores afectados a unirse a la demanda colectiva.
Aunque no está claro exactamente cuántas identidades de autores han sido abusadas gramaticalmente, puede ser un grupo grande. Mirando solo a los periodistas tecnológicos, El borde informó Esa revisión de expertos nombró a varios miembros de su personal editorial, así como a escritores de Wired, Bloomberg, The New York Times, The Atlantic, PC Gamer, Gizmodo, Digital Foundry, Tom’s Guide y los sitios hermanos de Mashable, IGN y Rock Paper Shotgun. Eso es lo que afirmó Angwin. “mucha gente” Acerca de ya ha sido buscado Únete al caso.
“Doy este paso no sólo por mí, sino por todos los que han pasado años y décadas perfeccionando sus habilidades como escritores y editores, sólo para encontrar una IA que se hace pasar por ellos”. Angwin escribió en una publicación de LinkedIn.
“Durante más de 100 años, la ley de Nueva York ha prohibido a las empresas utilizar el nombre de un individuo con fines comerciales sin su consentimiento”, dijo Peter Romer-Friedman de Peter Romer-Friedman Law PLLC. “La ley no prevé ninguna excepción para las empresas de tecnología o de inteligencia artificial”.
Presentada en un tribunal de distrito de Nueva York, la demanda colectiva busca daños y perjuicios, así como una orden judicial para evitar que Grammarly utilice las identidades de los autores sin su consentimiento.
Mashable se ha puesto en contacto con Superhuman para hacer comentarios.
sujeto
Inteligencia artificial
