meta Herramientas de vigilancia controvertidasQue rastrea las pulsaciones de teclas, los clics del mouse y el contenido de los empleados para entrenar los modelos de IA de la compañía, no funcionó según lo planeado. La Iniciativa de Capacidad del Modelo, que se implementó en abril y con la fuerte oposición de los empleados, fue archivada luego de un incidente en el que los datos de los empleados se volvieron accesibles en toda la empresa.
En las últimas semanas, más de 1.600 empleados de Meta, incluidos ingenieros de software, científicos investigadores y diseñadores, Firmó una petición Se insta a las empresas a que dejen de recopilar y reutilizar los datos informáticos de los empleados.
“Creemos colectivamente que empoderar a los individuos y las comunidades mediante la creación de una IA responsable incluye respetar sus límites y su privacidad”, decía la petición. “Cualquier enfoque de la IA que se base en una recopilación de datos intrusiva, coercitiva y no consensuada contradice ese principio”.
Business Insider reportó esta información El software también rastreó aplicaciones y programas como Gmail, GChat y Metamate, un asistente de inteligencia artificial para empleados, como parte de su recopilación de datos. El software de seguimiento de datos también realiza capturas de pantalla. No está claro si será reinstalado.
Citando un aviso de seguridad interno e información de tres empleados de Meta, Wired informó que las conversaciones privadas, indicaciones, transcripciones y evaluaciones de desempeño estuvieron expuestas a “cualquier persona dentro de la empresa”.
en una declaración Recibido por cableUn portavoz de Meta dijo que la compañía está investigando el incidente y dejará de rastrear datos indefinidamente.
“Hemos diseñado cuidadosamente este programa teniendo en cuenta la protección de la privacidad, y aunque no tenemos indicios en este momento de que el personal de Meta haya accedido indebidamente a algún dato, lo estamos pausando mientras investigamos”, dijo el portavoz.
Un representante de Metar no respondió a la solicitud de comentarios de CNET.
Los empleadores están aumentando el uso de la IA
Meta, que está gastando al menos 135.000 millones de dólares en infraestructura de IA este año, se encuentra entre varias grandes empresas tecnológicas. La IA está aumentando la inversiónincluidos Amazon (200 mil millones de dólares), Microsoft (190 mil millones de dólares) y Alphabet (185 mil millones de dólares).
Meta AI, el chatbot insignia de la compañía, está integrado con sus principales plataformas de redes sociales como WhatsApp, Instagram y Facebook.
De acuerdo a audio filtrado En una reunión interna de la empresa el 30 de abril, el director ejecutivo de Meta, Mark Zuckerberg, dijo que tenía sentido utilizar a sus propios empleados para la formación en IA.
“Los modelos de IA aprenden observando a personas realmente inteligentes hacer cosas… la inteligencia promedio de la gente de esta empresa es significativamente mayor que la de la mayoría de las tareas que se pueden realizar”, dijo Zuckerberg.
Rory MirDirector de Acceso Abierto y Participación de la Comunidad Tecnológica en Digital Rights Group Fundación Frontera ElectrónicaDichos activistas de Meta tenían derecho a oponerse a una práctica invasiva que planteaba preocupaciones sobre la privacidad, el consentimiento y la confianza.
“Exigir nuevos datos para entrenar la IA no es excusa”, dijo Mir a CNET. “Un seguimiento tan desproporcionado de los trabajadores es un abuso de poder y resalta la necesidad de leyes que protejan la privacidad de los trabajadores exigiendo el consentimiento y el debido proceso”.
Las empresas están monitoreando hasta qué punto sus empleados utilizan las herramientas de inteligencia artificial de la empresa en su trabajo diario. CNBC informó en mayo Que “casi todas las empresas Fortune 500 rastrean el uso general de la IA” para determinar si los empleados la utilizan de manera efectiva y maximizan su potencial.
