El sistema de hospitales públicos de la ciudad de Nueva York ha anunciado que no renovará su contrato con Palantir en medio de una controversia en el Reino Unido sobre los contratos gubernamentales de la empresa de análisis de datos e inteligencia artificial.
El Dr. Mitchell Katz, presidente del sistema municipal de atención de salud pública más grande de Estados Unidos, testificó ante el Ayuntamiento de Nueva York la semana pasada que el contrato con Palantir expirará en octubre.
Dijo en la audiencia que el acuerdo, que se centra en recuperar dinero para reclamaciones de seguros, siempre estuvo destinado a ser a corto plazo, y que había un “cortafuegos absoluto” que impedía a Palantir compartir información con el Servicio de Inmigración y Control de Aduanas de Estados Unidos. Dijo que la empresa “no tuvo ningún incidente”.
El contrato y los documentos de pago relacionados fueron compartidos con The Guardian por el Comité de Servicio de Amigos Americanos y fueron reportados por primera vez. InterceptarMuestre que NYC Health + Hospitals le ha pagado a Palantir casi $4 millones desde noviembre de 2023. El acuerdo establece que Palantir podrá revisar notas sobre la salud de los pacientes y ayudar a los hospitales a reclamar más dinero para beneficios gubernamentales a través de programas como Medicaid. También incluye una línea que indica que, con el permiso de la agencia de la ciudad, Palantir puede “desidentificar” la información de salud protegida de los pacientes y utilizarla “para fines distintos de la investigación”.
NYC Health + Hospitals dijo en un correo electrónico a The Guardian que realizará la transición a sistemas desarrollados completamente internamente y que no se compartirá ningún dato con Palantir ni con las aplicaciones de la compañía una vez que expire el contrato. “El uso de la tecnología de Palanti por parte de NYC Health + Hospitals se limita estrictamente a la optimización del ciclo de ingresos, lo que ayuda al sistema de salud pública a cerrar la brecha entre los servicios prestados y los cargos capturados, protegiendo ingresos críticos y reduciendo denegaciones evitables”, dijo la compañía en un comunicado enviado por correo electrónico.
Un portavoz de Palantir dijo en un comunicado: “Palintir, como empresa de software, no posee ni tiene ningún derecho sobre los datos de los clientes, y cada entorno de cliente está protegido individualmente contra el acceso no autorizado o el uso indebido mediante fuertes controles de seguridad que el cliente puede gestionar y supervisar por completo”.
La presencia de Palanti crece en el Reino Unido
Mientras el sistema hospitalario de la ciudad de Nueva York se prepara para separarse de Palantir, la compañía enfrenta un escrutinio similar por cuestiones de privacidad en su acuerdo de £330 millones con el Servicio Nacional de Salud (NHS) del Reino Unido. A los funcionarios de salud del Reino Unido les preocupa que la controversia que rodea a Palantir pueda detener el despliegue a nivel nacional del sistema de datos de la compañía, aunque Care Starmer está tratando de acelerar el despliegue. Hasta el verano pasado, ni siquiera la mitad de las autoridades sanitarias del país habían comenzado a utilizar la tecnología de Palantir, en medio de preocupaciones de la comunidad y los médicos.. Una sesión informativa del 12 de marzo de Medact, una organización benéfica de justicia sanitaria, dijo que el software de Palantir podría permitir “abusos de poder estatal basados en datos”, incluidas redadas de ICE al estilo estadounidense. Palantir negó que los datos pudieran usarse de esta manera, afirmando que sería ilegal y un incumplimiento de contrato.
Palantir, que también tiene contratos con el Ministerio de Defensa del gobierno británico, está ampliando su influencia en el país, a pesar de la reacción de activistas y algunos legisladores. The Guardian reveló la semana pasada que Palantir estaba tratando de obtener acceso a datos regulatorios financieros nacionales confidenciales.
La Autoridad de Conducta Financiera, que supervisa miles de firmas financieras, desde bancos hasta fondos de cobertura, ha otorgado a Palantir un contrato para investigar inteligencia interna para ayudar a erradicar los delitos financieros. Esto ha provocado la indignación de algunos parlamentarios, que han pedido al gobierno que descarte el acuerdo. Los demócratas liberales pidieron el lunes una investigación gubernamental sobre el acuerdo. Starmer rechazó las sugerencias de que el Reino Unido se había vuelto “peligrosamente demasiado dependiente” de las empresas tecnológicas estadounidenses, incluida Palantir, pero señaló que prefería más capacidades nacionales.
Medact ha planteado preocupaciones sobre la privacidad sobre la capacidad de Palantir para acceder a datos de pacientes no identificados en el Reino Unido. (Los datos no identificados se refieren a datos a los que se les han quitado características que podrían indicar quién es un individuo, como el nombre y el número de seguro social). A 12 de marzo En sesiones informativas para funcionarios de salud, Medact argumentó que las protecciones de privacidad de datos del NHS eran inadecuadas; NHS England dice que los datos no están identificados a medida que pasan a través de su sistema de software nacional, la Plataforma de Datos Federados del NHS (FDP). Pero Medact expresó su preocupación de que estos datos pudieran volver a identificarse fácilmente.
Un portavoz del NHS dijo a The Guardian en una declaración enviada por correo electrónico que el proveedor de FDP fue “designado de acuerdo con las Regulaciones de Contratos Públicos y debe actuar sólo bajo la dirección del NHS, con estrictas obligaciones contractuales para proteger el acceso y la confidencialidad de todos los datos bajo el control del NHS”.
Preocupaciones sobre la privacidad de los datos
Los expertos en privacidad de datos entrevistados por The Guardian dijeron que existen riesgos para los neoyorquinos que acceden a datos no identificados para fines distintos a la investigación, particularmente dado el amplio acceso de la compañía a registros gubernamentales, su voluntad de cooperar con el gobierno federal y su capacidad para conectar y analizar grandes conjuntos de datos.
“La desidentificación ya no es la garantía que solía ser, y con las capacidades de la IA cada vez es más fácil volver a identificar la información”, dijo Sharon Hoffman, profesora de derecho en la Universidad Case Western Reserve.
Ari Ezra Waldman, profesor de derecho en UC Irvine que estudia cómo los gobiernos y las empresas de tecnología usan datos sobre individuos, dijo que deberíamos preocuparnos “cada vez que Palantir o un gobierno hostil recopile datos sobre poblaciones vulnerables”. Le preocupan especialmente las disposiciones contractuales que permiten utilizar la información para “fines distintos de la investigación”. Eso le dice que el gobierno no tenía suficiente poder para hacer retroceder a Palantir cuando se negociaba el acuerdo, o que no le importaba ni conocía los riesgos, dice.
Los activistas cantan la victoria
A pesar de las afirmaciones del sistema hospitalario de que la asociación no representaba ningún riesgo real para los pacientes, los trabajadores en la ciudad de Nueva York y más allá lo consideran una victoria.
Enfermeras, activistas pro palestinos y grupos de justicia social y climática presionaron al gobierno de la ciudad como parte de una campaña nacional conocida como Purge Palantir para impedir que la empresa contratara agencias gubernamentales, universidades y corporaciones.
“No creemos que los mismos sistemas de IA que apuntan a los inmigrantes para ICE aquí en los EE. UU., así como los sitios de bombas en Irán, deban ser los mismos sistemas de IA utilizados en los hospitales”, dijo Kenny Morris, un organizador del Comité de Servicio de Amigos Estadounidenses. El equipo obtuvo el contrato de NYC Health + Hospitals con Palantir a través de una solicitud de registros públicos y compartió el documento con Intercept y The Guardian. En la campaña también participaron el Sindicato Nacional de Enfermeras y el movimiento Boicot, Desinversión y Sanciones (BDS).
Grupos como la campaña “No Palantir in Our NHS” en el Reino Unido esperan que la decisión del sistema hospitalario público de la ciudad de Nueva York de expirar el contrato de Palantir también alimente su propia lucha. Medact y Amnistía Internacional Reino Unido dijeron en declaraciones enviadas por correo electrónico a The Guardian que pidieron al NHS que siguiera el ejemplo de la ciudad de Nueva York y cancelara su contrato de 330 millones de libras con Palantir.
“Como lo han demostrado los activistas en Nueva York, los trabajadores y las comunidades pueden pedir cuentas a nuestras instituciones de salud y presionarlas para que tomen las decisiones correctas. Haremos lo mismo aquí y obligaremos al NHS de Inglaterra a cancelar este acuerdo”, dijo la Dra. Rhiannon Mehranian Osborne, líder de campaña corporativa de Medact, que se puso en contacto con Purge Palantir.
