Florida presentó una demanda el lunes contra OpenAI, el creador de ChatGPT, y su director ejecutivo, Sam Altman, alegando que la empresa ocultó graves riesgos de seguridad con su chatbot. Florida es el primer estado de EE. UU. en demandar a una empresa de inteligencia artificial.
La demanda de 83 páginas fue presentada por el Fiscal General de Florida, James Uthmeyer, y alega que OpenAI “comercializó agresivamente” ChatGPT al público ignorando las advertencias de seguridad y los peligros potenciales del producto.
“OpenAI y Altman ignoraron las precauciones de seguridad internas y externas, poniendo a los niños en gran riesgo y permitiendo que un producto peligroso llegue a millones de floridanos”, dijo Uthmaier en un comunicado.
Un portavoz de OpenAI señaló esto Trabajo de empresa sobre el fortalecimiento de la seguridad de sus productos y dijo: “Perder un hijo es la tragedia más devastadora que le puede pasar a una familia y sabemos que no hay palabras que puedan abordar el dolor de tal pérdida”.
La demanda civil se produce después de que el estado abriera una investigación criminal contra OpenAI en abril por el papel de ChatGPT en un tiroteo masivo en la Universidad Estatal de Florida que dejó dos muertos y seis heridos. El tirador tuvo una larga conversación con el chatbot, preguntándole cosas como esta ¿A cuántas personas tiene que matar? recibir atención nacional, según un informe del Wall Street Journal. ChatGPT respondió que tres o más personas eran “barras no oficiales” para atraer la atención generalizada de los medios, informó el Journal.
Uthmeier dijo que comenzó su investigación criminal después de OpenAI Revisa la conversación El presunto tirador estaba en chatgpt. En su demanda civil presentada el lunes, el fiscal general dijo que busca daños y perjuicios en nombre de los residentes del estado y una orden judicial para obligar a OpenAI a poner fin a las prácticas descritas en la demanda.
La acción legal de Florida es parte de la oleada de una demanda contra OpenAI porque su chatbot está exacerbando las crisis de salud mental e incitando a actos de violencia y suicidio. En noviembre, Se han presentado siete denuncias Contra la empresa acusando a ChatGPT de actuar como “entrenadores de suicidios”. En abril, familias de víctimas de un tiroteo en una escuela en Canadá que dejó cinco muertos y 27 heridos presentaron siete demandas más contra OpenAI.
También está demandado el chatbot Gemini de Google, que animó a un hombre de 36 años a sufrir un “accidente catastrófico” y luego suicidarse.
La queja de Florida contra OpenAI comienza con una captura de pantalla tomada del sitio web de la compañía que dice que ChatGPT está “diseñado teniendo en cuenta la seguridad”. A esto le sigue una frase de dos palabras de los abogados de Florida: “No es así”.
La demanda detalla el rápido éxito de OpenAI desde el lanzamiento de ChatGPT en 2022, lo que lo eleva a una valoración estimada de alrededor de 1 billón de dólares. “Este éxito no se ha logrado”, se lee en la denuncia. “Auge de OpenAI culpado por una red de fraude y explotación de usuarios”.
La acusación formal alega que ChatGPT “ayudó e instigó” al tirador masivo en el ataque mortal, al tiempo que alentó a las personas vulnerables a lastimarse a sí mismas y a otros. “Conociendo los peligros de ChatGPT, esta letanía de daños y perjuicios está impulsada por la insaciable búsqueda de los acusados por ganar la carrera armamentista de la IA y la adquisición de enormes fortunas”, se lee en la denuncia.
La demanda también alega que los jóvenes son susceptibles a los chatbots y se enganchan fácilmente a un producto que imita la empatía humana. Florida acusó a la empresa de no integrar salvaguardias adecuadas para los menores, como permitir a los padres vincular las cuentas de sus hijos. La demanda también alega que OpenAI está recopilando datos de niños sin una supervisión adecuada.
Un portavoz de OpenAI dijo que la organización ha implementado “protecciones y políticas clave” para los menores, incluida la tecnología de predicción de la edad. Proporcionar herramientas a los padres. para monitorear el uso de la IA por parte de sus adolescentes. Estas herramientas solo funcionan cuando un niño acepta la solicitud de sus padres de vincular cuentas, y los menores pueden desvincular cuentas en cualquier momento.
La batalla legal de Uthmyer contra OpenAI ha dividido a muchos de sus colegas republicanos y a Donald Trump. El presidente se ha hecho amigo de Altman y otros líderes de la IA y ha emitido varias órdenes ejecutivas para aflojar las riendas regulatorias de la industria. El mes pasado, Trump se abstuvo de firmar una nueva orden ejecutiva que habría exigido una revisión gubernamental de la seguridad de los próximos modelos de IA antes de su lanzamiento.
