Florida se ha convertido en el primer estado de EE. UU. en demandar a OpenAI por la seguridad y el diseño de ChatGPT, lo que se suma a una ola masiva de demandas existentes contra la empresa.
De acuerdo a el caso (PDF) Presentado el lunes por el fiscal general de Florida, James Uthmeyer, OpenAI ha creado una “red de fraude y explotación de usuarios, incluidos los floridanos”. queja de florida La empresa violó las leyes estatales contra prácticas comerciales engañosas o desleales para aumentar su propio valor de mercado (y sus ganancias) por encima de la seguridad de sus usuarios.
Florida no está comprando la promesa de OpenAI de construir de forma segura, según muestra la denuncia.
La demanda del estado contra OpenAI y su director ejecutivo, Sam Altman, dice que ignoraron intencionalmente las advertencias internas y externas de la empresa sobre los numerosos riesgos que la IA representa para sus usuarios. Florida alegó que OpenAI mintió sobre la confiabilidad y la idoneidad de ChatGPT para niños y promovió el uso prolongado que provocó un deterioro cognitivo en los usuarios.
(Divulgación: Jeff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en 2025, alegando que violó los derechos de autor de Jeff Davis al entrenar y operar sus sistemas de IA).
El caso se produce mientras Florida continúa una investigación criminal sobre si ChatGPT jugó un papel en el incidente del año pasado. Tiroteo masivo en la Universidad Estatal de Florida Dos personas murieron y seis resultaron heridas. En ese caso, el tirador supuestamente utilizó ChatGPT para planificar el ataque, incluyendo consejos sobre el tipo de arma, el momento de la masacre y cómo deshacerse de los restos humanos.
En ese momento, OpenAI dijo: “El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este horrible crimen”.
El director ejecutivo de OpenAI, Sam Altman, aparece mencionado en la demanda de Florida.
Crece la preocupación sobre cómo ChatGPT y otros chatbots pueden alimentar actividades humanas violentas y distracciones dañinas. Los expertos han descubierto que los chatbots como ChatGPT pueden tener dificultades para rechazar ideas peligrosas y pueden estar tan ansiosos por complacer que en realidad pueden proporcionar información falsa, un problema conocido como adulación.
Otra área de preocupación para los legisladores y los grupos de vigilancia tecnológica es la recopilación de datos y las prácticas de privacidad de OpenAI. La denuncia de Florida alega que ChatGPT ofrece a los niños acceso ilimitado a “información dañina” sobre trastornos alimentarios y autolesiones. Al ocultar estos riesgos y promover ChatGPT como seguro, OpenAI engañó a los floridanos y al público en general con un producto peligroso, según la denuncia.
OpenAI dijo en un comunicado que cree que los menores necesitan protecciones importantes en torno a la IA y ha trabajado para proporcionárselas a padres y adolescentes. “La pérdida de un niño es la tragedia más devastadora que le puede suceder a una familia y sabemos que no hay palabras que puedan abordar el dolor de tal pérdida”, dijo un portavoz de OpenAI. “Estamos comprometidos a hacer esto bien”.
Aprovechar la IA
Si bien este es el primer caso liderado por un estado contra OpenAI para la protección infantil, muchos gobiernos estatales están tomando medidas en torno a la IA. California, Illinois y Nueva York han promulgado nuevas leyes para controlar el funcionamiento de las empresas de IA.
Un caso de Florida es un caso civil, que resultará en multas (dinero) y órdenes judiciales en lugar de cargos penales. Si bien aún no está claro cómo se aplicarán las sanciones financieras, recientemente se ordenó a Meta y Google pagar 3 millones de dólares después de que un jurado los declarara culpables de crear una aplicación de redes sociales adictiva; En un caso separado, a Meta se le ordenó pagar 375 millones de dólares por cargos de explotación infantil. Estos casos tienen que ver con las redes sociales, no con la IA, pero estas tácticas legales utilizadas contra las grandes tecnologías podrían proporcionar una hoja de ruta legal para avanzar.
A pesar de la creciente reacción estatal y local contra la IA, el nuevo plan de IA de la administración Trump muestra que quiere que el gobierno federal esté a cargo de crear reglas en torno a la tecnología. La Casa Blanca ha expresado abiertamente su apoyo a los proyectos de infraestructura de IA, incluido un auge en los proyectos de construcción de centros de datos en todo Estados Unidos.
Pero los expertos advierten que relajar las reglas para permitir que las empresas de IA se desarrollen más rápido podría tener efectos desastrosos en el medio ambiente, la economía y la sociedad en su conjunto.
