La familia de un niño gravemente herido en uno de los peores tiroteos masivos en Canadá está demandando a OpenAI, argumentando que la compañía de tecnología podría haber evitado un ataque a una escuela el mes pasado.
La demanda se produce cuando el jefe de OpenAI dice que se disculpará con las familias de una remota ciudad canadiense después de que la violencia desgarrara a la unida comunidad.
Ocho personas, entre ellas cinco estudiantes de entre 12 y 13 años y un profesor asistente de 39 años, fueron asesinadas por un hombre armado de 18 años en la ciudad montañosa de Tumbler Ridge el 10 de febrero.
Más tarde se supo que el tirador, Jesse Van Rutselaar, que murió a causa de heridas autoinfligidas, había descrito situaciones violentas relacionadas con armas de fuego a ChatGPT durante varios días en junio, lo que un sistema de revisión automatizado marcó, según El diario de Wall Street.
Pero OpenAI, propietaria del chatbot, dijo que sentía que la actividad de la cuenta no indicaba “planes creíbles o inminentes” y por lo tanto prohibió la cuenta de Van Rutsela, pero no notificó a las autoridades de Canadá. Más tarde, la compañía dijo que encontró una segunda cuenta vinculada al tirador después de que la primera fuera suspendida.
El lunes, CA Edmonds presentó una demanda contra la empresa en nombre de ella y de sus dos hijas, Maya y Dahlia Gebala, quienes estuvieron presentes durante el tiroteo.
“El propósito de esta demanda es obtener toda la verdad sobre cómo y por qué ocurrió el tiroteo masivo de Tumbler Ridge, imponer responsabilidad, buscar reparación por daños y perjuicios y ayudar a prevenir otra atrocidad de tiroteo masivo en Canadá”, dijo Rice Parsons Leoni & Elliott LLP, el bufete de abogados que representa a la familia, en un comunicado.
Las acusaciones no han sido probadas ante los tribunales.
Maya, de 12 años, recibió tres disparos. Una bala entró en su cabeza por encima del ojo izquierdo y otra alcanzó su cuello. Una tercera bala le rozó la mejilla y parte de la oreja, según la demanda.
Según el reclamo, se encuentra en el hospital después de sufrir una lesión cerebral traumática catastrófica, discapacidades cognitivas y físicas permanentes, hemiplejia en el lado derecho, cicatrices y desfiguración física.
Tanto Edmonds como su hija Dahlia, que no resultaron heridas físicamente en el tiroteo, han experimentado trastorno de estrés postraumático, ansiedad, depresión y trastornos del sueño.
La demanda civil de Edmonds alega que OpenAI comercializó ChatGPT sin estudios de seguridad adecuados. La familia busca daños punitivos no revelados, diciendo que la conducta de la compañía es “reprensible y moralmente repugnante” tanto para los demandantes como para la “comunidad”.
La semana pasada, el director ejecutivo de OpenAI, Sam Altman, se reunió virtualmente con el primer ministro de Columbia Británica, David Eby, y el alcalde de Tumblr Ridge, Daryl Krakowka, para discutir las políticas existentes en el gigante tecnológico que no requieren que la policía denuncie contenido violento.
“Todos los participantes en la llamada reconocieron que una disculpa no es suficiente, pero es absolutamente necesaria”, dijo Eby. “Y el alcalde de Tumblr Ridge va a trabajar con OpenAI para asegurarse de que cualquier declaración pública relacionada con esto sea lo más precisa y significativa posible, (y) no vuelva a ofender a la gente de la comunidad”.
Cuando se le pidió un comentario sobre la demanda, un portavoz de la compañía calificó el tiroteo como una “tragedia indescriptible” y dijo que Altman “trabajará con EB y Krakow para encontrar la mejor manera de expresar su disculpa y apoyo a la comunidad de Tumbler Ridge”, pero no proporcionó un cronograma.
“OpenAI se compromete a trabajar con funcionarios provinciales y locales para realizar cambios significativos que ayuden a prevenir futuras tragedias como esta”.
La compañía no dijo si la demanda cambiaría los planes de Altman de disculparse.
“OpenAI tuvo la oportunidad de informar a las autoridades y potencialmente incluso evitar que ocurriera esta tragedia”, dijo Eby a los periodistas después de la reunión con Altman. Premier dijo que la compañía podría haber hecho más, pero destacó la falta de apoyo de salud mental y acceso a armas de fuego del tirador.
Eby, quien pronunció un emotivo discurso ante la comunidad en una vigilia en los días posteriores al tiroteo, se ha convertido en un duro crítico del marco regulatorio en gran medida inexistente que rige cómo operan las empresas de inteligencia artificial en Canadá y cómo OpenAI ha manejado la situación.
“Es inaceptable que sea responsabilidad de las empresas informar o no y esto debe cambiar”.
EB se negó a reunirse con miembros del equipo directivo de la empresa y, en cambio, exigió hablar directamente con Altman. En la llamada de 30 minutos, el primer ministro dijo que no preguntó sobre las interacciones entre el tirador y el chatbot de OpenAI.
Mientras tanto, bajo la presión de los legisladores, la empresa ha cambiado su forma de trabajar para identificar mejor posibles señales de advertencia de violencia grave. El Ministro de Inteligencia Artificial de Canadá, Ivan Solomon, dijo que pidió a las empresas que apliquen sus nuevos estándares de seguridad de manera retroactiva y revisen los casos previamente señalados.
“Esto determinará si se han pasado por alto incidentes adicionales que se han remitido a las fuerzas del orden según los nuevos estándares de seguridad de OpenAI y garantizará que se informen de inmediato a la RCMP”.
Si bien Eby dijo que el liderazgo de OpenAI ha “respondido” a las preocupaciones de los gobiernos, advirtió que otras empresas con chatbots similares aún tienen que cambiar sus políticas.
“El status quo no funciona, no funciona, y presenta nuevamente la amenaza del fracaso”, afirmó Eby. “Y por eso el cambio debe realizarse con mucha urgencia”.
