El ministro de inteligencia artificial de Canadá dice que convocó a representantes de la empresa de tecnología OpenAI después de que la empresa se negara a alertar a la policía tras suspender la cuenta de un usuario que se convirtió en el autor de uno de los peores tiroteos escolares del país.
Evan Solomon dice estar “profundamente perturbado” Informe La compañía, que opera el popular chatbot ChatGPT, suspendió la cuenta de Jesse Van Rutselaer en junio de 2025 por “aumento de la actividad violenta”, pero no contactó a las autoridades canadienses.
El 10 de febrero, un joven de 18 años mató a ocho personas en la localidad de Tumbler Ridge. Entre los muertos se encontraban cinco estudiantes de entre 12 y 13 años y un profesor asistente de 39 años. Antes de atacar la escuela, Van Rutselaar mató a su madre y a su medio hermano en su casa cercana.
El tirador describió situaciones violentas relacionadas con armas en ChatGPT durante varios días de junio, que un sistema de revisión automatizado marcó, según El diario de Wall Street. Pero la compañía de tecnología de San Francisco dijo que sentía que la actividad de la cuenta no identificaba “planes creíbles o inminentes” y por lo tanto prohibió su cuenta, pero no notificó a las autoridades de Canadá.
Solomon dijo a los periodistas que se había puesto en contacto con OpenAI para concertar una reunión en Ottawa durante el fin de semana y esperaba explicar cómo los principales representantes de seguridad de la compañía deciden remitir los casos a las autoridades.
“Estarán aquí (el martes) y tendremos una reunión para obtener una explicación de sus protocolos de seguridad y cuándo se intensifican y sus umbrales de escalada con la policía, para que podamos comprender mejor lo que está pasando y lo que hacen”, dijo.
El gobierno federal de Canadá está sopesando cómo regular (si es que lo hace) el uso de chatbots de inteligencia artificial muy populares, incluido si los productos pueden usarse libremente.
La semana pasada, The Wall Street Journal informó que los empleados de la empresa de tecnología consideraron alertar a la policía canadiense el año pasado sobre las actividades de Van Rutselaer. OpenAI dijo en un comunicado que después de enterarse del tiroteo en la escuela, el personal se comunicó con la RCMP con información sobre las personas y su uso de ChatGPT. Van Rutselaer también usó el juego Roblox para crear un centro comercial virtual lleno de armas que permitía a los jugadores dispararse entre sí antes de atacar Tumbler Ridge.
Aunque la empresa decidió comunicarse de manera proactiva con la RCMP, aun así manejó el problema.
El gobierno provincial de Columbia Británica confirmó a The Guardian que cuando un representante de OpenAI se reunió con funcionarios en una reunión preestablecida un día después del tiroteo, la compañía no reveló que había suspendido la cuenta ChatGPT del tirador meses antes debido a su naturaleza violenta. La reunión fue reportada por primera vez por el Globe and Mail.
Representantes de OpenAI llegaron a la provincia para contactar a la RCMP apenas dos días después del tiroteo masivo.
El primer ministro de Columbia Británica, David Eby, dijo en un comunicado que el dolor que están soportando las familias es “inimaginable” y que las revelaciones de que la “inteligencia relacionada” de OpenAI fueron “profundamente perturbadoras para las familias de las víctimas y todos los habitantes de la Columbia Británica” antes del tiroteo.
