OTTAWA, Ontario – OpenAI, fabricante de ChatGPT, dijo el jueves que recibió una prohibición por el uso problemático de su servicio al tener una segunda cuenta del tirador en una de las peores escuelas de la historia de Canadá.
La empresa de tecnología de San Francisco dijo en una carta al gobierno canadiense que había tomado algunas “medidas inmediatas” en respuesta a los asesinatos, y que si hubieran estado en vigor en ese momento, la policía habría sido notificada de la actividad de la cuenta.
Anne O’Leary, vicepresidenta de política global de OpenAI, dijo que la compañía descubrió la segunda cuenta después de que la Real Policía Montada de Canadá llamara a Jesse Van Rutselaer, quien dijo que Van Rutselaer mató a ocho personas y luego se suicidó el 10 de febrero en Tumbler Ridge, Columbia Británica.
Dijo que el tirador de alguna manera evitó los sistemas para evitar que los usuarios prohibidos crearan nuevas cuentas, y que la segunda cuenta de Van Rutselaer fue compartida con las autoridades después de su descubrimiento.
La carta decía que OpenAI se compromete a fortalecer su sistema de detección para prevenir mejor los intentos de eludir sus salvaguardias y “priorizar la detección de los delincuentes de mayor riesgo”.
La primera cuenta ChatGPT de Shooter fue cancelada en junio de 2025, según la carta, después de violar su política de uso. El sistema automatizado de OpenAI detectó la cuenta y luego la envió para que una persona la revisara para determinar si se violaron sus políticas y si la cuenta justificaba ser remitida a las autoridades, según la carta.
“En el momento en que la cuenta fue prohibida en junio de 2025, según lo que pudimos ver en ese momento, no pudimos identificar planes creíbles y futuros que cumplieran con nuestro umbral para remitir el asunto a las autoridades”, dijo O’Leary.
En declaraciones a los periodistas el jueves, el primer ministro de Columbia Británica, David Eby, dijo que el director ejecutivo de OpenAI, Sam Altman, acordó reunirse con él.
Eby dijo que OpenAI le dijo a su gobierno que los cambios en los umbrales de su protocolo habrían alertado a la policía sobre la actividad ChatGPT de Van Rutselaer, si hubiera existido antes del asesinato.
Pero fue un “frío consuelo” para la familia en Tumbler Ridge, dijo.
En su carta, O’Leary también dijo que la firma fortalecería los protocolos de comunicación con la policía “cuando las conversaciones crucen la línea hacia un riesgo inminente y creíble”.
“Con nuestro centro de educación continua, bajo nuestro protocolo mejorado de remisión a las autoridades, remitiremos la cuenta prohibida en junio de 2025 a las autoridades si se descubre hoy”, dijo.
Dijo que OpenAI establecerá comunicación directa con las agencias policiales canadienses.
“Los acontecimientos en Tumbler Ridge son una tragedia indescriptible y nuestros corazones están con las víctimas, sus familias y toda la comunidad”, dijo O’Leary en la carta.
O’Leary agradeció al ministro canadiense de Inteligencia Artificial, Evan Solomon, por convocar una reunión el martes para discutir cómo ayudar a prevenir este tipo de tragedias en el futuro.
“En nuestra reunión, usted y otros ministros enfatizaron que ninguna comunidad debería enfrentar esta tragedia”, dijo O’Leary. “Estamos de acuerdo”.
Solomon invitó a representantes de OpenAI a Ottawa para explicar su enfoque de seguridad y su proceso de toma de decisiones.
Solomon dijo que “todas las opciones están sobre la mesa” mientras el gobierno desarrolla un “conjunto de medidas” para abordar los daños en línea y otras cuestiones de política digital.
Van Rutselaar primero mató a su madre y a su medio hermano en la casa familiar antes de atacar una escuela cercana, dijo la RCMP. Van Rutselaar tenía antecedentes de contacto con la policía por motivos de salud mental.
El motivo del tiroteo aún no está claro.
El ataque fue el más mortífero en Canadá desde 2020, cuando entró un hombre armado. Nueva Escocia mató a 13 personas y provocó un incendio que mató a otras nueve personas.
