OpenAI está hablando de cambios y una revisión de sus protocolos de seguridad y comunicaciones con las fuerzas del orden luego de un tiroteo masivo en Tumbler Ridge, Columbia Británica, Canadá, que mató a nueve personas, incluido el tirador, a principios de este mes.
El autor del tiroteo tenía su cuenta ChatGPT. suspendido en junio de 2025 después de que OpenAI detectara contenido de usuarios que presentaba “un indicio de posible violencia en el mundo real”. OpenAI prohibió al usuario y consideró alertar a las autoridades. Sin embargo, OpenAI decidió no notificar a las autoridades después de determinar que el usuario no tenía un plan creíble para actuar.
La decisión de OpenAI de no alertar a las autoridades se convirtió en una decisión importante. inquietud Gobierno canadiense.
Si bien OpenAI tenía un protocolo para manejar amenazas creíbles, la compañía ahora dice que hará más. en un carta abierta Al gobierno canadiense, la vicepresidenta de política global de OpenAI, Ann M. O’Leary, no propuso ningún cambio de política específico, pero señaló que ya se están implementando cambios y que se avecinan más.
Además, O’Leary también compartió otro descuido sobre los protocolos de OpenAI. Según la carta abierta de OpenAI, el tirador de Tumblr Ridge abrió una segunda cuenta ChatGPT, que la compañía descubrió sólo después del tiroteo y el nombre del tirador se hizo público. OpenAI compartió esa cuenta con la policía después de descubrirla.
Velocidad de la luz triturable
En su carta abierta, OpenAI dice que “continuará fortaleciendo” su protocolo de remisión de casos policiales. La agencia dijo que está trabajando con expertos en salud mental para evaluar mejor los casos difíciles y cuándo las conversaciones se vuelven riesgosas.
OpenAI también dijo que está en contacto directo con las agencias policiales canadienses para remitir casos potenciales de “violencia en el mundo real”.
ChatGPT también se modificará para brindar apoyo a quienes luchan o persiguen comportamientos prohibidos brindándoles recursos de apoyo local dentro de sus comunidades.
Además, OpenAI dijo que está abordando sus protocolos que permitieron al tirador abrir una segunda cuenta. La agencia dijo que cuenta con un sistema para identificar a los infractores reincidentes de la política y está “comprometida a fortalecer nuestros sistemas de detección para prevenir mejor los intentos de eludir nuestras medidas de seguridad y priorizar la identificación de los infractores de mayor riesgo”.
Mashable contactó a OpenAI para obtener información adicional sobre esta revisión de políticas y para averiguar si también afecta las políticas de la compañía en los Estados Unidos. Actualizaremos este artículo cuando tengamos noticias.
