Un joven de 16 años se suicidó después de preguntarle a ChatGPT cuál era la forma “más exitosa” de quitarse la vida, según una investigación.
Luca Sela Walker, alumno de una escuela privada en Yateley, Hampshire, murió el 4 de mayo del año pasado.
Una investigación en el Tribunal Forense de Winchester descubrió el martes que Walker había preguntado al chatbot generativo de IA cuál era la forma “más exitosa” de suicidarse en las líneas ferroviarias en las horas previas a su muerte.
Estaba estudiando en Farnborough Sixth Form College en el momento de su muerte. Recientemente se graduó en Lord Wandsworth College cerca de Hook, Hampshire. El tribunal escuchó que la escuela tenía una cultura de “intimidación o intimidación”, lo que era un factor “constitutivo” en sus problemas de salud mental.
Walker, descrito por su familia como “amable, sensible y tranquilo”, les dijo a sus padres que iba a su trabajo como salvavidas pero en lugar de eso viajó a una estación de tren, donde se quitó la vida.
Sus padres, Scott Walker y Claire Sela, dijeron en la investigación que no tenían idea de los problemas de salud mental de su hijo y lo describieron como una “batalla invisible”.
DS Gary Knight, de la Policía de Transporte Británica, que investigó la muerte de Walker, dijo en la investigación: “Descubrieron que había estado en ChatGPT la noche anterior, alrededor de las 00:30 am, pidiendo consejo sobre la forma más exitosa de suicidarse en la vía. Es una lectura bastante escalofriante e inquietante”.
Knight agregó: “Decía que se podía contactar a organizaciones como los Samaritanos para pedir ayuda, pero Luca lo evitó, lo que ChatGPT aceptó y dio la forma más efectiva de que la gente pudiera hacerlo (suicidarse) en el ferrocarril”.
El forense Christopher Wilkinson dijo en la investigación que estaba preocupado por el impacto del software de inteligencia artificial, pero añadió que se sentía incapaz de actuar debido a su creciente alcance.
Wilkinson dijo: “Por lo que he leído, está claro que quería saber algo específico. Afortunadamente, quizás lo único bueno es que ChatGPT parece estar aplicando un elemento de preocupación sobre por qué se hacen estas preguntas, pero eso ciertamente no detiene la conversación.
“El individuo dice que no busca para sí mismo sino que busca el propósito de la investigación”.
Wilkinson confirmó que la causa de la muerte fue un traumatismo múltiple con objeto contundente y dijo que Luca se suicidó.
Un portavoz de Lord Wandsworth College dijo que Walker era un “miembro muy querido y valorado de nuestra comunidad” recordado por “las amistades que hizo y el impacto positivo que tuvo en quienes lo rodeaban”.
Agregaron: “Si bien no se ha llamado a la escuela a declarar en la investigación, nos tomamos muy en serio cualquier preocupación sobre el bienestar de los alumnos.
“Nuestra comunidad escolar se basa en una sólida cultura de respeto y apoyo, que se refleja constantemente en los comentarios de los estudiantes y en las inspecciones independientes. Estamos totalmente comprometidos a garantizar que cada estudiante se sienta seguro, apoyado y valorado”.
Un portavoz de OpenAI, que desarrolló ChatGPT, dijo: “Continuamos mejorando la capacitación de ChatGPT para reconocer y responder a signos de angustia emocional o psicológica, reducir las conversaciones y dirigir a las personas al soporte del mundo real.
“Continuamos fortaleciendo las respuestas de ChatGPT a momentos delicados, trabajando en estrecha colaboración con médicos de salud mental”.
