Si cree que usted o alguien que conoce está en peligro inmediato, debe llamar al 911 (o al número de teléfono de su país). Línea de emergencia local) o vaya a una sala de emergencias para obtener ayuda inmediata. Explique que se trata de una emergencia emocional y pregunte por alguien capacitado en este tipo de situaciones.
En medio del creciente escrutinio de la industria sobre cómo las empresas de tecnología crean protecciones para sus usuarios más jóvenes y vulnerables, Meta presentará el jueves nuevas funciones orientadas a la seguridad en su chatbot de IA. Girdles está específicamente dirigido a brindar apoyo y notificación a los padres para jóvenes que muestran signos de autolesión o intención suicida.
Como parte de las herramientas de supervisión de Meta para padres, los adultos deben elegir qué cuentas de Instagram, Facebook y Meta Horizons desean supervisar, detalladas con instrucciones. Página del Centro Familiar Mater. Las configuraciones ahora están disponibles en EE. UU., Canadá, Reino Unido y Australia.
Ahora, cuando un adolescente muestra signos de estar discutiendo contenido potencialmente dañino con el chatbot Meta AI, se enviará una alerta a su padre supervisor mediante mensaje de texto, correo electrónico o notificación en la aplicación. No se incluirá el contenido exacto del mensaje del adolescente, pero Meta compartirá recursos y consejos con los padres.
La agencia dijo que ya comparte información de la línea de ayuda en caso de crisis con adolescentes y los alienta a pedir ayuda a adultos de confianza. Meta alerta a los padres cuando son adolescentes Búsquedas repetidas en Instagram Para contenido con autolesiones o suicidio en un corto período de tiempo.
Meta dice que ha desarrollado un sistema de inteligencia artificial para identificar conversaciones potencialmente peligrosas, basándose en experiencia humana real a través de su panel de bienestar y médicos de salud mental externos. En el lanzamiento, todas las alertas se enviarán a través de un proceso de revisión manual y la empresa “pecará por precaución y alertará a los padres”.
Meta también está desarrollando la capacidad de alertar a los servicios de emergencia en casos en los que exista un riesgo creíble de suicidio, como lo llama la empresa. Aún no está disponible, pero probablemente será similar al sistema de alerta que ya existe en Facebook e Instagram, que según la compañía ha generado más de 19.000 referencias a servicios de emergencia para pruebas de bienestar en todo el mundo.
La empresa matriz de Facebook e Instagram no es ajena a la tecnología que daña la salud mental. A principios de este año, dos fueron condenados por jurados separados por fabricar metanfetamina. Plataformas de redes sociales deliberadamente adictivas Y Permitir la explotación infantil.
Esto sigue a un nuevo período de preocupación por parte de los organismos de control tecnológico y los defensores de la seguridad que han pedido y, en algunos casos, Tech and AI demandaron a la empresaLos chatbots de IA pueden fomentar y permitir comportamientos riesgosos, incluidos la autolesión y el suicidio.
