Meta anunció que los padres pueden recibir alertas cuando sus hijos adolescentes hablen sobre suicidio u otras formas de autolesión con su IA en Instagram, Facebook o Meta Horizon.
En las herramientas de supervisión de Meta para padres y tutores, debes seleccionar las cuentas familiares que deseas supervisar…
meta dijo Las nuevas funciones complementan las medidas de seguridad existentes.
Cuando un adolescente sugiere que está pensando en suicidarse o autolesionarse, Meta AI ya lo dirige a una línea de ayuda en caso de crisis y lo alienta a comunicarse con otro adulto de confianza, como un padre o un consejero. Ahora, alertaremos proactivamente a los padres supervisores si el chat de metaIA de sus hijos adolescentes sugiere que pueden estar en riesgo según señales desarrolladas con expertos. Compartiremos recursos de expertos para ayudar a los padres a abordar estas conversaciones con sus hijos adolescentes.
La compañía dijo que su objetivo es detectar incluso referencias relativamente sutiles, pero todos los chats marcados se revisarán manualmente.
Entendemos lo angustiosas que pueden ser estas advertencias para los padres. Por eso, a medida que sigamos mejorando nuestra detección, todos los chats marcados por nuestra IA se revisarán manualmente antes de enviar las alertas. Si las intenciones de un adolescente no están claras, pecaremos de cautelosos y alertaremos a los padres. Si bien esto significa que a veces podemos notificar a los padres cuando no haya un motivo real de preocupación, creemos que este es el punto de partida correcto y continuaremos monitoreando para asegurarnos de que estamos en el lugar correcto.
tienes que empezar Establecer supervisión familiar. Para cuentas utilizadas por sus hijos si aún no lo ha hecho. La nueva función está actualmente disponible en EE. UU., Canadá, Reino Unido y Australia.
Meta actualmente alerta a los servicios de emergencia cuando detecta un riesgo creíble de suicidio en una publicación de Facebook o Instagram, y dice que se expandirá a Meta AI en el futuro.
Si alguien, ya sea un adulto o un adolescente, interactúa con Meta AI, estamos desarrollando la capacidad de comunicar a los servicios de emergencia que puede estar en peligro inminente de quitarse la vida. Se basa en lo que ya hacemos en Facebook e Instagram: cuando nos damos cuenta de una publicación que sugiere un riesgo creíble de suicidio, alertamos a los servicios de emergencia. El año pasado, realizamos más de 19.000 derivaciones de este tipo en todo el mundo, ayudando a los socorristas a evaluar el bienestar de quienes pueden estar en riesgo de suicidio.
Si te sientes en riesgo, puedes llamar o enviar un mensaje de texto a la Línea de Vida de Crisis y Suicidio 988 al 988 o chatear 988lifeline.org. También puede llamar al 911 o ir a una sala de emergencias y solicitar ayuda para una emergencia de salud mental.
Foto: 9to5Mac/Meta/Mudassir Ali
