Nouvelles mesures de sécurité de Meta pour protéger les adolescents

Meta met en place des outils innovants pour aider les parents à surveiller les conversations de leurs adolescents sur ses plateformes populaires comme Instagram, Facebook et Meta Horizons. Cette initiative vise à fournir un support dans des moments délicats. Les alertes visent à signaler des discussions potentielles sur le suicide ou l’auto-mutilation, reflétant la préoccupation croissante pour la santé mentale des jeunes.

Un système d’alerte proactive pour les parents

Les parents intéressés par ce dispositif devront activer les outils de supervision de Meta afin de choisir les comptes familiaux à surveiller. Une fois cette configuration effectuée, ils recevront des alertes si l’intelligence artificielle détecte des propos inquiétants dans les chats de leurs enfants.

Lorsqu’un adolescent évoque des pensées suicidaires ou des comportements auto-destructeurs, l’IA de Meta les dirige déjà vers des lignes d’assistance d’urgence tout en les encourageant à en parler à un adulte de confiance. Désormais, les parents seront également alertés si des signaux de risque potentiel apparaissent.

Cette fonctionnalité vient s’ajouter à des mesures de sécurité déjà existantes et vise à offrir un support supplémentaire aux parents. Meta indique avoir développé une technologie capable de détecter même des références subtiles grâce à l’expertise de professionnels de la santé mentale. Chaque conversation signalée sera cependant passée en revue par des équipes humaines.

Nous savons combien l’alerte peut être inquiétante pour un parent. Toutes les discussions signalées par notre IA seront d’abord manuellement examinées avant qu’une alerte ne soit envoyée. Si l’intention d’un adolescent semble douteuse, nous choisirons de prévenir les parents, reconnaissant ainsi la nécessité d’une approche prudente.

Une vigilance renforcée face aux risques

Pour certains pays comme les États-Unis, le Canada, le Royaume-Unis et l’Australie, ce dispositif est déjà opérationnel. Meta a également une politique d’alerte des services d’urgence lorsque des publications sur Facebook ou Instagram évoquent un risque de suicide crédible. À l’avenir, cette fonctionnalité sera étendue à son IA.

Nous priorisons la sécurité des utilisateurs, que ce soit un adulte ou un adolescent. Si une conversation avec notre IA indique un risque imminent de prendre sa propre vie, nous mettrons en œuvre les procédures nécessaires pour alerter les services d’urgence.

Le réseau social a déjà fait plus de 19 000 alertes l’année dernière pour des risques de suicide, permettant ainsi aux premiers intervenants de réaliser des vérifications d’état de bien-être sur des individus potentiellement en danger.

Si vous, ou quelqu’un que vous connaissez, traversez une période difficile, n’hésitez pas à contacter la Lifeline de crise et de suicide au 988 ou à visiter 988lifeline.org pour obtenir de l’aide professionnelle.

Image : Netcost-security.fr/Meta/Mudassir Ali