C’est une notification que vous ne voudriez jamais recevoir.
Votre adolescent discute avec Meta AI de la possibilité de mettre fin à ses jours. L’IA ne se contente plus de proposer des platitudes. Il le signale. Et il envoie un SMS à votre téléphone.
Meta a annoncé jeudi que les conversations impliquant le suicide ou l’automutilation déclencheraient désormais des alertes directes aux parents. Du moins, pour l’instant, uniquement ceux qui utilisent déjà les outils de supervision d’Instagram. Le déploiement n’est cependant pas encore mondial. À l’heure actuelle, ce sont les États-Unis, le Royaume-Uni, le Canada et l’Australie. Tout le monde peut attendre la fin de l’année.
Comment ça marche réellement
Meta avance avec prudence, ou du moins dit qu’il le fait.
Le système utilise l’intelligence artificielle pour capter en premier les signaux de détresse. Ensuite, des évaluateurs humains vérifient le drapeau avant que quoi que ce soit ne soit transmis à un parent. L’objectif est d’éviter les faux positifs tout en captant les appels à l’aide subtils. Les parents reçoivent un coup de pouce via l’application, ainsi qu’un e-mail ou un SMS séparé en fonction de leurs préférences.
Il est accompagné de suggestions d’experts. Comment en parler. Comment soutenir.
“L’affirmation de Meta… est un pas dans la bonne direction”, a déclaré Brendan Bouffard du groupe de défense Fairplay, mais a ajouté son scepticisme immédiat.
Son organisation a constaté que les outils de sécurité des adolescents de Meta manquaient de recherche plus tôt cette année. Meta a contesté leurs conclusions.
Ce n’est pas une solution miracle
La surveillance fonctionne-t-elle ?
Le Dr John Ackerman du Nationwide Children’s Hospital affirme que ces outils peuvent aider à détecter les problèmes à un stade précoce. Il ne dédaigne pas l’effort. Mais il a déjà vu des « paroles en l’air » auparavant. Les notifications sont inutiles si elles sont difficiles à trouver. Ou si les parents ne savent pas quoi faire après avoir reçu l’alerte.
Il a souligné que les alertes ne concernent que le symptôme et non la maladie. Qu’en est-il du manque de sommeil ? Cyberintimidation ? Le parchemin sans fin qui alimente l’anxiété ? Une notification ne résout pas ce problème.
Filtrer davantage
Une deuxième fonctionnalité est également lancée aujourd’hui. Un filtre de contenu plus strict pour Meta AI.
C’est déjà en direct sur Instagram, mais maintenant cela arrive sur l’assistant IA lui-même. Allumez-le et les modèles deviennent extrêmement prudents. Moins de requêtes sexuelles. Aucune recette de cocktails. Fondamentalement, un seuil plus élevé pour ce qui est considéré comme « approprié ».
Meta dit que cela réduit le risque de conversations inappropriées.
Le contexte juridique
Les parents se plaignent.
Des défenseurs comme Fairplay affirment que ces caractéristiques font peser le fardeau de la sécurité sur les familles. Ils préfèrent voir un produit plus sûr dès le départ. Au lieu de cela, les soignants doivent passer au crible manuellement les sujets de données (école, santé, écriture) pour essayer de reconstituer la vie numérique d’un enfant.
Meta connaît cette tension. Ils ont récemment perdu deux procès historiques concernant la sécurité des enfants et la conception addictive. Ils sont attrayants, bien sûr. Des centaines d’autres combinaisons attendent dans les coulisses.
Est-ce la bonne étape ? Peut être.
Ou peut-être que ce n’est que le début d’une longue négociation pour savoir qui protégera nos enfants dans l’obscurité numérique. Si vous avez besoin d’aide, parlez-en à quelqu’un. Le numéro est 988. Ou envoyez un SMS au 741-710. Mieux vaut le dire à voix haute que se cacher derrière un chatbot.
