Het is een melding die je nooit wilt ontvangen.
Je tiener praat met Meta AI over het beëindigen van zijn leven. De AI biedt niet alleen platitudes meer. Het markeert het. En het sms’t naar je telefoon.
Meta kondigde donderdag aan dat gesprekken over zelfmoord of zelfbeschadiging nu directe waarschuwingen voor ouders zullen veroorzaken. In ieder geval voorlopig alleen degenen die al gebruik maken van de toezichttools van Instagram. De uitrol is echter nog niet wereldwijd. Op dit moment zijn dat de VS, het VK, Canada en Australië. Alle anderen kunnen wachten tot het einde van het jaar.
Hoe het eigenlijk werkt
Meta gaat voorzichtig te werk, of zegt dat tenminste.
Het systeem maakt gebruik van kunstmatige intelligentie om als eerste de noodsignalen op te vangen. Vervolgens controleren menselijke beoordelaars de vlag voordat er iets naar een ouder gaat. Het doel is om valse positieven te vermijden en tegelijkertijd subtiele hulpkreten op te vangen. Ouders krijgen een duwtje in de rug via de app, plus een aparte e-mail of sms, afhankelijk van hun voorkeuren.
Het wordt geleverd met suggesties van experts. Hoe erover te praten. Hoe te ondersteunen.
“Meta’s bewering… is een stap in de goede richting”, zei Brendan Bouffard van de belangenorganisatie Fairplay, maar voegde er meteen scepsis aan toe.
Zijn organisatie ontdekte eerder dit jaar dat de veiligheidsinstrumenten van Meta voor tieners ontbraken in onderzoek. Meta betwistte hun bevindingen.
Geen wondermiddel
Werkt monitoring?
Dr. John Ackerman van het Nationwide Children’s Hospital zegt dat deze hulpmiddelen kunnen helpen problemen vroegtijdig op te sporen. Hij wijst de inspanningen niet af. Maar hij heeft al eerder ‘lippendienst’ gezien. Meldingen zijn nutteloos als ze moeilijk te vinden zijn. Of als ouders niet weten wat ze moeten doen nadat ze de waarschuwing hebben ontvangen.
Hij wees erop dat waarschuwingen alleen het symptoom aanpakken, niet de ziekte. Hoe zit het met slaapgebrek? Cyberpesten? De eindeloze boekrol die angst voedt? Een melding lost dat niet op.
Meer eruit filteren
Er wordt vandaag ook een tweede functie gelanceerd. Een strenger inhoudsfilter voor Meta AI.
Het is al live op Instagram, maar nu komt het naar de AI-assistent zelf. Zet hem aan en de modellen worden agressief voorzichtig. Minder seksuele vragen. Geen recepten voor cocktails. Kortom, een hogere drempel voor wat als ‘gepast’ geldt.
Meta zegt dat dit de kans op ongepaste gesprekken verkleint.
De juridische achtergrond
Ouders hebben geklaagd.
Voorstanders als Fairplay betogen dat deze kenmerken de last van de veiligheid op de schouders van gezinnen leggen. Ze zien liever een veiliger product uit de poort komen. In plaats daarvan moeten zorgverleners handmatig de gegevensonderwerpen (school, gezondheid, schrijven) doorzoeken om het digitale leven van een kind in kaart te brengen.
Meta kent deze spanning. Ze verloren onlangs twee belangrijke rechtszaken over kinderveiligheid en verslavend ontwerp. Ze zijn natuurlijk aantrekkelijk. Er wachten nog honderden pakken in de coulissen.
Is dit de juiste stap? Misschien.
Of misschien is het nog maar het begin van een lange onderhandeling over wie onze kinderen in het digitale donker mag beschermen. Als je hulp nodig hebt, praat dan met iemand. Het nummer is 988. Of sms 741-710. Het is beter om het hardop te zeggen dan je te verschuilen achter een chatbot.
