Es ist eine Benachrichtigung, die Sie niemals erhalten möchten.
Ihr Teenager unterhält sich mit Meta AI über die Beendigung seines Lebens. Die KI bietet nicht mehr nur Plattitüden. Es markiert es. Und es sendet SMS an Ihr Telefon.
Meta gab am Donnerstag bekannt, dass Gespräche über Selbstmord oder Selbstverletzung nun direkte Benachrichtigungen an die Eltern auslösen. Zumindest vorerst nur diejenigen, die bereits die Überwachungstools von Instagram nutzen. Der Rollout ist jedoch noch nicht global. Im Moment sind es die USA, Großbritannien, Kanada und Australien. Alle anderen können bis zum Jahresende warten.
Wie es tatsächlich funktioniert
Meta geht vorsichtig vor oder sagt es zumindest.
Das System nutzt künstliche Intelligenz, um zunächst die Notsignale zu empfangen. Dann überprüfen menschliche Prüfer die Flagge, bevor etwas an einen Elternteil geht. Das Ziel besteht darin, Fehlalarme zu vermeiden und gleichzeitig subtile Hilferufe zu erkennen. Eltern erhalten über die App einen Anstoß und je nach Wunsch eine separate E-Mail oder Textnachricht.
Es enthält Vorschläge von Experten. Wie man darüber redet. So unterstützen Sie.
„Metas Behauptung … ist ein Schritt in die richtige Richtung“, sagte Brendan Bouffard von der Interessenvertretung Fairplay, fügte jedoch sofort Skepsis hinzu.
Seine Organisation stellte Anfang des Jahres fest, dass Metas Sicherheitstools für Jugendliche unzureichend erforscht waren. Meta bestritt ihre Ergebnisse.
Keine Wunderwaffe
Funktioniert die Überwachung?
Dr. John Ackerman vom Nationwide Children’s Hospital sagt, dass diese Tools dabei helfen können, Probleme frühzeitig zu erkennen. Er lehnt die Bemühungen nicht ab. Aber er hat schon früher „Lippenbekenntnisse“ gesehen. Benachrichtigungen sind nutzlos, wenn sie schwer zu finden sind. Oder wenn Eltern nicht wissen, was sie tun sollen, nachdem sie die Benachrichtigung erhalten haben.
Er wies darauf hin, dass Warnungen nur das Symptom und nicht die Krankheit betreffen. Was ist mit Schlafentzug? Cybermobbing? Die endlose Schriftrolle, die Ängste hervorruft? Eine Benachrichtigung behebt das nicht.
Mehr herausfiltern
Heute startet auch eine zweite Funktion. Ein strengerer Inhaltsfilter für Meta AI.
Auf Instagram ist es bereits live, aber jetzt kommt es zum KI-Assistenten selbst. Schalten Sie es ein und die Modelle werden aggressiv vorsichtig. Weniger sexuelle Anfragen. Keine Rezepte für Cocktails. Grundsätzlich gilt eine höhere Schwelle für das, was als „angemessen“ gilt.
Meta sagt, dass dies die Wahrscheinlichkeit unangemessener Gespräche verringert.
Der rechtliche Hintergrund
Eltern haben sich beschwert.
Befürworter wie Fairplay argumentieren, dass diese Funktionen die Last der Sicherheit auf Familien abwälzen. Sie möchten lieber von Anfang an ein sichereres Produkt sehen. Stattdessen müssen Betreuer die Datenthemen – Schule, Gesundheit, Schreiben – manuell durchforsten und versuchen, das digitale Leben eines Kindes zusammenzusetzen.
Meta kennt diese Spannung. Sie haben kürzlich zwei bahnbrechende Klagen zu Kindersicherheit und suchterzeugendem Design verloren. Sie sind natürlich ansprechend. Hunderte weitere Anzüge warten in den Startlöchern.
Ist das der richtige Schritt? Vielleicht.
Oder vielleicht ist es nur der Beginn einer langen Verhandlung darüber, wer unsere Kinder im digitalen Dunkeln beschützen darf. Wenn Sie Hilfe benötigen, sprechen Sie mit jemandem. Die Nummer ist 988. Oder senden Sie eine SMS an 741-710. Es ist besser, es laut auszusprechen, als sich hinter einem Chatbot zu verstecken.
