To powiadomienie, którego nigdy nie chcesz otrzymać.
Twój nastolatek rozmawia ze sztuczną inteligencją Meta o samobójstwie. Sztuczna inteligencja nie ogranicza się już do błahych pocieszeń. Wykrywa alarm i wysyła wiadomość na Twój telefon.
W czwartek Meta ogłosiła, że rozmowy na temat samobójstwa lub samookaleczenia będą teraz powodować bezpośrednie powiadomienia dla rodziców. Chociaż przynajmniej na razie dotyczy to tylko tych, którzy korzystają już z kontroli rodzicielskiej na Instagramie. Implementacja funkcji nie obejmuje jeszcze całego świata: w tej chwili są to USA, Wielka Brytania, Kanada i Australia. Pozostali użytkownicy będą mogli skorzystać z tej funkcji do końca roku.
Jak to naprawdę działa
Meta zachowuje się ostrożnie, a przynajmniej tak twierdzi.
System najpierw wykorzystuje sztuczną inteligencję do identyfikacji sygnałów o niebezpieczeństwie. Moderatorzy przeglądają następnie każdy taki sygnał, zanim informacja zostanie przekazana rodzicom. Celem jest uniknięcie fałszywych alarmów, a jednocześnie wychwytywanie nawet najbardziej subtelnych wołań o pomoc. Rodzice otrzymują powiadomienie w aplikacji, a także oddzielny e-mail lub SMS, w zależności od ustawień.
W wiadomości znajdują się także porady ekspertów: jak rozmawiać na ten temat i jak zapewnić wsparcie.
„Ogłoszenie Meta… to krok we właściwym kierunku” – powiedział Brendan Bouffard z organizacji pozarządowej Fairplay, ale szybko dodał, że jest sceptyczny wobec tej inicjatywy.
Na początku tego roku jego organizacja zwróciła uwagę, że narzędzia Meta zapewniające bezpieczeństwo nastolatkom nie mają wystarczających podstaw naukowych. Firma zaprzeczyła tym ustaleniom.
To nie jest panaceum
Czy taki monitoring działa?
Lek. John Ackerman z Nationwide Children’s Hospital zauważa, że takie narzędzia mogą pomóc we wczesnym identyfikowaniu problemów. Nie zaprzecza wartości wysiłków Meta. Widział już jednak w tym obszarze wiele „populizmu” i pustych obietnic. Powiadomienia są bezużyteczne, jeśli trudno je znaleźć. Lub jeśli rodzice nie wiedzą, jak się zachować po otrzymaniu alarmu.
Zwraca uwagę, że alerty dotyczą jedynie objawu, a nie samego problemu. A co z brakiem snu? Cyberprzemoc? Niekończące się przewijanie kanału, które zwiększa niepokój? Obwieszczenie nie koryguje tych podstawowych rzeczy.
Bardziej rygorystyczne filtrowanie
Kolejną funkcją, która zostanie uruchomiona dzisiaj, jest bardziej rygorystyczny filtr treści AI firmy Meta.
Na Instagramie już to działa, ale teraz chodzi o samego asystenta AI. Jeśli włączysz to ustawienie, modele staną się niezwykle ostrożne. Mniej żądań seksualnych. Żadnych przepisów na koktajle. Zasadniczo podnosi się próg treści uznawanych za „odpowiednie”.
Meta twierdzi, że zmniejsza to prawdopodobieństwo nieodpowiednich rozmów.
Kontekst prawny
Rodzice skarżyli się.
Zwolennicy tacy jak Fairplay argumentują, że takie cechy przenoszą odpowiedzialność za bezpieczeństwo na rodziny. Chcieliby zobaczyć produkt wewnętrznie bezpieczny. Zamiast tego opiekunowie muszą ręcznie przeglądać tematy związane z danymi – szkołę, zdrowie, naukę – próbując zbudować pełny obraz cyfrowego życia dziecka.
Meta jest świadoma tego napięcia. Niedawno firma przegrała dwie przełomowe sprawy dotyczące bezpieczeństwa dzieci i uzależniających projektów. Oczywiście będą się odwoływać od tych decyzji. Setki innych postępowań jest już w toku.
Czy to właściwy krok? Może.
A może to dopiero początek długich negocjacji na temat tego, kto będzie chronić nasze dzieci w cyfrowej ciemności. Jeśli potrzebujesz pomocy, porozmawiaj z kimś. Numer telefonu: 988. Lub wyślij SMS na numer 741-710. Zawsze lepiej powiedzieć to na głos, niż chować się za chatbotem.
