Toto je oznámení, které nikdy nechcete dostávat.
Váš teenager mluví s Metainou AI o sebevraždě. AI se již neomezuje na triviální útěchy. Detekuje poplach a odešle zprávu do vašeho telefonu.
Ve čtvrtek Meta oznámila, že konverzace související se sebevraždou nebo sebepoškozováním nyní spustí přímá upozornění pro rodiče. I když to alespoň prozatím platí jen pro ty, kteří už rodičovskou kontrolu Instagramu využívají. Implementace funkce zatím nepokrývá celý svět: v tuto chvíli jsou to USA, Velká Británie, Kanada a Austrálie. Ostatní uživatelé budou moci tuto funkci využívat do konce roku.
Jak to opravdu funguje
Meta jedná opatrně, nebo to alespoň říká.
Systém nejprve využívá umělou inteligenci k identifikaci signálů tísně. Lidští moderátoři pak každý takový signál přezkoumají, než jsou informace předány rodičům. Cílem je vyhnout se falešným poplachům a přitom zachytit i ty nejjemnější volání o pomoc. Rodiče obdrží oznámení v aplikaci a také samostatný e-mail nebo SMS, v závislosti na jejich nastavení.
Zpráva také obsahuje rady odborníků: jak o tomto tématu mluvit a jak poskytnout podporu.
“Oznámení Meta… je krok správným směrem,” řekl Brendan Bouffard z nevládní organizace Fairplay, ale rychle dodal, že je k této iniciativě skeptický.
Začátkem tohoto roku jeho organizace poukázala na to, že neexistuje dostatečný vědecký základ pro nástroje Meta pro bezpečnost mladistvých. Společnost tato zjištění popřela.
Není všelék
Funguje tento druh monitorování?
John Ackerman, MD, z Nationwide Children’s Hospital, poznamenává, že takové nástroje mohou pomoci včas identifikovat problémy. Nepopírá hodnotu Metina úsilí. V této oblasti však již viděl mnoho „populismu“ a planých slibů. Oznámení jsou k ničemu, pokud je těžké je najít. Nebo když rodiče nevědí, jak po obdržení alarmu jednat.
Poukazuje na to, že výstrahy se týkají pouze příznaku, nikoli samotného problému. A co nedostatek spánku? Kyberšikana? Nekonečné rolování feedu, které zvyšuje úzkost? Upozornění tyto zásadní věci nenapravuje.
Přísnější filtrování
Další funkcí, která je dnes spuštěna, je přísnější filtr obsahu AI společnosti Meta.
Na Instagramu to již funguje, ale nyní přichází na řadu samotný asistent AI. Pokud toto nastavení povolíte, modely budou extrémně opatrné. Méně sexuálních žádostí. Žádné recepty na koktejly. V zásadě se zvyšuje práh obsahu, který je považován za „vhodný“.
Meta říká, že to snižuje pravděpodobnost nevhodných konverzací.
Právní kontext
Rodiče si stěžovali.
Zastánci jako Fairplay tvrdí, že takové funkce přesouvají odpovědnost za bezpečnost na rodiny. Chtěli by vidět přirozeně bezpečný produkt. Místo toho musí pečovatelé ručně probírat témata dat – škola, zdraví, učení – ve snaze vytvořit úplný obrázek o digitálním životě dítěte.
Meta si toto napětí uvědomuje. Společnost nedávno ztratila dva významné případy týkající se bezpečnosti dětí a návykových návrhů. Proti těmto rozhodnutím se samozřejmě odvolají. Další stovky soudních sporů již probíhají.
Je to správný krok? Možná.
Nebo je to možná jen začátek dlouhého vyjednávání o tom, kdo ochrání naše děti v digitální temnotě. Pokud potřebujete pomoc, promluvte si s někým. Telefonní číslo: 988. Nebo SMS na 741-710. Vždy je lepší to říct nahlas, než se schovávat za chatbota.
