È una notifica che non vorresti mai ricevere.
Tuo figlio sta chattando con Meta AI su come porre fine alla propria vita. L’intelligenza artificiale non offre più solo banalità. Lo segnala. E ti invia un SMS al telefono.
Meta ha annunciato giovedì che le conversazioni che coinvolgono suicidio o autolesionismo ora attiveranno avvisi diretti ai genitori. Almeno, per ora, solo chi già utilizza gli strumenti di supervisione di Instagram. Tuttavia, il lancio non è ancora globale. In questo momento sono gli Stati Uniti, il Regno Unito, il Canada e l’Australia. Tutti gli altri possono aspettare fino alla fine dell’anno.
Come funziona realmente
Meta sta procedendo con cautela, o almeno dice di esserlo.
Il sistema utilizza l’intelligenza artificiale per catturare prima i segnali di soccorso. Quindi i revisori umani controllano il flag prima che qualcosa vada a un genitore. L’obiettivo è evitare falsi positivi e allo stesso tempo cogliere sottili grida di aiuto. I genitori ricevono una spinta tramite l’app, oltre a un’e-mail o un SMS separato a seconda delle loro preferenze.
Viene fornito con suggerimenti di esperti. Come parlarne. Come sostenere.
“L’affermazione di Meta… è un passo nella giusta direzione”, ha detto Brendan Bouffard del gruppo di difesa Fairplay, ma ha aggiunto un immediato scetticismo.
La sua organizzazione ha scoperto che gli strumenti di Meta per la sicurezza degli adolescenti mancavano nella ricerca all’inizio di quest’anno. Meta ha contestato le loro scoperte.
Non è una soluzione miracolosa
Il monitoraggio funziona?
Il dottor John Ackerman del Nationwide Children’s Hospital afferma che questi strumenti possono aiutare a individuare tempestivamente i problemi. Non è sprezzante dello sforzo. Ma ha già visto “a parole” prima. Le notifiche sono inutili se sono difficili da trovare. O se i genitori non sanno cosa fare dopo aver ricevuto l’avviso.
Ha sottolineato che gli allarmi riguardano solo il sintomo, non la malattia. E la privazione del sonno? Cyberbullismo? Lo scorrimento infinito che alimenta l’ansia? Una notifica non risolve il problema.
Filtrare di più
C’è anche una seconda funzionalità che verrà lanciata oggi. Un filtro dei contenuti più rigoroso per Meta AI.
È già attivo su Instagram, ma ora arriva anche all’assistente AI. Accendilo e i modelli diventano aggressivamente cauti. Meno domande sessuali. Nessuna ricetta per i cocktail. Fondamentalmente, una soglia più alta per ciò che conta come “appropriato”.
Meta afferma che questo riduce la possibilità di conversazioni inappropriate.
Il contesto giuridico
I genitori si sono lamentati.
Sostenitori come Fairplay sostengono che queste caratteristiche spingono il peso della sicurezza sulle famiglie. Preferirebbero vedere un prodotto più sicuro fuori dal cancello. Invece, gli operatori sanitari devono vagliare manualmente gli argomenti relativi ai dati – scuola, salute, scrittura – cercando di ricostruire la vita digitale di un bambino.
Meta conosce questa tensione. Recentemente hanno perso due cause legali fondamentali riguardanti la sicurezza dei bambini e il design che crea dipendenza. Sono attraenti, ovviamente. Centinaia di altri abiti aspettano dietro le quinte.
È questo il passo giusto? Forse.
O forse è solo l’inizio di una lunga negoziazione su chi potrà proteggere i nostri figli nell’oscurità digitale. Se hai bisogno di aiuto, parla con qualcuno. Il numero è 988. Oppure invia il messaggio 741-710. È meglio dirlo ad alta voce che nascondersi dietro un chatbot.
