Це повідомлення, яке ви ніколи не хотіли б отримати.
Ваш підліток спілкується з ІІ від Meta на тему самогубства. ІІ більше не обмежується банальними втіхами. Він фіксує тривожний сигнал та надсилає повідомлення на ваш телефон.
У четвер Meta оголосила, що розмови, пов’язані із суїцидом або заподіянням шкоди собі, тепер будуть triggering прямі сповіщення для батьків. Хоча принаймні на даний момент це стосується лише тих, хто вже використовує інструменти батьківського контролю в Instagram. Впровадження функції поки що не охоплює весь світ: зараз це США, Великобританія, Канада та Австралія. Інші користувачі зможуть скористатися цією функцією до кінця року.
Як це працює насправді
Meta діє обережно, або, як мінімум, заявляє про це.
Система спочатку використовує штучний інтелект виявлення сигналів дистресу. Потім людські модератори перевіряють кожен такий сигнал перед тим, як інформація буде передана батькам. Мета – уникнути помилкових спрацьовувань, але при цьому вловлювати навіть найтонші крики про допомогу. Батьки отримують повідомлення у додатку, а також окремий лист або SMS, залежно від їх налаштувань.
У повідомленні також містяться рекомендації від експертів: як заговорити на цю тему та як надати підтримку.
«Заява Meta… це крок у правильному напрямку», — сказав Брендан Буффард із громадської організації Fairplay, але одразу ж додав, що ставиться до цієї ініціативи зі скепсисом.
Ще на початку цього року його організація вказала на відсутність достатньої наукової бази для інструментів безпеки підлітків у Meta. Компанія спростувала ці висновки.
Не панацея
Чи працює такий моніторинг?
Джон Акерман, доктор медицини з дитячої лікарні Nationwide Children’s Hospital, зазначає, що такі інструменти можуть допомогти вчасно виявити проблеми. Він не заперечує цінність зусиль Meta. Однак він уже бачив багато «популізму» та порожніх обіцянок у цій сфері. Повідомлення непотрібні, якщо їх важко знайти. Або, якщо батьки не знають, як діяти після отримання тривожного сигналу.
Він свідчить про те, що оповіщення вирішують лише симптом, а чи не саму проблему. А як бути з недосипанням? Кібербулінгом? Нескінченним скролінгом стрічки, що посилює тривожність? Повідомлення не виправляє цих фундаментальних речей.
Посилення фільтрації
Сьогодні запускається ще одна функція – суворіший контент-фільтр для ІІ від Meta.
Він уже діє в Instagram, але тепер приходить і до самого ІІ-помічника. Якщо увімкнути це налаштування, моделі стають вкрай обережними. Найменше запитів сексуального характеру. Жодних рецептів коктейлів. По суті підвищується поріг того, що вважається «доречним» контентом.
Meta заявляє, що це знижує ймовірність неналежних розмов.
Правовий контекст
Батьки скаржилися.
Правозахисники, такі як представники Fairplay, стверджують, що такі функції перекладають відповідальність за безпеку на сім’ї. Вони хотіли б бачити спочатку безпечний продукт. Натомість опікунам доводиться вручну сifting через теми даних — школа, здоров’я, навчання — намагаючись скласти повну картину цифрового життя дитини.
Meta усвідомлює цю напругу. Нещодавно компанія програла два прецедентні судові розгляди з питань безпеки дітей і створення дизайнів, що викликають залежність. Зрозуміло, що вони оскаржать ці рішення. Сотні інших позовів уже чекають на свою чергу.
Чи це правильний крок? Можливо.
Або, можливо, це лише початок довгих переговорів про те, хто захищатиме наших дітей у цифровій темряві. Якщо вам потрібна допомога, поговоріть із кимось. Номер телефону: 988. Або надішліть SMS на 741-710. Завжди краще сказати це вголос, ніж ховатися за чат-ботом.
