Это уведомление, которое вы никогда не хотели бы получить.
Ваш подросток общается с ИИ от Meta на тему самоубийства. ИИ больше не ограничивается банальными утешениями. Он фиксирует тревожный сигнал и отправляет сообщение на ваш телефон.
В четверг Meta объявила, что разговоры, связанные с суицидом или причинением вреда себе, теперь будут triggering прямые оповещения для родителей. Хотя, по крайней мере на данный момент, это касается только тех, кто уже использует инструменты родительского контроля в Instagram. Внедрение функции пока не охватывает весь мир: на данный момент это США, Великобритания, Канада и Австралия. Остальные пользователи смогут воспользоваться данной функцией к концу года.
Как это работает на самом деле
Meta действует с осторожностью, или, как минимум, заявляет об этом.
Система сначала использует искусственный интеллект для выявления сигналов дистресса. Затем человеческие модераторы проверяют каждый такой сигнал, прежде чем информация будет передана родителям. Цель — избежать ложных срабатываний, но при этом улавливать даже самые тонкие крики о помощи. Родители получают уведомление в приложении, а также отдельное письмо или SMS, в зависимости от их настроек.
В сообщении также содержатся рекомендации от экспертов: как заговорить на эту тему и как оказать поддержку.
«Заявление Meta… это шаг в правильном направлении», — сказал Брендан Буффард из общественной организации Fairplay, но сразу же добавил, что относится к этой инициативе с скепсисом.
Еще в начале этого года его организация указала на отсутствие достаточной научной базы для инструментов безопасности подростков в Meta. Компания опровергла эти выводы.
Не панацея
Работает ли такой мониторинг?
Джон Акерман, доктор медицины из детской больницы Nationwide Children’s Hospital, отмечает, что такие инструменты могут помочь вовремя выявить проблемы. Он не отрицает ценность усилий Meta. Однако он уже видел много «популизма» и пустых обещаний в этой сфере. Уведомления бесполезны, если их трудно найти. Или если родители не знают, как действовать после получения тревожного сигнала.
Он указывает на то, что оповещения решают лишь симптом, а не саму проблему. А как быть с недосыпом? Кибербуллингом? Бесконечным скроллингом ленты, который усиливает тревожность? Уведомление не исправляет эти фундаментальные вещи.
Ужесточение фильтрации
Сегодня запускается еще одна функция — более строгий контент-фильтр для ИИ от Meta.
Он уже действует в Instagram, но теперь приходит и в самого ИИ-помощника. Если включить эту настройку, модели становятся крайне осторожными. Меньше запросов сексуального характера. Никаких рецептов коктейлей. По сути, повышается порог того, что считается «уместным» контентом.
Meta заявляет, что это снижает вероятность неподобающих разговоров.
Правовой контекст
Родители жаловались.
Правозащитники, такие как представители Fairplay, утверждают, что подобные функции перекладывают ответственность за безопасность на семьи. Они хотели бы видеть изначально безопасный продукт. Вместо этого опекунам приходится вручную сifting через темы данных — школа, здоровье, учеба — пытаясь составить полную картину цифровой жизни ребенка.
Meta осознает это напряжение. Недавно компания проиграла два прецедентных судебных разбирательства по вопросам безопасности детей и создания вызывающих зависимость дизайнов. Разумеется, они обжалуют эти решения. Сотни других исков уже ожидают своей очереди.
Это ли правильный шаг? Возможно.
Или, может быть, это лишь начало долгих переговоров о том, кто будет защищать наших детей в цифровом мраке. Если вам нужна помощь, поговорите с кем-нибудь. Номер телефона: 988. Или отправьте SMS на 741-710. Всегда лучше сказать это вслух, чем прятаться за чат-ботом.
