Процесс идет слишком быстро. ООН подтверждает это вновь и вновь.
Новый доклад Организации Объединенных Наций несет предупреждение, которое звучит не как политическая декларация, а как отсчет времени. Окно возможностей для создания глобальной системы управления искусственным интеллектом не просто закрывается — оно захлопывается с грохотом. Если мы не примем меры сейчас, ИИ перестанет быть просто передовой технологией и станет еще одним двигателем, усугубляющим глобальное неравенство.
Эти данные поступили от Независимой международной научной панели ООН — группы из сорока экспертов, назначенной Генеральной Ассамблеей в 2025 году. Их послание мировым лидерам предельно ясно.
«Не ждите».
Именно это недавно сказал генеральный секретарь Антониу Гутерриш. Научная работа сделана. Опасность реальна. Больше нельзя притворяться, что мы ничего не знаем.
Что происходит прямо сейчас?
Главная проблема — скорость.
Генеративный ИИ теперь пишет код. Он обрабатывает наборы данных размером с целые библиотеки. Он создает фальшивые видео, которые выглядят пугающе реалистично. Он помогает ученым находить иголку в стоге сена генетических данных. Но агентные системы — те, что действуют с минимальным участием человека, — развиваются еще быстрее.
Каждые несколько месяцев сложность задач, с которыми справляют эти машины, приблизительно удваивается.
Задумайтесь об этом. Удвоение сложности. За месяцы.
По мере того как они становятся умнее и самостоятельнее, следить за ними становится сложнее. Контролировать их становится невозможно, если мы не установим более строгие защитные механизмы.
При этом риски носят хаотичный характер.
Дипфейки. Материалы сексуального насилия, генерируемые алгоритмами, которые непропорционально сильно затрагивают женщин и детей. Дезинформация, которая звучит достаточно правдоподобно, чтобы разрушить доверие общества и заставить демократию замолчать. Киберпреступники используют эти инструменты для мошенничества и социальной инженерии.
Ситуация ухудшается и в психологической плоскости. Эти системы могут навязывать вредные мысли уязвимым пользователям, усугубляя кризисы в сфере психического здоровья. Даже доводя до самоубийства.
Затем есть вопрос перегрева. В буквальном смысле. Дата-центры, обеспечивающие работу этого механизма, выбрасывают парниковые газы, которые не знают никаких цифровых границ.
Есть ли здесь что-то хорошее?
Да. Не поймите неправильно.
Недавно модели ИИ расшифровали структуру более 200 миллионов белков. Звучит скучно? Вовсе нет. Это ускоряет разработку лекарств. Ускоряет исследования вакцин. Прямо атакует проблему устойчивости к антибиотикам.
ИИ предупреждает о нехватке продовольствия, пока она не переросла в голод.
Он расширяет доступ к образованию для детей в отдаленных деревнях. Предлагает поддержку психического здоровья в тех случаях, когда нет возможности обратиться к терапевту. Дает работающие инструменты людям с ограниченными возможностями.
Он спасает жизни.
Но одновременно он и угрожает им.
Игра проиграна заранее
Кто управляет этим процессом?
Посмотрите на аппаратное обеспечение. США контролируют примерно три четверти мировых вычислительных мощностей, необходимых для работы ведущих сверхмодели ИИ. На долю Китая приходится около 15 процентов.
Сложите эти цифры вместе. Девяносто процентов.
Две нации. Почти вся мощь. Самые передовые модели разрабатываются компаниями именно в этих странах.
Тем временем развивающиеся страны смотрят на этот разрыв и понимают, что у них нет ничего в руках. Им не хватает талантов. Им не хватает инфраструктуры. Им определенно не хватает финансирования. Они не могут создавать эти системы самостоятельно, и зачастую они не способны даже аудировать те, которые вынуждены использовать.
Так углубляется неравенство. Не постепенно. А по умолчанию.
Закон не успевает за технологиями
Правительства пытаются действовать, пусть и не слишком успешно.
На планете сейчас действует более сорока различных рамок регулирования ИИ. Но вот в чем проблема. Они фрагментированы. Они противоречат друг другу. Большинство из них никогда не проходило надлежащего тестирования.
Законодателей загоняет в тупик «дилемма доказательств».
Для написания хороших правил нужны надежные данные. ИИ меняется быстрее, чем вы успеваете собрать эти данные.
Ирония горька: компании, создающие эти мощные инструменты, обычно же те, кто тестирует их на безопасность. Независимость? Сомнительная.
Нам нужны проверки третьими сторонами. Нам нужны общие международные стандарты. Нам нужны финансовые вливания в страны, которые не могут позволить себе собственный надзор, чтобы они могли управлять ИИ на своих условиях, а не просто следовать за США и Китаем.
Все это приводит нас к Женеве.
6 июля 2024 года. Или 2026? В докладе указано, что именно там открывается Глобальный диалог ООН по управлению ИИ. Государства-члены соберутся, чтобы спорить о координации. Чтобы обсуждать управление. Чтобы попытаться догнать машину, которая не прекращает эволюционировать.
Вопрос в том, появится ли кто-то с реальным планом. Или мы просто будем разговаривать, пока окно возможностей захлопывается.
