В понедельник молоток судьи ударил по столу.
Иск Илона Маска против Сэма Альтмана завершился не с грохотом, а с безразличным вздохом. Жюри присяжных потратило всего два часа. Два часа, чтобы отклонить иск по техническому поводу — истечение срока исковой давности.
С юридической точки зрения? Результат равен нулю.
Но если вы следовали за тремя неделями показаний, предшествовавшими этому моменту, вы увидели нечто куда более разъедающее. Полное отсутствие доверия.
Речь идет не о контрактах или долях в капитале. Речь о характере. Люди, управляющие этим кораблем стоимостью в триллионы долларов, не способны даже честно разговаривать друг с другом. Они лгут. Саботируют. Интригуют.
Почему мы доверяем ключи от искусственного общего интеллекта людям, которые, по-видимому, неспособны к элементарной порядочности?
OpenAI должна была стать антидотом от худших инстинктов «Большого Теха». Как Маск, так и Альтман, согласно их показаниям, согласились с изначальной предпосылкой: не допустить попадания мощного ИИ в чужие руки.
Еще в 2015 году главной стражей была Google. В частности, DeepMind и его руководитель Демис Хассабис.
Альтман признался в суде, что много времени провел в раздумьях о том, можно ли вообще «остановить человечество в разработке ИИ». Его вывод был мрачным, но прагматичным. Остановить его невозможно. Поэтому он хотел, чтобы лидером стал «кто-то, кроме Google».
Его первоначальные партнеры, Грег Брокман и Илья Сутскивер, были еще более параноидальны в отношении централизации. Они опасались, что власть захватит один человек. В письмах, отправленных в первые дни жизни компании, они обвиняли Маска в стремлении к «ИИ-диктатуре». Они сомневались и в Альтмане. Задавали ему прямые вопросы.
«Истинно ли ИИ — ваша главная мотивация?» — писал Сутскивер. «Как это связано с вашими политическими целями?»
Оказалось, ответ на это вопрос сложный. Или удобный. Или ложный.
Судебный процесс был сосредоточен на так называемом «Случае» (The Blip). Ноябрь 2023 года. Пять дней. Альтмана увольняют, а затем возвращают на должность.
Сутскивер потратил больше года на создание 52-страничного обвинительного заключения. Он утверждал, что Альтман лгал. По его словам, Альтман подрывал авторитет своих руководителей, подбивая их друг на друга. Мира Мурати, бывший главный технолог OpenAI, свидетельствовала, что Альтман заявил, будто его юридическая команда одобрила пропуск проверок безопасности. Позже она сказала, что он соврал ей об этом утверждении.
Стивен Мола, адвокат Маска, активно использовал эти факты в своих заключительных речах.
«Обвиняемым жизненно необходимо, чтобы вы поверили Саму», — сказал Мола присяжным. «Если вы ему не поверите, они не смогут выиграть».
Все просто. Здесь валютой является доверие. И его курс обвалился.
Маск также выглядел не безупречно.
Сейчас возглавляя свою собственную конкурирующую лабораторию xAI, Маск показался просто еще одним игроком, одержимым контролем. Джошуа Ачиам, теперь работающий в OpenAI, свидетельствовал, что Маск настаивал на безрассудных темпах в гонке с Google. По словам Ачиама, Маск утверждал, что переход OpenAI к стимулам, ориентированным на прибыль, игнорировал вопросы безопасности.
Гипокрит.
xAI также является коммерческой организацией. Ее протоколы безопасности… мягко говоря, свободные.
Сара Эдди, адвокат Альтмана, не оставила это без внимания. Она утверждала, что Маска не интересовала открытость. Ему нужно было «доминирование».
Один наблюдатель выразился об этом лучше всего в соцсети X: «Если бы ненадежность имела массу, то близкое сближение Маска и Альтмана создало бы черную дыру, которая поглотила бы Землю».
OpenAI отказалась от комментариев. Маск заявил, что планирует обжаловать решение.
Проблемы были не только у двух титанов.
Все остальные выглядели не менее запутанными. Мурати помогла организовать увольнение Альтмана, а затем перешла на его сторону, поддержав возвращение. Она вела себя «полностью безучастной» к необходимости прояснить свою собственную роль. Шивон Зилиш, близкая подруга и партнерша Маска, спрашивала, следует ли ей поддерживать дружелюбие с OpenAI, чтобы «поддерживать поток информации», скрывая при этом свои отношения с Маском. В записях своего дневника Брокман признался, что знал о своей нечестности по отношению к Маску.
Все они закидывали друг друга грязью. Каждый хотел доказать, что именно он является нравственным стражем ИИ.
Результат ясен. Они не стражи. Это нарциссы с комплексом бога.
Общественное мнение отражает эту гниль.
Исследование Pew Research, проведенное летом 2024 года, показало, что половина взрослых американцев испытывает больше опасений по поводу ежедневного использования ИИ, чем энтузиазма. Лишь 10 процентов выражают восторг.
Люди переживают за свои рабочие места. Они протестуют против строительства центров обработки данных. Появляются сообщения об угрозах в адрес дома Альтмана. Некоторые генеральные директора готовят бункеры. Они готовятся к апокалипсису, который могут спровоцировать сами.
Технологические месседжи говорят: ИИ наделяет вас силой.
Реальность спорит.
Почти 60 процентов американцев говорят, что имеют мало или вообще никакого контроля над ролью ИИ в их жизни. Регулирование? По шаткое. Государственный надзор кажется отдаленным, пока эти генеральные директора консолидируют власть.
Самая зловещая часть? Отсутствие исторической самосознания.
В марте 2015 года Альтман и Маск совместно составили письмо. Они отправили его Сатье Нелле, предлагая ему со-подписать требование о создании нового правительственного агентства США по безопасности ИИ. Они назвали это «наибольшим риском для дальнейшего существования человечества».
Нелл отверг эту идею.
Он сказал, что руководители должны настаивать на «федеральном финансировании и поддержке», а не на регулировании.
Альтман немедленно согласился с Неллом. Согласился с ним. Он изменил письмо. Требование о регуляторе стало условным «возможно». Опцией «если и когда» ситуация покажется серьезной.
Тогда они не хотели надзора.
Судя по всему, они не хотят его и сейчас. Они просто хотят убрать друг друга с дороги.
Что оставляет остальных из нас в ожидании, чтобы увидеть, что случится, когда люди с кодами запуска поймут, что на самом деле нет никого, кто был бы у руля.
