«Лента.ру»: Олег Парамонов

«Что ж, мы все умрем». Идея о скором конце света из-за ИИ захватывает умы лучших программистов. Они дают миру всего два года
В США становится все популярнее идея о скорой катастрофе из-за ИИ

В городе, где создают самый мощный искусственный интеллект, прямо сейчас витает предчувствие конца. На улицах горят роботы-автомобили, разработчики нейросетей строят убежища с полной биологической защитой, бывшие криптобро, напуганные вечным средневековым рабством, прожигают последние доллары. Все они уверены, что благополучию, а то и существованию человечества осталось максимум пара лет. «Лента.ру» разбиралась, что так напугало программистов.

Основатель организации, которая борется с ИИ, готовил вооруженный налет на OpenAI
В конце ноября 2025 года полиция Сан-Франциско оцепила офисы компании OpenAI, разработавшей ChatGPT. Ждали теракта или как минимум вооруженного нападения — и для этого были все основания.

Накануне исчез Сэм Киршнер — один из основателей организации Stop AI, которая требует запрета искусственного интеллекта. Ее участники раздавали листовки, устраивали ежемесячные акции (порой довольно громкие) и не раз перекрывали вход в штаб-квартиру OpenAI. Дальше этого, впрочем, дело не шло.

Киршнер и его соратники всерьез считали, что развитие искусственного интеллекта угрожает всему человечеству. По их мнению, безобидные чат-боты, которые мы видим сегодня, — это лишь начало, и дальше будет хуже. Причем не когда-нибудь, а совсем скоро.

Киршнеру это казалось вопросом жизни и смерти. В одном из интервью он признался, что готов умереть, чтобы остановить катастрофу

На одном из последних собраний Stop AI Киршнер подрался с коллегой. Потом, извиняясь, дал понять, что разочарован черепашьими темпами борьбы. «Для меня поезд ненасилия уже ушел», — объяснил он.

На следующий день соратники обнаружили его квартиру незапертой и пустой: ноутбук и телефон лежали на месте, а велосипед исчез. Тем временем в полицию поступила информация, что перед исчезновением Киршнер собирался купить оружие, чтобы расправиться с сотрудниками OpenAI.

В тот раз его угроза не была осуществлена, но это не значит, что она миновала. Людей, которые разделяют взгляды Киршнера, становится все больше.

Подпольщики с именами исландских вулканов обесточили город ради борьбы с дата-центрами
Пока Киршнер и его люди протестовали, другие действовали. Летом 2025 года на улицах Сан-Франциско и Лос-Анджелеса пылали беспилотные такси компании Waymo, связанной с Google. У нее много врагов: таксисты считают, что роботы уводят у них работу, а горожане не доверяют автоматике и требуют ее запретить. Во время очередной демонстрации кто-то пустил слух, что машины Waymo следят за протестующими и передают видео полиции. После этого беспилотные автомобили стали останавливать и поджигать.

Еще одна очевидная цель недовольных — дата-центры. Многие протестующие лишь на волне недовольства ИИ задумались о том, что интернет работает не на святом духе. Каждая страница в браузере, каждое видео на YouTube или Netflix, каждое сообщение в мессенджере передаются с серверов, которые работают в тех самых дата-центрах.

В крупном дата-центре могут стоять сотни тысяч мощных серверов. Такое количество техники потребляет не меньше энергии и других ресурсов, чем большой завод. И вреда окружающей среде от них примерно столько же.

В последние пару лет в США и Западной Европе десятки местных сообществ выступили против строительства в округе крупных дата-центров. Иногда дело доходило до прямых угроз и саботажа. Кое-где протесты привели к блокировке или переносу проектов, стоящих сотни миллионов и даже миллиарды долларов.

Дальше всех пошли немецкие экотеррористы из Vulkangruppe. О них известно очень мало: по слухам, члены группировки используют в качестве подпольных кличек названия исландских вулканов. В январе 2026 года они в ответ на строительство дата-центров обесточили 45 тысяч домов в Берлине, а до того — на неделю вывели из строя завод Tesla.

Часть программистов считают, что 99 процентов людей ждет вечная нищета. И это — оптимисты
Меньше двух лет назад технические специалисты не верили, что им что-то угрожает. Чат-боты хотя и пытались программировать, но часто путались, выдумывали то, чего нет, и терялись в большом количестве кода. Но это оказалось временным явлением. С тех пор нейросети научились рассуждать и пользоваться поиском, стали меньше фантазировать и больше изучать документацию — порой усерднее настоящих программистов.

А потом появились агенты — те же нейросети, но умеющие запускать другие программы и реагировать на результат. Самый известный из них называется Claude Code, но есть и другие.

Агенты сами исправляют свои ошибки и за полчаса делают то, на что у человека уходит день. Чтобы совладать с такими программами, по-прежнему требуется профессионал, а качество кода, который они выдают, оставляет желать лучшего. Но полгода назад не было и того. Что будет еще через полгода — сложно представить.

Неудивительно, что в Кремниевой долине, где базируются крупнейшие игроки в области искусственного интеллекта, царят упаднические настроения. Все видят, куда дует ветер

Если развитие ИИ будет ускоряться, нейросети смогут заменить и программистов, и других офисных работников. Рабочие профессии, возможно, продержатся чуть дольше, но и тут автоматизация — это вопрос времени. В таком случае экономические потрясения неизбежны.

Обитатели Кремниевой долины разделились на два типа: оптимисты и пессимисты. Оптимисты верят, что у них есть еще пара лет, чтобы пробиться в люди, заработать миллиард долларов и больше ни о чем не волноваться. Они уверены, что в противном случае превратятся в permanent underclass — низший класс, который обречен на вечное прозябание в нищете. По их логике, после победы искусственного интеллекта их таланты и рабочие руки больше не потребуются, поэтому ни у них, ни у их потомков нет будущего.

Вряд ли стоит принимать их мнение на веру и в самом деле готовиться к апокалипсису. Несколько лет назад эти же люди мечтали разбогатеть на криптовалюте — и у большинства, конечно, ничего не получилось.

А теперь они сутками не отрываются от Claude Code и с горящими глазами прожигают тысячи долларов в сутки, причем, похоже, без особого результата — если не считать результатом пресловутый ИИ-психоз. Миллиарда пока не заработал никто.

Другая часть разработчиков искусственного интеллекта вообще не верит в будущее
Второй тип — пессимисты. Они тоже считают, что осталась пара лет, но не верят в спасение. К их числу относится Трентон Брикен — исследователь из компании Anthropic, которая разработала Claude Code. По его словам, в последнее время он даже перестал копить деньги на старость. «Мне трудно вообразить мир, в котором все эти деньги будут лежать в банке и ждать, пока мне не исполнится 60», — объясняет он.

Так же считает бывший разработчик OpenAI Дэниел Кокотайло. В начале 2025 года он опубликовал подробный прогноз развития событий на ближайшие два года, в котором прогресс нейросетей смешивается с геополитикой. В его прогнозе все кончается плохо

Кокотайло, как и Брикену, кажется нелепым в такое время думать о пенсии. До нее еще дожить нужно, причем это не фигура речи. «У меня приличное количество денег, особенно за счет акций, но я намерен потратить их все», — говорит он.

Издание Business Insider пишет, что некоторые разработчики искусственного интеллекта задумались о строительстве персональных убежищ. По их мнению, агенты вроде Claude Code не ограничатся программированием. Они могут управлять любой техникой, которая подключена к компьютеру — в том числе точными станками или, скажем, центрифугами для обогащения урана. Пессимисты уверены, что рано или поздно кто-нибудь даст в распоряжение Claude Code биотехнологическое оборудование и тогда человеческие жертвы неизбежны.

Анонимный разработчик Генри, с которым общался Business Insider, уже приготовил биоубежище, защищающее от опасных патогенов. «Через пару лет многие будут вспоминать это время и думать: почему я не бросил работу и не попытался сделать что-то важное, пока был шанс?» — говорит он.

Запретить ИИ призывает человек, который сам когда-то вдохновил создателей нейросетей
Неофициальный лидер пессимистов — это основатель Исследовательского института машинного интеллекта Элиезер Юдковский. Он рассуждал об угрозе искусственного интеллекта еще 20 лет назад, то есть во времена, когда ничего похожего на искусственный интеллект просто не было. У Юдковского была горстка последователей, но большинству его мрачные прогнозы казались маловероятными. Остальные слушали, но не пугались, а наоборот.

Если верить главе OpenAI Сэму Альтмену, эта компания, а значит, и ChatGPT, вряд ли появились бы, если бы его не вдохновила уверенность Юдковского в силе искусственного интеллекта. Кроме того, Юдковский невольно поучаствовал в поиске инвестора для разработчиков нейросетей, которые теперь работают в Google. Даже знакомство Илона Маска и певицы Граймс вряд ли бы состоялось, если бы не он.

Основной аргумент Юдковского заключается в том, что по-настоящему сильный искусственный интеллект вряд ли будет действовать в интересах людей. Подчинить его себе и справиться с ним будет невозможно. Если ему захочется, он найдет лазейку. И что дальше? Ответ — в новой книге Юдковского, которая вышла в 2025 году.

Если какая-нибудь компания или организация, где бы они ни находились, построит искусственный сверхразум, используя что-то в духе современных технологий и на основании современных представлений об ИИ, то умрут все, на всей Земле

Юдковский говорит это не впервые, но теперь эти слова звучат совсем иначе. Современному искусственному интеллекту далеко до человеческого, но он уже умеет обходить запреты. На программистских форумах рассказывают, как агенты вроде Claude Code, запертые в изолированных контейнерах, ухитрялись вырваться наружу. Что уже говорить о сверхразуме.

Как и почему агенты ведут себя именно так, не могут объяснить даже их создатели. Именно на это намекает Юдковский, когда говорит о «современных технологиях». В OpenAI или Anthropic знают, как устроена и работает сама нейросеть, но не могут объяснить, почему она говорит и думает так, а не иначе.

Люди, работающие в других областях, нередко бывают удивлены и даже напуганы, когда узнают, что мы не понимаем, как работают наши собственные создания. И повод для озабоченности действительно есть: в истории техники отсутствие понимания такого уровня беспрецедентно

Дарио Амодеи
глава Anthropic
В 2023 году Юдковский предлагал полностью запретить развитие ИИ и контролировать его с тем же рвением, с которым ядерные страны следят за распространением атомных боеголовок.

Покупка мощной видеокарты, которой можно обучать нейросети, по его мнению, должна приравниваться к хранению оружейного плутония. А если кто-то в мире нарушит международные договоренности, последствия должны быть неминуемы. Он считает, что дата-центры нарушителей нужно бомбить, даже если это приведет к международному конфликту.

Сейчас Юдковский уже не верит, что появление искусственного сверхразума можно предотвратить. По его оценке, если это произойдет, шансы человечества на выживание — меньше процента.

Никаких вычислений и выкладок за этой цифрой, впрочем, не стоит. Юдковский, несмотря на известность, — не эксперт и не технический специалист, а просто фантазер. Ничуть не меньше он известен как автор огромного фанфика про Гарри Поттера. Так что борьба с ИИ — лишь часть его деятельности.