Предложение главы одной из ведущих ИИ-компаний замедлить развитие искусственного интеллекта, чтобы предотвратить потерю контроля над технологией, вызвало большой резонанс. Однако оно не прояснило личные цели самого автора. Ставки слишком высоки, чтобы безоговорочно верить в альтруизм Дарио Амодеи из Anthropic, о котором идёт речь. Предупреждения о рисках быстрого развития ИИ для мировой экономики и даже угрозе существованию человечества звучат не первый год. Но в 2026-м лидеры отрасли, такие как Илон Маск, Сэм Альтман и Амодеи — не ладящие друг с другом — стали регулярно обсуждать эту тему публично. Президент США Дональд Трамп, конечно, тоже высказал свой особый взгляд на происходящее вокруг ИИ. Ситуация накаляется, а рынки, разогретые ИИ-бумом, переживают нестабильность. Для чего миллиардеры отвлекают инвесторов разговорами о конце света, пока мир меняется на глазах и без сценариев в духе «Терминатора»?

В своём нашумевшем посте Амодеи выразил уверенность: ИИ за 5-10 лет может победить большинство болезней, ускорить экономический рост, «создать мир всеобщего изобилия и новых возможностей, а также дать толчок возрождению демократии». При этом он в очередной раз признал, что развитие технологии сопряжено с серьёзными рисками из-за её колоссальной мощи. К ним топ-менеджер отнёс кибератаки, биотерроризм, возможные экономические потрясения, а также «гонку наперегонки» и стремление снижать стандарты ради коммерческой выгоды, что «может усугубить ситуацию».

Исходя из этого, Амодеи заключил: одних инвестиций в предотвращение угроз уже недостаточно. Необходимо плотно заняться контролем над темпами развития ИИ, чтобы меры безопасности успевали за прогрессом. Он отметил, что «прогресс всё равно будет казаться стремительным», и призвал замедлить темпы совершенствования ИИ-моделей, «с умом распорядившись выигранным временем».

Что это означает? На первом этапе глава Anthropic предлагает пригласить во все ведущие ИИ-компании сторонних экспертов. Они будут контролировать соблюдение правил безопасности и информировать об инцидентах при разработке и тестировании ИИ-моделей. Амодеи заявил, что Anthropic уже допустила таких экспертов с теми же правами доступа, что и у её сотрудников. Он призвал другие ИИ-корпорации последовать этому примеру, а власти — сделать сторонний контроль обязательным для регулирования отрасли.

Второй и третий этапы предложенной программы предусматривают масштабирование усилий по созданию общих стандартов безопасности, а также ограничений на бесконтрольное развитие ИИ. Сначала в названных им демократических странах, затем — в авторитарных, под которыми американец подразумевает прежде всего Китай.

Устаревшие «белые воротнички»

Пока Амодеи публично рассуждает о необходимости объединиться для спасения интернета и будущего Земли от его же детища, Anthropic опубликовала аналитический обзор «Scenarios for our Economic Future». В нём специалисты компании оценили влияние своих технологий на рынок труда к 2030 году и пришли к неутешительным выводам.

Самая жёсткая модель Anthropic предполагает, что через пять лет в США безработица может быть примерно в полтора раза выше, чем во время кризиса 2008-2009 годов. Среди «работников умственного труда», или «белых воротничков» — концепцию которых в ИИ-индустрии уже считают устаревшей и навязанной маркетологами Microsoft — работу потеряет почти каждый четвёртый (24 процента). Это сопоставимо с показателями времён американской Великой депрессии. При базовом сценарии зарплаты таких работников снизятся примерно на 11,5 процента от уровня, который был бы без ИИ, а безработица достигнет 17,9 процента.

Выгода от ИИ-бума, как и ожидалось, достанется только капиталу, а не офисным сотрудникам. В лучшем случае, если их не заменят ИИ-моделью, их ждёт бесконечная гонка за повышением эффективности, которая при использовании ИИ растёт вместе с загрузкой и вовлечённостью персонала, как показывают исследования.

На этом фоне рассуждения аналитиков Anthropic о том, что программистам достаточно переучиться на электриков, и всё вернётся на круги своя, выглядят сомнительно. Сотрудники, уволенные из офисов, перестанут тратить деньги, и бизнесу станет невыгодно производить прежние объёмы товаров. В недавней статье, посвящённой этой проблеме, американские учёные Бретт Хеменвей Фалк и Джерри Цукалас писали, что ИИ-бум приводит к тому, что все участники рынка теряют работников и покупателей, попадая в «ловушку коллективного действия». Кроме того, схема Anthropic с массовым переходом программистов «на завод» не учитывает, например, прогресс робототехники, который вполне обоснованно ожидают в мире в ближайшие годы. Таким образом, социальный оптимизм Anthropic при текущих вводных выглядит наигранным и не сулит уверенности в будущем.

Энгельс возвращается

Похожих проблем ждут и ведущие мировые эксперты в области финансов и технологий. Они проанализировали сценарии возможного переворота мировой экономики искусственным интеллектом и назвали подрыв налоговой системы вероятной причиной краха современной цивилизации. Авторы Bloomberg язвительно отметили, что «сценарий апокалипсиса, связанный с ИИ, может не иметь ничего общего с роботами-убийцами или обретшими разум компьютерами».

Ещё со времён первой промышленной революции две трети государственных средств США формируются за счёт налогов с граждан. ИИ же грозит устранить «целые категории рабочих мест для 'белых воротничков' по всему миру». Обвал доходов населения вместе с резким ростом расходов на его содержание может нанести двойной удар по правительствам: налоговые поступления от потерявших работу сотрудников сократятся, а расходы на пособия и переподготовку безработных вырастут. Это способно привести к «десятилетиям нестабильности» из-за новой «паузы Энгельса».

Этот термин отсылает к работе соратника Карла Маркса «Положение рабочего класса в Англии». Во времена её написания производительность труда в Великобритании резко выросла благодаря внедрению технологий вроде паровой машины, однако реальная заработная плата десятилетиями оставалась прежней, а условия жизни часто ухудшались.

Прогнозы о том, что людям предстоит больше работать за меньшие деньги, не выглядят фантастикой. При этом, напоминают журналисты, промышленную революцию, с которой сторонники искусственного интеллекта любят сравнивать ИИ-бум, сопровождали десятилетия политических потрясений. Они были связаны не столько с самими технологическими прорывами, сколько с тем, что экономические изменения опережали адаптацию людей и правительств.

Нечто невероятное, чрезвычайно позитивное и потрясающее

Амодеи обратился к ведущим мировым технологическим компаниям с предложением о сотрудничестве и получил поддержку от ряда «капитанов» ИИ-индустрии, включая Маска, который написал в X, что глава Anthropic прав, и Сэма Альтмана из OpenAI. Альтман, отметив, что речь идёт не об «остановке», а о замедлении прогресса, фактически использовал инфоповод, чтобы объявить об отказе OpenAI от выхода на биржу в 2026 году. Такое совпадение вызвало закономерные подозрения у многих представителей рынка.

Дело в том, что репутация Альтмана, которого работавшие с ним сотрудники характеризуют как человека, стремящегося понравиться всем, но при этом «почти социопатически безразличного к последствиям обмана», не позволяет заподозрить его не то что в альтруизме, но даже в стремлении к общему благу, выходящему за рамки финансовых показателей и внимания к собственной персоне.

В частности, Альтман за последние месяцы сначала высмеял в суде аргументы Маска о нежелании «конца света» по сценарию «Терминатора», а затем заявил, что гонка технологий искусственного интеллекта достигла этапа, напоминающего сюжеты научно-фантастических романов. Он назвал это «чем-то невероятным, чрезвычайно позитивным и потрясающим для всего мира». «Я намерен сделать всё возможное, чтобы противостоять таким прогнозам и не допустить их воплощения в жизнь», — отметил Альтман в связи с мрачными сценариями будущего с ИИ, но не уточнил, что именно он планирует предпринимать.

О том, что OpenAI склоняется к отсрочке IPO, сообщалось ещё в июне. Тогда выяснилось, что бизнес-консультанты предложили либо разместить акции в 2026-м с меньшей оценкой, либо сделать это позже, достигая желаемого триллионного уровня, на котором настаивает гендиректор Альтман. Кстати, Anthropic также готовится к первичному размещению акций. Обе компании идут, что называется, ноздря в ноздрю.

Амодеи и компанию обвинили в саморекламе

То, что лидеры рынка единодушно выступили за замедление развития ИИ (к упомянутым спикерам присоединился также Демис Хассабис из DeepMind от Alphabet, а Билл Гейтс заявил, что «это очень серьёзно» и нужно заранее оценить возможные последствия развития ИИ), не вызвало восторга в отрасли. Скорость, с которой крупнейшие разработчики объединились вокруг «революционного» призыва Амодеи, только усилила споры на Уолл-стрит относительно их мотивов.

Это тот редкий случай, когда инновации могут быть настолько масштабными и радикальными, что мы к ним не готовы

Билл Гейтс

Сооснователь Microsoft

Ещё до публикации воззвания Амодеи инвесторов призывали скептически относиться к заявлениям архитекторов ИИ-гонки о защите мира от тёмной стороны их разработок. Аналитики отмечали, что «кажется, они слишком усердно убеждают» в грозящей опасности.

Теперь же рынок обрушил на «капитанов» индустрии весь свой скепсис. Любая пауза в развитии ИИ может негативно сказаться на настроениях инвесторов, и самим компаниям есть что терять. Венчурный инвестор Грант Хаммер высказал мнение: конкуренция со стороны моделей с открытым исходным кодом (open-source) давит на валовую маржинальность разработчиков, а гонка капитальных расходов становится слишком дорогой. Поэтому крупнейшим игрокам выгодно добиваться более жёсткого регулирования, ограничивая указанные факторы «с показной заботой о всеобщем благе».

Немного удивлён позицией компаний, занимающихся ИИ. То, что они вдруг стали очень сильно переживать по поводу возможных рисков, мне кажется, что за этим стоят причины, не связанные с тем, что они очень переживают за рынок труда или в целом за человечество. Всё-таки текущая война моделей приводит к тому, что на развитие новых моделей искусственного интеллекта тратятся огромные деньги, и при этом вопрос окупаемости этих инвестиций остаётся открытым.

Максим Ульянов

Независимый финансовый эксперт

Инвестор Майкл Бьюрри, предсказывавший обвалы на американском фондовом рынке и известный как прототип героя фильма «Игра на понижение», прямо назвал позицию руководства OpenAI и Anthropic корыстной и связанной с саморекламой. С его точки зрения, обе компании, планирующие в ближайшее время выйти на биржу с триллионными оценками, говоря о страхе перед апокалиптическим сценарием развития технологии, по сути, набивают себе цену. «Для IPO нужны шумиха и самореклама; заявления в духе 'мы настолько хороши, что это может стать опасным' — это и есть шумиха и самореклама», — подчеркнул Бьюрри.

Инвестор также заострил внимание на том, что так называемые Большие языковые модели (LLM) не являются полноценным искусственным интеллектом и не достигнут уровня AGI (сильного искусственного интеллекта), а значит, по его словам, и замедлять здесь нечего. Бьюрри предположил, что призывы к замедлению служат прикрытием для реального снижения темпов роста ИИ-индустрии, и упомянул о рисках формирования нового финансового пузыря, о чём активно предостерегают аналитики.

На балансе американских техногигантов обнаружили неучтённый триллион долларов обязательств по дата-центрам

Суммарные обязательства Microsoft, Amazon, Alphabet (холдинговая компания, управляющая Google Inc и её «дочками») и ряда других американских техногигантов по аренде дата-центров, которые пока не учитываются в их финансовых показателях, превышают триллион долларов. Речь идёт о суммах, неучтённых в договорах, которые уже заключены, но ещё не вступили в силу.

«Если спрос на вычислительные мощности для ИИ продолжит расти, эти объекты станут фундаментом для следующего этапа расширения облачных сервисов. В противном случае компаниям придётся оплачивать огромные объёмы дорогостоящих и долгосрочных мощностей, от которых будет сложно избавиться», — пишут журналисты Reuters, по словам которых приведённая сумма почти в четыре раза превышает отражённый в балансах компаний объём арендных обязательств в 285 миллиардов долларов.

Эти прогнозы подтверждают и в Deutsche Bank, задаваясь вопросом, не стали ли прозвучавшие заявления первым признаком того, что беспрецедентный инвестиционный цикл в ИИ начинает выдыхаться. Предупреждения о рисках ИИ могут сигнализировать о завершении периода взрывного роста вычислительных мощностей и инвестиций в ИИ-инфраструктуру, согласилась Кэтлин Брукс из брокерской компании XTB.

При этом есть эксперты, которые видят в совместной инициативе конкурирующих компаний действия вопреки сиюминутным финансовым интересам. Они считают это свидетельством необходимости единого международного регулирования ИИ, которое «должно быть разработано не только бизнесом, но и с непосредственным участием ведущих мировых научных и экспертных организаций».

Трамп увидел безумный заговор против ИИ

Дальше всех в риторике, как обычно, зашёл действующий американский президент. Он заявил, что его администрация обладает огромной регуляторной властью в сфере ИИ, благодаря которой удалось удержать от «плохих поступков всех», включая Амодеи. По словам Трампа, не ладящего с Anthropic со времён начала иранского конфликта, Амодеи «сейчас притворяется 'идеальным маленьким ангелочком'».

Комментируя идею о замедлении развития ИИ, глава США повторил ранее озвученные тезисы о лидерстве Соединённых Штатов в этих вопросах и превосходстве страны над КНР. Трамп предупредил о существовании «безумного заговора» против ИИ и центров обработки данных, которому, с его точки зрения, рады только в Китае.

Переживания о том, что развитие технологии может угрожать существованию человечества, американский лидер назвал безосновательными. В этом вопросе он нашёл поддержку у другого скептика апокалиптических прогнозов — гендиректора Nvidia Дженсена Хуанга. Тот возмущённо спрашивал у сомневающихся: «Уничтожат ли калькуляторы математику?»

Когда Трамп 14 сентября дозвонился Хуангу, выступавшему в тот момент на сцене форума All-in в Лос-Анджелесе, тот перевёл звонок на громкую связь. Президент США во всеуслышание заявил, что «роботы не захватят власть».

«Люди, которые говорят, что ИИ собирается уничтожить мир и что центры обработки данных вредны для вашего района, — это те же люди, которые совсем недавно говорили, что мир будет уничтожен из-за 'изменения климата'. Эта афера у них так и не сработала, и теперь они взялись за следующую», — продолжил развивать тему Трамп.

Что касается Китая, с которым, согласно плану Амодеи, предлагается договариваться об ограничениях в сфере ИИ лишь на третьем, завершающем этапе, то и там косвенно согласились с Трампом, обеспокоенным только лидерством Америки и своим, конечно. Разжигание страхов, конфронтация и жестокая конкуренция только сорвут процесс глобального регулирования ИИ и никому не пойдут на пользу, заявил официальный представитель МИД Го Цзякунь. Он подчеркнул, что «все стороны должны совместно содействовать открытому и инклюзивному развитию ИИ во благо людей».

Единственный способ контролировать ситуацию или ограждать, в котором нуждается ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США этого в избытке!

Дональд Трамп

Президент США

«Следует взять в свои руки инициативу, укреплять сотрудничество в сфере ИИ, поддерживать развитие открытого исходного кода в духе сотрудничества и совместного использования», — призвал на недавнем саммите в Нью-Дели председатель КНР Си Цзиньпин, анонсировавший создание Китаем международного центра сотрудничества по применению искусственного интеллекта для стран БРИКС.

Чего бояться уже поздно, а чего — самое время

Страх, как правило, не только заразителен, но и иррационален. Трудно бояться того, что, во-первых, уже случилось, а во-вторых — развивается в рамках в целом понятного сюжета. Именно поэтому поздно бояться увольнений из-за ИИ, которые идут уже не первый год и объясняются «определёнными успехами» в использовании искусственного интеллекта. К тому же, когда выхлоп от этих «успехов» улетучивается, бизнес так же легко «сбрасывает настройки» в пользу обратного найма уволенных сотрудников.

Поздно бояться и вреда ИИ экологии. Компании из этой сферы, быстро став одними из самых влиятельных бизнес-проектов в мире, не раскрывают данные о выбросах парниковых газов и не публикуют отчёты об устойчивом развитии. Ещё несколько лет назад на Западе это было немыслимо.

Сейчас непросто оценить точные данные о масштабах экологического ущерба от лихорадочного строительства дата-центров, которое взвинчивает зарплаты электриков и плотников, в то время как профессии вроде оператора колл-центра, похоже, доживают последние годы. Однако «очевидно, что объёмы выбросов в этом секторе колоссальны», пишет Bloomberg. Достаточно сказать, что только новые газовые электростанции, строящиеся в США для работы дата-центров, производят выбросы, сравнимые с объёмом всей Австралии, добавляют журналисты.

Помимо экономических потрясений, о перспективах которых уже сказано достаточно, опасения из-за ИИ сегодня связывают как с достаточно абстрактными, хотя и важными понятиями, так и с вполне весомыми перспективами катастроф. Помощник президента России Андрей Фурсенко напомнил о недавно появившемся письме ведущих математиков мира. Они увидели проблему ИИ в том, что технология моментально даёт готовый ответ, лишая человечество крайне важного процесса познания.

Что касается второго аспекта, то, как пишет The Wall Street Journal, разработчики ИИ и эксперты по безопасности опасаются не столько сценариев в духе «Терминатора», когда высокоинтеллектуальные ИИ-агенты, способные копировать и совершенствовать себя, начнут преследовать собственные цели и уничтожат человечество. Их больше беспокоит утрата контроля и злоупотребления со стороны человека. Он может использовать ИИ злонамеренно, например, создавая смертоносные вирусы или организуя массовые кибератаки, выводящие из строя объекты инфраструктуры. Сценарии, при которых ИИ-модели будут способны рассматривать убийства как необходимый шаг на пути к достижению своих целей, также нельзя исключать, отмечают авторы WSJ.

На этом фоне отдельным жанром в индустрии в этом году стали прощальные письма «мужчин на грани нервного срыва» — видных представителей ИИ-сферы, уходящих из неё из-за опасений катастрофы.

Так, в первой половине сентября 27-летний математик из Anthropic Джейкоб Коксон объявил об увольнении. Он боится, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата». По его словам, уже к концу следующего года ИИ-модели «могут выйти из-под контроля и уничтожить человечество». Поэтому исследователь решил отказаться от прежних проектов и заняться изучением поэзии.

63 %

опрошенных американцев опасаются, что развитие искусственного интеллекта может привести к уничтожению человечества, причем 17 % считают такой сценарий почти неизбежным

Когда об этом стало известно, Эван Хьюбингер, который в Anthropic руководит исследованиями в области управления будущими ИИ-системами и контроля за ними, развил послание Коксона в духе «мы все умрём, но это не точно». Он написал в X, что они с коллегами «всерьёз полагают, что ИИ может погубить всё человечество». Хьюбингер оценил вероятность такого исхода в ближайшее десятилетие более чем в 10 процентов и отметил, что компания «прикладывает максимум усилий», однако у неё пока нет плана решения проблемы «согласования суперинтеллекта», и она не движется к этой цели с «чётким пониманием дальнейших шагов».

До Коксона много шума наделало похожее заявление его бывшего коллеги — главы исследовательского подразделения по безопасности ИИ Мринанка Шармы. Он тоже решил заняться изучением поэзии, а также «посвятить себя практике смелой речи». Увольняясь, он предупредил, что «мир в опасности».