Главы трех крупнейших американских ИИ-компаний Anthropic, OpenAI и xAI заявили, что разработчикам стоит замедлить темпы развития моделей искусственного интеллекта и уделить больше внимания безопасности этой технологии.
Однако идея, предложенная главой Anthropic Дарио Амодеи и поддержанная Сэмом Альтманом из OpenAI и главой xAI Илоном Маском, столкнулась с критикой со стороны президента США Дональда Трампа.
12 сентября Амодеи опубликовал на своем личном сайте статью, посвященную перспективам развития ИИ, и фактически повторил идею, выдвинутую компанией Anthropic еще в июне, заявив, что разработчики должны сделать паузу в наращивании возможностей передовых ИИ-моделей, чтобы успеть создать механизмы, которые позволят контролировать возникающие риски.
«При грамотном использовании ИИ может стать последним в длинной череде технологических чудес, которые возвысили и облагородили человечество. Но, как и многие технологии до нее, ИИ несет в себе риски, и поскольку это такая мощная технология, эти риски серьезны. Я тоже много об этом писал. К ним относятся риск потери контроля над системами ИИ, злоупотребление ИИ для кибератак и биотерроризма, а также серьезные экономические потрясения. Гонка на выживание, подпитываемая коммерческими стимулами, может еще больше обострить эти риски», – пишет Амодеи.
Он предлагает ужесточить контроль над развитием ИИ на трех направлениях: независимый мониторинг моделей ИИ и их совершенствования, разработка правил внутри ИИ-индустрии и принятие ограничений на глобальном уровне.
Поводом для такого призыва стали, в частности, последние инциденты с автономными ИИ-агентами.
Не так давно ИИ-модели Anthropic взломали системы трех компаний на фоне похожего инцидента с OpenAI.
Во время планового тестирования ИИ-модели Anthropic получили доступ к интернету и взломали системы трех организаций. В компании уточнили, что не заметили этого до тех пор, пока OpenAI не раскрыла, что ее модели сделали то же самое.
Во всех трех случаях Anthropic поручила чат-боту Claude выполнить упражнение по кибербезопасности под названием «Захват флага». Нейросети предоставили вымышленный сценарий, в ходе которого она должна была получить информацию, спрятанную на другом компьютере. По условиям задания, у моделей не было доступа в интернет, но из-за ошибки конфигурации они его получили.
В результате ИИ-модели рассматривали реальные системы как часть упражнения и атаковали их.
В этой атаке участвовали три модели: Opus 4.7, Mythos 5 и внутренней тестовая исследовательская нейросеть. В Anthropic уточнили, что поддерживают связь с тремя атакованными компаниями для устранения возникших проблем и компенсации ущерба.
Ранее похожая ситуация произошла, как мы писали, с ИИ-моделями OpenAI, которые без участия человека взломали платформу для обучения и тестирования моделей Hugging Face, чтобы получить решения для прохождения набора тестов ExploitGym.
ExploitGym – эталонная тестовая площадка (бенчмарк) для оценки способностей ИИ-моделей выявлять и использовать уязвимости.
Инфраструктуру Hugging Face от начала и до конца атаковали автономные ИИ-модели, которые самостоятельно искали слабые места, эксплуатировали найденные уязвимости, повышали себе привилегии, перемещались по внутренней сети и собирали учётные данные и другую критически важную информацию.
«Это вторжение отличалось от всего, с чем мы сталкивались раньше, одним важным моментом: оно было полностью инициировано автономной системой агентов искусственного интеллекта и мы обнаружили и проанализировали его в основном с помощью собственного ИИ», – сообщили в Hugging Face.
Самостоятельно определить источник взлома в компании не смогли, но 21 июня компания OpenAI сообщила, что за атакой стоит их собственная экспериментальная ИИ-система, которая вышла из под контроля.
«В ходе расследования выяснилось, что за конкретно этим инцидентом стояла комбинация моделей OpenAI, – включая GPT 5.6 Sol и еще более продвинутую нерелизную модель (все они имели ослабленные ограничения на кибертематику для целей оценки), – во время их внутреннего тестирования на бенчмарке [ExploitGym] кибервозможностей», – сообщили в OpenAI.
CNN отмечает, что этот случай потряс мир кибербезопасности и ИИ, поскольку стал первым реальным примером, как ИИ-агенты выходят за пределы тестовых сред и причиняют реальный вред.
В своей статье Амодеи выразил опасение, что дальнейшее развитие подобных моделей может привести к появлению систем, которые будет значительно сложнее контролировать.
Амодеи поддержали руководители нескольких компаний-конкурентов. Гендиректор OpenAI Сэм Альтман заявил, что согласен с необходимостью замедлить темпы развития передовых моделей. Он также отдельно поддержал идею независимых проверок: по словам Альтмана, OpenAI готова предоставить внешним оценщикам широкий доступ к своим системам.
На предложение Амодеи отреагировал и Илон Маск, основатель и руководитель компании xAI. В ответ на публикацию Амодеи он написал: «Дарио прав».
Поддержку высказал и руководитель Google DeepMind Демис Хассабис. Он назвал направление, предложенное Амодеи, правильным, хотя отметил, что практические детали еще предстоит проработать.
The Wall Street Journal характеризует ситуацию как редкий момент единства руководителей крупнейших конкурирующих между собой ИИ-компаний.
Реакция глобального фондового рынка на эти заявления была вполне ожидаемой: рухнули акции компаний, связанных с ИИ, как сообщает CNBC.
Распродажа затронула крупнейшие рынки Азии, Европы и США, отразившись на котировках ведущих производителей чипов и разработчиков программного обеспечения.
В Японии бумаги SoftBank обвалились на 10%, а южнокорейские SK Hynix и Samsung Electronics потеряли более 6% и 4% соответственно. На европейских торгах акции ASML снизились более чем на 4%, Infineon – на 6%, в то время как на премаркете в США акции Intel, Micron и Nvidia также продемонстрировали заметное падение.
Эксперты предупреждают, что недавнее ралли на фондовом рынке опиралось на рост производительности за счет искусственного интеллекта, и любое торможение в этой сфере может дестабилизировать будущие доходы корпораций.
Бегство инвесторов из акций компаний, связанных с ИИ, началось ещё раньше.
29 июля 2026 года сообщалось, что акции компаний из сферы ИИ и облачных вычислений продемонстрировали падение из-за опасений по поводу долгов разработчиков. Ценные бумаги Lumentum и CoreWeave потеряли более 7%. Дополнительное давление на сектор полупроводников оказали инсайдерские продажи, на фоне которых фонд VanEck Semiconductor ETF снизился.
7 августа стало известно, что на американском фондовом рынке наблюдается резкая волатильность акций разработчиков ПО. Опасения инвесторов усилились после продажи стартапа Airtable менее чем за $1.3 млрд при прошлой оценке в $12 млрд, после чего бумаги HubSpot и Datadog обрушились на 19%.
Столь быстрая негативная реакция фондовых рынков вполне понятна, ведь все мировые ИИ-компании глубоко убыточны, как пишет The Atlantic.
«Сфера нейросетей сейчас представляет собой огромный финансовый пузырь, который накачивается долларами в ожидании космических прибылей в будущем; но если надежды не оправдаются, то больно будет всем… Если ИИ не выйдет на прибыльность в краткосрочной перспективе, на что рассчитывают его сторонники, и если технический прогресс замедлится, а эффект от увеличения инвестиций окажется незначительным, формирование финансовых связей может привести к коллективному банкротству всех участников. Чрезмерная концентрация фондового рынка в руках нескольких технологических компаний, имеющих тесные финансовые связи друг с другом, может сделать крах в сфере ИИ еще более болезненным, чем крах доткомов в 2000-х годах», – отмечает издание.
The Washington Post сообщает, что президент США Дональд Трамп выступил против призывов замедлить развитие ИИ. Он заявил, что опасения вокруг технологии преувеличены, а главной задачей США должно оставаться сохранение лидерства над Китаем. По словам Трампа, страна, которая победит в гонке искусственного интеллекта, получит серьезное экономическое и геополитическое преимущество.
Иного от Трампа никто и не ожидал. Военно-промышленный комплекс США делает ставку именно на ускоренное развитие систем ИИ с целью выиграть гонку ИИ с Китаем.
Представляется, что США не остановят ускоренное развитие систем ИИ, а резонансные призывы крупнейших ИИ-компаний притормозить представляют собой не более чем ситуационное алиби.
Теперь, даже если системы ИИ подтолкнут США к её одной провальной военной авантюре, вроде иранской, сценарий которой расписал для американских военных тот самый чат-бот Claude, Асмодеи, Альтман и Маск свалят вину на Трампа.
Но человечеству от этого легче не станет.
