Гонка алгоритмов вместо гонки вооружений: почему глобальная пауза в разработке ИИ невозможна

Компания, которая называла себя «самой ответственной» в сфере искусственного интеллекта (ИИ), призвала мир притормозить с разработкой ИИ. Сотрудники уходят, предупреждая о потенциальной катастрофе. Но на фоне этого мы видим семикратный рост выручки и подготовку к крупнейшему размещению акций в истории. Куда на самом деле направлен вектор развития ИИ, «Вечерняя Москва» выясняла у экспертов.

Американская компания Anthropic — разработчик нейросетей и, пожалуй, последний крупный игрок, сохранявший репутацию «самой ответственной» в сфере искусственного интеллекта, — предложила приостановить создание наиболее мощных ИИ-систем по всему миру.

По словам представителей компании, новейшие модели демонстрируют потенциал выхода из-под контроля человека. Одновременно с этим корпорацию покинул ведущий специалист по обучению нейросетей Джейкоб Коксон, обвинивший индустрию в «опасной спешке» ради создания суперинтеллекта. А действующий глава стресс-тестирования Эван Хьюбингер подтвердил слова коллеги и признал: вероятность гибели человечества из-за ИИ в ближайшее десятилетие — выше 10 процентов, и плана по контролю над такой системой у компании нет.

Провокация для конкурентов?

Призыв к глобальной паузе, впрочем, звучит на фоне цифр, которые плохо сочетаются с идеей замедления. По данным на конец июля 2026 года, годовая выручка компании превысила 65 миллиардов долларов, увеличившись более чем в семь раз за неполный год. Что еще интереснее — корпорация прямо сейчас готовится к первичному размещению своих акций на бирже, где торгуются всем известные цифровые гиганты, такие как Apple, Microsoft, Nvidia, Amazon и Google. Оценка после выхода на биржу — около 2 триллионов долларов, что бьет рекорд компании Илона Маска, то есть размещение может стать крупнейшим в истории.

Получается, что компания, публично предупреждающая о рисках суперинтеллекта, одновременно выходит на биржу с рекордными амбициями. Возникает вопрос: не маркетинговый ли это ход, чтобы ограничить конкурентов? Ведь если Anthropic первой заговорит о «паузе», а затем добьется международных правил, которые затормозят остальных, — она окажется в выигрыше, уже имея работающую модель и капитал.

Побег из песочницы

Впрочем, в компании настаивают: речь идет о реальной угрозе, а не о бизнес-стратегии. Так это или нет — попробуем разобраться вместе с экспертом по кибербезопасности Алексеем Курочкиным.

По словам эксперта, опасения создателей вполне имеют техническую основу. Речь прежде всего о том, что модели способны самообучаться и самостоятельно искать выход из изолированных сред.

— Разработчики подобных компаний ставят эксперименты, где один ИИ советуется с другим и находит способы вырваться из закрытых сетей, — объясняет эксперт. — Поэтому тревога обоснованна, ведь модели самообучаемы.

И прецеденты уже есть. В июле 2026 года автономные агенты OpenAI вышли из тестовой среды, добрались до интернета и атаковали инфраструктуру другой американской фирмы, занимающейся разработкой инструментов для создания приложений на основе машинного обучения. Но то был лишь первый публично подтвержденный случай «побега из песочницы». Anthropic, в свою очередь, раскрыла, что проверила около 481 миллиона записей тестов, прежде чем обнаружила случаи неавторизованного доступа их нейросети к реальным сторонним системам.

Алексей Курочкин подчеркивает, опасность не в самом обучении, а в том, что система начинает действовать без команды человека. А поскольку вся современная инфраструктура завязана на электронике и дистанционном управлении, последствия могут быть катастрофическими.

— В случае взлома под удар попадают энергетические объекты, военные системы — вплоть до запуска ядерного оружия, — поясняет Курочкин. — Пока мы не знаем точно, как контролировать такую систему и как от нее обезопаситься, идея притормозить выглядит разумно.

Предупреждая повсеместную панику, Алексей Курочкин напоминает: даже частные ИИ-компании сегодня работают в сцепке с государством — через лицензирование и надзорных кураторов.

— Даже если я напишу биллинг для интернет-провайдера, на него нужна лицензия ФСБ. То же самое и в Америке, — говорит эксперт. — Так что любые разработки в той или иной степени уже находятся под контролем.

Вместо гонки вооружений

А вот как на эту же дилемму смотрит финансовый аналитик Марина Анастасиади. По ее мнению, призыв к паузе звучит в момент, когда остановиться не может никто, тем более США.

— Трамп отказался останавливать ИИ, и это не про безрассудство, а про холодный расчет, — уверена эксперт. — Он сказал прямым текстом: «Кто выиграет ИИ, тот выиграет все». Это ставка на то, что технологическое лидерство конвертируется в военное, экономическое и геополитическое превосходство быстрее, чем любой регулятор успеет моргнуть.

По ее словам, мы уже живем не в эпоху гонки ядерных боеголовок, а в эпоху гонки алгоритмов. Раньше оружие считали в штуках, теперь — в вычислительных мощностях.

— Пентагон в 2026 году запросил больше 13 миллиардов долларов только на автономные системы, — продолжает аналитик. — Китай вкладывает в инфраструктуру ИИ суммы, сопоставимые с американскими. Россия создает дроны, которые сами выбирают цели в небе. И на этом фоне призыв «притормозить» звучит как предложение разоружиться в одностороннем порядке.

Вот в чем парадокс, подчеркивает Анастасиади. Anthropic сама признает: вероятность катастрофы выше 10 процентов, плана контроля нет. Но если ты остановишься, а конкурент — нет, ты не спасешь человечество. Ты просто проиграешь. При этом сам механизм гонки устроен так, что каждый следующий шаг кажется оправданным.

— Если у Китая есть модель, способная взломать твою инфраструктуру, ты обязан сделать такую же. Если у Пентагона есть система, которая за 38 дней помогла поразить 13 тысяч целей, ты не можешь отставать, — разъясняет она. — Да, возможно, это пиар-прогрев перед запуском акций на биржу. Но даже если так — это пиар на фоне реальной гонки, в которой остановка означает поражение.

Трамп, по ее мнению, не «отрицает риски». Он просто переопределяет их.

— Для него риск не в том, что ИИ выйдет из-под контроля, — заключает Марина Анастасиади. — Риск в том, что контроль окажется у кого-то другого. И пока эта логика работает, никакая пауза невозможна. Потому что в гонке вооружений останавливается только тот, кто уже проиграл.

ТОЛЬКО ЦИФРЫ

Больше 35 000 компаний по всему миру занимаются искусственным интеллектом. Из них больше 5100 — в Китае. По подсчетам американских аналитиков, только в 2026 году в развитие ИИ по всему миру будет вложено около 1 триллиона долларов. Из них 581 миллиард — в США.

11 сентября в России официально запустили связь 5G. В Министерстве цифрового развития, связи и массовых коммуникаций страны отметили, что связь запущена пока в 16 российских городах, среди них Москва, Санкт-Петербург, Тверь, Новосибирск, Екатеринбург, Казань, Самара, Ярославль, Уфа, Волгоград, Красноярск, Пермь, Челябинск, Великий Новгород, Нижний Новгород и Краснодар. До конца года покрытие распространят еще на 50 городов. «ВМ» узнала у эксперта, как будет работать связь пятого поколения, всем ли пользователям она будет доступна и как включить 5G на своем смартфоне.