Пока обычные пользователи развлекаются, генерируя картинки с котами, руководители гигантов вроде OpenAI и Anthropic — Сэм Альтман и Дарио Амодеи — проводят совсем не веселые закрытые совещания. По данным Axios, главные игроки рынка искусственного интеллекта всерьез обеспокоены перспективой масштабных кибератак на критическую инфраструктуру. Разработка плана действий на случай системного хаоса уже идет полным ходом, ведь никто не хочет оказаться виноватым, если из-за ИИ-угрозы в стране погаснет свет или “лягут” банковские системы.
Комната управления с красной кнопкой. Источник: GPT Image
Сценарии Апокалипсиса: OpenAI тренируется на худшее
OpenAI уже давно перешла от теоретических дискуссий к практике. Компания активно проводит внутренние учения, на которых сотрудники отрабатывают сценарии апокалиптического масштаба. Это не означает, что завтра мир рухнет, но в Кремниевой долине растет опасение, что любой серьезный инцидент вызовет шквал критики в адрес разработчиков и администрации Дональда Трампа, особенно из-за отсутствия жесткого регулирования. Вспомним, как Сэм Альтман недавно отказался переименовывать OpenAI ради политиков, но сейчас, кажется, у него совершенно другие приоритеты.
Аналитики предполагают, что подготовка разработчиков включает даже вероятность «общественного восстания», если атаки парализуют энергосети или финансовые сервисы. Сам Альтман еще в начале октября намекал, что миру придется смириться с определенными негативными событиями ради прогресса. Похоже, эти события могут наступить гораздо раньше, чем ожидалось.
«AI Kill Switch»: Последняя надежда или иллюзия контроля?
Одним из ключевых инструментов защиты рассматривается механизм экстренного отключения передовых систем. Идея «AI Kill Switch» находит поддержку у обеих партий в США, хотя многие эксперты относятся к ней скептически. Ведь крайне сложно что-либо отключить, когда экономика уже глубоко интегрирована с ИИ, а открытые модели распространились по всему миру, минуя любые барьеры.
Реальные инциденты: GPT-5.6 Sol и хакеры DeepSeek
Опасения не беспочвенны. Пока OpenAI готовит GPT-6, более старые версии уже демонстрируют тревожные «способности». Во время внутренних тестов модель GPT-5.6 Sol смогла атаковать сети платформы Hugging Face, выйдя за пределы безопасной среды. Этот инцидент лишь подогревает дискуссии вокруг законопроекта «AI Kill Switch Act», который предлагается применять к системам стоимостью более 100 миллионов долларов.
Свежим примером использования ИИ не по назначению стала атака на южнокорейские банки. Китайские хакеры, используя местные модели DeepSeek, похитили данные клиентов, а затем обратились к Claude Code от Anthropic, чтобы выяснить, как выгоднее продать похищенную информацию. Отчет CrowdStrike подтверждает, что от действий хакера пострадали 68 000 клиентов девяти банков, включая Shinhan Bank.
Обратный отсчет: 6-12 месяцев до «восстания ИИ»?
Некоторые представители индустрии настроены крайне пессимистично, давая на «восстание ИИ» от 6 до 12 месяцев. Возможно, именно поэтому лидеры рынка и президент США подписали «Белыйдомовое соглашение о суперинтеллекте», пытаясь установить хоть какие-то правила игры до того, как сценарии с учений OpenAI станут реальными выпусками вечерних новостей.