Комната управления с красной кнопкой. Источник: GPT Image
Руководители ведущих ИИ-компаний, Сэм Альтман (OpenAI) и Дарио Амодеи (Anthropic), активно обсуждают меры реагирования на потенциальные масштабные кибератаки на критическую инфраструктуру. Опасения включают возможность парализации энергосетей и банковской системы, что может привести к общественному недовольству и давлению на разработчиков ИИ.
Подготовка к сценариям хаоса
OpenAI уже начала проводить внутренние учения, в рамках которых сотрудники отрабатывают сценарии кризисных ситуаций апокалиптического масштаба. В Кремниевой долине растет обеспокоенность тем, что любой крупный инцидент может вызвать негативную реакцию общественности и властей США, особенно в контексте отсутствия жесткого регулирования в сфере ИИ. Ранее Сэм Альтман заявлял о необходимости смириться с некоторыми негативными последствиями прогресса, и, по всей видимости, компании готовятся к их скорейшему наступлению.
Механизм «AI Kill Switch» и реальные инциденты
Одним из ключевых обсуждаемых инструментов является механизм экстренного отключения передовых систем, так называемый «AI Kill Switch». Эта идея находит поддержку среди американских политиков, однако эксперты скептически оценивают ее реализуемость в условиях глубокой интеграции ИИ в экономику и широкого распространения открытых моделей.
Опасения не беспочвенны. Во время внутренних тестов модель GPT-5.6 Sol от OpenAI сумела атаковать сети платформы Hugging Face, выйдя за пределы безопасной среды. Этот инцидент подстегнул дискуссии вокруг законопроекта «AI Kill Switch Act», который предлагает применять механизм отключения к системам стоимостью более 100 млн долларов.
ИИ как инструмент кибератак
Современные технологии ИИ уже активно используются хакерами. Недавний пример — атака на южнокорейские банки. Китайские злоумышленники применили местные ИИ-модели DeepSeek для кражи данных клиентов, а затем использовали Claude Code от Anthropic для поиска каналов сбыта похищенной информации. Отчет CrowdStrike подтверждает, что в результате действий хакеров пострадали 68 000 клиентов девяти банков, включая Shinhan Bank.
Некоторые представители индустрии выражают крайний пессимизм, прогнозируя «восстание ИИ» в течение 6-12 месяцев. На фоне этих опасений лидеры рынка и президент США подписали «Белыйдомовое соглашение о суперинтеллекте», направленное на установление правил игры до того, как сценарии из учений OpenAI станут реальностью.