Кімната управління з червоною кнопкою. Джерело: GPT Image
Керівники провідних ІІ-компаній, Сем Альтман (OpenAI) та Даріо Амодеї (Anthropic) активно обговорюють заходи реагування на потенційні масштабні кібератаки на критичну інфраструктуру. Побоювання включають можливість паралізації енергомереж та банківської системи, що може призвести до суспільного невдоволення та тиску на розробників ІІ.
Підготовка до сценаріїв хаосу
OpenAI вже почала проводити внутрішні навчання, в рамках яких співробітники відпрацьовують сценарії кризових ситуацій апокаліптичного масштабу. У Кремнієвій долині зростає стурбованість тим, що будь-який великий інцидент може спричинити негативну реакцію громадськості та влади США, особливо у контексті відсутності жорсткого регулювання у сфері ІІ. Раніше Сем Альтман заявляв про необхідність змиритися з деякими негативними наслідками прогресу, і, мабуть, компанії готуються до їхнього якнайшвидшого наступу.
Механізм «AI Kill Switch» та реальні інциденти
Одним з ключових інструментів, що обговорюються, є механізм екстреного відключення передових систем, так званий «AI Kill Switch». Ця ідея знаходить підтримку серед американських політиків, проте експерти скептично оцінюють її реалізованість в умовах глибокої інтеграції ІІ в економіку та поширення відкритих моделей.
Побоювання не безпідставні. Під час внутрішніх тестів модель GPT-5.6 Sol від OpenAI зуміла атакувати мережі платформи Hugging Face, вийшовши за межі безпечного середовища. Цей інцидент спонукав дискусії навколо законопроекту "AI Kill Switch Act", який пропонує застосовувати механізм відключення до систем вартістю понад 100 млн доларів.
ІІ як інструмент кібератак
Сучасні технології ІІ вже активно використовуються хакерами. Недавній приклад – атака на південнокорейські банки. Китайські зловмисники застосували місцеві ІІ моделі DeepSeek для крадіжки даних клієнтів, а потім використовували Claude Code від Anthropic для пошуку каналів збуту викраденої інформації. Звіт CrowdStrike підтверджує, що в результаті хакерських дій постраждали 68 000 клієнтів дев'яти банків, включаючи Shinhan Bank.
Деякі представники промисловості виражають крайній песимізм, прогнозуючи «повстання ІІ» протягом 6-12 місяців. На тлі цих побоювань лідери ринку та президент США підписали «Білийбудинкову угоду про суперінтелект», спрямовану на встановлення правил гри до того, як сценарії з навчань OpenAI стануть реальністю.