Реорганізація OpenAI: новий розподіл відповідальності за кризові сценарії. Джерело: AI
Кінець епохи Preparedness
Наприкінці липня OpenAI розформувала команду Preparedness, яка займалася аналізом екстремальних ризиків ІІ – від кібератак до втрати контролю за штучним інтелектом. Це рішення викликає питання: чому компанія відмовилася від спеціалізованого підрозділу, коли дискусії про безпеку ІІ стають лише гострішими?
Що зміниться у підході OpenAI
Функції команди Preparedness наразі розподілені між іншими відділами. Компанія зберігає Preparedness Framework – систему оцінки ризиків, але робить ставку на колективну відповідальність. Критики побоюються, що без виділеної групи фокус безпеки може ослабнути.
OpenAI змінює внутрішню структуру контролю. Ілюстрація: AI
Нова система безпеки: деталі
OpenAI продовжує використовувати Frontier Governance Framework для управління ризиками, включаючи:
- Захист від CBRN-загроз (хімічних, біологічних, радіологічних та ядерних)
- Боротьбу з маніпулятивним впливом ІІ
- Контроль над автономними системами
Експертна оцінка
Реорганізація відбиває зрушення у філософії безпеки OpenAI: замість виділеної «команди апокаліпсису» компанія робить ставку на вбудовані механізми захисту. Однак залишається відкритим питання, чи розподілений підхід зможе забезпечити той самий рівень уваги до екстремальних сценаріїв.