Реорганизация в OpenAI: новое распределение ответственности за кризисные сценарии. Источник: AI
Конец эпохи Preparedness
В конце июля OpenAI расформировала команду Preparedness, которая занималась анализом экстремальных рисков ИИ — от кибератак до потери контроля над искусственным интеллектом. Это решение вызывает вопросы: почему компания отказалась от специализированного подразделения, когда дискуссии о безопасности ИИ становятся только острее?
Что изменится в подходе OpenAI
Функции команды Preparedness теперь распределены между другими отделами. Компания сохраняет Preparedness Framework — систему оценки рисков, но делает ставку на коллективную ответственность. Критики опасаются, что без выделенной группы фокус на безопасности может ослабнуть.
OpenAI меняет внутреннюю структуру контроля. Иллюстрация: AI
Новая система безопасности: детали
OpenAI продолжает использовать Frontier Governance Framework для управления рисками, включая:
- Защиту от CBRN-угроз (химических, биологических, радиологических и ядерных)
- Борьбу с манипулятивным влиянием ИИ
- Контроль над автономными системами
Експертна оцінка
Реорганизация отражает сдвиг в философии безопасности OpenAI: вместо выделенной «команды апокалипсиса» компания делает ставку на встроенные механизмы защиты. Однако остается открытым вопрос, сможет ли распределенный подход обеспечить тот же уровень внимания к экстремальным сценариям.