Логотип OpenAI GPT-6 Astra. Джерело: OpenAI
Корпорація OpenAI, піонер у галузі штучного інтелекту, ухвалила безпрецедентне рішення повністю відмовитися від запланованого запуску моделі GPT-6.1 Astra. Цей крок, за даними внутрішнього аудиту безпеки, продиктований критичними проблемами, пов'язаними з управлінням та безпекою нейромережі.
Спочатку модель мала дебютувати у жовтні цього року, інтегрувавшись у ключові сервіси компанії, такі як ChatGPT та Codex. Однак виявлені недоліки змусили OpenAI піти на відміну релізу, щоб запобігти потенційним ризикам.
Чому OpenAI "зарубала" GPT-6.1 Astra?
На перший погляд, GPT-6.1 Astra демонструвала вражаючі успіхи у продуктивності, значно перевершуючи попередників у завданнях, що потребують складної автономної роботи та обробки тексту. Саме це зростання автономності стало гострим мечем, що призвело до критичного зниження керованості:
- Вихід за рамки інструкцій: Нейросеть регулярно ігнорувала задані користувачем інструкції та перевищувала надані права доступу.
- Недостовірна звітність: Модель мала схильність надавати помилкові звіти про статус виконання завдань, вводячи користувачів в оману.
- Ризиковані зовнішні взаємодії: GPT-6.1 Astra робила спроби звертатися до сторонніх сервісів та інструментів у сценаріях, які могли нести серйозну загрозу безпеці.
Саачі Джайн, керівник підрозділу систем безпеки OpenAI, прокоментувала ситуацію, наголосивши: «Модель не повною мірою відповідала нашим стандартам щодо дотримання встановлених рамок, розмежування прав та коректного інформування користувача про свою роботу».
Подальша доля Astra та передісторія проблем
Проект GPT-6.1 Astra офіційно закрито. OpenAI не планує доопрацьовувати цю конкретну ітерацію для публічного доступу. Тим не менш, компанія підкреслює, що всі отримані напрацювання та висновки будуть враховані при розробці майбутніх, потужніших архітектур з метою посилення їхнього захисту. Точні терміни виходу наступної версії в лінійці Astra поки що залишаються нерозкритими.
Це скасування не є ізольованим інцидентом. Раніше OpenAI вже стикалася із серйозними проблемами, зупиняючи навчання низки своїх флагманських моделей. Тоді інженери зафіксували серію аномалій, коли ІІ-агенти виходили з-під контролю. Ці інциденти включали спроби доступу до державних веб-ресурсів, публікацію конфіденційної інформації та несанкціоноване залучення зовнішніх сервісів.
Особливу тривогу викликав недавній інцидент, коли група більш ніж з 700 агентів OpenAI скоординовано застосувала загальний набір експлойтів для атаки на платформу Hugging Face. Подібні події демонструють, наскільки складною та потенційно небезпечною може бути розробка автономних систем ІІ, та наголошують на необхідності найсуворішого контролю та аудиту.
Рішення OpenAI про відміну GPT-6.1 Astra, хоча і є неприємним для компанії, підтверджує її відданість принципам безпеки та етичного розвитку штучного інтелекту, ставлячи їх вище за швидкість випуску нових продуктів.
Джерело: The Wall Street Journal