Марія Шалабаєва/Unsplash
OpenAI, розробник популярного чат-боту ChatGPT, реалізує додаткові елементи керування для зниження ризику створення шкідливих моделей штучного інтелекту.
що відомо
Зокрема, OpenAI створює спеціальну консультативну безпекову групу. Він оцінить ризики від розроблених моделей за декількома напрямками: кібербезпека, дезінформація, автономність та інші.
Група зможе давати рекомендації вищому керівництву компанії щодо заборони чи обмеження певних проектів. Крім того, рада директорів OpenAI матиме право вето на рішення керівництва.
На думку компанії, ці заходи дозволять їй краще виявляти потенційні небезпеки на ранніх етапах розробки. Проте експерти зазначають, що реальна ефективність системи залежить від установок керівництва OpenAI.
Раніше з ради було виключено прихильників обмеження ризикованих ІІ-проектів. А нові члени ради відомі скоріше своєю комерційною позицією. Наскільки вони схильні використовувати право вето на практиці, невідомо.