Новая стратегия безопасности: как OpenAI готовится к вызовам искусственного интеллекта
Компания OpenAI запускает масштабную программу по выявлению и нейтрализации потенциальных рисков искусственного интеллекта, начиная с поиска ключевого руководителя для специального подразделения.
Вызовы современных ИИ-технологий
Генеральный директор Сэм Альтман открыто признает: современные модели ИИ создают серьезные угрозы в критически важных областях – от кибербезопасности до психического здоровья пользователей.
Что ждет нового руководителя
Вакансия предполагает зарплату $555 000 в год и включает ключевые задачи:
- Внедрение Preparedness Framework
- Анализ потенциально опасных сценариев использования ИИ
- Разработка защитных механизмов
Эволюция подхода к безопасности
Компания готова гибко реагировать на появление новых рисков, включая возможность пересмотра собственных требований к безопасности ИИ-моделей.
Особое внимание уделяется влиянию ИИ на психоэмоциональное состояние пользователей – OpenAI разрабатывает механизмы распознавания эмоциональных состояний и перенаправления к службам поддержки.
Источник: Sam Altman