Пользователи обошли безопасность генератора изображений искусственного интеллекта Bing и создали изображения героев мультфильмов, атакующих башни-близнецы в Нью-Йорке. Microsoft попыталась заблокировать такие запросы, но, похоже, безуспешно.
Что известно
Некоторые пользователи использовали Bing с моделью DALL-E 3 для создания изображений Губки Боба, Кирби, Микки Мауса и других персонажей, атакующих башни-близнецы.
Microsoft заявила, что работает над улучшением своей системы фильтрации, чтобы предотвратить создание вредоносного контента. Но просто заменив слова в запросе все равно можно обойти блок и сгенерировать изображение башен.
Эксперты отмечают, что системы модерации в генераторах ИИ несовершенны. Злоумышленники активно используют эту уязвимость для создания и распространения вредоносного контента.
По мнению экспертов, компаниям еще предстоит проделать большую работу по эффективной фильтрации изображений.