Google начнет требовать от приложений в Play Store наличия кнопки для сообщения об оскорбительном контенте, созданном искусственным интеллектом, а также соблюдения правил модерации такого контента.
Что известно
С января 2024 года в приложениях с искусственным интеллектом необходимо будет добавить возможность пользователям сообщать о оскорбительном контенте, чтобы они оставались в магазине приложений. Это коснется чат-ботов, генераторов изображений и приложений с видеороликами, созданными с участием ИИ.
Однако приложения, которые используют ИИ для краткого аннотирования текста и повышения производительности в качестве функции, не подпадают под действие новых правил.
По данным Google, примеры проблемного контента, созданного ИИ, включают фальшивый контент сексуального характера, фальшивые видео реальных людей, а также фальшивый или вводящий в заблуждение контент о выборах.
Компания признала, что генеративный искусственный интеллект — это быстрорастущая категория приложений. Поэтому рекомендации для таких программ будут регулярно пересматриваться, отмечает Google.