Новая модель искусственного интеллекта Google PaliGemma 2 может идентифицировать эмоции, но эксперты обеспокоены этим

Логотип Google PaliGemma 2. Источник: The Future Talk

Google анонсировала новую модель искусственного интеллекта PaliGemma 2, которая может распознавать эмоции на изображениях.

Что известно

Эта модель анализирует фотографии и создает подробные описания, включая действия, эмоции и общий контекст сцены. Однако эксперты выражают обеспокоенность по поводу возможных последствий использования такой технологии. Они считают, что распознавание эмоций является сложной задачей, так как люди выражают свои чувства по-разному в зависимости от культурного и личного контекста.

Некоторые исследования показывают, что системы распознавания эмоций могут быть ненадежными и предвзятыми. Google утверждает, что провела обширные тесты для оценки демографических предвзятостей в PaliGemma 2 и обнаружила низкий уровень токсичности и ненормативной лексики по сравнению с отраслевыми стандартами.

Тем не менее, компания не раскрыла полный список использованных эталонов и типов проведенных тестов. Эксперты предупреждают, что использование таких технологий может привести к дискриминации и другим негативным последствиям.

Источник: techcrunch