Новое исследование показывает, что крупномасштабные языковые модели искусственного интеллекта и версии OpenAI ChatGPT скрывают расистские предубеждения в отношении афроамериканского английского языка.
Что известно
Выявленные предвзятости проявляются не только в этом аспекте, но и в распределении работ и оценке вины подозреваемых. Среди студентов магистратуры, которые обычно не являются откровенно расистскими, были отмечены определенные подтекстовые предубеждения, выявленные благодаря искусственному интеллекту.
Авторы этого исследования подчеркивают потенциальные риски использования таких моделей ИИ в сферах, где они уже используются, таких как бизнес и право. Они призывают к дальнейшим исследованиям и решению этих проблем, чтобы предотвратить дальнейшие акты дискриминации в будущем.
Источник: Гизмодо