Исследователи из Королевского колледжа Лондона пришли к выводу, что системы беспилотных автомобилей склонны к предвзятости, особенно в отношении детей и цветных людей.
Что известно
Команда изучила восемь систем обнаружения пешеходов с искусственным интеллектом, используемых в исследованиях автономного вождения. Они пропустили через программное обеспечение более 8000 изображений и обнаружили, что ИИ распознает взрослых пешеходов почти на 20% лучше, чем детей.
Кроме того, оцененные системы на 7,5% хуже распознают людей с темной кожей, особенно при слабом освещении, что делает технологию менее безопасной в ночное время.
В ходе исследования не тестировалось программное обеспечение, уже используемое производителями робомобилей, такими как Waymo и Cruise. Однако результаты подтверждают растущую обеспокоенность по поводу безопасности технологии.
По мнению исследователей, основной причиной проблем ИИ с распознаванием детей и цветных людей является предвзятость данных, используемых для обучения алгоритмов. Как правило, в датасетах чаще представлены взрослые и светлокожие люди.
Представитель Waymo заявил, что исследование не охватывает все инструменты, используемые в автомобилях компании. Помимо изображений с камер, ИИ получает данные от датчиков, таких как лидары и радары, что повышает точность обнаружения объектов.
Waymo также обучает систему распознавать поведение человека и обеспечивает репрезентативность наборов данных.
Алгоритмы часто отражают предвзятости, обнаруженные в наборах данных и в сознании людей, которые их создают. Типичным примером является программное обеспечение для распознавания лиц, которое постоянно показывает меньшую точность в распознавании женских, чернокожих и азиатских лиц.
Однако эти опасения не остановили энтузиазма в отношении таких технологий искусственного интеллекта. Распознавание лиц не раз становилось причиной несправедливых арестов чернокожих людей
Источник: Гизмодо