Недавнее расследование The Markup показало, что чат-боты, запущенные правительством Нью-Йорка для оказания информационной поддержки владельцам бизнеса, иногда распространяют неточную и вводящую в заблуждение информацию о городской политике.
Что известно
Согласно отчету, чат-боты, основанные на искусственном интеллекте Microsoft Azure, могут предоставлять ложную информацию и в некоторых случаях нарушать закон.
Анонс был сделан совместно с местными некоммерческими изданиями Documented и The City и выявил множество неточностей в ответах чат-бота на вопросы о жилищной политике, правах трудящихся и других сопутствующих тем.
Мэр Адамс представил чат-бота в октябре как часть портала «Мой город», который был запущен в марте 2023 года как основной источник городских услуг. Однако оказывается, что это всего лишь пилотный проект, и на сайте есть предупреждение о том, что информация может быть неточной или даже вредной.
Во время тестов The Markup чат-бот предоставлял неверную информацию в ответ на различные вопросы, в том числе о безналичных магазинах и политике трудоустройства. Эксперты по жилищной политике называют чат-ботов в худшем случае «опасно неточными.
Лесли Браун, пресс-секретарь Управления технологий и инноваций Нью-Йорка, заявила, что чат-боты уже предоставили своевременные и точные ответы тысячам людей. Однако он признал, что его команда продолжит работать над обновлением системы, чтобы лучше поддерживать малый бизнес в городе.
Источник: разметка