Недавнє розслідування The Markup показало, що чат-боти, запущені урядом Нью-Йорка для надання інформаційної підтримки власникам бізнесу, іноді поширюють неточну інформацію про міську політику, яка вводить в оману.
що відомо
Згідно зі звітом, чат-боти, засновані на штучному інтелекті Microsoft Azure, можуть надавати неправдиву інформацію та в деяких випадках порушувати закон.
Анонс був зроблений спільно з місцевими некомерційними виданнями Documented і The City і виявив безліч неточностей у відповідях чат-бота на питання про житлову політику, права трудящих та інші супутні теми.
Мер Адамс представив чат-бота у жовтні як частину порталу "Моє місто", який був запущений у березні 2023 року як основне джерело міських послуг. Однак виявляється, що це лише пілотний проект, і на сайті є попередження про те, що інформація може бути неточною або навіть шкідливою.
Під час тестів The Markup чат-бот надавав неправильну інформацію у відповідь на різні питання, у тому числі про безготівкові магазини та політику працевлаштування. Експерти з житлової політики називають чат-ботів у гіршому випадку «небезпечно неточними.
Леслі Браун, прес-секретар Управління технологій та інновацій Нью-Йорка, заявила, що чат-боти вже надали своєчасні та точні відповіді тисячам людей. Однак він визнав, що його команда продовжить працювати над оновленням системи, щоб краще підтримувати малий бізнес у місті.
Джерело: розмітка