Lloyd Fox/Baltimore Sun/TNS
Полиция округа Балтимор (США) арестовала спортивного директора средней школы Пайксвилля Дажона Дарьена (Dazhon Darien). Его подозревают в использовании ИИ для создания расистской аудиозаписи от лица директора школы Эрика Эйсверта (Eric Eiswert).
Что известно
Поддельная запись с оскорблениями в адрес «неблагодарных темнокожих детей» быстро распространилась в соцсетях в январе. Это вызвало волну возмущения и угроз в адрес директора, которого временно отстранили от работы.
По данным следствия, незадолго до инцидента Эйсверт начал проверку в отношении Дарьена по подозрению в растрате школьных средств. После этого тот подал жалобу на директора, а затем использовал школьные компьютеры для поиска ИИ-инструментов, включая OpenAI и Bing Chat.
В середине января Дарьен разослал поддельную запись якобы от директора коллегам и новостным СМИ с фейкового аккаунта. Однако как оказалось, анонимная почта была привязана к его номеру телефона.
Экспертиза подтвердила, что аудио сгенерировал ИИ, а после запись отредактировали вручную. В результате Дарьену предъявили обвинения в нарушении работы школы и преследовании директора.
Власти предупреждают об опасности злоупотреблений новыми ИИ-технологиями для клеветы и провокаций. Они считают, что необходимо ужесточить регулирование в этой сфере.
Источник: The New York Times