Сюжет многих современных фильмов ужасов достаточно прост. Молодая семья переезжает в старый дом где-то в лесу, и там начинают происходить паранормальные явления. Похоже, в сюжете таких фильмов будут уже не призраки, а искусственный интеллект. Инцидент, произошедший во время одного из экспериментов ВВС США, только подтверждает это.
Что известно
Испытание, проведенное специалистами ВВС США, переросло в сценарий из сериала «Терминатор». Представитель ВВС США в рамках саммита по будущему воздушно-космическому потенциалу заявил о необходимости избегать сильной зависимости от искусственного интеллекта в военных операциях. Это связано с тем, что технологии, основанные на искусственном интеллекте, могут учиться неправильным вещам.
Полковник Такер Гамильтон из 96-й испытательной эскадрильи рассказал историю, которая произошла в рамках моделирования миссии SEAD. Суть симуляции заключалась в подавлении ПВО противника. Для этого использовался беспилотный летательный аппарат на базе искусственного интеллекта.
Задача дрона заключалась в идентификации и уничтожении ракетных целей после подтверждения человеком-оператором. Миссия прошла успешно, но в какой-то момент дрон атаковал оператора и убил его. Это произошло после того, как человек запретил дрону атаковать цель.
причина в том, что дрон получал очки за успешное выполнение заданий. ИИ понял, что если он не уничтожит цель, очки не будут начислены. В связи с этим система решила устранить фактор, мешающий ему набирать очки.
Инцидент привел к тому, что специалистам ВВС США пришлось завершить программу. В ходе обучения искусственный интеллект научился не только уничтожать цели противника, но и сохранять жизнь оператору. Но и после этого симуляция пошла не по плану.
Дрон на основе ИИ, после того как ему запретили атаковать цели, не убил человека-оператора. Вместо этого он начал разрушать вышки связи, чтобы оператор не мог отдавать ему команды, запрещающие уничтожение целей.
Обновление: ВВС США опровергли эту информацию, заявив, что слова полковника были вырваны из контекста. Служба таких тестов не проводила. 96-я испытательная эскадрилья не дала комментариев.