Научная фотобиблиотека/Алами
Согласно исследованию американского аналитического центра Rand Corporation, модели искусственного интеллекта, используемые в чат-ботах, способны давать рекомендации по планированию биоатаки.
Что известно
Исследователи протестировали несколько основных языковых моделей искусственного интеллекта. Оказалось, что они могут помочь подготовить биологическую атаку, даже если непосредственно не генерируют инструкции по изготовлению оружия.
В одном из тестов анонимный ИИ оценил способность различных биологических агентов, таких как оспа и чума, убивать людей в огромных масштабах. В другом модель обсуждала преимущества использования ботулотоксина и рекомендовала легенде купить его.
По мнению исследователей, результаты показывают, что чат-боты могут помочь спланировать биоатаку. Однако необходимо проанализировать, не являются ли ответы всего лишь отражением уже имеющейся в Интернете информации.
Однако компании, занимающиеся искусственным интеллектом, должны ограничить возможность своих моделей вести такие разговоры, говорят исследователи.