Изображение создано искусственным интеллектом Bing/DALL-E 3
По мнению группы ведущих экспертов, в том числе двух крестных отцов технологии, мощные системы искусственного интеллекта угрожают социальной стабильности.
Что известно
желание создавать все более мощные системы искусственного интеллекта без понимания того, как сделать их безопасными, «совершенно безрассудно», говорят эксперты. Они внесли ряд предложений, в том числе:
- выделение средств на безопасное использование искусственного интеллекта;
- предоставление аудиторам доступа к лабораториям искусственного интеллекта;
- введение лицензирования перспективных моделей.
Эксперты также предложили привлечь технологические компании к ответственности за предотвратимый ущерб от своих систем.
В число соавторов вошли двое из трех «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, нобелевский лауреат Дэниел Канеман, автор Sapiens Юваль Ной Харари и другие известные эксперты.
Они предупредили, что уже есть признаки опасных характеристик ИИ, например, в модели GPT-4, на которой основан ChatGPT. Эксперты опасаются появления автономных систем, находящихся вне контроля человека.