OpenAI призвала компании договориться об ограничении развития ИИ

0
1

Главный ученый OpenAI Якуб Пахоцкий выступил с инициативой ввести общие для всей технологической индустрии ограничения на разработку искусственного интеллекта. Предложение подразумевает, что компании должны совместно установить пороговые значения возможностей моделей, которые нельзя будет превышать до тех пор, пока исследователи не получат достаточные инструменты для контроля их поведения.

Раскрыта тайна логотипа OpenAI: символика и инновации
Логотип OpenAI. Источник: OpenAI

Предложение OpenAI по регулированию ИИ

В рамках предложения Пахоцкий обозначил несколько критериев, которые могли бы стать основой для установления таких границ. Один из ключевых параметров — показатель perplexity, отражающий, насколько эффективно языковая модель способна прогнозировать следующий фрагмент текста. Помимо этого, ученый предложил рассмотреть и другие технические метрики, хотя конкретные пороговые значения и сроки внедрения подобных правил пока не были озвучены.

Якуб Пахоцкий подчеркнул потенциальную опасность, связанную с тем, что уже к 2027 году темпы развития искусственного интеллекта могут значительно ускориться. Это, по его словам, создаст ситуацию, когда возможности исследователей по пониманию и отслеживанию поведения технологии будут отставать от скорости её совершенствования.

Поддержка инициативы и политический контекст

Инициатива Якуба Пахоцкого получила поддержку со стороны генерального директора OpenAI Сэма Альтмана. В своём посте на X (ранее Twitter) Альтман назвал материал Пахоцкого «самой важной публикацией компании за долгое время», подчеркнув, что внедрение общих правил является ключевым шагом для обеспечения безопасности и надлежащего контроля над ИИ.

https://x.com/username/status/123456789

Данное предложение от OpenAI прозвучало в период активной подготовки США к новым дискуссиям о регулировании искусственного интеллекта. Эти обсуждения ожидаются после промежуточных выборов в Конгресс. Аналитики отмечают, что успех Демократической партии на выборах в Палату представителей, Сенат и на губернаторских постах может потенциально усилить парламентский надзор за деятельностью технологических компаний. В то же время, бывший президент США Дональд Трамп ранее высказывался против введения широких ограничений на развитие искусственного интеллекта.

Источник: Bloomberg

НОВОСТИ ПАРТНЕРОВ

БОЛЬШЕ НОВОСТЕЙ