OpenAI усиливает безопасность ИИ: куплен стартап, который ‘ломает’ системы изнутри

0
3

Логотип OpenAI: Как дизайн отражает ценности компании Логотип OpenAI. Источник: OpenAI

Стратегический шаг в защите ИИ-технологий

OpenAI существенно укрепила свои позиции в области кибербезопасности, приобретя перспективный стартап Promptfoo. Сделка направлена на усиление защиты корпоративных ИИ-систем от потенциальных кибератак и манипуляций.

Ключевые особенности приобретения

Promptfoo, основанный в 2024 году Ианом Вебстером и Майклом Д’Анджело, специализируется на тестировании больших языковых моделей (LLM). Компания уже успела стать значимым игроком на рынке кибербезопасности — ее решения используют более 25% компаний из списка Fortune 500.

Риски автономных ИИ-систем

С развитием автономных агентов ИИ растут и потенциальные угрозы. Злоумышленники могут атаковать системы, пытаясь получить доступ к конфиденциальным данным или манипулировать автоматизированными процессами. Именно поэтому OpenAI делает ставку на превентивную защиту.

Технологии будущего безопасности

После интеграции с OpenAI Frontier технологии Promptfoo позволят:

  • Проводить автоматический «red-teaming»
  • Тестировать рабочие процессы агентов ИИ
  • Отслеживать активность для соблюдения комплаенса

Финансовые детали

Хотя сумма сделки не раскрыта, известно, что стартап привлек около $23 млн инвестиций и оценивался примерно в $86 млн после раунда финансирования в июле 2025 года.

Источник: OpenAI

НОВОСТИ ПАРТНЕРОВ

БОЛЬШЕ НОВОСТЕЙ