Антропный
Anthropic выпустила обновление Claude 2.1 для своего чат-бота. Теперь пользователи Pro могут потратить до 200 000 токенов за запрос, что соответствует более чем 500 страницам текста.
Что известно
Раньше лимит Клода составлял 100 000 токенов. Таким образом, в новой версии это значение удвоилось. Для сравнения, GPT-4 имеет лимит не более 32 000 токенов даже на самом дорогом тарифе.
Our new model Claude 2.1 offers an industry-leading 200K token context window, a 2x decrease in hallucination rates, system prompts, tool use, and updated pricing.
Claude 2.1 is available over API in our Console, and is powering our https://t.co/uLbS2JNczH chat experience. pic.twitter.com/T1XdQreluH
— Anthropic (@AnthropicAI) November 21, 2023
Кроме того, Claude 2.1 включает бета-версию инструментов. Теперь чат-бот позволяет подключаться к сторонним API, таким как калькулятор или поиск в Интернете. Пользователи также могут запрашивать вызовы API напрямую, используя естественный язык.
Кроме того, компания обновила консоль для разработчиков, добавив тестовое окно для опробования подсказок. Теперь также можно давать Клоду персональные инструкции по настройке поведения чат-бота.