Разработка

Опубликовано:

Kimi K3.1 Pro и Highspeed в AI Gateway стали доступны у новых ZDR-провайдеров

В AI Gateway от Vercel модели Kimi K3.1 Pro и K3.1 Pro Highspeed теперь обслуживают несколько провайдеров с нулевым хранением данных. Раньше обе модели предоставлял только Moonshot AI.

В AI Gateway от Vercel модели Kimi K3.1 Pro и Kimi K3.1 Pro Highspeed теперь доступны у нескольких провайдеров с нулевым хранением данных (ZDR). До этого обе модели обслуживал только Moonshot AI.

ZDR означает, что провайдер не сохраняет данные запроса. В AI Gateway режим включают двумя способами: параметром zeroDataRetention: true в providerOptions для отдельного запроса или настройкой в панели управления, которая действует на все запросы команды, включая обращения кодирующих агентов. Если среди доступных провайдеров нет ни одного с соглашением ZDR, запрос завершится ошибкой вместо отправки туда, где данные сохраняют.

Обе версии принимают изображения на вход и вмещают 1 млн токенов контекста. По данным Vercel, K3.1 Pro лучше прежних моделей Kimi в программировании, трёхмерном моделировании и финансовом анализе, а также справляется с длинными сессиями агентов — от небольшой правки до целого проекта. Highspeed рассчитан на интерактивную работу, где важен быстрый ответ, например на агентов для написания кода.

Модели вызываются через AI SDK, Chat Completions, Responses и Anthropic Messages API, а также из кодирующих агентов, подключённых к AI Gateway. Имя модели — moonshotai/kimi-k3.1-pro, для быстрой версии — moonshotai/kimi-k3.1-pro-highspeed. Чтобы подключить её в Claude Code, Codex или Cursor, нужно обновить Vercel CLI командой pnpm i -g vercel@latest, выполнить vercel ai-gateway coding-agents setup и выбрать модель в агенте.

Vercel указывает, что AI Gateway передаёт цены провайдеров без наценки и не берёт плату за инференс, в том числе при запросах со своим ключом (BYOK).