Разработка

Опубликовано:

GitHub добавила в API метрик Copilot учёт BYOK и корпоративных моделей

API метрик GitHub Copilot теперь отдельно показывает запросы с собственными ключами разработчиков и с корпоративными моделями — на уровне пользователя и в агрегированных отчётах.

GitHub добавила в API метрик Copilot отдельный учёт запросов с собственными ключами разработчиков (BYOK, bring your own key) и с корпоративными моделями, которые настраивает администратор. Раньше такие обращения смешивались с использованием моделей, которые обслуживает сама GitHub, потому что названия моделей часто совпадают.

Собственные ключи (local BYOK) разработчик настраивает в клиенте: запросы из Copilot CLI или приложения GitHub Copilot идут напрямую к ключу провайдера или к локальной модели. Сюда попадают модели, которые отдают Ollama, Foundry Local, LM Studio и llama-server. Корпоративные модели администратор задаёт в настройках GitHub, и запросы проходят через инфраструктуру GitHub к провайдеру.

В отчётах появились поля used_local_byok, totals_by_local_byok и счётчики активных пользователей local BYOK за день, неделю и месяц. Разбивка totals_by_local_byok идёт по типу ключа (local_managed, local_user, local_auto, remote_user) и по клиенту: copilot_cli или copilot_app.

Для корпоративных моделей в totals_by_client к каждой записи totals_by_model добавили логическое поле is_custom_enterprise_model. GitHub видит эти запросы на своей стороне, поэтому поле покрывает все клиенты, включая IDE. Если модель используется и как обычная модель Copilot, и как корпоративная, в отчёте будет две отдельные записи со своими счётчиками запросов и токенов.

Общие итоги не изменились: BYOK уже входил в totals_by_cli и totals_by_copilot_app, а корпоративные модели — в totals_by_client. Данные доступны в отчётах предприятий и организаций, на уровне пользователя и в агрегированном виде, за 1 и 28 дней.

Есть ограничения. Учёт local BYOK опирается на телеметрию клиента, поэтому при отключённой телеметрии он занижен, а токены могут недосчитываться, если локальный провайдер не сообщает их расход. Корпоративные модели считаются на сервере и этого недостатка лишены. Local BYOK не разбивается по названиям моделей, а незнакомые имена корпоративных моделей попадают в категорию unknown. За дни до релиза поля is_custom_enterprise_model в отчётах нет.

API доступен владельцам предприятий, менеджерам по выставлению счетов, владельцам организаций и ролям с правом View Copilot Metrics. Политика метрик Copilot при этом должна быть включена.