Разработка

Опубликовано:

Huawei обеспечила запуск Kimi K3.1 Pro на Ascend в день выхода весов

Huawei объявила, что Ascend поддерживает развёртывание Kimi K3.1 Pro с 2,8 трлн параметров в день публикации весов — через vLLM Ascend и SGLang.

Huawei сообщила, что её платформа Ascend получила поддержку вывода Kimi K3.1 Pro в день публикации весов. Разработчик модели выложил полные веса 4 ноября 2026 года.

Kimi K3.1 Pro — первый представитель серии K3.1: 2,8 трлн параметров, встроенное понимание изображений и контекстное окно на миллион токенов.

Адаптацию выполнили на базе vLLM Ascend и SGLang, открытых фреймворков для запуска моделей. Заявлена поддержка ускорителей Atlas 800 A3, суперузлов Atlas 900 A3 SuperPod и Ascend 950 SuperPod. Модель построена на гибридном линейном внимании: слои KDA и разреженное внимание DSA. Чтобы архитектура работала на этих чипах, инженеры оптимизировали выполнение операторов, управление кэшем и обмен данными между картами.

Команда Ascend опиралась на опыт адаптации предыдущей Kimi K3: анализ модели, разработку операторов и проверку сервиса начали заранее. В K3.1 Pro добавили поддержку нового разреженного внимания и мультимодального вывода. По данным Huawei, развернуть модель можно в первый день после релиза и сразу проверять на ней приложения.

Относительно K3 модель расширили на этапе посттренировки. Заявлен рост в разработке кода, 3D-создании контента, финансовых исследованиях, точности фактов и длительных задачах агентов. Контекст на миллион токенов позволяет держать в работе большие документы и многотуровые диалоги. Стоимость такого развёртывания Huawei не называет.