Компания Moonshot AI выложила на Hugging Face полные веса модели Kimi K3 — самой крупной на сегодня открытой языковой модели. Общая «ёмкость» модели составляет 2,8 трлн параметров, однако при обработке одного токена активными оказываются примерно 104 млрд параметров. Это достигается благодаря архитектуре Mixture-of-Experts: из 896 экспертов для каждого токена одновременно задействуются лишь 16.

Moonshot приписывает прирост масштабируемости примерно в 2,5 раза использованию собственной схемы внимания Kimi Delta Attention вместе с механизмом Attention Residuals по сравнению с предшественницей Kimi K2. Модель поддерживает контекстное окно до 1 млн токенов и нативно работает с изображениями и видео — для этого используется визуальный энкодер MoonViT-V2. В внутренних тестах Kimi K3 демонстрирует результаты, сопоставимые с флагманами рынка: например, 93,5 в GPQA Diamond (у GPT-5.6 Sol — 94,1; у Claude Opus 4.8 — 91) и 88,3 в Terminal-Bench 2.1 (у GPT-5.6 Sol — 88,8).

Развёртывание полной версии возможно только на серверном оборудовании: по оценкам сторонних разработчиков, веса занимают около 1,4 ТБ, а для инференса в базовой точности требуется примерно восемь ускорителей уровня Nvidia H100. Представлена и облегчённая квантованная сборка MXFP4 — её объём составляет около 594 ГБ; разработчики утверждают, что она сохраняет качество, сопоставимое с облачной версией, используемой в API.

Весовые файлы распространяются под собственной Kimi K3 License. Модель доступна также через чат‑бот Kimi, инструменты Kimi Code и Kimi Work, а также по API — стоимость составляет $3 за миллион входных токенов и $15 за миллион выходных токенов.