Общая «ёмкость» модели составляет 2,8 трлн параметров, однако при обработке одного токена активными оказываются примерно 104 млрд параметров. Это достигается благодаря архитектуре Mixture-of-Experts: из 896 экспертов для каждого токена одновременно задействуются лишь 16.
-
-
Эта модель призвана составить конкуренцию передовым разработкам OpenAI и Anthropic, демонстрируя особенно высокую производительность в области написания кода и выполнения задач автономными ИИ-агентами.
