ПОДТВЕРЖДЕНОДостоверность даты: ПОДТВЕРЖДЕНОУказано как окончательноеНасколько твёрдо источник называет дату: подтверждена, запланирована, примерная, перенесена или не проверена.Показать все пины «ПОДТВЕРЖДЕНО»ДОСТОВЕРНОСТЬ 88%Общая достоверность: 88%Насколько источник и ссылки пина подтверждают его даты.Взвешенное среднее того, насколько 4 источника, включая основной, подтверждают время начала и окончания пина; вес источника уменьшается вдвое за каждые 180 дней разницы с самым новымПоказать все пины с достоверностью 75% и выше
Запись Arcee[1][2] «Trinity Large: An Open 400B Sparse MoE Model» датирована 27 янв. 2026 г. и сообщает «We're putting out three variants»; репозитории Trinity-Large-TrueBase, Base и Preview на Hugging Face[4] были созданы в тот же день.- Начало
- 27 янв. 2026 г.ДОСТОВЕРНОСТЬ 90%от источник
Выпущены Trinity Large Preview, Base и TrueBase
Автоматический перевод оригинала
Оригинальное название: Trinity Large Preview, Base and TrueBase Released
Arcee AI выпускает Trinity Large — разреженную модель со смесью экспертов на 400B параметров (13B активных) в виде готовой к чату Preview, а также чекпойнтов Base и TrueBase по итогам обучения на 17T токенов, которое, по её словам, обошлось в $20 миллионов.
- Arcee AI выпустила Trinity Large 27 января 2026 года в виде трёх чекпойнтов одного обучения: Trinity-Large-Preview — слегка дообученный и готовый к чату; Trinity-Large-Base — полный чекпойнт предобучения на 17T токенов; и TrueBase — ранний чекпойнт на 10T токенов без инструктивных данных и без отжига скорости обучения[1][4]
- Это разреженная модель со смесью экспертов на 400B параметров, из которых 13B активны на токен; каждый токен направляется к 4 из 256 экспертов (1.56%), то есть разреженность выше, чем у DeepSeek-V3 с его 8 из 256[1]
- Arcee обучала её на 2,048 GPU NVIDIA B300 в течение 33 дней предобучения на 17T токенов, отобранных DatologyAI, из которых более 8 триллионов синтетические, и заявила, что весь проект обошёлся в $20 миллионов[1][3]
- Preview — модель без рассуждений, примерно на уровне instruct-модели Llama 4 Maverick: 87.2 в MMLU против 85.5, 24.0 в AIME 2025 против 19.3, но ниже в MMLU-Pro (75.2 против 80.5) и GPQA-Diamond (63.3 против 69.8)[1][4]
- При запуске он был бесплатным на OpenRouter и обработал там 3.37 триллиона токенов за первые два месяца, пока 1 апреля его не сменила модель рассуждений Arcee Trinity-Large-Thinking[1][2]
Ключевые возможности
- Приёмы стабилизации при экстремальной разреженности: балансировка нагрузки экспертов на основе импульса со смещением, ограниченным tanh, z-loss на логитах и 6 плотных слоёв вместо 3 ради стабильности маршрутизации, из-за чего модель получилась около 400B, а не запланированные 420B[1][3]
- Обучена с оптимизатором Muon и с кривой потерь без всплесков на протяжении всего запуска, что, как говорится в техническом отчёте Arcee, выполнялось для Large, Mini и Nano[1][3]
- Preview настраивалась для творческого письма, ролевых игр и чата, а также для агентных обвязок, таких как OpenCode, Cline и Kilo Code[1]
- Контекст был расширен с 8,192 токенов при предобучении до 512k; позже веса перевели на лицензию OpenMDW-1.1[2][4]