CONFIRMÉCertitude de la date: CONFIRMÉAnnoncé comme fermeAvec quelle fermeté la source formule la date : confirmée, programmée, estimée, reportée ou non vérifiée.Voir toutes les épingles CONFIRMÉCONFIANCE 88 %Confiance globale: 88%Dans quelle mesure la source et les références du pin étayent ses dates.Moyenne pondérée de la fermeté avec laquelle 4 références, source comprise, étayent les heures de début et de fin de l’épingle ; une référence compte moitié moins pour chaque tranche de 180 jours d’ancienneté par rapport à la plus récenteAfficher toutes les épingles à 75 % de confiance ou plus
L'article d'Arcee[1][2] « Trinity Large: An Open 400B Sparse MoE Model » est daté du 27 janv. 2026 et dit « We're putting out three variants » ; les dépôts Trinity-Large-TrueBase, Base et Preview sur Hugging Face[4] ont tous été créés ce jour-là.- Début
- 27 janv. 2026CONFIANCE 90 %selon la source
Trinity Large Preview, Base et TrueBase : lancement
Traduit automatiquement de l’original
Titre original: Trinity Large Preview, Base and TrueBase Released
Arcee AI lance Trinity Large, un modèle à mélange d'experts épars de 400B paramètres dont 13B actifs, sous la forme d'une Preview prête pour le chat et des checkpoints Base et TrueBase, issus d'un entraînement de 17T tokens qui, selon elle, a coûté $20 millions.
- Arcee AI a lancé Trinity Large le 27 janvier 2026 sous la forme de trois checkpoints issus d'un même entraînement : Trinity-Large-Preview, légèrement post-entraîné et prêt pour le chat ; Trinity-Large-Base, le checkpoint complet de pré-entraînement sur 17T tokens ; et TrueBase, un checkpoint précoce de 10T tokens sans données d'instruction ni recuit du taux d'apprentissage[1][4]
- C'est un modèle à mélange d'experts épars de 400B paramètres, dont 13B actifs par token, qui oriente chaque token vers 4 experts sur 256 (1.56%), un ratio plus épars que les 8 sur 256 de DeepSeek-V3[1]
- Arcee l'a entraîné sur 2,048 GPU NVIDIA B300 pendant 33 jours de pré-entraînement, sur 17T tokens sélectionnés par DatologyAI, dont plus de 8 000 milliards synthétiques, et a indiqué que l'ensemble de l'effort avait coûté $20 millions[1][3]
- Preview est un modèle sans raisonnement, à peu près au niveau du modèle instruct de Llama 4 Maverick : 87.2 sur MMLU contre 85.5, 24.0 sur AIME 2025 contre 19.3, mais plus faible sur MMLU-Pro (75.2 contre 80.5) et GPQA-Diamond (63.3 contre 69.8)[1][4]
- Il était gratuit sur OpenRouter au lancement et y a traité 3.37 billions de tokens au cours de ses deux premiers mois, avant que Trinity-Large-Thinking, le modèle de raisonnement d'Arcee, ne lui succède le 1 avril[1][2]
Principales fonctionnalités
- Astuces de stabilité pour une dispersion extrême : équilibrage de charge des experts à base de momentum avec un biais écrêté par tanh, une z-loss sur les logits et 6 couches denses au lieu de 3 pour la stabilité du routage, ce qui explique que le modèle ait fini près de 400B plutôt que les 420B prévus[1][3]
- Entraîné avec l'optimiseur Muon et avec une courbe de perte sans pic sur l'ensemble de l'exécution, ce que le rapport technique d'Arcee dit avoir été constaté pour Large, Mini et Nano[1][3]
- Preview a été ajusté pour l'écriture créative, le jeu de rôle et le chat, ainsi que pour des harnais d'agents tels qu'OpenCode, Cline et Kilo Code[1]
- Le contexte a été étendu de 8,192 tokens lors du pré-entraînement à 512k ; les poids ont ensuite été placés sous la licence OpenMDW-1.1[2][4]