Pin yang sepadan dengan tag:"Mixture of Experts"

Google memperkenalkan Gemini 1.5 Pro, model campuran pakar yang menyamai Gemini 1.0 Ultra dan memperkenalkan tetingkap konteks sehingga 1 juta token, diuji sehingga 10 juta.

Pasukan Qwen Alibaba menjadikan keluarga Qwen3 sumber terbuka di bawah Apache 2.0, iaitu enam model padat dari 0.6B hingga 32B dan dua model campuran pakar (30B-A3B dan 235B-A22B), dengan mod berfikir dan tidak berfikir yang boleh ditukar serta 119 bahasa; model padat utama Qwen3-32B mencatat 93.8 pada Arena-Hard dalam mod berfikir.

MiniMax melancarkan M1, model penaakulan berat terbuka 456B dengan campuran pakar hibrid dan perhatian kilat, konteks 1M token serta output penaakulan 80K token, dilatih dengan algoritma pembelajaran pengukuhan baharu pada kos yang dilaporkan sebanyak $534,700.

Pasukan Qwen Alibaba melancarkan Qwen3-235B-A22B-Instruct-2507 secara senyap, model campuran pakar 235B tanpa pemikiran dengan konteks 256K di bawah Apache 2.0 yang diletakkan jadual Qwen sendiri di hadapan Claude Opus 4 tanpa pemikiran dan Kimi K2 dalam beberapa ujian.

Pasukan Qwen Alibaba melancarkan Qwen3-235B-A22B-Thinking-2507, model campuran pakar 235B yang khusus untuk pemikiran dengan konteks 262K di bawah Apache 2.0, memperoleh 92.3 dalam AIME25 dan 74.1 dalam LiveCodeBench v6.

Pasukan Qwen Alibaba melancarkan Qwen3-30B-A3B-Instruct-2507, model campuran pakar 30.5B tanpa pemikiran dengan hanya 3.3B parameter aktif dan konteks 262K yang menurut Qwen menghampiri GPT-4o.

Alibaba melancarkan Qwen3-Next-80B-A3B-Instruct dan Thinking, model 80B ultra-jarang yang hanya mengaktifkan 3B parameter bagi setiap token, menggunakan reka bentuk perhatian hibrid Gated DeltaNet dan berlesen Apache 2.0.

Alibaba membuka sumber model utama Qwen3-VL-235B-A22B dalam versi Instruct dan Thinking, model penglihatan-bahasa campuran pakar 235B dengan konteks asli 256K token yang menurut Alibaba menyamai atau mengatasi Gemini 2.5 Pro pada penanda aras persepsi visual utama.

MiniMax membuka sumber M2, model campuran pakar 230B parameter dengan 10B aktif yang dibina untuk pengekodan dan kerja agentik, berharga $0.30 setiap sejuta token input dan menduduki tempat pertama dalam kalangan model berat terbuka pada Intelligence Index Artificial Analysis semasa pelancaran.

MiniMax melancarkan M2.1, model pengekodan dan ejen campuran pakar berat terbuka dengan 230B parameter yang mengaktifkan 10B dan memperoleh 74.0 pada SWE-bench Verified serta 88.6 pada penanda aras full-stack baharunya VIBE.

Arcee AI mengeluarkan Trinity Large, model campuran pakar jarang dengan 400B parameter dan 13B aktif, sebagai Preview sedia sembang serta titik semak Base dan TrueBase daripada latihan 17T token yang katanya menelan kos $20 juta.

Alibaba melancarkan Qwen3.5-397B-A17B, model multimodal asli berat terbuka yang mengaktifkan 17B daripada 397B parameter, serta Qwen3.5-Plus yang dihoskan dengan konteks 1M token, menjelang Tahun Baharu Cina.

Pasukan Qwen Alibaba melancarkan tiga model Qwen3.5 bersaiz sederhana berpemberat terbuka di bawah Apache 2.0, iaitu campuran pakar 122B dengan 10B aktif, 35B dengan 3B aktif dan model padat 27B, yang didakwanya mengatasi GPT-5 mini OpenAI pada kebanyakan penanda aras.

Arcee AI mengeluarkan Trinity-Large-Thinking, model penaakulan terbuka 398B parameter (kira-kira 13B aktif) yang dibina untuk ejen jangka panjang, yang katanya menduduki tempat kedua pada PinchBench di belakang Claude Opus 4.6 pada $0.90 bagi setiap 1 juta token output.

Thinking Machines Lab mengeluarkan Inkling, model pertamanya dan sistem campuran pakar berat terbuka dengan 975B parameter (41B aktif) serta konteks 1M token yang membuat penaakulan merentas teks, imej dan audio, dibina sebagai asas untuk penalaan halus.

Thinking Machines Lab mengeluarkan Inkling-Small, model berat terbuka dengan 276B parameter dan 12B aktif yang menyamai atau mengatasi Inkling 975B pada penanda aras penaakulan dan pengekodan agentik, termasuk 80.2% pada SWE-bench Verified.

Mistral AI melancarkan Mistral Large 4 dalam pratonton awam, model campuran pakar multimodal asli dengan kira-kira 1 trilion parameter yang dilatih pada kluster sendiri, dengan pemberat terbuka dijanjikan menjelang akhir Oktober 2026.