Pins zu tag:"Long Context"

Google stellt Gemini 1.5 Pro vor, ein Mixture-of-Experts-Modell, das mit Gemini 1.0 Ultra mithält und ein Kontextfenster von bis zu 1 Million Token einführt, getestet bis 10 Millionen.

Anthropic veröffentlicht Claude 3 Opus, das leistungsfähigste seiner neuen Claude-3-Modelle, das nach eigenen Angaben GPT-4 und Gemini 1.0 Ultra bei den meisten gängigen Benchmarks schlägt und Claude erstmals Bildverständnis verschafft.

Auf der Google I/O 2024 stellt Google Gemini 1.5 Flash vor, ein leichteres und schnelleres Modell mit demselben Kontextfenster von 1 Million Token wie 1.5 Pro, dazu eine private Vorschau von 2 Millionen Token für Pro.

OpenAI veröffentlicht GPT-4.1, GPT-4.1 mini und GPT-4.1 nano in seiner API mit 1 Million Token Kontext, einem Wissensstand von Juni 2024 und dem ersten Nano-Modell von OpenAI zum Preis von $0.10 pro 1 Million Eingabe-Token.

MiniMax veröffentlicht M1, ein Open-Weight-Reasoning-Modell mit 456B Parametern, hybridem Mixture-of-Experts und Lightning Attention, einem Kontext von 1M Token und einer Reasoning-Ausgabe von 80K Token, trainiert mit einem neuen Reinforcement-Learning-Algorithmus für berichtete $534,700.

Moonshot AI veröffentlicht Kimi K2-Instruct-0905, ein Update seines Kimi K2 mit 1 Billion Parametern, das das Kontextfenster von 128K auf 256K Token verdoppelt und agentisches Coding sowie Front-End-Ausgabe verbessert; SWE-bench Verified liegt bei 69.2 %.

Alibaba veröffentlicht Qwen3-Next-80B-A3B-Instruct und Thinking, ultra-sparse 80B-Modelle, die nur 3B Parameter pro Token aktivieren, ein hybrides Gated-DeltaNet-Attention-Design nutzen und unter Apache 2.0 stehen.

DeepSeek veröffentlicht das experimentelle DeepSeek-V3.2-Exp, das erste Modell mit DeepSeek Sparse Attention, und senkt seine API-Preise um mehr als die Hälfte auf $0.28 pro Million Eingabe-Token und $0.42 pro Million Ausgabe-Token.

Z.ai (Zhipu AI) veröffentlicht GLM-4.6, sein Flaggschiff-Coding-Modell mit einem Kontextfenster von 200K Token, das im direkten Vergleich 48.6% der realen Coding-Aufgaben gegen Claude Sonnet 4 gewinnt und über 30% weniger Token als GLM-4.5 verbraucht.

Anthropic veröffentlicht Claude Sonnet 4.6, sein fähigstes Sonnet, das Programmier-Tester gegenüber Opus 4.5 bevorzugten und das in claude.ai zur kostenlosen Standardeinstellung wird, mit einem 1-Millionen-Token-Kontextfenster zu 3 $ pro Million Eingabetokens.

DeepSeek veröffentlicht die DeepSeek-V4-Vorschau als offene Gewichtungen: V4-Pro mit 1,6 Billionen Parametern (49 Milliarden aktiv) und V4-Flash mit 284 Milliarden (13 Milliarden aktiv), beide mit einem 1-Millionen-Token-Kontextfenster und Start-API-Preisen ab 0,14 US-Dollar pro Million Eingabe-Token.

Z.ai (Zhipu AI) veröffentlicht GLM-5.2, ein MIT-lizenziertes Flaggschiff mit 753B Parametern für langfristiges Programmieren mit einem Kontextfenster von 1M Tokens, das 62.1 bei SWE-bench Pro und 81.0 bei Terminal Bench 2.1 erreicht.

Moonshot AI veröffentlicht Kimi K3, ein multimodales Open-Weight-Modell mit 2.8 Billionen Parametern und einem Kontextfenster von 1 Million Token, zu einem Preis von $3.00 pro Million Eingabe-Token und $15.00 pro Million Ausgabe-Token; die Gewichte wurden am 27. Juli veröffentlicht.

Upstage veröffentlicht Solar Pro 4, ein rein per API verfügbares agentisches Modell mit 512K Kontextfenster, das bei Terminal-Bench v2.1 57 Punkte erreicht – gegenüber 12 bei Solar Pro 3 – zu $0.30 pro 1 Million Eingabe-Token.

StepFun bringt Step 5 Preview auf den Markt, ein Sparse-Mixture-of-Experts-Flaggschiff mit 600B Parametern, davon 27B aktiv, und einem Kontext von 1M Token, zu einem Preis von $1.00 pro 1 Million Eingabe-Token und mit 44 Punkten auf dem Artificial Analysis Intelligence Index.