CONFERMATOAffidabilità della data: CONFERMATOIndicato come definitivoQuanto la fonte è netta sulla data: confermata, programmata, stimata, rinviata o non verificata.Mostra tutti i pin CONFERMATOAFFIDABILITÀ 88%Affidabilità complessiva: 88%Quanto la fonte e le altre fonti del pin ne confermano le date.Media ponderata di quanto 5 fonti, compresa quella principale, confermano gli orari di inizio e fine del pin; una fonte conta la metà per ogni 180 giorni in più rispetto alla più recenteMostra tutti i pin con affidabilità pari o superiore al 75%
L'annuncio di Mistral[1][5] 'Mistral Small 3' è datato 30 gennaio 2025 e il suo changelog riporta 'January 30: We released Mistral Small 3 (mistral-small-2501)'; il post di Simon Willison[3] reca la stessa data.- Inizio
- 30 gen 2025AFFIDABILITÀ 90%da la fonte
Rilasciato Mistral Small 3 (24B)
Tradotto automaticamente dall’originale
Titolo originale: Mistral Small 3 (24B) Released
Mistral AI rilascia Mistral Small 3, un modello da 24B ottimizzato per la latenza con licenza Apache 2.0 che, secondo l'azienda, eguaglia Llama 3.3 70B instruct a una velocità più che tripla, con oltre 81% su MMLU.
- Mistral AI ha rilasciato Mistral Small 3 il 30 gennaio 2025, un modello da 24B parametri che definisce ottimizzato per la latenza e distribuisce con licenza Apache 2.0, sia in checkpoint preaddestrati sia ottimizzati sulle istruzioni[1][5]
- La licenza è parte della storia: i precedenti modelli Mistral Small usavano la Mistral Research License, che vietava l'impiego commerciale senza un accordo, e Mistral ha detto di rinnovare il proprio impegno verso Apache 2.0 per i modelli generici[1][3]
- Mistral afferma che il modello instruct ottiene oltre 81% su MMLU, genera 150 token al secondo ed è alla pari di Llama 3.3 70B instruct pur essendo più di tre volte più veloce sullo stesso hardware; lo definisce inoltre competitivo con Qwen 32B e una sostituzione aperta di GPT-4o mini[1]
- La sua velocità deriva da un design poco profondo con molti meno livelli dei modelli concorrenti, e non è stato addestrato con apprendimento per rinforzo né dati sintetici, perciò Mistral lo ha posizionato come base per i successivi modelli di ragionamento[1][2]
- La scheda Hugging Face riporta MMLU-Pro 0.663, HumanEval 0.848, MATH 0.706 e IFEval 0.829 dalla pipeline interna di Mistral, con punteggi basati su giudice (MT-Bench, WildBench, Arena Hard) valutati da gpt-4o-2024-05-13[4]
Funzionalità principali
- Funziona su una singola RTX 4090 o su un MacBook con 32GB di RAM una volta quantizzato; circa 55 GB di RAM GPU non quantizzato in bf16[1][4]
- Finestra di contesto da 32k token e tokenizer Tekken con un vocabolario da 131k[4]
- Accesso via API come mistral-small-2501 (o mistral-small-latest) su la Plateforme[1], a $0.10 per milione di token in ingresso e $0.30 per milione di token in uscita, la metà del prezzo precedente di Mistral Small[3]
- Disponibile al lancio su Hugging Face, Ollama, Kaggle, Together AI, Fireworks AI e IBM watsonx, con NVIDIA NIM, Amazon SageMaker, Groq, Databricks e Snowflake indicati come in arrivo[1]
- Mistral l'ha proposto per assistenti conversazionali veloci, chiamate di funzione a bassa latenza, specialisti di dominio ottimizzati in ambito legale e medico e inferenza locale; ha promesso modelli di ragionamento più potenti entro poche settimane[1]