CONFIRMADOConfiança da data: CONFIRMADOInformado como definitivoQuão firme a fonte é sobre a data: confirmada, agendada, estimada, adiada ou não verificada.Mostrar todos os pins CONFIRMADO88% DE CONFIANÇAConfiança geral: 88%Quanto a fonte e as referências do pin sustentam suas datas.Média ponderada de quanto 5 referências, incluindo a fonte, sustentam os horários de início e fim do pin; uma referência conta metade a cada 180 dias a mais em relação à mais recenteMostrar todos os pins com confiança de 75% ou mais
O anúncio da Mistral[1][5] 'Mistral Small 3' é datado de 30 de janeiro de 2025 e seu registro de alterações diz 'January 30: We released Mistral Small 3 (mistral-small-2501)'; a publicação de Simon Willison[3] traz a mesma data.- Início
- 30 de jan. de 202590% DE CONFIANÇAde a fonte
Mistral Small 3 (24B) lançado
Traduzido automaticamente do original
Título original: Mistral Small 3 (24B) Released
A Mistral AI lança o Mistral Small 3, um modelo de 24B otimizado para latência sob Apache 2.0 que, segundo a empresa, equivale ao Llama 3.3 70B instruct com mais de três vezes a velocidade, com mais de 81% no MMLU.
- A Mistral AI lançou o Mistral Small 3 em 30 de janeiro de 2025, um modelo de 24B parâmetros que ela chama de otimizado para latência e distribui sob a licença Apache 2.0, tanto em checkpoints pré-treinados quanto ajustados por instruções[1][5]
- A licença é parte da história: os modelos Mistral Small anteriores usavam a Mistral Research License, que proibia a implantação comercial sem um acordo, e a Mistral disse que estava renovando seu compromisso com a Apache 2.0 para modelos de uso geral[1][3]
- A Mistral afirma que o modelo instruct marca mais de 81% no MMLU, gera 150 tokens por segundo e está no mesmo nível do Llama 3.3 70B instruct sendo mais de três vezes mais rápido no mesmo hardware; ela também o considera competitivo com o Qwen 32B e um substituto aberto do GPT-4o mini[1]
- Sua velocidade vem de um design raso com bem menos camadas que os modelos concorrentes, e ele não foi treinado com aprendizado por reforço nem dados sintéticos, por isso a Mistral o posicionou como base para modelos de raciocínio posteriores[1][2]
- O cartão do Hugging Face informa MMLU-Pro 0.663, HumanEval 0.848, MATH 0.706 e IFEval 0.829 do pipeline interno da Mistral, com pontuações baseadas em juiz (MT-Bench, WildBench, Arena Hard) avaliadas pelo gpt-4o-2024-05-13[4]
Principais recursos
- Roda em uma única RTX 4090 ou em um MacBook com 32GB de RAM depois de quantizado; cerca de 55 GB de RAM de GPU sem quantização em bf16[1][4]
- Janela de contexto de 32k tokens e o tokenizador Tekken com vocabulário de 131k[4]
- Acesso via API como mistral-small-2501 (ou mistral-small-latest) na la Plateforme[1], a $0.10 por milhão de tokens de entrada e $0.30 por milhão de tokens de saída, metade do preço anterior do Mistral Small[3]
- Disponível no lançamento no Hugging Face, Ollama, Kaggle, Together AI, Fireworks AI e IBM watsonx, com NVIDIA NIM, Amazon SageMaker, Groq, Databricks e Snowflake listados como em breve[1]
- A Mistral o apresentou para assistentes conversacionais rápidos, chamadas de função de baixa latência, especialistas de domínio ajustados em direito e medicina e inferência local; prometeu modelos de raciocínio mais fortes em poucas semanas[1]