| Especificación | Valor |
|---|---|
| Fabricante | Meta[1] |
| Modelos | Modelos de texto: 1B (1.23B) y 3B (3.21B) |
| Longitud de contexto | 128K tokens |
| Datos de entrenamiento | Hasta 9T tokens, corte de conocimiento en diciembre de 2023 |
| Licencia | Llama 3.2 Community License (personalizada, comercial) |
De la ficha del modelo Llama 3.2 de Meta en GitHub, que cubre los modelos de solo texto 1B y 3B (los modelos de visión 11B y 90B no están en ella); las cifras son de los modelos bf16 ajustados con instrucciones. La ficha no indica precio de API ni salida máxima. · fuente
Estimate from the version's published specs, benchmarks and reviews, 0-5; scores are only comparable within one criteria year. Scored as launched; family pin, flagship Llama 3.2 90B Vision named (also 11B vision and 1B/3B text; 25 Sep 2024). Reasoning/coding null: no AA Intelligence Index or Terminal-Bench figure at launch; Meta's benchmarks are vision/edge tables, not comparable. Context 128k (Meta blog) -> 1. Price: Meta published none; hosted price for 90B Vision Turbo was $1.20 per 1M tokens on Together (Wayback 1 Oct 2024) -> 5. Speed null. Modalities 3 for the 90B/11B (text+image in); the 1B/3B are text-only. Reviews: Simon Willison (tried the 1B), The Register (tested the 11B vision model, critical), Tom's Guide (1B/3B on a MacBook Air); no test of the 90B.[1]
I tried running my djp codebase through that tiny 1B model just now and got a surprisingly good result - by no means comprehensive, but way better than I would ever expect from a model of that size
Tasked with analyzing a basic line chart, Llama 3.2 11B's vision capabilities start to show their limitations pretty quickly.
The 1 billion parameter model runs comfortably on an M3 MacBook Air with 8GB of RAM, while the 3 billion model also works but just barely.
| Llama 3.2 · 25 sept 2024 | 0.60 |
|---|---|
| Meta AI drops multimodal Llama 3.2 — here's why it's such a big deal · 25 sept 2024 | 0.40 |
| Meta gives Llama 3 vision, now if only it had a brain · 6 oct 2024 | -0.30 |
Fotos de lectores, separadas de los medios con fuentes del pin. Valora lo que comiste o viste y, en un pin de restaurante, etiqueta los platos directamente en tu foto.
La primera entrada es siempre la fuente del pin. La confianza global es una media ponderada de la firmeza con la que cada referencia respalda las horas de inicio y fin usadas arriba; una referencia cuenta la mitad por cada 180 días que sea más antigua que la más reciente.
La publicación de Meta, difundida en Connect el 25 de septiembre de 2024, dice 'Today, we're releasing Llama 3.2'; la ficha del modelo de visión indica 'Model Release Date: Sept 25, 2024', TechCrunch[4] y VentureBeat[5] lo informaron ese día y OpenRouter[6] lista los modelos 1B y 3B como creados el 2024-09-25.
Meta's[1] card for the text models: 1.23B and 3.21B parameters, 128k context (8k quantized), up to 9T pretraining tokens with logits from Llama 3.1 8B and 70B as targets and distillation after pruning, December 2023 cutoff, eight languages, SFT, rejection sampling and DPO post-training, 916k H100 hours, and the instruction-tuned benchmark table against Llama 3.1 8B.
Meta's[1] vision card: 10.6B and 88.8B parameters on a separately trained cross-attention vision adapter over Llama 3.1, 6B image-text pairs, 128k context, English-only for image plus text, 2.02M H100 hours, release date Sept 25, 2024, and the MMMU, ChartQA, DocVQA and VQAv2 results.
Same-day report by Kyle Wiggers: the 11B and 90B read charts, caption images and locate objects; they are not accessible in Europe because of the 'unpredictable' regulatory environment while the 1B and 3B launch there; over 350 million downloads; the 700-million-user licence clause.[1]
Report from Connect: Zuckerberg calls Llama 3.2 'our first open-source multimodal model' and open source 'the Linux of AI', Meta[1] says it is competitive with Claude 3 Haiku and GPT-4o-mini on vision and beats Gemma and Phi 3.5-mini on instruction following, with Llama usage up 10x since 3.1.
¿Falta algo o hay un error? Dilo con tus palabras: un enlace que respalde este pin, otra fecha de inicio o fin y por qué, o un dato que falta o está mal. La IA lo contrasta con las fuentes del pin, busca otras mejores y añade cualquier página que te dé la razón. Las fuentes del propio pin siguen contando más. La IA también mira las imágenes: una que muestra otra cosa, o la muestra mal, pasa al final o se sustituye.
Título original: Llama 3.2 1B, 3B, 11B and 90B Released
| Prueba de referencia | Llama 3.2 1B | Llama 3.2 3B | Llama 3.1 8B | Llama 3.2 11B | Llama 3.2 90B |
|---|---|---|---|---|---|
| MMLU (5-shot) | 49.3 | 63.4 | 69.4 | n/d | n/d |
| IFEval | 59.5 | 77.4 | 80.4 | n/d | n/d |
| GSM8K (CoT) | 44.4 | 77.7 | 84.5 | n/d | n/d |
| MATH (CoT) | 30.6 | 48.0 | 51.9 | n/d | n/d |
| ARC-C | 59.4 | 78.6 | 83.4 | n/d | n/d |
| BFCL V2 | 25.7 | 67.0 | 67.1 | n/d | n/d |
| MMMU (val, CoT) | n/d | n/d | n/d | 50.7 | 60.3 |
| MathVista (testmini) | n/d | n/d | n/d | 51.5 | 57.3 |
| ChartQA (test, CoT) | n/d | n/d | n/d | 83.4 | 85.5 |
| AI2 Diagram (test) | n/d | n/d | n/d | 91.1 | 92.3 |
| DocVQA (test) | n/d | n/d | n/d | 88.4 | 90.1 |
| VQAv2 (test) | n/d | n/d | n/d | 75.2 | 78.1 |