DISAHKANKeyakinan tarikh: DISAHKANDinyatakan sebagai tetapSejauh mana sumber menyatakan tarikh itu: disahkan, dijadualkan, dianggarkan, ditangguhkan atau belum disahkan.Tunjuk semua pin DISAHKAN84% KEYAKINANKeyakinan keseluruhan: 84%Sejauh mana sumber dan rujukan pin menyokong tarikhnya.Purata berpemberat bagi sejauh mana 6 rujukan, termasuk sumber, menyokong masa mula dan tamat pin; sesebuah rujukan diambil kira separuh kurang bagi setiap 180 hari lebih lama daripada yang terbaharuTunjuk semua pin pada keyakinan 75% atau lebih baik
Siaran Meta[1] 'Introducing Llama 3.1: Our most capable models to date' bertarikh 23 Julai 2024 dan menyatakan model tersedia untuk dimuat turun pada hari itu; surat terbuka Zuckerberg dan TechCrunch[6] memaparkan tarikh yang sama.- Mula
- 23 Jul 202490% KEYAKINANdaripada sumber
Llama 3.1 8B, 70B dan 405B dilancarkan
Diterjemah secara automatik daripada asal
Tajuk asal: Llama 3.1 8B, 70B and 405B Released
Meta melancarkan Llama 3.1 dalam saiz 8B, 70B dan 405B dengan tetingkap konteks 128K; 405B, dilatih dengan lebih 15 trilion token, digambarkan sebagai model terbuka tahap sempadan yang pertama dan percuma untuk dimuat turun.
- Meta melancarkan Llama 3.1 pada 23 Julai 2024 dalam tiga saiz, 8B dan 70B yang dikemas kini serta 405B baharu yang digelarnya model AI sumber terbuka tahap sempadan yang pertama, dengan pemberat yang boleh dimuat turun secara percuma dari llama.meta.com dan Hugging Face[1][5]
- Ia tiba tiga bulan selepas Llama 3 (18 April 2024, 8B dan 70B) dan membawa tetingkap konteks 128K token[1][3]
- 405B dilatih dengan lebih 15 trilion token menggunakan lebih 16,000 GPU H100, sebagai transformer padat standard yang hanya mempunyai penyahkod dan bukannya campuran pakar; kad Meta mengira 39.3M jam GPU merentas ketiga-tiga saiz, 30.84M daripadanya untuk 405B[1][2][6]
- Meta menilai pada lebih 150 set data penanda aras serta penilaian manusia dan menyifatkan 405B bersaing dengan GPT-4, GPT-4o dan Claude 3.5 Sonnet; bacaan TechCrunch ialah ia setanding GPT-4 dan bercampur-campur berbanding GPT-4o dan Claude 3.5 Sonnet, ketinggalan daripada Claude dalam pengaturcaraan dan penaakulan am[1][6]
- Lesen berubah untuk membenarkan pembangun menggunakan output Llama, termasuk daripada 405B, bagi memperbaik model lain (penyulingan dan data sintetik), manakala aplikasi dengan lebih 700 juta pengguna bulanan masih memerlukan lesen khas[1][2][6]
- 8B ialah model kecil yang dicartkan: ia mendapat 69.4 pada MMLU, 72.6 pada HumanEval dan 84.5 pada GSM-8K sebagai model instruct, berbanding 87.3, 89.0 dan 96.8 bagi 405B[2]
Ciri-ciri utama
- Konteks 128K dan lapan bahasa yang disokong, dengan penggunaan alat, kebolehkemudian, matematik, terjemahan dan panggilan fungsi terbina dalam[1][6]
- 405B dikuantumkan daripada BF16 16-bit kepada FP8 8-bit supaya boleh dijalankan dalam satu nod pelayan[1]
- Keselamatan dan perkakasan yang dikeluarkan bersama: Llama Guard 3 (berbilang bahasa), Prompt Guard terhadap suntikan gesaan, sistem rujukan, dan antara muka standard Llama Stack sebagai permintaan ulasan[1]
- Lebih 25 rakan kongsi melancarkan perkhidmatan pada hari pertama, antaranya AWS, NVIDIA, Databricks, Groq, Dell, Azure, Google Cloud dan Snowflake; Meta berkata Llama telah melepasi 300 juta muat turun, dan 405B turut menggerakkan Meta AI dalam WhatsApp untuk pengguna AS[1][6]
- Surat Zuckerberg berhujah bahawa sumber terbuka menang kerana pembangun boleh menala halus, menyuling dan menjalankan model sendiri, dan meletakkan inferens pada 405B pada kira-kira separuh kos GPT-4o[5]
Penanda aras[2]
| Penanda aras | Llama 3.1 8B Instruct | Llama 3.1 70B Instruct | Llama 3.1 405B Instruct |
|---|---|---|---|
| MMLU (5-shot) | 69.4 | 83.6 | 87.3 |
| MMLU (CoT, 0-shot) | 73.0 | 86.0 | 88.6 |
| MMLU-Pro (CoT, 5-shot) | 48.3 | 66.4 | 73.3 |
| IFEval | 80.4 | 87.5 | 88.6 |
| ARC-C (0-shot) | 83.4 | 94.8 | 96.9 |
| GPQA (0-shot) | 30.4 | 46.7 | 50.7 |
| HumanEval (pass@1) | 72.6 | 80.5 | 89.0 |
| MBPP++ base (pass@1) | 72.8 | 86.0 | 88.6 |
| MultiPL-E HumanEval (pass@1) | 50.8 | 65.5 | 75.2 |
| MultiPL-E MBPP (pass@1) | 52.4 | 62.0 | 65.7 |
| GSM-8K (CoT, 8-shot) | 84.5 | 95.1 | 96.8 |
| MATH (CoT, 0-shot) | 51.9 | 68.0 | 73.8 |
| API-Bank (0-shot) | 82.6 | 90.0 | 92.0 |
| BFCL (0-shot) | 76.1 | 84.8 | 88.5 |
| Gorilla API-Bench (0-shot) | 8.2 | 29.7 | 35.3 |
| Nexus (0-shot) | 38.5 | 56.7 | 58.7 |
| Multilingual MGSM (CoT, 0-shot) | 68.9 | 86.9 | 91.6 |
Beli diMeta AI