ยืนยันแล้วความเชื่อมั่นของวันที่: ยืนยันแล้วระบุว่าแน่นอนแหล่งที่มาระบุวันที่ชัดเจนเพียงใด: ยืนยันแล้ว กำหนดการ ประมาณการ เลื่อน หรือยังไม่ยืนยันแสดงหมุดทั้งหมดที่เป็น ยืนยันแล้วความเชื่อมั่น 84%ความเชื่อมั่นโดยรวม: 84%แหล่งที่มาและแหล่งอ้างอิงของหมุดยืนยันวันที่ได้ดีเพียงใดค่าเฉลี่ยถ่วงน้ำหนักว่าแหล่งอ้างอิง 6 แหล่ง รวมแหล่งที่มา สนับสนุนเวลาเริ่มและสิ้นสุดของหมุดมากเพียงใด แหล่งอ้างอิงจะมีน้ำหนักลดลงครึ่งหนึ่งทุก ๆ 180 วันที่เก่ากว่าแหล่งล่าสุดแสดงหมุดทั้งหมดที่มีความเชื่อมั่น 75% ขึ้นไป
โพสต์ของ Meta[1] ที่ชื่อ 'Introducing Llama 3.1: Our most capable models to date' ลงวันที่ 23 กรกฎาคม 2024 และระบุว่าโมเดลพร้อมให้ดาวน์โหลดในวันนั้น จดหมายเปิดผนึกของซักเคอร์เบิร์กและ TechCrunch[6] ก็ลงวันที่เดียวกัน- เริ่ม
- 23 ก.ค. 2024ความเชื่อมั่น 90%จาก แหล่งที่มา
เปิดตัว Llama 3.1 8B, 70B และ 405B
แปลอัตโนมัติจากต้นฉบับ
ชื่อต้นฉบับ: Llama 3.1 8B, 70B and 405B Released
Meta เปิดตัว Llama 3.1 ในขนาด 8B, 70B และ 405B พร้อมหน้าต่างบริบท 128K; รุ่น 405B ที่ฝึกด้วยโทเค็นกว่า 15 ล้านล้านโทเค็น ถูกนำเสนอว่าเป็นโมเดลเปิดระดับแนวหน้ารุ่นแรกและดาวน์โหลดได้ฟรี
- Meta เปิดตัว Llama 3.1 เมื่อวันที่ 23 กรกฎาคม 2024 ในสามขนาด ได้แก่ 8B และ 70B ที่อัปเดต และ 405B ใหม่ที่ Meta เรียกว่าโมเดล AI โอเพนซอร์สระดับแนวหน้ารุ่นแรก โดยน้ำหนักโมเดลดาวน์โหลดได้ฟรีจาก llama.meta.com และ Hugging Face[1][5]
- เปิดตัวหลัง Llama 3 สามเดือน (18 เมษายน 2024, 8B และ 70B) และมีหน้าต่างบริบท 128K โทเค็น[1][3]
- 405B ถูกฝึกด้วยโทเค็นมากกว่า 15 ล้านล้านโทเค็น โดยใช้ GPU H100 มากกว่า 16,000 ตัว เป็นทรานส์ฟอร์เมอร์แบบหนาแน่นมาตรฐานที่มีเฉพาะตัวถอดรหัส ไม่ใช่ผู้เชี่ยวชาญผสม; การ์ดของ Meta นับได้ 39.3M ชั่วโมง GPU ทั้งสามขนาด โดย 30.84M เป็นของ 405B[1][2][6]
- Meta ประเมินด้วยชุดข้อมูลเกณฑ์มาตรฐานมากกว่า 150 ชุดพร้อมการประเมินโดยมนุษย์ และกล่าวว่า 405B แข่งขันได้กับ GPT-4, GPT-4o และ Claude 3.5 Sonnet; TechCrunch ตีความว่าเทียบเท่า GPT-4 และผลปะปนเมื่อเทียบกับ GPT-4o และ Claude 3.5 Sonnet โดยตามหลัง Claude ด้านการเขียนโปรแกรมและการให้เหตุผลทั่วไป[1][6]
- ใบอนุญาตเปลี่ยนไปเพื่อให้นักพัฒนาใช้ผลลัพธ์ของ Llama รวมถึงจาก 405B เพื่อปรับปรุงโมเดลอื่นได้ (การกลั่นและข้อมูลสังเคราะห์) ขณะที่แอปที่มีผู้ใช้รายเดือนเกิน 700 ล้านคนยังต้องมีใบอนุญาตพิเศษ[1][2][6]
- 8B คือโมเดลขนาดเล็กที่แสดงในแผนภูมิ: ในฐานะโมเดล instruct ได้ 69.4 ใน MMLU, 72.6 ใน HumanEval และ 84.5 ใน GSM-8K เทียบกับ 87.3, 89.0 และ 96.8 ของ 405B[2]
ฟีเจอร์เด่น
- บริบท 128K และรองรับแปดภาษา พร้อมการใช้เครื่องมือ การควบคุมทิศทาง คณิตศาสตร์ การแปล และการเรียกใช้ฟังก์ชันในตัว[1][6]
- 405B ถูกควอนไทซ์จาก BF16 แบบ 16 บิตเป็น FP8 แบบ 8 บิต เพื่อให้รันได้ภายในโหนดเซิร์ฟเวอร์เดียว[1]
- ความปลอดภัยและเครื่องมือที่ออกพร้อมกัน: Llama Guard 3 (หลายภาษา), Prompt Guard ป้องกันการฉีดพรอมต์, ระบบอ้างอิง และอินเทอร์เฟซมาตรฐานของ Llama Stack ในฐานะคำขอความคิดเห็น[1]
- พันธมิตรมากกว่า 25 รายเปิดบริการตั้งแต่วันแรก รวมถึง AWS, NVIDIA, Databricks, Groq, Dell, Azure, Google Cloud และ Snowflake; Meta กล่าวว่า Llama ทะลุ 300 ล้านครั้งดาวน์โหลดแล้ว และ 405B ยังขับเคลื่อน Meta AI ใน WhatsApp สำหรับผู้ใช้ในสหรัฐฯ[1][6]
- จดหมายของ Zuckerberg โต้แย้งว่าโอเพนซอร์สจะชนะ เพราะนักพัฒนาสามารถปรับแต่ง กลั่น และรันโมเดลได้เอง และประเมินว่าการอนุมานบน 405B มีต้นทุนราวครึ่งหนึ่งของ GPT-4o[5]
เกณฑ์มาตรฐาน[2]
| เกณฑ์มาตรฐาน | Llama 3.1 8B Instruct | Llama 3.1 70B Instruct | Llama 3.1 405B Instruct |
|---|---|---|---|
| MMLU (5-shot) | 69.4 | 83.6 | 87.3 |
| MMLU (CoT, 0-shot) | 73.0 | 86.0 | 88.6 |
| MMLU-Pro (CoT, 5-shot) | 48.3 | 66.4 | 73.3 |
| IFEval | 80.4 | 87.5 | 88.6 |
| ARC-C (0-shot) | 83.4 | 94.8 | 96.9 |
| GPQA (0-shot) | 30.4 | 46.7 | 50.7 |
| HumanEval (pass@1) | 72.6 | 80.5 | 89.0 |
| MBPP++ base (pass@1) | 72.8 | 86.0 | 88.6 |
| MultiPL-E HumanEval (pass@1) | 50.8 | 65.5 | 75.2 |
| MultiPL-E MBPP (pass@1) | 52.4 | 62.0 | 65.7 |
| GSM-8K (CoT, 8-shot) | 84.5 | 95.1 | 96.8 |
| MATH (CoT, 0-shot) | 51.9 | 68.0 | 73.8 |
| API-Bank (0-shot) | 82.6 | 90.0 | 92.0 |
| BFCL (0-shot) | 76.1 | 84.8 | 88.5 |
| Gorilla API-Bench (0-shot) | 8.2 | 29.7 | 35.3 |
| Nexus (0-shot) | 38.5 | 56.7 | 58.7 |
| Multilingual MGSM (CoT, 0-shot) | 68.9 | 86.9 | 91.6 |
ซื้อที่Meta AI