ยืนยันแล้วความเชื่อมั่นของวันที่: ยืนยันแล้วระบุว่าแน่นอนแหล่งที่มาระบุวันที่ชัดเจนเพียงใด: ยืนยันแล้ว กำหนดการ ประมาณการ เลื่อน หรือยังไม่ยืนยันแสดงหมุดทั้งหมดที่เป็น ยืนยันแล้วความเชื่อมั่น 89%ความเชื่อมั่นโดยรวม: 89%แหล่งที่มาและแหล่งอ้างอิงของหมุดยืนยันวันที่ได้ดีเพียงใดค่าเฉลี่ยถ่วงน้ำหนักว่าแหล่งอ้างอิง 5 แหล่ง รวมแหล่งที่มา สนับสนุนเวลาเริ่มและสิ้นสุดของหมุดมากเพียงใด แหล่งอ้างอิงจะมีน้ำหนักลดลงครึ่งหนึ่งทุก ๆ 180 วันที่เก่ากว่าแหล่งล่าสุดแสดงหมุดทั้งหมดที่มีความเชื่อมั่น 75% ขึ้นไป
บทความบล็อก Azure AI Foundry ของ Microsoft[1] เรื่อง "Introducing Phi-4" ลงวันที่ 12 ธ.ค. 2024 โมเดลการ์ดบน Hugging Face[4] ระบุวันที่เปิดตัวคือ 12 ธันวาคม 2024 และรายงานทางเทคนิคถูกส่งไปยัง arXiv[5] ในวันเดียวกัน ส่วนน้ำหนักแบบเปิดตามมาในวันที่ 8 มกราคม 2025 และ OpenRouter[2] แสดงรายการโมเดลนี้ตั้งแต่วันที่ 10 ม.ค. 2025- เริ่ม
- 12 ธ.ค. 2024ความเชื่อมั่น 90%จาก แหล่งที่มา
เปิดตัว Phi-4
แปลอัตโนมัติจากต้นฉบับ
ชื่อต้นฉบับ: Phi-4 Released
Microsoft เปิดตัว Phi-4 โมเดลภาษาขนาดเล็ก 14B พารามิเตอร์ที่ฝึกด้วยข้อมูลสังเคราะห์เป็นหลัก ซึ่งได้ 91.8 ในการทดสอบคณิตศาสตร์ AMC 10/12 เดือนพฤศจิกายน 2024 นำหน้า Gemini Pro 1.5 ที่ 89.8 บน Azure AI Foundry โดยน้ำหนักแบบเปิดภายใต้สัญญาอนุญาต MIT จะตามมาในวันที่ 8 มกราคม 2025
- Microsoft เปิดตัว Phi-4 เมื่อวันที่ 12 ธันวาคม 2024 เป็นโมเดลภาษาขนาดเล็ก 14B พารามิเตอร์ที่บริษัทระบุว่า “โดดเด่นด้านการให้เหตุผลเชิงซ้อนในด้านต่าง ๆ เช่นคณิตศาสตร์” เริ่มบน Azure AI Foundry ก่อน และน้ำหนักเต็มตามมาบน Hugging Face ในวันที่ 8 มกราคม 2025[1][3]
- ผลลัพธ์เด่นอยู่ที่คณิตศาสตร์: ในการทดสอบ AMC 10/12 เดือนพฤศจิกายน 2024 Phi-4 ได้คะแนนเฉลี่ย 91.8 นำหน้า Gemini Pro 1.5 ที่ 89.8, GPT-4o ที่ 77.9 และ Qwen 2.5 72B ที่ 78.7 ตามแผนภูมิของ Microsoft เอง[1]
- การ์ดโมเดลระบุ 84.8 บน MMLU, 56.1 บน GPQA, 80.4 บน MATH และ 82.6 บน HumanEval เทียบกับ 88.1, 50.6, 74.6 และ 90.6 ของ GPT-4o ในการรัน simple-evals เดียวกัน แต่ได้เพียง 3.0 บน SimpleQA เทียบกับ 39.4 ของ GPT-4o[4]
- น้ำหนักโมเดลอยู่ภายใต้สัญญาอนุญาต MIT นักพัฒนาจึงสามารถนำไปใช้และแก้ไขในเชิงพาณิชย์ได้[3][4]
- การเข้าถึงแบบโฮสต์มีราคาถูก: OpenRouter ระบุ $0.07 ต่อโทเค็นอินพุต 1 ล้านโทเค็น และ $0.14 ต่อโทเค็นเอาต์พุต 1 ล้านโทเค็น พร้อมบริบท 16K[2]
ฟีเจอร์เด่น
- ข้อมูลสำคัญกว่าขนาด: รายงานให้เครดิตการพัฒนาแก่ข้อมูลสังเคราะห์ที่ใช้ตลอดการฝึกเบื้องต้น ข้อมูลธรรมชาติที่คัดสรร และการเปลี่ยนแปลงในขั้นตอนหลังการฝึก โดยสถาปัตยกรรมเปลี่ยนจาก phi-3 เพียงเล็กน้อย[5]
- ข้อมูลสังเคราะห์ “แบบตำราเรียน” ประมาณ 400B โทเค็น ครอบคลุมชุดข้อมูล 50 ประเภทสำหรับการฝึกเบื้องต้นและการฝึกช่วงกลาง ในการรัน 9.8T โทเค็น ใช้เวลา 21 วันบน H100 GPU จำนวน 1,920 ตัว[3][4]
- ในการตอบคำถามด้าน STEM มันเหนือกว่าโมเดลครู GPT-4 ซึ่งผู้เขียนของ Microsoft อ้างเป็นหลักฐานว่าสูตรนี้ก้าวไกลกว่าการกลั่นความรู้[3][5]
- ข้อจำกัดที่ Microsoft ระบุ: ทำตามคำสั่งจัดรูปแบบที่เจาะจงได้ไม่ดี อาจแต่งข้อเท็จจริงขึ้นเอง เช่น ประวัติบุคคล ส่วนใหญ่เป็นภาษาอังกฤษ (ข้อมูลหลายภาษาราว 8%) และมีบริบท 16K[3][4]
- อยู่เหนือ Phi-3 ในตระกูล Phi ซึ่งโมเดล 14B ของ Phi-3 ได้คะแนน 77.9 บน MMLU และ 31.2 บน GPQA ในตารางของการ์ดโมเดล[4]