Entri pertama sentiasa sumber pin. Keyakinan keseluruhan ialah purata berpemberat bagi sejauh mana setiap rujukan menyokong masa mula dan tamat yang digunakan di atas; sesebuah rujukan diambil kira separuh kurang bagi setiap 180 hari lebih lama daripada yang terbaharu.
Siaran Google "Gemma 2 kini tersedia untuk penyelidik dan pembangun" bertarikh 27 Jun 2024 (ditulis oleh Clement Farabet dan Tris Warkentin) dan Maginative[5] melaporkannya pada hari yang sama; repositori Hugging Face[4][6] dicipta pada 24 Jun di bawah embargo dan laporan teknikal menyusul di arXiv[2] pada 31 Julai 2024.
Gemma 2 technical report (v1 31 July 2024): 2B to 27B models with alternating local-global attention and grouped-query attention, 2B and 9B trained by knowledge distillation, 27B on 13T tokens and 9B on 8T; LMSYS Chatbot Arena Elo 1218 for the 27B and 1187 for the 9B.[1]
OpenRouter listing (read from its models API): Google: Gemma 2 27B, added 13 July 2024, 8,192-token context, $0.65 per million input and output tokens.
Model card (gated): text-to-text decoder-only English model, 13 trillion training tokens for the 27B and 8 trillion for the 9B, Gemma license, pretrained benchmark table with MMLU 75.2, HellaSwag 86.4, GSM8K 74.0 and HumanEval 51.8 for the 27B.[1]
Maginative (Chris McKay), 27 June 2024: Gemma 2 9B and 27B released, 27B competitive with proprietary models more than twice its size and approaching Llama 3 70B and Claude 3 Sonnet, single TPU host, A100 80GB or H100, commercially friendly license, available in Google AI Studio and on Kaggle and Hugging Face[4][6].
Ada yang tertinggal atau salah? Nyatakan dengan kata-kata anda sendiri: pautan yang menyokong pin ini, tarikh mula atau tamat yang berbeza beserta sebabnya, atau fakta yang tiada atau tersilap. AI menyemaknya berbanding sumber pin ini, mencari yang lebih baik, dan menambah mana-mana halaman yang menyokong anda. Sumber pin itu sendiri tetap paling diambil kira. Gambar yang menunjukkan sesuatu yang lain, atau menunjukkannya dengan buruk, turut dilihat, dan dialihkan ke bawah atau diganti.
Tajuk asal: Gemma 2 9B and 27B Released
Carta prestasi Google daripada catatan pelancaran; "-" bermaksud tidak dilaporkan[1].
| Penanda aras (metrik) | Gemma 2 9B | Gemma 2 27B | Llama 3 8B | Llama 3 70B | Grok-1 314B |
|---|---|---|---|---|---|
| MMLU (5-shot, top-1) | 71.3 | 75.2 | 66.6 | 79.5 | 73.0 |
| BBH (3-shot, CoT) | 68.2 | 74.9 | 61.1 | 81.3 | - |
| HellaSwag (10-shot) | 81.9 | 86.4 | 82 | - | - |
| GSM8K (5-shot, maj@1) | 68.6 | 74.0 | 45.7 | - | 62.9 (8-shot) |
| MATH (4-shot) | 36.6 | 42.3 | - | - | 23.9 |
| HumanEval (pass@1) | 40.2 | 51.8 | - | - | 63.2 (0-shot) |