CONFIRMADOConfiança da data: CONFIRMADOInformado como definitivoQuão firme a fonte é sobre a data: confirmada, agendada, estimada, adiada ou não verificada.Mostrar todos os pins CONFIRMADO89% DE CONFIANÇAConfiança geral: 89%Quanto a fonte e as referências do pin sustentam suas datas.Média ponderada de quanto 6 referências, incluindo a fonte, sustentam os horários de início e fim do pin; uma referência conta metade a cada 180 dias a mais em relação à mais recenteMostrar todos os pins com confiança de 75% ou mais
A publicação do Google «Gemma 2 já está disponível para pesquisadores e desenvolvedores» é datada de 27 de junho de 2024 (assinada por Clement Farabet e Tris Warkentin) e a Maginative[5] a noticiou no mesmo dia; os repositórios do Hugging Face[4][6] foram criados em 24 de junho sob embargo e o relatório técnico saiu no arXiv[2] em 31 de julho de 2024.- Início
- 27 de jun. de 202490% DE CONFIANÇAde a fonte
Lançamento do Gemma 2 9B e 27B
Traduzido automaticamente do original
Título original: Gemma 2 9B and 27B Released
O Google lança o Gemma 2, a segunda geração de seus modelos de linguagem de pesos abertos, nos tamanhos 9B e 27B; o Google afirma que o 27B é o melhor da sua classe para o tamanho e roda em precisão total em uma única GPU H100 ou host TPU.
- O Google lançou o Gemma 2 em 27 de junho de 2024 nos tamanhos 9B e 27B, a segunda geração dos modelos de pesos abertos construídos com a mesma pesquisa e tecnologia do Gemini, com pesos no Kaggle e no Hugging Face; o teste gratuito do 27B no Google AI Studio e no Vertex AI Model Garden foi listado como em breve[1][5]
- O Google chamou o 27B de o melhor da sua classe para o tamanho, com desempenho competitivo com modelos mais de duas vezes maiores, e disse que o 9B supera o Llama 3 8B e outros modelos abertos da categoria; o relatório técnico descreve os de 2B e 9B como "alternativas competitivas a modelos 2-3 x maiores"[1][2][5]
- No gráfico do Google, o 27B obtém 75.2 no MMLU (Llama 3 70B 79.5, Llama 3 8B 66.6), 74.9 no BBH (70B 81.3), 74.0 no GSM8K, 42.3 no MATH e 51.8 no HumanEval, enquanto o 9B obtém 71.3 no MMLU e 40.2 no HumanEval[1][4]
- Na avaliação Chatbot Arena do relatório técnico, o gemma-2-27b-it atingiu um Elo de 1218, acima dos 1206 do Llama 3 70B, e o 9B chegou a 1187, perto dos 1186 do GPT-4-0314[2]
- O 27B foi projetado para executar inferência em precisão total em um único host TPU do Google Cloud, uma NVIDIA A100 80GB ou uma H100; a OpenRouter listou depois o Gemma 2 27B a $0.65 por milhão de tokens de entrada e saída, com contexto de 8,192 tokens[1][6]
Principais recursos
- Arquitetura: atenção local de janela deslizante (4,096 tokens) alternada com atenção global (8,192 tokens) em camadas alternadas, atenção de consultas agrupadas, limitação suave de logits e um vocabulário de 256K tokens, somente texto e principalmente em inglês[2]
- Treinamento: o 27B com 13 trilhões de tokens e o 9B com 8 trilhões, com os modelos de 2B e 9B treinados por destilação de conhecimento a partir de um professor maior em vez da simples previsão do próximo token, enquanto o 27B foi treinado do zero[2][4]
- Lançado sob a licença Gemma, favorável ao uso comercial, e compatível com Hugging Face Transformers, JAX, PyTorch e TensorFlow via Keras 3, vLLM, Gemma.cpp, Llama.cpp e Ollama, com otimização NVIDIA TensorRT-LLM[1][5]
- Lançado com o Responsible Generative AI Toolkit, o LLM Comparator de código aberto e planos de abrir o código da marca d'água de texto SynthID para o Gemma[1]
Benchmarks
Gráfico de desempenho do Google da publicação de lançamento; "-" significa não informado[1].
| Benchmark (métrica) | Gemma 2 9B | Gemma 2 27B | Llama 3 8B | Llama 3 70B | Grok-1 314B |
|---|---|---|---|---|---|
| MMLU (5-shot, top-1) | 71.3 | 75.2 | 66.6 | 79.5 | 73.0 |
| BBH (3-shot, CoT) | 68.2 | 74.9 | 61.1 | 81.3 | - |
| HellaSwag (10-shot) | 81.9 | 86.4 | 82 | - | - |
| GSM8K (5-shot, maj@1) | 68.6 | 74.0 | 45.7 | - | 62.9 (8-shot) |
| MATH (4-shot) | 36.6 | 42.3 | - | - | 23.9 |
| HumanEval (pass@1) | 40.2 | 51.8 | - | - | 63.2 (0-shot) |