Data internal Google, November 2023; dinormalisasi per chip, panjang urutan 2048. Khusus beban kerja. · sumber
| Ukuran | Angka | Dasar |
|---|---|---|
| Komputasi puncak per chip | 459 TFLOPS BF16 | Dokumentasi terkini[1][2][3] |
| HBM Fisik | 96 GiB per keping | 95 GiB dapat digunakan dalam tabel dokumentasi[1][2][3] |
| Bandwidth HBM | 2.765 GB/dtk per keping | Spesifikasi pembuat[1][2][3] |
| Ukuran polong | 8.960 chip | torus 3D[1][2][3] |
| Kecepatan pelatihan GPT-3 175B | 2,8x TPU v4 | Proses internal pembuat, November 2023; per chip dinormalisasi[1][2][3] |
| Produk | Konteks yang dipublikasikan |
|---|---|
| H100 SXM | GPU Hopper dengan HBM 80 GB dan bandwidth 3,35 TB/dtk; kerangka kerja dan pilihan presisi mempengaruhi perbandingan.[4][5] |
| A100 | Pelatihan Ampere dan pengiriman akselerator inferensi mulai Mei 2020; mendukung partisi GPU multi-instance.[4][5] |
Konteks produk, bukan peringkat patokan. Kecepatan puncak dan unit memori GPU, TPU, dan cloud-instance mungkin berbeda.
TPU v5p can train large LLM models 2.8X faster than the previous-generation TPU v4.
| Introducing Cloud TPU v5p and AI Hypercomputer | Google Cloud Blog · 6 Des 2023 | 0.60 |
|---|
Foto dari pembaca, terpisah dari media bersumber milik pin. Nilai apa yang Anda makan atau lihat, dan di pin restoran, tandai hidangan langsung pada foto Anda.
Entri pertama selalu merupakan sumber pin. Keyakinan keseluruhan adalah rata-rata tertimbang dari seberapa kuat setiap referensi mendukung waktu mulai dan berakhir yang digunakan di atas; bobot sebuah referensi berkurang setengahnya untuk setiap 180 hari lebih lama dari yang terbaru.
Pengumuman Google[2][3] tertanggal; tonggak komersialisasi dicatat secara terpisah dalam timeline sumber.
Ada yang kurang atau salah? Sampaikan dengan kata-kata Anda sendiri: tautan yang mendukung pin ini, tanggal mulai atau berakhir yang berbeda beserta alasannya, atau fakta yang kurang atau keliru. AI memeriksanya terhadap sumber pin ini, mencari sumber yang lebih baik, dan menambahkan halaman mana pun yang mendukung Anda. Sumber pin itu sendiri tetap paling diperhitungkan. Gambar yang menampilkan hal lain, atau menampilkannya dengan buruk, juga diperiksa, lalu diturunkan atau diganti.
Judul asli: Google Announces TPU v5p and the AI Hypercomputer