Dữ liệu nội bộ của Google, tháng 11 năm 2023; được chuẩn hóa trên mỗi chip, độ dài chuỗi 2048. Khối lượng công việc cụ thể. · nguồn
| Đo lường | Nhân vật | cơ sở |
|---|---|---|
| Tính toán cao nhất trên mỗi chip | 459 TFLOPS BF16 | Tài liệu hiện tại[1][2][3] |
| HBM vật lý | 96 GiB mỗi chip | 95 GiB có thể sử dụng được trong bảng tài liệu[1][2][3] |
| băng thông HBM | 2.765 GB/s mỗi chip | Đặc điểm kỹ thuật của nhà sản xuất[1][2][3] |
| Kích thước nhóm | 8.960 chip | hình xuyến 3D[1][2][3] |
| Tốc độ luyện tập GPT-3 175B | 2.8xTPU v4 | Hoạt động nội bộ của Maker, tháng 11 năm 2023; chuẩn hóa trên mỗi chip[1][2][3] |
| Sản phẩm | Bối cảnh được xuất bản |
|---|---|
| H100 SXM | GPU phễu có 80 GB HBM và băng thông 3,35 TB/s; các lựa chọn khuôn khổ và độ chính xác ảnh hưởng đến so sánh.[4][5] |
| A100 | Ampe đào tạo và tăng tốc suy luận được vận chuyển từ tháng 5 năm 2020; hỗ trợ phân vùng GPU đa phiên bản.[4][5] |
Bối cảnh sản phẩm, không phải là xếp hạng điểm chuẩn. Tốc độ tối đa của GPU, TPU và phiên bản đám mây cũng như đơn vị bộ nhớ có thể khác nhau.
TPU v5p can train large LLM models 2.8X faster than the previous-generation TPU v4.
| Introducing Cloud TPU v5p and AI Hypercomputer | Google Cloud Blog · 6 thg 12, 2023 | 0.60 |
|---|
Ảnh của độc giả, tách biệt với phương tiện có nguồn của ghim. Hãy chấm điểm món bạn đã ăn hoặc thấy, và với ghim nhà hàng, gắn thẻ món ngay trên ảnh của bạn.
Mục đầu tiên luôn là nguồn của ghim. Độ tin cậy tổng thể là trung bình có trọng số về mức độ mỗi tài liệu ủng hộ thời điểm bắt đầu và kết thúc được dùng ở trên; một tài liệu được tính giảm một nửa cho mỗi 180 ngày cũ hơn tài liệu mới nhất.
Thông báo ngày của Google[2][3]; các cột mốc thương mại hóa được ghi lại riêng biệt trong dòng thời gian có nguồn gốc.
Thiếu hay sai điều gì? Hãy nói bằng lời của bạn: một liên kết củng cố ghim này, một ngày bắt đầu hoặc kết thúc khác kèm lý do, hoặc một thông tin còn thiếu hay sai. AI đối chiếu với các nguồn của ghim này, tìm nguồn tốt hơn và thêm mọi trang ủng hộ bạn. Các nguồn của chính ghim vẫn được tính nhiều nhất. Hình ảnh thể hiện nội dung khác hoặc thể hiện kém cũng được xem xét, rồi bị hạ xuống hoặc thay thế.
Tiêu đề gốc: Google Announces TPU v5p and the AI Hypercomputer