| 測定 | 形 | 基礎 | ソース |
|---|---|---|---|
| チップあたりのピークコンピューティング | 197 TFLOPS BF16;393 トップス INT8 | 異なる精度。交換不可能 | グーグルクラウド |
| HBMの容量 | チップあたり 16 GB | 文書単位の保持 | グーグルクラウド |
| HBM 帯域幅 | チップあたり 800 GiB/秒 | 文書単位の保持 | グーグルクラウド |
| ポッドのサイズ | 256チップ | 2D トーラス | グーグルクラウド |
| トレーニングパフォーマンス/ドル | 最大 2x TPU v4 | 2023年のメーカークレーム。ワークロードに依存する | グーグルクラウド |
| 推論パフォーマンス/ドル | 最大 2.5x TPU v4 | 2023年のメーカークレーム。ワークロードに依存する | グーグルクラウド |
TPU v5e プレビューが発表されました
Google、v5e の一般提供を確認
| 製品 | 公開されたコンテキスト | ソース |
|---|---|---|
| H100SXM | 80 GB HBM および 3.35 TB/秒の帯域幅を備えたホッパー GPU。フレームワークと精度の選択は比較に影響します。 | エヌビディア |
| A100 | Ampere トレーニングおよび推論アクセラレータは 2020 年 5 月から出荷されます。マルチインスタンス GPU パーティショニングをサポートします。 | エヌビディア |
ベンチマークのランキングではなく、製品のコンテキスト。GPU、TPU、クラウドインスタンスのピークレートとメモリユニットは異なる場合があります。
TPU v5e delivers up to 2x higher training performance per dollar and up to 2.5x inference performance per dollar
| Announcing Cloud TPU v5e and A3 GPUs in GA | Google Cloud Blog · 2023/08/29 | 0.60 |
|---|
読者の写真で、出典付きのピンのメディアとは別に表示されます。食べたものや見たものを評価でき、レストランのピンでは写真上に料理をタグ付けできます。
最初の項目は常にピンの出典です。全体の確度は、各資料が上記の開始・終了時刻をどれだけ強く裏付けているかの加重平均です。最新の資料より180日古くなるごとに、重みは半分になります。
足りない点や誤りがありますか? このピンを裏付けるリンク、別の開始日・終了日とその理由、欠けている情報や誤っている情報を、自由に書いてください。AIがこのピンの出典と照らし合わせ、より良い情報源を探し、裏付けとなるページがあれば参考資料として追加します。ピン自身の出典が引き続き最も重視されます。AIは画像も確認します。別のものが写っている画像や写りの悪い画像は、後ろに回すか差し替えます。
元のタイトル: Google Introduces TPU v5e for Cost-Efficient AI Training and Inference