| Mesure | Chiffre | Base |
|---|---|---|
| Calcul de pointe par puce | 197 TFLOPS BF16 ; 393 HAUTS INT8 | Différentes précisions ; non interchangeable[1][2][3] |
| Capacité HBM | 16 Go par puce | Unité de documentation conservée[1][2][3] |
| Bande passante HBM | 800 Gio/s par puce | Unité de documentation conservée[1][2][3] |
| Taille des gousses | 256 jetons | Tore 2D[1][2][3] |
| Performance de formation / dollar | Jusqu'à 2x TPU v4 | Réclamation du fabricant 2023 ; dépendant de la charge de travail[1][2][3] |
| Performance d'inférence/dollar | Jusqu'à 2,5x TPU v4 | Réclamation du fabricant 2023 ; dépendant de la charge de travail[1][2][3] |
| Produit | Contexte publié |
|---|---|
| H100 SXM | GPU Hopper avec 80 Go HBM et 3,35 To/s de bande passante ; les choix de cadre et de précision affectent les comparaisons.[4][5] |
| A100 | Expédition de l’accélérateur de formation et d’inférence Ampere à partir de mai 2020 ; prend en charge le partitionnement GPU multi-instance.[4][5] |
Contexte du produit, pas un classement de référence. Les taux de pointe et les unités de mémoire des GPU, TPU et instances cloud peuvent différer.
TPU v5e delivers up to 2x higher training performance per dollar and up to 2.5x inference performance per dollar
| Announcing Cloud TPU v5e and A3 GPUs in GA | Google Cloud Blog · 29 août 2023 | 0.60 |
|---|
Photos de lecteurs, distinctes des médias sourcés du pin. Notez ce que vous avez mangé ou vu et, sur un pin de restaurant, identifiez les plats directement sur votre photo.
La première entrée est toujours la source de l’épingle. La confiance globale est une moyenne pondérée de la fermeté avec laquelle chaque référence étaye les heures de début et de fin retenues ci-dessus ; une référence compte moitié moins pour chaque tranche de 180 jours d’ancienneté par rapport à la plus récente.
Annonce datée de Google[2][3] ; les étapes de commercialisation sont enregistrées séparément dans le calendrier source.
Il manque quelque chose ou une erreur s'est glissée ? Dites-le avec vos mots : un lien qui étaye cette épingle, une autre date de début ou de fin et pourquoi, ou une information absente ou erronée. L'IA la vérifie au regard des sources de l'épingle, en cherche de meilleures et ajoute toute page qui vous donne raison. Les sources de l'épingle restent celles qui comptent le plus. L'IA regarde aussi les images : une image qui montre autre chose, ou qui le montre mal, passe en dernier ou est remplacée.
Titre original: Google Introduces TPU v5e for Cost-Efficient AI Training and Inference