Interne Daten von Google, November 2023; pro Chip normalisiert, Sequenzlänge 2048. Workload-spezifisch. · Quelle
| Messen | Figur | Basis |
|---|---|---|
| Spitzenrechenleistung pro Chip | 459 TFLOPS BF16 | Aktuelle Dokumentation[1][2][3] |
| Physisches HBM | 96 GiB pro Chip | 95 GiB nutzbar in der Dokumentationstabelle[1][2][3] |
| HBM-Bandbreite | 2.765 GB/s pro Chip | Herstellerspezifikation[1][2][3] |
| Podgröße | 8.960 Chips | 3D-Torus[1][2][3] |
| GPT-3 175B Trainingsgeschwindigkeit | 2,8x TPU v4 | Herstellerinterner Lauf, November 2023; pro Chip normalisiert[1][2][3] |
| Produkt | Veröffentlichter Kontext |
|---|---|
| H100 SXM | Hopper-GPU mit 80 GB HBM und 3,35 TB/s Bandbreite; Rahmen- und Präzisionsentscheidungen wirken sich auf Vergleiche aus.[4][5] |
| A100 | Auslieferung des Ampere-Trainings- und Inferenzbeschleunigers ab Mai 2020; unterstützt die Multi-Instanz-GPU-Partitionierung.[4][5] |
Produktkontext, kein Benchmark-Ranking. GPU-, TPU- und Cloud-Instanz-Spitzenraten sowie Speichereinheiten können unterschiedlich sein.
TPU v5p can train large LLM models 2.8X faster than the previous-generation TPU v4.
| Introducing Cloud TPU v5p and AI Hypercomputer | Google Cloud Blog · 06.12.2023 | 0.60 |
|---|
Fotos von Lesern, getrennt von den belegten Medien des Pins. Bewerte, was du gegessen oder gesehen hast, und markiere bei einem Restaurant-Pin die Gerichte direkt auf deinem Foto.
Der erste Eintrag ist immer die Quelle des Pins. Die Gesamtsicherheit ist ein gewichteter Durchschnitt, wie fest jeder Beleg die oben verwendeten Start- und Endzeiten stützt; ein Beleg zählt für je 180 Tage, die er älter ist als der neueste, nur halb so viel.
Datierte Google[2][3]-Ankündigung; Kommerzialisierungsmeilensteine werden in der Quellenzeitleiste separat erfasst.
Fehlt etwas oder stimmt etwas nicht? Sag es in deinen eigenen Worten: ein Link, der diesen Pin belegt, ein anderes Start- oder Enddatum und warum, oder eine Angabe, die fehlt oder falsch ist. Die KI prüft es an den Quellen dieses Pins, sucht nach besseren und ergänzt jede Seite, die dich bestätigt. Die eigenen Quellen des Pins zählen weiterhin am meisten. Auch Bilder sieht sich die KI an: Eines, das etwas anderes oder die Sache schlecht zeigt, wird nach hinten gestellt oder ersetzt.
Originaltitel: Google Announces TPU v5p and the AI Hypercomputer