TL;DR
- Die H100 bietet 80 GB bei 3,35 TB/s, die H200 141 GB bei 4,8 TB/s, die B200 192 GB bei 8 TB/s.
- Auf LowCostGPU kostet die H100 SXM $1,680 pro Stunde, die H200 $3,131 und die B200 $6,475.
- Wählen Sie die H200 für lange Kontexte und speichergebundene Workloads – ihr Bandbreitensprung von 43 Prozent schlägt sich fast eins zu eins nieder.
- Die B200 liefert 2.250 FP16-TFLOPS, rund 2,3× der H100 – sie kauft eher Termine als günstigere FLOPS.
Wichtige Spezifikationen im Vergleich
| A100 SXM4 | H100 SXM | H200 | B200 | |
|---|---|---|---|---|
| Architektur | Ampere | Hopper | Hopper | Blackwell |
| VRAM | 80 GB HBM2e | 80 GB HBM3 | 141 GB HBM3e | 192 GB HBM3e |
| Speicherbandbreite | 2,0 TB/s | 3,35 TB/s | 4,8 TB/s | 8 TB/s |
| FP16-Tensor (dense) | 312 TF | 990 TF | 990 TF | 2.250 TF |
| Extras bei niedriger Präzision | — | FP8 | FP8 | FP8 + FP4 |
| NVLink | 600 GB/s | 900 GB/s | 900 GB/s | 1,8 TB/s |
Öffentliche NVIDIA-Zahlen, dichte Werte (ohne Sparsity).
Mietökonomie heute
Spezifikationen altern; das Verhältnis von Spezifikation zu Preis ist die eigentliche Entscheidung. Live aus der Preisliste (Snapshot 2026-10-19):
| Karte | On-Demand | Unterbrechbar | $/Std. pro TB/s | $/Std. pro 100 FP16 TF |
|---|---|---|---|---|
| A100 SXM4 | $0,468 | $0,234 | $0,234 | $0,150 |
| H100 SXM | $1,680 | $0,840 | $0,501 | $0,170 |
| H200 | $3,131 | $1,565 | $0,652 | $0,316 |
| B200 | $6,475 | $3,237 | $0,809 | $0,288 |
Lesen Sie die letzten beiden Spalten als „Preis der Bandbreite“ und „Preis der Rechenleistung“. Die H100 gewinnt meist bei Rechenleistung pro Dollar; die H200 gewinnt bei Bandbreite pro Dollar; die B200 kauft Zeit.
Die H100 wählen, wenn…
- Ihr Modell + Optimizer in 80 GB pro Shard passt (die meisten vollständigen Fine-Tunes bis ≤34B, alle LoRA-Arbeiten);
- der Durchsatz pro Dollar ist die Kennzahl – FP8 auf Hopper bleibt der Effizienz-Sweet-Spot;
- Sie Wert auf ein tiefes Angebot legen: H100-Pools sind von den dreien am tiefsten, daher sind unterbrechbare Slots so gut wie immer verfügbar.
Die H200 wählen, wenn…
- die Kontextlänge ist das Produkt: KV-Cache bei 128k frisst 80-GB-Karten auf, bei 141 GB bleibt Luft;
- der Workload speichergebunden ist (MoE-Inferenz, Stencil-HPC, riesiges Batch-Serving) – der Bandbreitensprung von 43 % wirkt sich fast 1:1 aus;
- Sie können einen Aufpreis von $1,451/Std. gegen weniger, dafür größere Shards eintauschen (weniger Traffic zwischen den GPUs, einfachere Parallelisierung).
Die B200 wählen, wenn…
- die Deadline ist das Budget: ~2,3× H100-FP16-Durchsatz bedeutet, der Checkpoint für Montag steht schon am Freitag;
- FP4/FP8-Inferenz im großen Maßstab – Blackwells Pfad mit niedriger Präzision ist die Grundlage seiner $/Token-Führung;
- das Modell-Shard benötigt 192 GB – bei manchen 100B+-Konfigurationen passt schlicht nichts anderes pro Karte.
Die A100 als Geheimtipp
Vier Jahre alt und immer noch das beste $/GB HBM auf der Preisliste: $0,468/Std. für 80 GB. Bei Trainingsläufen bis ≤13B, LoRA-Farmen und FP64-Simulationen schlägt sie die neueren Karten regelmäßig bei den Gesamtkosten pro Job – der Software-Stack ist ausgereift, und das Angebot an unterbrechbaren A100 ist groß. Prüfen Sie die Break-even-Rechnung, bevor Sie annehmen, dass neuer günstiger ist.
Zahlen nutzen
Jeder Preis in dieser Anleitung ist unser Live-Preis – festgelegt, ≥30 % unter dem Marktmedian, sekundengenau abgerechnet. Stellen Sie das exakte Setup oben über die Konsole in etwa 30 Sekunden bereit, bezahlt in Krypto, ohne Karte und ohne KYC.
