Vergleich · Preise geprüft am 2026-10-19
H100 SXM vs A100 SXM4: technische Daten, Preis pro Stunde, was Sie mieten sollten
NVIDIA H100 SXM (80 GB, $1,680/Std.) gegenüber NVIDIA A100 SXM4 (80 GB, $0,468/Std.): öffentliche technische Daten im Vergleich, aktuelle Festpreise aus unserer Preisliste, was in den VRAM jeder Karte passt, und ein Urteil für echte Workloads – beide Karten sind jetzt sofort mietbar.
H100 SXM vs A100 SXM4: technische Daten
Öffentliche NVIDIA-Angaben (dense, non-sparsity). Die letzte Spalte zeigt H100 SXM relativ zu A100 SXM4.
| Spezifikation | H100 SXM | A100 SXM4 | Differenz |
|---|---|---|---|
| Architektur | Hopper (2022) | Ampere (2020) | — |
| VRAM | 80 GB HBM3 | 80 GB HBM2e | gleich |
| Speicherbandbreite | 3.350 GB/s | 2.039 GB/s | +64% |
| FP16-Tensor (dense) | 990 TFLOPS | 312 TFLOPS | +217% |
| FP32 | 67,0 TFLOPS | 19,5 TFLOPS | +244% |
| CUDA-Kerne | 16.896 | 6.912 | +144% |
| TDP | 700 W | 400 W | +75% |
| PCIe · NVLink | Gen 5.0 · NVLink | Gen 4.0 · NVLink | — |
| PowerScore (RTX 3090 = 100) | 697 | 220 | +217% |
| Max. GPUs pro Maschine | 8× | 8× | — |
H100 SXM vs A100 SXM4: Preis pro Stunde
Festpreise aus unserer Preisliste – jeder On-Demand-Preis ist der Marktmedian × 0,70, abgerundet. Monatlich = 730 Stunden.
| Preis | H100 SXM | A100 SXM4 | Günstiger |
|---|---|---|---|
| On-Demand, pro GPU-Stunde | $1,680 | $0,468 | A100 SXM4 (−72%) |
| Unterbrechbar, pro GPU-Stunde | $0,840 | $0,234 | A100 SXM4 |
| Reserviert (3 Monate), pro GPU-Stunde | $1,092 | $0,304 | A100 SXM4 |
| On-Demand, pro Monat | $1.226 | $342 | A100 SXM4 |
| Marktmedian (Referenz) | $2,40 | $0,67 | — |
| $ pro 1.000 FP16-TFLOP-Stunden | $1,70 | $1,50 | A100 SXM4 (besseres Preis-Leistungs-Verhältnis) |
| $ pro GB VRAM pro Stunde | $0,0210 | $0,0059 | A100 SXM4 (besseres Preis-Leistungs-Verhältnis) |
Testen Sie einen vollständigen Monat mit Speicherplatz und Bandbreite im GPU-Kostenrechner.
Was in den VRAM passt: 80 GB vs 80 GB
| Workload | H100 SXM | A100 SXM4 |
|---|---|---|
| Größtes LLM in FP16, eine Karte | ~32B | ~32B |
| Größtes LLM bei 4-Bit, eine Karte | ~123B | ~123B |
| Flux dev (FP8, ~17 GB) | passt | passt |
| Wan 2.x 14B Video (ausgelagert) | ja | ja |
| 70B-4-Bit-LLM auf einer Karte | ja | ja |
Faustregeln: ~2,4 GB pro Milliarde Parameter in FP16 insgesamt, ~0,62 GB bei 4-Bit. Vollständige Tabellen im VRAM-Leitfaden.
Urteil: Was sollten Sie mieten?
Die H100 SXM trainiert Transformer dank FP8 und 3,35 TB/s HBM3 etwa 2–3× schneller als die A100 SXM4; die A100 kostet pro Stunde deutlich weniger und schneidet bei den Kosten pro Schritt für ≤13B-Modelle, LoRA-Farmen und FP64-HPC weiterhin besser ab. Mieten Sie die H100 für Termindruck und FP8-Serving, die A100 für Volumenexperimente.
- Günstiger pro Stunde: A100 SXM4 ($0,468 vs $1,680, −72 %).
- Mehr VRAM: H100 SXM (80 GB vs 80 GB).
- Mehr FP16-Durchsatz: H100 SXM (etwa 3,2×).
- Bestes Preis-Leistungs-Verhältnis pro TFLOP-Stunde: A100 SXM4.
- Bestes Preis-Leistungs-Verhältnis pro GB VRAM: A100 SXM4.
- Multi-GPU: H100 SXM mit NVLink · A100 SXM4 mit NVLink.
Ähnliche Vergleiche
- H100 SXM vs H200 $1,680 vs $3,131 pro Stunde Vergleichen
- H100 SXM vs B200 $1,680 vs $6,475 pro Stunde Vergleichen
- H100 SXM vs H100 PCIE $1,680 vs $1,811 pro Stunde Vergleichen
- A100 SXM4 vs A100 PCIE $0,468 vs $0,388 pro Stunde Vergleichen
- RTX 5090 vs A100 SXM4 $0,481 vs $0,468 pro Stunde Vergleichen
- H100 NVL vs H100 SXM $2,105 vs $1,680 pro Stunde Vergleichen
H100 SXM vs A100 SXM4: FAQ
Weiterführende Informationen: H100 vs H200 vs B200, RTX 4090 vs RTX 5090, wie die Preisgestaltung von Cloud-GPUs funktioniert.
Ist die H100 SXM schneller als die A100 SXM4?
Beim FP16-Tensor-Durchsatz (dense) liegt die H100 SXM um etwa 3,2× vorn (990 vs 312 TFLOPS). Die Speicherbandbreite ist für Inferenz ebenso wichtig: H100 SXM 3.350 GB/s vs A100 SXM4 2.039 GB/s.
Was ist günstiger zu mieten, die H100 SXM oder die A100 SXM4?
Die A100 SXM4: $0,468/Std. On-Demand gegenüber $1,680/Std. – 72 % weniger. Unterbrechbare Preise liegen bei $0,840 (H100 SXM) und $0,234 (A100 SXM4). Pro TFLOP-Stunde ist die A100 SXM4 die bessere Wahl.
Welche Karte hat mehr VRAM, und was ändert das?
Die H100 SXM hat 80 GB gegenüber 80 GB. In LLM-Begriffen entspricht das etwa einem 32B-FP16-Modell (oder ~123B bei 4-Bit) auf einer Karte gegenüber 32B FP16 (~123B bei 4-Bit). Passt das Modell nicht, ist die Geschwindigkeit unerheblich.
Kann ich beide sofort auf LowCostGPU mieten?
Ja – 50 × H100 SXM und 134 × A100 SXM4 sind online, während diese Seite gerendert wird, in etwa 30 Sekunden bereitstellbar, sekundengenau abgerechnet, in Krypto bezahlt, ohne KYC.