Vergleich · Preise geprüft am 2026-10-19
H100 NVL vs H100 SXM: technische Daten, Preis pro Stunde, was Sie mieten sollten
NVIDIA H100 NVL (80 GB, $2,105/Std.) gegenüber NVIDIA H100 SXM (80 GB, $1,680/Std.): öffentliche technische Daten im Vergleich, aktuelle Festpreise aus unserer Preisliste, was in den VRAM jeder Karte passt, und ein Urteil für echte Workloads – beide Karten sind jetzt sofort mietbar.
H100 NVL vs H100 SXM: technische Daten
Öffentliche NVIDIA-Angaben (dense, non-sparsity). Die letzte Spalte zeigt H100 NVL relativ zu H100 SXM.
| Spezifikation | H100 NVL | H100 SXM | Differenz |
|---|---|---|---|
| Architektur | Hopper (2023) | Hopper (2022) | — |
| VRAM | 80 GB HBM3 | 80 GB HBM3 | gleich |
| Speicherbandbreite | 3.900 GB/s | 3.350 GB/s | +16% |
| FP16-Tensor (dense) | 835 TFLOPS | 990 TFLOPS | −16% |
| FP32 | 60,0 TFLOPS | 67,0 TFLOPS | −10% |
| CUDA-Kerne | 14.592 | 16.896 | −14% |
| TDP | 400 W | 700 W | −43% |
| PCIe · NVLink | Gen 5.0 · NVLink | Gen 5.0 · NVLink | — |
| PowerScore (RTX 3090 = 100) | 588 | 697 | −16% |
| Max. GPUs pro Maschine | 4× | 8× | — |
H100 NVL vs H100 SXM: Preis pro Stunde
Festpreise aus unserer Preisliste – jeder On-Demand-Preis ist der Marktmedian × 0,70, abgerundet. Monatlich = 730 Stunden.
| Preis | H100 NVL | H100 SXM | Günstiger |
|---|---|---|---|
| On-Demand, pro GPU-Stunde | $2,105 | $1,680 | H100 SXM (−20%) |
| Unterbrechbar, pro GPU-Stunde | $1,052 | $0,840 | H100 SXM |
| Reserviert (3 Monate), pro GPU-Stunde | $1,368 | $1,092 | H100 SXM |
| On-Demand, pro Monat | $1.537 | $1.226 | H100 SXM |
| Marktmedian (Referenz) | $3,01 | $2,40 | — |
| $ pro 1.000 FP16-TFLOP-Stunden | $2,52 | $1,70 | H100 SXM (besseres Preis-Leistungs-Verhältnis) |
| $ pro GB VRAM pro Stunde | $0,0263 | $0,0210 | H100 SXM (besseres Preis-Leistungs-Verhältnis) |
Testen Sie einen vollständigen Monat mit Speicherplatz und Bandbreite im GPU-Kostenrechner.
Was in den VRAM passt: 80 GB vs 80 GB
| Workload | H100 NVL | H100 SXM |
|---|---|---|
| Größtes LLM in FP16, eine Karte | ~32B | ~32B |
| Größtes LLM bei 4-Bit, eine Karte | ~123B | ~123B |
| Flux dev (FP8, ~17 GB) | passt | passt |
| Wan 2.x 14B Video (ausgelagert) | ja | ja |
| 70B-4-Bit-LLM auf einer Karte | ja | ja |
Faustregeln: ~2,4 GB pro Milliarde Parameter in FP16 insgesamt, ~0,62 GB bei 4-Bit. Vollständige Tabellen im VRAM-Leitfaden.
Urteil: Was sollten Sie mieten?
Die H100 NVL ist eine paarweise verbrückte PCIe-Karte mit höheren Taktraten als die H100 PCIe; die H100 SXM bietet volles NVLink mit 900 GB/s über 8 GPUs und 3,35 TB/s. NVL für Inferenz auf PCIe-Hosts, SXM für Multi-GPU-Training.
- Günstiger pro Stunde: H100 SXM ($1,680 vs $2,105, −20 %).
- Mehr VRAM: H100 NVL (80 GB vs 80 GB).
- Mehr FP16-Durchsatz: H100 SXM (etwa 1,2×).
- Bestes Preis-Leistungs-Verhältnis pro TFLOP-Stunde: H100 SXM.
- Bestes Preis-Leistungs-Verhältnis pro GB VRAM: H100 SXM.
- Multi-GPU: H100 NVL mit NVLink · H100 SXM mit NVLink.
H100 NVL vs H100 SXM: FAQ
Weiterführende Informationen: H100 vs H200 vs B200, RTX 4090 vs RTX 5090, wie die Preisgestaltung von Cloud-GPUs funktioniert.
Ist die H100 SXM schneller als die H100 NVL?
Beim FP16-Tensor-Durchsatz (dense) liegt die H100 SXM um etwa 1,2× vorn (990 vs 835 TFLOPS). Die Speicherbandbreite ist für Inferenz ebenso wichtig: H100 NVL 3.900 GB/s vs H100 SXM 3.350 GB/s.
Was ist günstiger zu mieten, die H100 NVL oder die H100 SXM?
Die H100 SXM: $1,680/Std. On-Demand gegenüber $2,105/Std. – 20 % weniger. Unterbrechbare Preise liegen bei $1,052 (H100 NVL) und $0,840 (H100 SXM). Pro TFLOP-Stunde ist die H100 SXM die bessere Wahl.
Welche Karte hat mehr VRAM, und was ändert das?
Die H100 NVL hat 80 GB gegenüber 80 GB. In LLM-Begriffen entspricht das etwa einem 32B-FP16-Modell (oder ~123B bei 4-Bit) auf einer Karte gegenüber 32B FP16 (~123B bei 4-Bit). Passt das Modell nicht, ist die Geschwindigkeit unerheblich.
Kann ich beide sofort auf LowCostGPU mieten?
Ja – 10 × H100 NVL und 50 × H100 SXM sind online, während diese Seite gerendert wird, in etwa 30 Sekunden bereitstellbar, sekundengenau abgerechnet, in Krypto bezahlt, ohne KYC.