Vergleich · Preise geprüft am 2026-10-19
H100 PCIE vs A100 PCIE: technische Daten, Preis pro Stunde, was Sie mieten sollten
NVIDIA H100 PCIE (80 GB, $1,811/Std.) gegenüber NVIDIA A100 PCIE (80 GB, $0,388/Std.): öffentliche technische Daten im Vergleich, aktuelle Festpreise aus unserer Preisliste, was in den VRAM jeder Karte passt, und ein Urteil für echte Workloads – beide Karten sind jetzt sofort mietbar.
H100 PCIE vs A100 PCIE: technische Daten
Öffentliche NVIDIA-Angaben (dense, non-sparsity). Die letzte Spalte zeigt H100 PCIE relativ zu A100 PCIE.
| Spezifikation | H100 PCIE | A100 PCIE | Differenz |
|---|---|---|---|
| Architektur | Hopper (2022) | Ampere (2021) | — |
| VRAM | 80 GB HBM2e | 80 GB HBM2e | gleich |
| Speicherbandbreite | 2.000 GB/s | 1.935 GB/s | +3% |
| FP16-Tensor (dense) | 756 TFLOPS | 312 TFLOPS | +142% |
| FP32 | 51,0 TFLOPS | 19,5 TFLOPS | +162% |
| CUDA-Kerne | 14.592 | 6.912 | +111% |
| TDP | 350 W | 300 W | +17% |
| PCIe · NVLink | Gen 5.0 · ohne NVLink | Gen 4.0 · ohne NVLink | — |
| PowerScore (RTX 3090 = 100) | 532 | 220 | +142% |
| Max. GPUs pro Maschine | 8× | 8× | — |
H100 PCIE vs A100 PCIE: Preis pro Stunde
Festpreise aus unserer Preisliste – jeder On-Demand-Preis ist der Marktmedian × 0,70, abgerundet. Monatlich = 730 Stunden.
| Preis | H100 PCIE | A100 PCIE | Günstiger |
|---|---|---|---|
| On-Demand, pro GPU-Stunde | $1,811 | $0,388 | A100 PCIE (−79%) |
| Unterbrechbar, pro GPU-Stunde | $0,905 | $0,194 | A100 PCIE |
| Reserviert (3 Monate), pro GPU-Stunde | $1,177 | $0,252 | A100 PCIE |
| On-Demand, pro Monat | $1.322 | $283 | A100 PCIE |
| Marktmedian (Referenz) | $2,59 | $0,56 | — |
| $ pro 1.000 FP16-TFLOP-Stunden | $2,40 | $1,24 | A100 PCIE (besseres Preis-Leistungs-Verhältnis) |
| $ pro GB VRAM pro Stunde | $0,0226 | $0,0049 | A100 PCIE (besseres Preis-Leistungs-Verhältnis) |
Testen Sie einen vollständigen Monat mit Speicherplatz und Bandbreite im GPU-Kostenrechner.
Was in den VRAM passt: 80 GB vs 80 GB
| Workload | H100 PCIE | A100 PCIE |
|---|---|---|
| Größtes LLM in FP16, eine Karte | ~32B | ~32B |
| Größtes LLM bei 4-Bit, eine Karte | ~123B | ~123B |
| Flux dev (FP8, ~17 GB) | passt | passt |
| Wan 2.x 14B Video (ausgelagert) | ja | ja |
| 70B-4-Bit-LLM auf einer Karte | ja | ja |
Faustregeln: ~2,4 GB pro Milliarde Parameter in FP16 insgesamt, ~0,62 GB bei 4-Bit. Vollständige Tabellen im VRAM-Leitfaden.
Urteil: Was sollten Sie mieten?
Beide sind 80-GB-PCIe-Karten; die H100 PCIe fügt FP8, etwa den 2,4-fachen FP16-Tensor-Durchsatz und die Transformer Engine von Hopper hinzu. Die A100 PCIe ist die günstigere 80-GB-Karte und bleibt hervorragend für quantisierte 70B-Inferenz und mittelgroßes Training geeignet.
- Günstiger pro Stunde: A100 PCIE ($0,388 vs $1,811, −79 %).
- Mehr VRAM: H100 PCIE (80 GB vs 80 GB).
- Mehr FP16-Durchsatz: H100 PCIE (etwa 2,4×).
- Bestes Preis-Leistungs-Verhältnis pro TFLOP-Stunde: A100 PCIE.
- Bestes Preis-Leistungs-Verhältnis pro GB VRAM: A100 PCIE.
- Multi-GPU: H100 PCIE über PCIe · A100 PCIE über PCIe.
Ähnliche Vergleiche
- H100 SXM vs H100 PCIE $1,680 vs $1,811 pro Stunde Vergleichen
- A100 SXM4 vs A100 PCIE $0,468 vs $0,388 pro Stunde Vergleichen
- RTX 4090 vs A100 PCIE $0,354 vs $0,388 pro Stunde Vergleichen
- L40S vs A100 PCIE $0,448 vs $0,388 pro Stunde Vergleichen
- L40S vs H100 PCIE $0,448 vs $1,811 pro Stunde Vergleichen
- RTX PRO 6000 WS vs H100 PCIE $0,981 vs $1,811 pro Stunde Vergleichen
H100 PCIE vs A100 PCIE: FAQ
Weiterführende Informationen: H100 vs H200 vs B200, RTX 4090 vs RTX 5090, wie die Preisgestaltung von Cloud-GPUs funktioniert.
Ist die H100 PCIE schneller als die A100 PCIE?
Beim FP16-Tensor-Durchsatz (dense) liegt die H100 PCIE um etwa 2,4× vorn (756 vs 312 TFLOPS). Die Speicherbandbreite ist für Inferenz ebenso wichtig: H100 PCIE 2.000 GB/s vs A100 PCIE 1.935 GB/s.
Was ist günstiger zu mieten, die H100 PCIE oder die A100 PCIE?
Die A100 PCIE: $0,388/Std. On-Demand gegenüber $1,811/Std. – 79 % weniger. Unterbrechbare Preise liegen bei $0,905 (H100 PCIE) und $0,194 (A100 PCIE). Pro TFLOP-Stunde ist die A100 PCIE die bessere Wahl.
Welche Karte hat mehr VRAM, und was ändert das?
Die H100 PCIE hat 80 GB gegenüber 80 GB. In LLM-Begriffen entspricht das etwa einem 32B-FP16-Modell (oder ~123B bei 4-Bit) auf einer Karte gegenüber 32B FP16 (~123B bei 4-Bit). Passt das Modell nicht, ist die Geschwindigkeit unerheblich.
Kann ich beide sofort auf LowCostGPU mieten?
Ja – 10 × H100 PCIE und 102 × A100 PCIE sind online, während diese Seite gerendert wird, in etwa 30 Sekunden bereitstellbar, sekundengenau abgerechnet, in Krypto bezahlt, ohne KYC.