Vergleich · Preise geprüft am 2026-10-19
RTX 4090 vs A100 PCIE: technische Daten, Preis pro Stunde, was Sie mieten sollten
NVIDIA RTX 4090 (24 GB, $0,354/Std.) gegenüber NVIDIA A100 PCIE (80 GB, $0,388/Std.): öffentliche technische Daten im Vergleich, aktuelle Festpreise aus unserer Preisliste, was in den VRAM jeder Karte passt, und ein Urteil für echte Workloads – beide Karten sind jetzt sofort mietbar.
-
NVIDIA RTX 4090
Ada Lovelace · 24 GB GDDR6X · 330 FP16 TFLOPS ·
$0,354/Std. On-Demand · $0,177/Std. unterbrechbar ·
476 online
Vollständige RTX 4090-Seite
-
NVIDIA A100 PCIE
Ampere · 80 GB HBM2e · 312 FP16 TFLOPS ·
$0,388/Std. On-Demand · $0,194/Std. unterbrechbar ·
102 online
Vollständige A100 PCIE-Seite
RTX 4090 vs A100 PCIE: technische Daten
Öffentliche NVIDIA-Angaben (dense, non-sparsity). Die letzte Spalte zeigt RTX 4090 relativ zu A100 PCIE.
| Spezifikation | RTX 4090 | A100 PCIE | Differenz |
|---|---|---|---|
| Architektur | Ada Lovelace (2022) | Ampere (2021) | — |
| VRAM | 24 GB GDDR6X | 80 GB HBM2e | −70% |
| Speicherbandbreite | 1.008 GB/s | 1.935 GB/s | −48% |
| FP16-Tensor (dense) | 330 TFLOPS | 312 TFLOPS | +6% |
| FP32 | 82,6 TFLOPS | 19,5 TFLOPS | +324% |
| CUDA-Kerne | 16.384 | 6.912 | +137% |
| TDP | 450 W | 300 W | +50% |
| PCIe · NVLink | Gen 4.0 · ohne NVLink | Gen 4.0 · ohne NVLink | — |
| PowerScore (RTX 3090 = 100) | 232 | 220 | +5% |
| Max. GPUs pro Maschine | 8× | 8× | — |
RTX 4090 vs A100 PCIE: Preis pro Stunde
Festpreise aus unserer Preisliste – jeder On-Demand-Preis ist der Marktmedian × 0,70, abgerundet. Monatlich = 730 Stunden.
| Preis | RTX 4090 | A100 PCIE | Günstiger |
|---|---|---|---|
| On-Demand, pro GPU-Stunde | $0,354 | $0,388 | RTX 4090 (−9%) |
| Unterbrechbar, pro GPU-Stunde | $0,177 | $0,194 | RTX 4090 |
| Reserviert (3 Monate), pro GPU-Stunde | $0,230 | $0,252 | RTX 4090 |
| On-Demand, pro Monat | $258 | $283 | RTX 4090 |
| Marktmedian (Referenz) | $0,51 | $0,56 | — |
| $ pro 1.000 FP16-TFLOP-Stunden | $1,07 | $1,24 | RTX 4090 (besseres Preis-Leistungs-Verhältnis) |
| $ pro GB VRAM pro Stunde | $0,0148 | $0,0049 | A100 PCIE (besseres Preis-Leistungs-Verhältnis) |
Testen Sie einen vollständigen Monat mit Speicherplatz und Bandbreite im GPU-Kostenrechner.
Was in den VRAM passt: 24 GB vs 80 GB
| Workload | RTX 4090 | A100 PCIE |
|---|---|---|
| Größtes LLM in FP16, eine Karte | ~8B | ~32B |
| Größtes LLM bei 4-Bit, eine Karte | ~32B | ~123B |
| Flux dev (FP8, ~17 GB) | passt | passt |
| Wan 2.x 14B Video (ausgelagert) | ja | ja |
| 70B-4-Bit-LLM auf einer Karte | nein | ja |
Faustregeln: ~2,4 GB pro Milliarde Parameter in FP16 insgesamt, ~0,62 GB bei 4-Bit. Vollständige Tabellen im VRAM-Leitfaden.
Urteil: Was sollten Sie mieten?
Die Consumer-Karte RTX 4090 ist bei FP16 pro Takt schneller und pro Stunde deutlich günstiger; die A100 PCIe bietet 80 GB HBM2e, ECC und NVLink-Kopplung. Unter 24 GB liegt die 4090 preislich in fast jedem Job vorn; darüber – 70B-Modelle, große Batches – passt nur die A100.
- Günstiger pro Stunde: RTX 4090 ($0,354 vs $0,388, −9 %).
- Mehr VRAM: A100 PCIE (80 GB vs 24 GB).
- Mehr FP16-Durchsatz: RTX 4090 (etwa 1,1×).
- Bestes Preis-Leistungs-Verhältnis pro TFLOP-Stunde: RTX 4090.
- Bestes Preis-Leistungs-Verhältnis pro GB VRAM: A100 PCIE.
- Multi-GPU: RTX 4090 über PCIe · A100 PCIE über PCIe.
Ähnliche Vergleiche
- H100 PCIE vs A100 PCIE $1,811 vs $0,388 pro Stunde Vergleichen
- A100 SXM4 vs A100 PCIE $0,468 vs $0,388 pro Stunde Vergleichen
- RTX 5090 vs RTX 4090 $0,481 vs $0,354 pro Stunde Vergleichen
- RTX 4090 vs RTX 3090 $0,354 vs $0,148 pro Stunde Vergleichen
- RTX 4090 vs L40S $0,354 vs $0,448 pro Stunde Vergleichen
- L40S vs A100 PCIE $0,448 vs $0,388 pro Stunde Vergleichen
RTX 4090 vs A100 PCIE: FAQ
Weiterführende Informationen: H100 vs H200 vs B200, RTX 4090 vs RTX 5090, wie die Preisgestaltung von Cloud-GPUs funktioniert.
Ist die RTX 4090 schneller als die A100 PCIE?
Beim FP16-Tensor-Durchsatz (dense) liegt die RTX 4090 um etwa 1,1× vorn (330 vs 312 TFLOPS). Die Speicherbandbreite ist für Inferenz ebenso wichtig: RTX 4090 1.008 GB/s vs A100 PCIE 1.935 GB/s.
Was ist günstiger zu mieten, die RTX 4090 oder die A100 PCIE?
Die RTX 4090: $0,354/Std. On-Demand gegenüber $0,388/Std. – 9 % weniger. Unterbrechbare Preise liegen bei $0,177 (RTX 4090) und $0,194 (A100 PCIE). Pro TFLOP-Stunde ist die RTX 4090 die bessere Wahl.
Welche Karte hat mehr VRAM, und was ändert das?
Die A100 PCIE hat 80 GB gegenüber 24 GB. In LLM-Begriffen entspricht das etwa einem 32B-FP16-Modell (oder ~123B bei 4-Bit) auf einer Karte gegenüber 8B FP16 (~32B bei 4-Bit). Passt das Modell nicht, ist die Geschwindigkeit unerheblich.
Kann ich beide sofort auf LowCostGPU mieten?
Ja – 476 × RTX 4090 und 102 × A100 PCIE sind online, während diese Seite gerendert wird, in etwa 30 Sekunden bereitstellbar, sekundengenau abgerechnet, in Krypto bezahlt, ohne KYC.