TL;DR
- Die RTX 4090 bietet die niedrigsten Kosten pro Audiostunde für Batch-Transkription und betreibt faster-whisper large-v3 bei etwa 95× Echtzeit.
- Für eine durchgehend laufende API mieten Sie die 72-W-L4 für $0,196 pro Stunde auf LowCostGPU, nahe 40× Echtzeit und 35 Prozent günstiger reserviert.
- Whisper large-v3 benötigt nur etwa 3 GB in float16 und 1,5 GB in int8, VRAM ist daher nie entscheidend; ausschlaggebend sind Durchsatz mal Preis.
- Batching macht auf einer 4090 den Unterschied zwischen 8× und 90× Echtzeit aus; VAD überspringt Stille für 20–40 Prozent weniger Rechenleistung.
Die einzige Kennzahl: Cent pro Audiostunde
Whisper passt auf alles – large-v3 braucht in float16 nur etwa 3 GB – VRAM entscheidet also nie. Entscheidend ist Durchsatz × Preis: wie viele Stunden Audio eine Karte pro Mietstunde transkribiert. Mit der Batch-Pipeline von faster-whisper liegt die Spanne zwischen einer T4 und einer H100 bei etwa 10× in der Geschwindigkeit, aber bei den Kosten pro Audiostunde nur bei etwa 2×, weil die schnelleren Karten mehr pro Stunde kosten. Wählen Sie zunächst nach der letzten Spalte unten, danach je nachdem, ob es sich um einen Batch-Job oder einen Dauerbetrieb handelt.
Karten sortiert nach Kosten pro Audiostunde
Richtwerte für die Geschwindigkeit von faster-whisper large-v3, float16, Batch-Pipeline (Batch 16, VAD an), ausgedrückt als Vielfaches der Echtzeit; Ihr Audiomix, die Batch-Größe und die int8-Einstellungen verändern sie. Die Preise sind die heutigen On-Demand-Preise.
| Karte | On-Demand | Geschwindigkeit (× Echtzeit) | Audiostunden pro GPU-Stunde | $ pro Audiostunde | Hinweis |
|---|---|---|---|---|---|
| Tesla T4 16 GB | $0,104 | ~18× | 18 h | $0,0058 | Günstigste Datacenter-Karte; int8 hilft |
| RTX 3060 12 GB | $0,058 | ~28× | 28 h | $0,0021 | Günstigste Consumer-Karte, auf die large-v3 problemlos passt |
| L4 24 GB | $0,196 | ~40× | 40 h | $0,0049 | 72 W, Single-Slot – die durchgehend aktive API-Karte |
| RTX 4070 12 GB | $0,123 | ~45× | 45 h | $0,0027 | Ada-Geschwindigkeit zum niedrigen Preis für Batch-Jobs |
| RTX 4090 24 GB | $0,354 | ~95× | 95 h | $0,0037 | Arbeitstier für die Batch-Transkription |
| A100 PCIE 80 GB | $0,388 | ~110× | 110 h | $0,0035 | Viele parallele Streams, 80 GB für große Batches |
| H100 PCIE 80 GB | $1,811 | ~170× | 170 h | $0,0107 | Höchster Durchsatz pro Karte |
Unterbrechbare Kapazität halbiert jede Zahl in der Preisspalte – Transkriptions-Warteschlangen sind der ideale unterbrechbare Workload, da jede Datei ein unabhängiges, neustartbares Element ist.
Welche Karte für welchen Job
| Job | Mieten | Grund |
|---|---|---|
| Ein Podcast-Archiv, Tausende Stunden, einmalig | RTX 4090, unterbrechbar | Niedrigste $/Audiostunde der Consumer-Karten; Batch verträgt Pausen |
| Eine durchgehend aktive Transkriptions-API | L4, reserviert | 72-W-Datacenter-Karte, −35 % reserviert, ~40× Echtzeit ist für Streaming reichlich. |
| Meetings für ein kleines Team, nur abends | RTX 3060 | Günstigste Karte, die large-v3 komfortabel ausführt; im Leerlauf stoppen |
| Tausende gleichzeitige Streams | A100 PCIE oder H100 PCIE | 80 GB für große Batches, höchster aggregierter Durchsatz |
| Diarisierungs- und Transkriptionspipelines | RTX 4090 oder L4 | Pyannote-Modelle benötigen zusätzlich ~2 GB; beide Karten haben den Platz dafür |
Setup: WebUI und API in 30 Sekunden
lowcostgpu launch --gpu l4 --template whisper-webui-api --disk 40 --volume audio:/data
# ✓ instance i-5d0a91f2 running (27.3s) · $0,196/hr
# https://i-5d0a91f2.lowcostgpu.com:7860 (Web UI) · :8000/transcribe (REST)
curl -F 'file=@call.mp3' -F 'model=large-v3' https://i-5d0a91f2.lowcostgpu.com:8000/transcribeDas Whisper WebUI & API-Template führt faster-whisper hinter einer Browser-Oberfläche und einem REST-Endpunkt aus, mit Zeitstempeln auf Wortebene, Spracherkennung und Untertitelexport. Binden Sie einen Datenträger für Eingabedateien und Transkripte ein, damit Instanzen austauschbar bleiben.
Mehr aus jeder Karte herausholen
- Batch. Die Batch-Pipeline macht auf derselben 4090 den Unterschied zwischen 8× und 90× Echtzeit aus; sequenzielles Decodieren einzelner Dateien verschwendet die Karte.
- int8 bei kleinen Karten. Bei T4 und 3060 laufen int8-Gewichte schneller, bei vernachlässigbarem Genauigkeitsverlust; auf Ada und neueren Architekturen float16 beibehalten.
- VAD zuerst. Sprachaktivitätserkennung überspringt Stille – 20–40 % weniger Rechenleistung bei Meeting-Audio.
- Modell richtig dimensionieren. turbo und distil-large-v3 laufen für Englisch 4–6× schneller als large-v3, bei einem kleinen Genauigkeitsverlust.
- Unterbrechbar für Warteschlangen, reserviert für APIs. Batch-Jobs zahlen die Hälfte; ein 24/7-Endpunkt zahlt −35 % und schläft nie.
Siehe auch: LLMs auf denselben Karten bedienen und den Vergleich L4 vs T4.
Zahlen nutzen
Jeder Preis in dieser Anleitung ist unser Live-Preis – festgelegt, ≥30 % unter dem Marktmedian, sekundengenau abgerechnet. Stellen Sie das exakte Setup oben über die Konsole in etwa 30 Sekunden bereit, bezahlt in Krypto, ohne Karte und ohne KYC.
