Anwendungsfall · Computer Vision
Computer-Vision-GPUs: Erkennungsbudgets gemessen in Epochen
Vision-Workloads sind von Natur aus stoßweise – ein Trainingssprint, ein riesiger Batch-Job, dann nichts. Sekundengenaue Abrechnung passt perfekt: eine YOLO11-Epoche für etwa $0,02, ein Archiv-Sweep zum Preis eines Kaffees, null Leerlaufkosten zwischen den Sprints.
Die Vision-Karten im Ranking
| Stufe | GPU | VRAM | On-Demand | Unterbrechbar | Warum diese Karte | Aktion |
|---|---|---|---|---|---|---|
| Gut | RTX 3090 | 24 GB | $0,148 | $0,074 | 24 GB zum absoluten Tiefstpreis – große Batches für augmentierungsintensives Training. | Bereitstellen |
| Besser | RTX A5000 | 24 GB | $0,149 | $0,074 | ECC und Blower-Kühlung für wochenlange Trainings-Queues; die zuverlässige Wahl. | Bereitstellen |
| Am besten | RTX 4090 | 24 GB | $0,354 | $0,177 | Schnellste Epochen pro Dollar – die Standardwahl für YOLO, Segmentierung und ViT-Fine-Tunes. | Bereitstellen |
Batch-Inferenz-Flotten: Tesla T4 ab $0,104/Std. – TensorRT-Detektoren merken kaum etwas von der kleineren Karte.
Zwei typische Jobs, kalkuliert
| YOLO11m trainieren, 100 Epochen | 50k Bilder @ 640px, RTX 4090 unterbrechbar | ≈ $2,12 |
|---|---|---|
| 1 Mio. archivierte Fotos durchsuchen | TensorRT-Detektor, 4 × Tesla T4 parallel | ≈ $0,19 |
| Datensatzvolumen 150 GB | Bilder + Labels + Runs, ein Monat | $12,00 |
Pipelines mit Scale-to-Zero
- Ultralytics/MMDetection im PyTorch-Template – pip install und trainieren.
- TensorRT-Export vor Batch-Läufen – 3–5× höherer Durchsatz auf derselben Karte.
- GPU-Videodecodierung – NVDEC hält die CPU aus dem kritischen Pfad für Kamera-Streams heraus.
- Gewichte auf einem Datenträger, Instanzen entbehrlich – freitags neu trainieren, nur freitags zahlen.
Computer-Vision-GPUs: FAQ
Welche GPU für das Training von YOLO-Modellen?
Eine RTX 4090 trainiert YOLO11m auf einem 50k-Bild-Datensatz in etwa 7 Minuten pro Epoche – etwa $0,02/Epoche unterbrechbar. 24 GB reichen für große Batch-Größen bei 640px; auf Multi-GPU umsteigen lohnt sich erst ab einigen Hunderttausend Bildern.
Wie sieht es mit Batch-Inferenz über ein Archiv aus?
Günstige Karten glänzen hier: Eine Tesla T4 bei $0,104/Std. schafft Hunderte Frames/s mit einem TensorRT-exportierten Detektor. Eine Million Bilder kostet ein paar Dollar – verteilen Sie die Warteschlange auf mehrere Instanzen, und sie ist bis zum Mittagessen fertig.
Unterstützen Sie Video-Pipelines?
Ja – NVDEC/NVENC sind in Containern und VMs verfügbar, sodass Decodierung → Erkennung → Encodierung vollständig auf der GPU läuft (DeepStream, PyAV, ffmpeg-Builds im PyTorch-Template).