Startet in Minuten
Eine vollständige virtuelle KVM-Maschine mit GPU-Passthrough: Ihr Kernel, Root, systemd.
Template · Basis & Frameworks
NVIDIA NGC PyTorch auf einer Cloud-GPU starten, in Minuten
NGC-optimierter PyTorch-Build von NVIDIA – abgestimmte Kernel für die Datacenter-Karten. Der NGC-PyTorch-Container von NVIDIA ist der optimierte Build: vorkompilierte Kernel für Hopper und Ampere, dazu APEX, DALI, Transformer Engine und bereits integrierte FP8-Unterstützung. Er ist das, was Trainingsteams im großen Maßstab auf Datacenter-Karten einsetzen; mieten Sie ihn hier mit demselben Image, ganz ohne Registry-Login. Ab $0,234/Std. auf einer unterbrechbaren A100 SXM4.
Template ist kostenlos
Sie zahlen nur den GPU-Preis: PyTorch NGC auf einer A100 SXM4 kostet $0,468/Std. On-Demand, $0,234/Std. unterbrechbar, abgerechnet pro Sekunde.
Volumes für Zustandsdaten
Modelle, Datensätze und Ausgaben liegen auf einem Datenträger für $0,08/GB/Monat; die Instanz bleibt austauschbar.
Standardmäßig privat
Dedizierte GPU, verschlüsselter Datenträger, Kryptozahlungen, ohne KYC, keine gespeicherten IPs – SSH hinter Ihren eigenen Zugangsdaten.
Beste GPUs für PyTorch NGC
Drei Preisstufen, mit denen dieses Template gut läuft – gut, besser, am besten. Jedes Modell im Katalog funktioniert; dies sind die besten Preis-Leistungs-Optionen.
| Stufe | GPU | VRAM | On-Demand | Unterbrechbar | Warum diese Karte | Aktion |
|---|---|---|---|---|---|---|
| Gut | A100 SXM4 | 80 GB | $0,468 | $0,234 | Ampere-Datacenter-Karte, auf die der NGC-Stack abgestimmt ist. | Bereitstellen |
| Besser | H100 SXM | 80 GB | $1,680 | $0,840 | Die FP8-Pfade der Transformer Engine sind auf Hopper besonders leistungsstark. | Bereitstellen |
| Am besten | H200 | 141 GB | $3,131 | $1,565 | 141 GB für längeren Kontext und größere Mikro-Batches im selben abgestimmten Stack. | Bereitstellen |
Mehr VRAM benötigt? Der vollständige Katalog listet alle 83 Modelle mit Verfügbarkeit in Echtzeit auf; der VRAM-Leitfaden ordnet Modelle den passenden Karten zu.
PyTorch NGC über Konsole, CLI oder API bereitstellen
Wählen Sie das Template in der Bereitstellungsleiste der Konsole, oder erledigen Sie es per Skript:
- Konsole – nach GPU filtern, PyTorch NGC im Template-Auswahlmenü wählen, Datenträger und Umgebungsvariablen festlegen, bereitstellen.
- CLI – pip install lowcostgpu, dann der Befehl rechts. CLI-Referenz.
- API – POST /v1/instances mit "template": "pytorch-ngc". REST-Referenz.
- Eigenes Image – jede OCI-Referenz funktioniert ebenfalls; wir injizieren die NVIDIA-Runtime. Template-Dokumentation.
$ lowcostgpu launch --gpu a100-sxm4 --template pytorch-ngc \
--disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (2m38s)
# PyTorch NGC · A100 SXM4 · $0,468/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8000 (TLS)
$ lowcostgpu stop i-7a41c0e2 # billing ends this secondWas steckt im Template PyTorch NGC
| Image | nvcr.io/nvidia/pytorch |
|---|---|
| CUDA | übernimmt Host-Treiber (beliebige 12.x-/13.x-Version) |
| Zugang | SSH-Shell · vollständige virtuelle Maschine (KVM) |
| Kategorie | Basis & Frameworks |
| Speicherplatz | NVMe-Instanzdatenträger (Größe bei Bereitstellung festgelegt) + optionale Netzwerk-Volumes |
| Abrechnung | Nur GPU-Preis, pro Sekunde – keine Template-Gebühr, keine Einrichtungsgebühr |
Weitere basis & frameworks Templates
NVIDIA CUDA auf einer Cloud-GPU — Das reine CUDA-Basis-Image – Treiber, Toolkit, SSH und Jupyter. Bauen Sie Ihren eigenen Stack darauf auf.
PyTorch auf einer Cloud-GPU — Der Standard für Training und Forschung: PyTorch 2.6, cuDNN, JupyterLab und SSH von Haus aus.
TensorFlow CUDA auf einer Cloud-GPU — TensorFlow mit GPU-Unterstützung, Keras und TensorBoard auf einem zugeordneten Port.- NVIDIA RAPIDS auf einer Cloud-GPU — GPU-beschleunigte Data Science – cuDF, cuML, cuGraph in einem Notebook.
All-in-One-App-Studio auf einer Cloud-GPU — Ein Launcher, der die meistgenutzten KI-Anwendungen auf einem Desktop bündelt – auswählen und starten.- Alle 37 Templates
PyTorch NGC auf einer Cloud-GPU: FAQ
Umgebungsvariablen, Ports und benutzerdefinierte Images werden in der Template-Dokumentation behandelt.
Wie viel kostet es, PyTorch NGC auf einer Cloud-GPU auszuführen?
Nur der GPU-Preis – das Template ist kostenlos. Ab $0,234/Std. auf einer unterbrechbaren A100 SXM4, $0,468/Std. On-Demand auf einer A100 SXM4. Es wird pro Sekunde abgerechnet, eine Stunde Herumprobieren kostet also eine Stunde, nicht einen Tag. Datenträger kosten $0,08/GB/Monat.
Wie lange dauert der Start von PyTorch NGC?
Zwei bis vier Minuten: Dieses Template ist eine vollständige virtuelle Maschine, die einen eigenen Kernel startet. Der Neustart einer gestoppten Instanz ist schneller, und Ihr Datenträger ist genauso, wie Sie ihn verlassen haben.
Kann ich meine Modelle und Ausgaben zwischen Sessions behalten?
Ja – fügen Sie bei der Bereitstellung einen Datenträger hinzu. Alles auf dem Datenträger übersteht das Löschen der Instanz und wird in Sekunden auf der nächsten Instanz in der Region eingebunden, für $0,08/GB/Monat. Der Instanzdatenträger selbst übersteht Stopp/Start, aber nicht das Löschen.
Warum den NGC-Build statt reinem PyTorch wählen?
Auf Datacenter-GPUs ist der NGC-Container beim Transformer-Training dank Transformer Engine, fusionierten Kerneln und NCCL-Tuning meist 10–30 % schneller – und wird von NVIDIA Version für Version validiert.