Läuft in ~30 s
Vorab zwischengespeichertes Image, Ports zugeordnet, TLS terminiert – der Stack läuft, bevor Sie diesen Satz zu Ende gelesen haben.
Template · Basis & Frameworks · CUDA 12.8
PyTorch auf einer Cloud-GPU starten, in 30 Sekunden
Der Standard für Training und Forschung: PyTorch 2.6, cuDNN, JupyterLab und SSH von Haus aus. PyTorch 2.6 mit CUDA 12.8, cuDNN, torchvision und torchaudio, JupyterLab auf einem zugeordneten Port und SSH – die Umgebung, die von der meisten Forschungssoftware vorausgesetzt wird. Datensätze und Checkpoints liegen auf einem Datenträger, sodass die Instanz wegwerfbar bleibt und die sekundengenaue Abrechnung den Rest übernimmt. Ab $0,177/Std. auf einer unterbrechbaren RTX 4090.
Template ist kostenlos
Sie zahlen nur den GPU-Preis: PyTorch auf einer RTX 4090 kostet $0,354/Std. On-Demand, $0,177/Std. unterbrechbar, abgerechnet pro Sekunde.
Volumes für Zustandsdaten
Modelle, Datensätze und Ausgaben liegen auf einem Datenträger für $0,08/GB/Monat; die Instanz bleibt austauschbar.
Standardmäßig privat
Dedizierte GPU, verschlüsselter Datenträger, Kryptozahlungen, ohne KYC, keine gespeicherten IPs – Jupyter und SSH hinter Ihren eigenen Zugangsdaten.
Beste GPUs für PyTorch
Drei Preisstufen, mit denen dieses Template gut läuft – gut, besser, am besten. Jedes Modell im Katalog funktioniert; dies sind die besten Preis-Leistungs-Optionen.
| Stufe | GPU | VRAM | On-Demand | Unterbrechbar | Warum diese Karte | Aktion |
|---|---|---|---|---|---|---|
| Gut | RTX 4090 | 24 GB | $0,354 | $0,177 | 24 GB und Ada-Tensor-Cores: der beste Preis für Einzel-GPU-Experimente und LoRA-Läufe. | Bereitstellen |
| Besser | A100 SXM4 | 80 GB | $0,468 | $0,234 | 80 GB HBM2e mit NVLink für Multi-GPU-Training mit bis zu 8× auf einer Maschine. | Bereitstellen |
| Am besten | H100 SXM | 80 GB | $1,680 | $0,840 | FP8 und 3,35 TB/s für vollständige Fine-Tunes und Pretraining zu den niedrigsten Kosten pro Schritt. | Bereitstellen |
Mehr VRAM benötigt? Der vollständige Katalog listet alle 83 Modelle mit Verfügbarkeit in Echtzeit auf; der VRAM-Leitfaden ordnet Modelle den passenden Karten zu.
PyTorch über Konsole, CLI oder API bereitstellen
Wählen Sie das Template in der Bereitstellungsleiste der Konsole, oder erledigen Sie es per Skript:
- Konsole – nach GPU filtern, PyTorch im Template-Auswahlmenü wählen, Datenträger und Umgebungsvariablen festlegen, bereitstellen.
- CLI – pip install lowcostgpu, dann der Befehl rechts. CLI-Referenz.
- API – POST /v1/instances mit "template": "pytorch". REST-Referenz.
- Eigenes Image – jede OCI-Referenz funktioniert ebenfalls; wir injizieren die NVIDIA-Runtime. Template-Dokumentation.
$ lowcostgpu launch --gpu rtx-4090 --template pytorch \
--disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (27.9s)
# PyTorch · RTX 4090 · $0,354/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8888 (TLS)
$ lowcostgpu stop i-7a41c0e2 # billing ends this secondWas steckt im Template PyTorch
| Image | lowcostgpu/pytorch:2.6-cuda12.8 |
|---|---|
| CUDA | CUDA 12.8 |
| Zugang | baut auch für ARM-Hosts · SSH-Shell · JupyterLab auf einem zugeordneten Port |
| Kategorie | Basis & Frameworks |
| Speicherplatz | NVMe-Instanzdatenträger (Größe bei Bereitstellung festgelegt) + optionale Netzwerk-Volumes |
| Abrechnung | Nur GPU-Preis, pro Sekunde – keine Template-Gebühr, keine Einrichtungsgebühr |
Weitere basis & frameworks Templates
NVIDIA CUDA auf einer Cloud-GPU — Das reine CUDA-Basis-Image – Treiber, Toolkit, SSH und Jupyter. Bauen Sie Ihren eigenen Stack darauf auf.
TensorFlow CUDA auf einer Cloud-GPU — TensorFlow mit GPU-Unterstützung, Keras und TensorBoard auf einem zugeordneten Port.- PyTorch NGC auf einer Cloud-GPU — NGC-optimierter PyTorch-Build von NVIDIA – abgestimmte Kernel für die Datacenter-Karten.
- NVIDIA RAPIDS auf einer Cloud-GPU — GPU-beschleunigte Data Science – cuDF, cuML, cuGraph in einem Notebook.
All-in-One-App-Studio auf einer Cloud-GPU — Ein Launcher, der die meistgenutzten KI-Anwendungen auf einem Desktop bündelt – auswählen und starten.- Alle 37 Templates
PyTorch auf einer Cloud-GPU: FAQ
Umgebungsvariablen, Ports und benutzerdefinierte Images werden in der Template-Dokumentation behandelt.
Wie viel kostet es, PyTorch auf einer Cloud-GPU auszuführen?
Nur der GPU-Preis – das Template ist kostenlos. Ab $0,177/Std. auf einer unterbrechbaren RTX 4090, $0,354/Std. On-Demand auf einer RTX 4090. Es wird pro Sekunde abgerechnet, eine Stunde Herumprobieren kostet also eine Stunde, nicht einen Tag. Datenträger kosten $0,08/GB/Monat.
Wie lange dauert der Start von PyTorch?
Etwa 30 Sekunden nach dem Klick auf „Bereitstellen“: Das Image ist auf den Hosts vorab zwischengespeichert, Ports sind zugeordnet und TLS wird für Sie terminiert. Der Neustart einer gestoppten Instanz ist schneller, und Ihr Datenträger ist genauso, wie Sie ihn verlassen haben.
Kann ich meine Modelle und Ausgaben zwischen Sessions behalten?
Ja – fügen Sie bei der Bereitstellung einen Datenträger hinzu. Alles auf dem Datenträger übersteht das Löschen der Instanz und wird in Sekunden auf der nächsten Instanz in der Region eingebunden, für $0,08/GB/Monat. Der Instanzdatenträger selbst übersteht Stopp/Start, aber nicht das Löschen.
Unterstützt es torch.compile und FSDP?
Ja – das Image liefert den passenden Triton-Build für torch.compile mit, und FSDP/DDP funktionieren auf Multi-GPU-Maschinen sofort einsatzbereit (NCCL über NVLink, wo die Hardware es unterstützt).