Template · Base et frameworks · CUDA 12.8

Lancer PyTorch sur un GPU cloud, en 30 secondes

Le choix par défaut pour l’entraînement et la recherche : PyTorch 2.6, cuDNN, JupyterLab et SSH prêts à l’emploi. PyTorch 2.6 avec CUDA 12.8, cuDNN, torchvision et torchaudio, JupyterLab sur un port mappé et SSH — l’environnement que suppose la majorité du code de recherche. Les datasets et les checkpoints vivent sur un volume, si bien que l’instance reste jetable et que la facturation à la seconde fait le reste. À partir de $0,177/h sur une RTX 4090 interruptible.

Déployer PyTorch Tous les 37 templates

Actif en ~30 s

Image pré-mise en cache, ports mappés, TLS terminé — la stack fonctionne avant même que vous ayez fini de lire cette phrase.

Template gratuit

Vous payez uniquement le prix du GPU : PyTorch sur une RTX 4090 coûte $0,354/h à la demande, $0,177/h en interruptible, facturé à la seconde.

Volumes pour l’état

Les modèles, jeux de données et résultats vivent sur un volume à $0,08/GB/mois ; l’instance reste jetable.

Privé par défaut

GPU dédié, disque chiffré, paiements en crypto, sans KYC, aucune IP stockée — Jupyter et SSH derrière vos propres identifiants.

Meilleurs GPU pour PyTorch

Trois paliers de prix qui font bien tourner ce template — Bon, Meilleur, Le meilleur. Tous les modèles du catalogue fonctionnent ; ce sont les options les plus avantageuses.

Palier	GPU	VRAM	À la demande	Interruptible	Pourquoi cette carte	Action
Bon	RTX 4090	24 GB	$0,354	$0,177	24 GB et des Tensor Core Ada : le meilleur prix pour les expériences mono-GPU et les exécutions LoRA.	Déployer
Meilleur	A100 SXM4	80 GB	$0,468	$0,234	80 GB HBM2e avec NVLink pour de l’entraînement multi-GPU jusqu’à 8× sur une même machine.	Déployer
Le meilleur	H100 SXM	80 GB	$1,680	$0,840	FP8 et 3,35 TB/s pour les fine-tunes complets et le pré-entraînement, au coût par étape le plus bas.	Déployer

Besoin de plus de VRAM ? Le catalogue complet liste tous les 83 modèles avec leur disponibilité en direct ; le guide VRAM associe les modèles aux cartes.

Déployez PyTorch depuis la console, le CLI ou l’API

Choisissez le template dans la barre de déploiement de la console, ou scriptez-le :

Console — filtrez par GPU, choisissez PyTorch dans le sélecteur de templates, définissez le disque et l’environnement, déployez.
CLI — pip install lowcostgpu, puis la commande à droite. Référence CLI.
API — POST /v1/instances avec "template": "pytorch". Référence REST.
Votre image — toute référence OCI fonctionne aussi ; nous injectons le runtime NVIDIA. Documentation des templates.

déploiement — pytorch

$ lowcostgpu launch --gpu rtx-4090 --template pytorch \
    --disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (27.9s)
# PyTorch · RTX 4090 · $0,354/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8888 (TLS)
$ lowcostgpu stop i-7a41c0e2   # billing ends this second

Ce que contient le template PyTorch

Image	lowcostgpu/pytorch:2.6-cuda12.8
CUDA	CUDA 12.8
Accès	se construit aussi pour les hôtes ARM · Shell SSH · JupyterLab sur un port mappé
Catégorie	Base et frameworks
Stockage	Disque NVMe de l’instance (dimensionné au déploiement) + volumes réseau en option
Facturation	Le prix du GPU uniquement, à la seconde — aucun frais de template, aucun frais d’installation

Autres templates de base et frameworks

NVIDIA CUDA sur un GPU cloud — L’image de base CUDA minimale — pilotes, toolkit, SSH et Jupyter. Construisez votre propre stack par-dessus.
TensorFlow CUDA sur un GPU cloud — TensorFlow avec prise en charge du GPU, Keras et TensorBoard, sur un port mappé.
PyTorch NGC sur un GPU cloud — Image PyTorch de NVIDIA optimisée pour NGC — noyaux ajustés pour les cartes datacenter.
NVIDIA RAPIDS sur un GPU cloud — Data science accélérée par GPU — cuDF, cuML, cuGraph dans un notebook.
Studio d’applications tout-en-un sur un GPU cloud — Un lanceur qui regroupe les applications IA les plus utilisées derrière un même bureau — choisissez et lancez.
Tous les 37 templates

PyTorch sur un GPU cloud : FAQ

Les variables d’environnement, les ports et les images personnalisées sont couverts dans la documentation des templates.

Combien coûte l’exécution de PyTorch sur un GPU cloud ?

Seulement le prix du GPU — le template est gratuit. À partir de $0,177/h sur une RTX 4090 interruptible, $0,354/h à la demande sur une RTX 4090. La facturation est à la seconde, donc une heure d’expérimentation coûte une heure, pas une journée. Le stockage est à $0,08/GB/mois.

Combien de temps faut-il pour démarrer PyTorch ?

Environ 30 secondes après le clic de déploiement : l’image est pré-mise en cache sur les hôtes, les ports sont mappés et le TLS est terminé pour vous. Redémarrer une instance arrêtée est plus rapide, et votre disque est exactement comme vous l’avez laissé.

Puis-je conserver mes modèles et mes résultats entre les sessions ?

Oui — attachez un volume au déploiement. Tout ce qui se trouve sur le volume survit à la destruction de l’instance et se monte sur l’instance suivante dans la région en quelques secondes, à $0,08/GB/mois. Le disque de l’instance lui-même survit à l’arrêt et au démarrage, mais pas à la destruction.

Prend-il en charge torch.compile et FSDP ?

Oui — l’image embarque le build Triton correspondant pour torch.compile, et FSDP/DDP fonctionnent nativement sur les machines multi-GPU (NCCL par NVLink là où le matériel le permet).