Template · Entraînement et fine-tuning · CUDA 12.6

Lancer le fine-tuning Axolotl sur un GPU cloud, en 30 secondes

Fine-tunez Llama, Qwen ou Mistral depuis un seul YAML — LoRA, QLoRA et FSDP multi-GPU. Axolotl permet de fine-tuner Llama, Qwen, Mistral et consorts à partir d’un seul YAML : LoRA, QLoRA, full-parameter, DeepSpeed et FSDP, avec les formats de jeux de données déjà pris en charge. Le template est celui sur lequel s’appuie notre guide QLoRA — les checkpoints vont sur un volume, l’instance d’entraînement est jetable. À partir de $0,177/h sur une RTX 4090 interruptible.

Déployer Axolotl — fine-tuning Tous les 37 templates

Actif en ~30 s

Image pré-mise en cache, ports mappés, TLS terminé — la stack fonctionne avant même que vous ayez fini de lire cette phrase.

Template gratuit

Vous payez uniquement le prix du GPU : Axolotl — fine-tuning sur une RTX 4090 coûte $0,354/h à la demande, $0,177/h en interruptible, facturé à la seconde.

Volumes pour l’état

Les modèles, jeux de données et résultats vivent sur un volume à $0,08/GB/mois ; l’instance reste jetable.

Privé par défaut

GPU dédié, disque chiffré, paiements en crypto, sans KYC, aucune IP stockée — Jupyter et SSH derrière vos propres identifiants.

Meilleurs GPU pour Axolotl — fine-tuning

Trois paliers de prix qui font bien tourner ce template — Bon, Meilleur, Le meilleur. Tous les modèles du catalogue fonctionnent ; ce sont les options les plus avantageuses.

Palier	GPU	VRAM	À la demande	Interruptible	Pourquoi cette carte	Action
Bon	RTX 4090	24 GB	$0,354	$0,177	QLoRA 8B–13B sur 24 GB pour quelques dollars.	Déployer
Meilleur	A100 SXM4	80 GB	$0,468	$0,234	80 GB avec NVLink pour des fine-tunes complets et du FSDP 8×.	Déployer
Le meilleur	H100 PCIE	80 GB	$1,811	$0,905	80 GB + FP8 — des fine-tunes complets en environ la moitié de la durée réelle d’un A100.	Déployer

Besoin de plus de VRAM ? Le catalogue complet liste tous les 83 modèles avec leur disponibilité en direct ; le guide VRAM associe les modèles aux cartes.

Déployez Axolotl — fine-tuning depuis la console, le CLI ou l’API

Choisissez le template dans la barre de déploiement de la console, ou scriptez-le :

Console — filtrez par GPU, choisissez Axolotl — fine-tuning dans le sélecteur de templates, définissez le disque et l’environnement, déployez.
CLI — pip install lowcostgpu, puis la commande à droite. Référence CLI.
API — POST /v1/instances avec "template": "axolotl-fine-tuning". Référence REST.
Votre image — toute référence OCI fonctionne aussi ; nous injectons le runtime NVIDIA. Documentation des templates.

déploiement — axolotl-fine-tuning

$ lowcostgpu launch --gpu rtx-4090 --template axolotl-fine-tuning \
    --disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (27.9s)
# Axolotl — fine-tuning · RTX 4090 · $0,354/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8888 (TLS)
$ lowcostgpu stop i-7a41c0e2   # billing ends this second

Ce que contient le template Axolotl — fine-tuning

Image	axolotlai/axolotl-cloud
CUDA	CUDA 12.6
Accès	se construit aussi pour les hôtes ARM · Shell SSH · JupyterLab sur un port mappé
Catégorie	Entraînement et fine-tuning
Stockage	Disque NVMe de l’instance (dimensionné au déploiement) + volumes réseau en option
Facturation	Le prix du GPU uniquement, à la seconde — aucun frais de template, aucun frais d’installation

Autres templates de entraînement et fine-tuning

Unsloth Studio sur un GPU cloud — Fine-tuning 2× plus rapide, moins gourmand en VRAM — kernels Unsloth, workflow en notebook.
Kohya's GUI sur un GPU cloud — Entraînez des LoRA d’image SDXL et Flux via une interface graphique dans le navigateur — jeu de données en entrée, .safetensors en sortie.
Flux Gym sur un GPU cloud — Une interface on ne peut plus simple pour entraîner des LoRA Flux, construite sur les scripts Kohya.
Ostris AI Toolkit sur un GPU cloud — L’outil d’entraînement AI-Toolkit pour Flux et les modèles de diffusion, avec une interface web.
Tous les 37 templates

Axolotl — fine-tuning sur un GPU cloud : FAQ

Les variables d’environnement, les ports et les images personnalisées sont couverts dans la documentation des templates.

Combien coûte l’exécution de Axolotl — fine-tuning sur un GPU cloud ?

Seulement le prix du GPU — le template est gratuit. À partir de $0,177/h sur une RTX 4090 interruptible, $0,354/h à la demande sur une RTX 4090. La facturation est à la seconde, donc une heure d’expérimentation coûte une heure, pas une journée. Le stockage est à $0,08/GB/mois.

Combien de temps faut-il pour démarrer Axolotl — fine-tuning ?

Environ 30 secondes après le clic de déploiement : l’image est pré-mise en cache sur les hôtes, les ports sont mappés et le TLS est terminé pour vous. Redémarrer une instance arrêtée est plus rapide, et votre disque est exactement comme vous l’avez laissé.

Puis-je conserver mes modèles et mes résultats entre les sessions ?

Oui — attachez un volume au déploiement. Tout ce qui se trouve sur le volume survit à la destruction de l’instance et se monte sur l’instance suivante dans la région en quelques secondes, à $0,08/GB/mois. Le disque de l’instance lui-même survit à l’arrêt et au démarrage, mais pas à la destruction.

Combien de temps dure un run QLoRA ?

Environ 1,5 heure pour 10k paires d’instructions sur Llama 3.1 8B, sur une seule RTX 4090 ; un QLoRA 70B sur une carte de 80 GB est un travail de toute une nuit. Le guide indique les configurations précises et les coûts exacts.