Template · Entraînement et fine-tuning · CUDA 12.9

Lancer AI Toolkit (Ostris) sur un GPU cloud, en 30 secondes

L’outil d’entraînement AI-Toolkit pour Flux et les modèles de diffusion, avec une interface web. L’AI Toolkit d’Ostris est l’outil d’entraînement de référence pour Flux et les modèles de diffusion récents : entraînement LoRA avec un YAML clair, une interface web de suivi, et la prise en charge des dernières versions de modèles avant que les autres outils ne suivent. À partir de $0,177/h sur une RTX 4090 interruptible.

Déployer Ostris AI Toolkit Tous les 37 templates

Actif en ~30 s

Image pré-mise en cache, ports mappés, TLS terminé — la stack fonctionne avant même que vous ayez fini de lire cette phrase.

Template gratuit

Vous payez uniquement le prix du GPU : Ostris AI Toolkit sur une RTX 4090 coûte $0,354/h à la demande, $0,177/h en interruptible, facturé à la seconde.

Volumes pour l’état

Les modèles, jeux de données et résultats vivent sur un volume à $0,08/GB/mois ; l’instance reste jetable.

Privé par défaut

GPU dédié, disque chiffré, paiements en crypto, sans KYC, aucune IP stockée — Jupyter et SSH derrière vos propres identifiants.

Meilleurs GPU pour Ostris AI Toolkit

Trois paliers de prix qui font bien tourner ce template — Bon, Meilleur, Le meilleur. Tous les modèles du catalogue fonctionnent ; ce sont les options les plus avantageuses.

Palier	GPU	VRAM	À la demande	Interruptible	Pourquoi cette carte	Action
Bon	RTX 4090	24 GB	$0,354	$0,177	Exécute l’entraînement LoRA de Flux dev avec l’option VRAM faible.	Déployer
Meilleur	RTX 5090	32 GB	$0,481	$0,240	32 GB de marge pour des résolutions plus grandes.	Déployer
Le meilleur	RTX PRO 6000 WS	96 GB	$0,981	$0,490	96 GB pour des fine-tunes complets de modèles de diffusion.	Déployer

Besoin de plus de VRAM ? Le catalogue complet liste tous les 83 modèles avec leur disponibilité en direct ; le guide VRAM associe les modèles aux cartes.

Déployez Ostris AI Toolkit depuis la console, le CLI ou l’API

Choisissez le template dans la barre de déploiement de la console, ou scriptez-le :

Console — filtrez par GPU, choisissez Ostris AI Toolkit dans le sélecteur de templates, définissez le disque et l’environnement, déployez.
CLI — pip install lowcostgpu, puis la commande à droite. Référence CLI.
API — POST /v1/instances avec "template": "ostris-ai-toolkit". Référence REST.
Votre image — toute référence OCI fonctionne aussi ; nous injectons le runtime NVIDIA. Documentation des templates.

déploiement — ostris-ai-toolkit

$ lowcostgpu launch --gpu rtx-4090 --template ostris-ai-toolkit \
    --disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (27.9s)
# Ostris AI Toolkit · RTX 4090 · $0,354/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8888 (TLS)
$ lowcostgpu stop i-7a41c0e2   # billing ends this second

Ce que contient le template Ostris AI Toolkit

Image	lowcostgpu/ostris-ai-toolkit
CUDA	CUDA 12.9
Accès	Shell SSH · JupyterLab sur un port mappé
Catégorie	Entraînement et fine-tuning
Stockage	Disque NVMe de l’instance (dimensionné au déploiement) + volumes réseau en option
Facturation	Le prix du GPU uniquement, à la seconde — aucun frais de template, aucun frais d’installation

Autres templates de entraînement et fine-tuning

Axolotl — fine-tuning sur un GPU cloud — Fine-tunez Llama, Qwen ou Mistral depuis un seul YAML — LoRA, QLoRA et FSDP multi-GPU.
Unsloth Studio sur un GPU cloud — Fine-tuning 2× plus rapide, moins gourmand en VRAM — kernels Unsloth, workflow en notebook.
Kohya's GUI sur un GPU cloud — Entraînez des LoRA d’image SDXL et Flux via une interface graphique dans le navigateur — jeu de données en entrée, .safetensors en sortie.
Flux Gym sur un GPU cloud — Une interface on ne peut plus simple pour entraîner des LoRA Flux, construite sur les scripts Kohya.
Tous les 37 templates

Ostris AI Toolkit sur un GPU cloud : FAQ

Les variables d’environnement, les ports et les images personnalisées sont couverts dans la documentation des templates.

Combien coûte l’exécution de Ostris AI Toolkit sur un GPU cloud ?

Seulement le prix du GPU — le template est gratuit. À partir de $0,177/h sur une RTX 4090 interruptible, $0,354/h à la demande sur une RTX 4090. La facturation est à la seconde, donc une heure d’expérimentation coûte une heure, pas une journée. Le stockage est à $0,08/GB/mois.

Combien de temps faut-il pour démarrer Ostris AI Toolkit ?

Environ 30 secondes après le clic de déploiement : l’image est pré-mise en cache sur les hôtes, les ports sont mappés et le TLS est terminé pour vous. Redémarrer une instance arrêtée est plus rapide, et votre disque est exactement comme vous l’avez laissé.

Puis-je conserver mes modèles et mes résultats entre les sessions ?

Oui — attachez un volume au déploiement. Tout ce qui se trouve sur le volume survit à la destruction de l’instance et se monte sur l’instance suivante dans la région en quelques secondes, à $0,08/GB/mois. Le disque de l’instance lui-même survit à l’arrêt et au démarrage, mais pas à la destruction.

Puis-je entraîner un modèle sur un volume de dataset monté ?

Oui — pointez le chemin du jeu de données de la configuration vers le point de montage du volume ; les sorties et les échantillons se retrouvent sur le même volume, si bien que rien n’est perdu quand l’instance d’entraînement est détruite.