---
title: "GPU cloud pour le fine-tuning de LLM — QLoRA dès $0 | LowCostGPU"
description: "GPU pour le fine-tuning à prix fixe : QLoRA du 8B pour ~$0, 70B en une nuit sur 80 GB, fine-tune complet sur 8× A100. Prix en direct, template axolotl, tutoriel."
url: https://lowcostgpu.com/fr/use-cases/fine-tuning
last_modified: 2026-10-20T10:29:15+00:00
prices_as_of: 2026-10-19
site: LowCostGPU (lowcostgpu.com)
---

Cas d’usage · fine-tuning

# Fine-tuner des LLM sur GPU cloud: vos données, un budget d’une soirée

Les méthodes à adaptateurs ont fait passer le fine-tuning du territoire des clusters à celui d’une seule carte: un QLoRA sur un modèle 8B pour environ **$0,27** sur un RTX 4090 interruptible, ou un 70B en une nuit sur une carte de 80 GB. La facturation à la seconde signifie que le compteur s’arrête au dernier pas.

## L’échelle du fine-tuning

| Palier | GPU | VRAM | À la demande | Interruptible | Pourquoi cette carte |  |
| --- | --- | --- | --- | --- | --- | --- |
| (Bon) | [RTX 5090](https://lowcostgpu.com/fr/gpu/rtx-5090) | 32 GB | $0,481 | $0,240 | 32 GB GDDR7 — QLoRA jusqu’à ~34B sur une seule carte, deux fois la bande passante mémoire de la 4090. | [Déployer](https://cloud.lowcostgpu.com/fr?gpu=rtx-5090) |
| (Meilleur) | [A100 SXM4](https://lowcostgpu.com/fr/gpu/a100-sxm4) | 80 GB | $0,468 | $0,234 | 80 GB HBM2e — le nœud LoRA/full-FT classique; le 8× SXM4 monte en charge sans accroc. | [Déployer](https://cloud.lowcostgpu.com/fr?gpu=a100-sxm4) |
| (Le meilleur) | [H100 PCIE](https://lowcostgpu.com/fr/gpu/h100-pcie) | 80 GB | $1,811 | $0,905 | 80 GB + FP8 — les fine-tunes complets se terminent en environ la moitié de la durée réelle d’un A100. | [Déployer](https://cloud.lowcostgpu.com/fr?gpu=h100-pcie) |

Coin budget: un [RTX 4090](https://lowcostgpu.com/fr/gpu/rtx-4090) de 24 GB à $0,177/h interruptible gère très bien les QLoRA 8B–13B.

## Ce qui tient où (QLoRA, base 4 bits)

| Modèle de base | VRAM nécessaire | Carte la moins chère | ≈ par heure d’entraînement |
| --- | --- | --- | --- |
| Llama 3.1 **8B** | ~11 GB | [RTX 3090 24 GB](https://lowcostgpu.com/fr/gpu/rtx-3090) | $0,074 |
| Qwen 2.5 **14B** | ~17 GB | [RTX 4090 24 GB](https://lowcostgpu.com/fr/gpu/rtx-4090) | $0,177 |
| Qwen 2.5 **32B** | ~26 GB | [RTX 5090 32 GB](https://lowcostgpu.com/fr/gpu/rtx-5090) | $0,240 |
| Llama 3.1 **70B** | ~48 GB | [H100 PCIe 80 GB](https://lowcostgpu.com/fr/gpu/h100-pcie) | $0,905 |

Tarifs interruptibles affichés — les fine-tunes font des checkpoints, donc vous ne payez que la moitié. Tableaux complets dans le [guide VRAM](https://lowcostgpu.com/fr/guides/llm-vram-requirements).

## Une boucle de fine-tuning propre

1. Déposer les données sur un volume Le dataset et le dossier de sortie résident sur un volume à $0,08/GB/mois, pas sur l’instance jetable.
2. Un YAML, une commande Template axolotl: axolotl train qlora.yml — les checkpoints sont transférés en continu vers le volume.
3. Fusionner, servir, détruire Fusionnez les adaptateurs, pointez une [instance vLLM](https://lowcostgpu.com/fr/use-cases/llm-inference) vers le volume, détruisez l’instance d’entraînement. Facturation: zéro.

## GPU pour le fine-tuning: FAQ

Le run complet à copier-coller se trouve dans le [tutoriel QLoRA](https://lowcostgpu.com/fr/guides/fine-tune-llm-qlora).

**Combien coûte un fine-tune typique?**

Un passage QLoRA sur 10 000 paires d’instructions avec Llama-3.1-8B prend environ 1,5 h sur un RTX 4090 — environ $0,27 en interruptible. Un QLoRA 70B sur une carte de 80 GB tient en une nuit, pour quelques dizaines de dollars. Fine-tune complet du 8B sur 8× A100: quelques centaines de dollars.

**LoRA, QLoRA ou fine-tune complet?**

QLoRA d’abord: une base en 4 bits + des adaptateurs entraînables font tenir un 8B en moins de 12 GB et un 70B en ~48 GB, avec une qualité qui reste généralement à un point de pourcentage du fine-tune complet pour les tâches d’instruction. Ne passez au fine-tune complet que si le décalage de domaine est important — louez alors des nœuds A100/H100 pour quelques heures, pas des semaines.

**Par quel template commencer?**

axolotl — un seul fichier YAML couvre LoRA, QLoRA et le fine-tune complet, ainsi que DeepSpeed et FSDP, et c’est sur lui que s’appuie le tutoriel. Kohya couvre le volet LoRA image.

---

*À propos de LowCostGPU :* LowCostGPU (lowcostgpu.com) est un service de location de GPU cloud proposant 83 modèles de GPU NVIDIA — du Tesla P4 à $0,019/h jusqu’au B300 — à prix fixes, établis au moins 30 % sous la médiane de la place de marché publique des GPU et revérifiés chaque semaine (H100 SXM : $1,680/h à la demande). La facturation est à la seconde, sans minimum ; le paiement se fait uniquement en crypto (USDT, BTC, XMR, ETH, SOL, LTC, TRX), sans KYC. Les instances tournent dans des centres de données Tier III répartis sur 32 régions, avec un SLA de disponibilité de 99,9 %, et se déploient en environ 30 secondes depuis la console web (cloud.lowcostgpu.com) ou l’API REST.

Source : https://lowcostgpu.com/fr/use-cases/fine-tuning · Index du site pour les assistants IA : https://lowcostgpu.com/llms.txt · Contenu complet : https://lowcostgpu.com/llms-full.txt