---
title: "Meilleur GPU cloud pour l’inférence LLM, par taille de modèle"
description: "De 8B à 405B : la carte louable la moins chère pour chaque modèle, tokens par seconde indicatifs avec vLLM, et coût par million de tokens sur la grille du jour."
url: https://lowcostgpu.com/fr/guides/best-cloud-gpu-for-llm-inference
last_modified: 2026-10-20T10:29:15+00:00
prices_as_of: 2026-10-19
site: LowCostGPU (lowcostgpu.com)
---

Guide · Choix du matériel

# Meilleur GPU cloud pour l’inférence LLM, par taille de modèle

De 8B à 405B: la carte louable la moins chère pour chaque modèle, tokens par seconde indicatifs avec vLLM, et coût par million de tokens sur la grille du jour.

10 min de lecture Publié le 2026-09-03 Mis à jour le 2026-09-03 (prix en direct depuis la fiche de prix)

TL;DR

- Faites correspondre la VRAM au modèle, puis achetez de la bande passante: RTX 5090 pour 7-14B, L40S ou A6000 pour 32B, H100 ou H200 pour 70B et plus.
- Prévoyez environ 2,4 GB par milliard de paramètres en FP16 et 0,62 GB en 4 bits, puis ajoutez le cache KV pour le contexte multiplié par la simultanéité.
- Sur LowCostGPU, une RTX 5090 à $0,481 soutient environ 2 800 tokens par seconde sur un 8B; la capacité interruptible divise par deux le coût par token.
- Le coût par million de tokens est égal au tarif horaire divisé par les tokens par seconde, multiplié par 3 600, puis par un million; mesurez-le à la simultanéité réelle.

## Trois règles avant tout benchmark

1. **La VRAM décide de ce qui tourne.** Les poids plus le cache KV doivent tenir, avec de la marge: ~2,4 GB par milliard de paramètres en FP16, ~0,62 GB en 4-bit, puis ajoutez le cache pour votre contexte × concurrence. Le [guide VRAM](https://lowcostgpu.com/fr/guides/llm-vram-requirements) contient les tableaux complets.
2. **La bande passante décide de la vitesse.** Le décodage est limité par la bande passante mémoire: les tokens par seconde suivent les GB/s plus que les TFLOPS. C’est pourquoi une RTX 5090 à 1,79 TB/s bat une RTX 4090 à 1 TB/s de plus que ce que ses FLOPS suggèrent, et pourquoi les cartes HBM dominent le service des modèles 70B.
3. **Le batch décide de la facture.** Le traitement par lots continu (vLLM, SGLang, TGI) transforme une carte en une douzaine de flux simultanés. Le coût par million de tokens n’a de sens qu’au niveau de concurrence que vous utiliserez réellement.

## Le tableau: taille du modèle → carte → $ par million de tokens

Débit agrégé indicatif sous traitement par lots continu de vLLM (environ 1k tokens en entrée, 1k en sortie, batch 32–64) et le coût résultant aux tarifs à la demande du jour — snapshot 2026-10-19. Traitez la colonne tokens/s comme des chiffres communautaires d’ordre de grandeur et testez votre propre modèle; la colonne prix est exacte.

| Modèle | Précision / poids | Carte | À la demande | ~tokens/s | $ / M tokens | Note |
| --- | --- | --- | --- | --- | --- | --- |
| Llama 3.1 8B | FP16, 16 GB | [RTX 4090](https://lowcostgpu.com/fr/gpu/rtx-4090) (24 GB) | $0,354 | ~2 200 | **$0,045** | Le choix par défaut: tient avec de la marge pour le cache KV sur 24 GB. |
| Llama 3.1 8B | FP16, 16 GB | [RTX 5090](https://lowcostgpu.com/fr/gpu/rtx-5090) (32 GB) | $0,481 | ~2 800 | **$0,048** | 78 % de bande passante en plus que la 4090 se traduit directement en tokens/s. |
| Llama 3.1 8B | 4-bit, ~6 GB | [RTX 3060](https://lowcostgpu.com/fr/gpu/rtx-3060) (12 GB) | $0,058 | ~900 | **$0,018** | L’endpoint le moins cher qui fonctionne dans ce tableau. |
| Qwen 2.5 14B | FP16, 28 GB | [RTX 5090](https://lowcostgpu.com/fr/gpu/rtx-5090) (32 GB) | $0,481 | ~1 500 | **$0,089** | 32 GB contient un 14B en FP16 avec un contexte modeste. |
| Qwen 2.5 32B | 4-bit, ~20 GB | [RTX 4090](https://lowcostgpu.com/fr/gpu/rtx-4090) (24 GB) | $0,354 | ~700 | **$0,140** | AWQ/GPTQ 4-bit sur 24 GB; qualité à un point du FP16. |
| Qwen 2.5 32B | FP16, 64 GB | [H100 PCIE](https://lowcostgpu.com/fr/gpu/h100-pcie) (80 GB) | $1,811 | ~2 400 | **$0,210** | Le FP8 sur Hopper double à peu près ce nombre, une fois de plus. |
| Llama 3.1 70B | 4-bit, ~40 GB | [RTX A6000](https://lowcostgpu.com/fr/gpu/rtx-a6000) (48 GB) | $0,281 | ~350 | **$0,223** | Carte unique la moins chère qui tient un 70B. |
| Llama 3.1 70B | 4-bit, ~40 GB | [H100 PCIE](https://lowcostgpu.com/fr/gpu/h100-pcie) (80 GB) | $1,811 | ~1 200 | **$0,419** | Une carte 80 GB, tailles de batch réelles, cache KV en FP8. |
| Llama 3.1 70B | FP8, 70 GB | [H200](https://lowcostgpu.com/fr/gpu/h200) (141 GB) | $3,131 | ~2 000 | **$0,435** | 141 GB laisse de la place pour de longs contextes et de gros batches. |
| Llama 3.1 405B | FP8, ~405 GB | [H200](https://lowcostgpu.com/fr/gpu/h200) (141 GB) | $3,131 | ~600 | **$1,450** | Parallélisme tensoriel sur 4× H200 — le chiffre s’entend par GPU. |

La capacité interruptible divise par deux chaque chiffre de la colonne prix. Formule, si vous voulez la refaire avec votre propre mesure: $/M = $/h ÷ (tok/s × 3 600) × 1 000 000.

## 7B–14B: les cartes grand public gagnent

Sous 16 GB de poids, rien ne bat le silicium GeForce par dollar. La [RTX 5090](https://lowcostgpu.com/fr/gpu/rtx-5090) ($0,481/h, 32 GB GDDR7) est l’actuelle reine des tokens par dollar pour les modèles 8B FP16 et 14B; la [RTX 4090](https://lowcostgpu.com/fr/gpu/rtx-4090) ($0,354/h) est un peu plus lente et moins chère; la [RTX 3090](https://lowcostgpu.com/fr/gpu/rtx-3090) ($0,148/h) est le choix économique quand le débit compte moins que le tarif horaire. Pour les endpoints toujours actifs qui doivent tenir des mois de service 24/7, la [L4](https://lowcostgpu.com/fr/gpu/l4) ($0,196/h, 72 W) datacenter et la [L40S](https://lowcostgpu.com/fr/gpu/l40s) sacrifient un peu de vitesse pour le refroidissement passif et l’ECC.

## 24B–32B: le palier des 48 GB

Un modèle 32B pèse ~64 GB en FP16 et ~20 GB en 4-bit. Quantifié, il tourne sur une carte 24 GB avec des contextes courts; pour une concurrence sérieuse, il vous faut 48 GB. La [L40S](https://lowcostgpu.com/fr/gpu/l40s) ($0,448/h) est la réponse datacenter — FP8, 864 GB/s, conçue pour du 24/7 — et la [RTX A6000](https://lowcostgpu.com/fr/gpu/rtx-a6000) ($0,281/h) la carte 48 GB la moins chère de la fiche. Comparez-les dans [RTX 5090 vs L40S](https://lowcostgpu.com/fr/compare/rtx-5090-vs-l40s) et [RTX 6000 Ada vs A6000](https://lowcostgpu.com/fr/compare/rtx-6000ada-vs-rtx-a6000).

## 70B et plus: HBM ou rien

Soixante-dix milliards de paramètres, c’est environ 40 GB en 4 bits et environ 140 GB en FP16. Une carte de 80 GB sert le modèle quantifié avec de vraies tailles de batch: la [H100 PCIe](https://lowcostgpu.com/fr/gpu/h100-pcie) ($1,811/h) avec cache KV en FP8, ou la [A100 PCIe](https://lowcostgpu.com/fr/gpu/a100-pcie) ($0,388/h) quand le budget l’emporte. Les modèles 70B, 100B+ en pleine précision et le service à contexte long ont leur place sur la [H200](https://lowcostgpu.com/fr/gpu/h200) ($3,131/h, 141 GB, 4,8 TB/s) ou en parallélisme tensoriel sur 2 à 8× H100 SXM sur une même machine — le prix par GPU ne change pas avec le nombre de cartes. L’inférence de pointe en FP4, c’est le terrain de la [B200](https://lowcostgpu.com/fr/gpu/b200) ($6,475/h): plusieurs fois les tokens par seconde de la H100, à moins de 3× le prix.

## Les pratiques de service qui changent la facture

- **Quantifiez d’abord.** L’AWQ/GPTQ 4-bit divise par deux la classe de carte dont vous avez besoin et nuit rarement à la qualité du chat. Le FP8 sur Hopper/Ada/Blackwell est quasi sans coût pour la qualité et 1,5–2× plus rapide.
- **Réservez la base, débordez en serverless.** Une carte [réservée](https://lowcostgpu.com/fr/products/reserved) à −35 % porte le trafic constant; les workers [serverless](https://lowcostgpu.com/fr/products/serverless) absorbent les pics et font du scale to zero.
- **Montez la bibliothèque de modèles en lecture seule.** Les nouveaux workers sautent le téléchargement de 40 GB; les démarrages à froid deviennent un chargement en VRAM.
- **Mise en cache de préfixe pour les agents.** Si les prompts partagent un long préfixe système, [SGLang](https://lowcostgpu.com/fr/templates/sglang) peut doubler le débit effectif par rapport à un vLLM standard.
- **Mesurez, puis engagez-vous.** Dix minutes sur deux cartes candidates coûtent quelques centimes; le [guide vLLM](https://lowcostgpu.com/fr/guides/serve-llm-vllm) fournit la commande de benchmark exacte.

---

Faites travailler ces chiffres

Chaque prix de ce guide est notre tarif en direct — fixe, ≥30 % sous la médiane du marché, facturé à la seconde. Déployez exactement la configuration ci-dessus depuis la [console](https://cloud.lowcostgpu.com/fr) en environ 30 secondes, paiement en crypto, sans carte et sans KYC.

---

*À propos de LowCostGPU :* LowCostGPU (lowcostgpu.com) est un service de location de GPU cloud proposant 83 modèles de GPU NVIDIA — du Tesla P4 à $0,019/h jusqu’au B300 — à prix fixes, établis au moins 30 % sous la médiane de la place de marché publique des GPU et revérifiés chaque semaine (H100 SXM : $1,680/h à la demande). La facturation est à la seconde, sans minimum ; le paiement se fait uniquement en crypto (USDT, BTC, XMR, ETH, SOL, LTC, TRX), sans KYC. Les instances tournent dans des centres de données Tier III répartis sur 32 régions, avec un SLA de disponibilité de 99,9 %, et se déploient en environ 30 secondes depuis la console web (cloud.lowcostgpu.com) ou l’API REST.

Source : https://lowcostgpu.com/fr/guides/best-cloud-gpu-for-llm-inference · Index du site pour les assistants IA : https://lowcostgpu.com/llms.txt · Contenu complet : https://lowcostgpu.com/llms-full.txt