Glossaire · 85 termes · prix en direct depuis la fiche

Glossaire du cloud GPU : le vocabulaire, défini

Chaque terme que vous rencontrez en louant des GPU — modèles de facturation, types de mémoire, interconnexions, quantification, stacks de service — défini en une ou deux phrases qui se suffisent à elles-mêmes, avec les chiffres actuels quand un chiffre est utile.

Fiche de prix complète Catalogue GPU

Tarifs et facturation 17

Cloud GPU: Un service qui loue l’accès à des serveurs GPU à l’heure ou à la seconde plutôt que de vendre le matériel. Il englobe les hyperscalers, les fournisseurs spécialisés et les places de marché de pair à pair, qui diffèrent surtout par le propriétaire des machines, la manière dont les prix sont fixés et la disponibilité promise. En savoir plus
Coût par image: L’unité pertinente pour les charges de travail de diffusion : le tarif horaire divisé par le nombre d’images générées par heure. Une carte plus rapide, à un tarif horaire plus élevé, produit souvent des images moins chères, ce qui explique pourquoi le tarif horaire seul est un mauvais indicateur pour Stable Diffusion ou Flux. En savoir plus
Coût par million de tokens: L’unité qui rend l’inférence auto-hébergée comparable à une API : le tarif horaire du GPU divisé par le nombre de tokens que le GPU produit en une heure. Elle chute fortement avec le traitement par lots continu, si bien qu’une carte qui semble chère à l’heure est souvent la moins chère au token. En savoir plus
Egress (bande passante): Les données qui quittent le réseau du fournisseur, et les frais facturés pour cela. La bande passante sortante est une source fréquente de factures surprises, car les hyperscalers la facturent par paliers et peuvent facturer plus que le calcul pour les tâches gourmandes en données. LowCostGPU facture un tarif fixe de $0,01 par GB, entrant et sortant, dans toutes les régions. En savoir plus
Facturation à la seconde: Facturer le temps d’exécution exact plutôt que d’arrondir à l’heure supérieure. Une tâche de 47 minutes coûte 47 minutes. Cela compte surtout pour les charges irrégulières comme le rendu d’images, l’inférence par lots et les expérimentations, où l’arrondi à l’heure peut gonfler une facture d’un tiers. LowCostGPU facture le temps GPU, le stockage et la bande passante à la seconde. En savoir plus
GPU-heure: Un GPU qui tourne pendant une heure : l’unité dans laquelle presque tous les prix de location sont exprimés. Elle s’applique par GPU, pas par machine : une instance à 8 GPU qui tourne une heure consomme huit GPU-heures. Sur LowCostGPU, le tarif par GPU est identique de 1x à 8x, sans surcoût multi-GPU. En savoir plus
Hyperscaler: L’un des très grands clouds généralistes qui vendent des GPU aux côtés de centaines d’autres services. Ils offrent une intégration poussée et des contrats d’entreprise, et facturent en général plusieurs fois le tarif d’un spécialiste pour la même carte NVIDIA, avec une bande passante sortante facturée à l’usage et des remises liées à un engagement d’utilisation. En savoir plus
Instance interruptible (spot, préemptible): Une instance à prix réduit que le fournisseur peut mettre en pause ou récupérer lorsque la capacité est nécessaire ailleurs. La plupart des clouds la gèrent comme une enchère dont le prix et le risque d’éviction varient chaque heure. LowCostGPU facture un forfait fixe de 50 % du tarif à la demande, sans enchères, conserve le disque et remet la tâche en file automatiquement : $0,840 par heure pour une H100 SXM. En savoir plus
Instance réservée: Une capacité engagée pour une durée fixe contre un tarif horaire plus bas. Sur LowCostGPU, le tarif réservé vaut 65 % du tarif à la demande pour un engagement de trois mois, le tarif étant verrouillé pour toute la durée : $1,092 par heure pour une H100 SXM. L’opération est rentable au-delà d’un taux d’utilisation d’environ deux tiers. En savoir plus
Instance à la demande: Une capacité réservée pour vous dès que vous la demandez et conservée jusqu’à ce que vous la libériez, à un tarif qui ne peut être surenchéri ni repris. Sur LowCostGPU, un GPU à la demande coûte la médiane de la place de marché publique multipliée par 0,70 — une H100 SXM à $1,680 par GPU-heure — et le tarif est verrouillé pour toute la durée de vie de l’instance. En savoir plus
Marketplace GPU: Une plateforme où des hôtes indépendants proposent leurs propres machines et où les locataires enchérissent ou achètent directement. Les prix y sont les plus bas du marché et évoluent en permanence, mais la qualité du matériel, la disponibilité et le support varient d’un hôte à l’autre : c’est le locataire qui porte le risque de fiabilité. En savoir plus
Neocloud: Un fournisseur cloud conçu spécifiquement autour des accélérateurs IA plutôt que du calcul généraliste. Les neocloud achètent des GPU en grande quantité, les exploitent dans des espaces loués en centres de données et rivalisent sur le prix et la disponibilité plutôt que sur l’étendue des services. En savoir plus
Plafond de prix publié: Un plafond de prix publié, exprimé par rapport à une référence externe. LowCostGPU s’engage à ne jamais dépasser 70 % de la médiane de la place de marché publique, quel que soit le modèle ; comme la référence est publique et la fiche est servie en JSON, cet engagement peut être audité à tout moment, sans compte. En savoir plus
PowerScore: L’indice LowCostGPU du débit tensoriel FP16 dense, normalisé pour que la RTX 3090 obtienne un score de 100. Il donne un chiffre unique et comparable d’une génération à l’autre, quand les chiffres bruts de TFLOPS sont donnés selon des conventions de parcimonie et de précision différentes. Il ne mesure que le calcul, pas la capacité mémoire ni la bande passante. En savoir plus
Seuil de rentabilité location/achat: Le niveau d’utilisation à partir duquel posséder un GPU devient moins cher que d’en louer un. Il compare le prix d’achat plus l’hébergement, l’électricité et le refroidissement au tarif de location multiplié par les heures réellement utilisées. Comme la plupart des équipes tournent bien en dessous de la pleine utilisation, le seuil de rentabilité honnête se compte généralement en années, pas en mois. En savoir plus
Tarification du stockage de l’instance: Ce que coûte le disque attaché à un GPU loué, généralement par GB et par mois, facturé, que l’instance tourne ou non. LowCostGPU facture $0,08 par GB et par mois, décompté à la seconde, au même tarif que l’instance soit en cours d’exécution ou arrêtée ; le décompte s’arrête quand l’instance est détruite. En savoir plus
Tarification à la médiane du marché: Fixer un prix comme un ratio publié du tarif médian du marché pour le même matériel, plutôt que par catalogue, enchère ou négociation. LowCostGPU utilise la médiane de la place de marché publique des GPU pour chaque modèle, multipliée par 0,70 et arrondie vers le bas, revérifiée chaque semaine : la remise est donc d’au moins 30 % et vérifiable par le calcul. En savoir plus

Matériel GPU 19

Bande passante mémoire: La vitesse à laquelle le GPU peut déplacer des données entre sa mémoire et ses unités de calcul, en GB/s ou TB/s. La génération de tokens dans un modèle de langage relit l’ensemble des poids à chaque token, si bien que la bande passante — et non les FLOPS bruts — est généralement ce qui limite la vitesse d’inférence à flux unique. En savoir plus
Centre de données Tier III: Une installation conçue pour la maintenabilité simultanée : des chemins d’alimentation et de refroidissement redondants permettent d’intervenir sur n’importe quel composant sans arrêter les serveurs. C’est la limite pratique entre l’hébergement professionnel et une machine installée dans une pièce inoccupée chez un particulier. Chaque GPU de LowCostGPU se trouve dans un centre de données Tier III ou équivalent. En savoir plus
Cœur CUDA: L’unité de calcul généraliste (shader) d’un GPU NVIDIA, utilisée pour le graphisme, la simulation et tout code qui n’est pas une multiplication de matrices. Leur nombre est utile pour le rendu et les charges de travail scientifiques, mais c’est un mauvais indicateur des performances en IA, dominées par les Tensor Core et la bande passante mémoire. En savoir plus
FP16 et BF16: Des formats en demi-précision utilisés pour la plupart des entraînements et inférences modernes. Le FP16 offre plus de précision de mantisse, le BF16 une plage d’exposant plus large qui rend l’entraînement plus stable sans loss scaling. Les deux ont besoin d’environ 2 GB de mémoire par milliard de paramètres du modèle, avant les activations et le cache. En savoir plus
FP32: Virgule flottante 32 bits, la précision traditionnelle pour le calcul scientifique et le rendu. Elle est largement obsolète pour l’entraînement des réseaux de neurones, où les précisions réduites tournent plusieurs fois plus vite à qualité équivalente, mais elle régit encore la simulation, la CAO et de nombreux codes HPC. En savoir plus
FP8: Un format à virgule flottante sur 8 bits pris en charge nativement à partir de la génération Hopper. Il double approximativement le débit et réduit de moitié la mémoire par rapport au FP16, avec une légère perte de qualité, ce qui explique pourquoi les cartes H100, H200 et Blackwell servent les grands modèles à un coût bien inférieur à ce que leurs seuls chiffres en FP16 laissent penser. En savoir plus
GDDR6X / GDDR7: La mémoire graphique utilisée sur les cartes grand public et workstation : moins chère et de capacité plus faible que la HBM, avec une bande passante plus faible. La RTX 4090 embarque 24 GB de GDDR6X, la RTX 5090 32 GB de GDDR7. C’est pourquoi les cartes grand public gagnent sur le prix par token mais perdent sur les très grands modèles. En savoir plus
GPU dédié: Un GPU physique attribué à un seul locataire pendant toute la vie de l’instance, plutôt que partitionné dans le temps ou partagé entre plusieurs clients. Cela supprime l’effet de voisin bruyant sur le débit et garde le contenu de la mémoire privé pour le locataire. Chaque instance LowCostGPU est dédiée. En savoir plus
HBM3 / HBM3e: Une mémoire à haute bande passante, empilée verticalement à côté de la puce du GPU pour atteindre des bandes passantes plusieurs fois supérieures à celles de la mémoire graphique. La H100 SXM associe 80 GB de HBM3 à environ 3,35 TB/s ; la H200 embarque 141 GB de HBM3e à environ 4,8 TB/s. C’est la bande passante, et non la capacité, qui détermine généralement la vitesse d’inférence. En savoir plus
InfiniBand: Un fabric réseau à faible latence utilisé pour relier des serveurs GPU au sein d’un cluster d’entraînement, avec accès direct à la mémoire à distance entre les nœuds. L’entraînement distribué est limité par l’échange de gradients, si bien que la qualité du fabric décide si l’ajout d’un second nœud accélère réellement l’entraînement ou n’apporte presque rien. En savoir plus
Instance multi-GPU: Une machine avec plusieurs GPU rattachés au même hôte, de 2x à 8x. C’est le moyen le plus simple de faire tourner un modèle trop grand pour une seule carte, via le parallélisme tensoriel. Sur LowCostGPU, une machine 8x coûte exactement huit fois le prix par GPU, sans surcoût pour la configuration plus grande. En savoir plus
INT8 et INT4: Des précisions entières utilisées pour réduire la taille des modèles après l’entraînement. L’INT8 nécessite environ 1 GB par milliard de paramètres et l’INT4 environ 0,55 GB, si bien que quantifier un modèle de 70B en 4 bits le fait passer d’environ 150 GB à environ 44 GB — la différence entre deux cartes flagship et une seule. En savoir plus
NVLink: L’interconnexion haute vitesse de NVIDIA entre les GPU d’une même machine, un ordre de grandeur plus rapide que le PCIe. Cela compte quand un modèle est réparti sur plusieurs cartes, car l’inférence à parallélisme tensoriel et l’entraînement multi-GPU échangent des activations en permanence. Les machines SXM multi-GPU de LowCostGPU en disposent. En savoir plus
NVSwitch: Une puce de commutation qui permet à chaque GPU d’un serveur de communiquer avec tous les autres à pleine vitesse NVLink, et non plus seulement avec ses voisins. C’est ce qui fait qu’un nœud HGX à 8 GPU se comporte comme un seul grand accélérateur pour des entraînements qui s’étendent sur les huit cartes. En savoir plus
PCIe et SXM: Deux formats physiques d’un même GPU datacenter. Les cartes PCIe s’installent dans des serveurs standards, consomment moins et coûtent moins cher ; les modules SXM se montent directement sur la carte mère, avec des limites de puissance plus hautes et un NVLink complet, ce qui donne plus de bande passante et un meilleur passage à l’échelle multi-GPU. La même puce ne se comporte pas de la même façon dans les deux cas. En savoir plus
TDP: La puissance thermique de conception : la chaleur qu’un GPU est conçu pour dissiper en continu, en watts, et un bon indicateur de sa consommation électrique. Cela explique pourquoi une carte efficace comme la L4, à 72 W, peut coûter moins cher à faire tourner en continu qu’une carte plus rapide qui reste inactive la plupart du temps. En savoir plus
Tensor Core: Une unité spécialisée à l’intérieur des GPU NVIDIA modernes, qui multiplie de petites matrices à précision réduite. Les Tensor Core font le plus gros du travail pour l’entraînement et l’inférence, et la génération du Tensor Core — Ampere, Ada, Hopper, Blackwell — compte davantage pour le débit en IA que le nombre de cœurs CUDA. En savoir plus
TFLOPS: Mille milliards d’opérations en virgule flottante par seconde : l’indicateur phare du débit de calcul. Les chiffres ne sont comparables que si la précision et la convention de sparsité concordent : LowCostGPU annonce partout un débit tensoriel FP16 dense (sans sparsité), soit environ la moitié des chiffres avec sparsité que publient certains fournisseurs. En savoir plus
VRAM: La mémoire soudée sur le GPU, qui contient les poids du modèle, les activations et le cache. C’est la première contrainte de tout choix de GPU : si le modèle ne tient pas, le débit importe peu. Les cartes disponibles à la location vont de 6 GB à 288 GB sur les puces datacenter les plus récentes. En savoir plus

Inférence et service 14

Cache KV: Les clés et valeurs d’attention déjà calculées pour les tokens précédents, conservées pour qu’un nouveau token n’ait pas à relire toute la conversation. Ce cache croît avec la longueur du contexte et avec le nombre de requêtes simultanées ; c’est le coût mémoire que la plupart des estimations de dimensionnement oublient, jusqu’à ce qu’une requête à contexte long épuise la VRAM. En savoir plus
Débit et latence: Le compromis central du serving. Le débit est le travail total par seconde pour tous les utilisateurs et détermine le coût ; la latence est le temps d’attente d’une requête et détermine l’expérience. Des batches plus grands augmentent le débit et allongent les réponses individuelles : le bon réglage dépend donc de ce que vous servez, une UI de chat ou un backlog. En savoir plus
Démarrage à froid: Le délai avant qu’un service inactif puisse répondre à sa première requête, passé à récupérer l’image, allouer un GPU et charger les poids en VRAM. C’est le coût principal du scale to zero, et c’est pourquoi les poids sont généralement gardés sur un volume local rapide plutôt que récupérés depuis un stockage objet. En savoir plus
Endpoint GPU serverless: Un endpoint HTTP hébergé qui alloue des GPU par requête puis les libère, en facturant uniquement le temps de calcul effectif. Il supprime la planification de capacité, au prix de démarrages à froid, et convient surtout à l’inférence en rafales plutôt qu’à l’entraînement de longue durée. En savoir plus
Fenêtre de contexte: Le nombre maximal de tokens auxquels un modèle peut prêter attention à la fois, prompt et sortie générée compris. Les fenêtres longues sont un problème de mémoire plus que de calcul : le cache KV grandit avec le contexte, si bien que servir 128k tokens peut demander plusieurs fois la VRAM des poids seuls. En savoir plus
GGUF: Un format en un seul fichier pour les modèles de langage quantifiés, utilisé par llama.cpp et Ollama. Il regroupe les poids, le tokenizer et les métadonnées à un niveau de quantification choisi, ce qui facilite le déplacement des modèles d’une machine à l’autre et en fait la façon habituelle de faire tourner un modèle sur un petit GPU loué. En savoir plus
Inférence LLM: Faire tourner un modèle de langage entraîné pour produire un résultat, par opposition à l’entraîner. Cela se décompose en un passage de prefill, gourmand en calcul, sur le prompt, puis une boucle de decode limitée par la bande passante qui émet un token à la fois — c’est pourquoi la bande passante mémoire détermine en général la vitesse ressentie par l’utilisateur. En savoir plus
Ollama: Un outil qui télécharge et exécute des modèles de langage quantifiés en local, en une seule commande, à partir de fichiers GGUF. Il privilégie la simplicité plutôt que le débit maximal, ce qui le rend bien adapté à un seul GPU loué utilisé comme assistant privé ou comme backend de développement. En savoir plus
Parallélisme tensoriel: Répartir chaque couche d’un modèle sur plusieurs GPU pour qu’ils calculent ensemble un même forward pass. C’est ainsi qu’un modèle plus grand qu’une seule carte est servi, et cela dépend fortement de la vitesse d’interconnexion : les cartes reliées par NVLink passent bien à l’échelle, les cartes reliées uniquement par PCIe perdent davantage à la communication. En savoir plus
Quantification: Stocker les poids d’un modèle à une précision plus basse — 8 bits ou 4 bits au lieu de 16 — pour réduire la mémoire et augmenter la vitesse. Les méthodes modernes en 4 bits perdent peu de qualité mesurable sur la plupart des tâches et divisent à peu près par quatre la mémoire nécessaire, si bien que la quantification décide souvent si un modèle tient sur une carte abordable. En savoir plus
Scale to zero: Couper toute la capacité quand il n’y a pas de trafic, si bien qu’un endpoint inactif ne coûte que le stockage. Cela convient aux charges de travail en pics ou inactives la nuit ; un service à trafic stable revient moins cher sur une instance réservée maintenue active, car elle ne paie jamais la pénalité de démarrage à froid. En savoir plus
Tokens par seconde: La mesure de débit pour les modèles de langage. Deux chiffres différents s’y cachent : la vitesse par flux, que l’utilisateur perçoit comme la réactivité, et la vitesse agrégée sur l’ensemble des requêtes simultanées, qui fixe le coût par million de tokens. Le traitement par lots augmente fortement le second sans presque toucher au premier. En savoir plus
Traitement par lots continu: Une technique de service qui admet de nouvelles requêtes dans un batch en cours dès que les précédentes se terminent, au lieu d’attendre la fin complète du batch. Elle maintient le GPU saturé sous un trafic irrégulier, et c’est le levier le plus important sur le coût par token, ce qui explique pourquoi vLLM et les serveurs similaires l’utilisent par défaut. En savoir plus
vLLM: Un serveur d’inférence open source pour modèles de langage, construit autour du paged attention et du traitement par lots continu, exposant un endpoint HTTP compatible OpenAI. C’est le choix habituel pour le service auto-hébergé, car il sature un GPU bien mieux que des boucles de génération naïves. En savoir plus

Entraînement et fine-tuning 9

Checkpoint: Un snapshot des poids du modèle et de l’état de l’optimiseur, pris en cours d’exécution, pour que l’entraînement puisse reprendre après une interruption. Des checkpoints fréquents vers un volume persistant rendent la capacité interruptible bon marché utilisable pour des entraînements longs : une éviction coûte des minutes, et non l’entraînement complet. En savoir plus
Epoch: Un passage complet du processus d’entraînement sur le dataset. Les fine-tunes tournent en général sur un petit nombre d’epochs, et le temps par epoch multiplié par le tarif horaire est la façon honnête de comparer deux GPU : une carte deux fois plus chère qui termine en un tiers du temps revient moins cher par run. En savoir plus
Fine-tune complet: Mettre à jour chaque poids du modèle plutôt qu’un petit adaptateur. Cela demande de la mémoire pour les poids, les gradients et les états de l’optimiseur — souvent plus de dix fois les poids seuls en FP16 — ce qui implique généralement un nœud multi-GPU, et ne se justifie que lorsque LoRA se montre clairement insuffisant. En savoir plus
Fine-tuning: Poursuivre l’entraînement d’un modèle pré-entraîné avec vos propres données, pour lui apprendre un domaine, un format ou un comportement. Cela coûte plusieurs ordres de grandeur de moins que l’entraînement à partir de zéro, et c’est la raison habituelle pour laquelle une équipe loue des GPU pendant des jours plutôt que des mois. En savoir plus
LoRA: Low-Rank Adaptation : geler les poids d’origine et entraîner de petites matrices ajoutées à la place. Cela réduit les paramètres entraînables de plusieurs ordres de grandeur, si bien qu’un fine-tune tient sur une seule carte grand public, et le résultat se présente sous la forme d’un petit fichier d’adaptateur qui peut être échangé ou fusionné au chargement. En savoir plus
Parallélisme de données: Répliquer le modèle entier sur chaque GPU et donner à chaque réplique une tranche différente du batch, puis moyenner les gradients. C’est le moyen le plus simple de faire passer l’entraînement à l’échelle quand le modèle tient sur une seule carte ; cette méthode est limitée par la vitesse à laquelle les gradients peuvent être échangés entre les GPU. En savoir plus
Pré-entraînement: Entraîner un modèle depuis une initialisation aléatoire sur un très grand corpus. C’est la tâche la plus coûteuse qu’on exécute sur des GPU, mesurée en nœuds-mois sur des clusters interconnectés, et c’est pourquoi la capacité HBM, NVLink et InfiniBand comptent ici bien plus que le tarif horaire d’une seule carte. En savoir plus
Précision mixte: Faire tourner la plupart des opérations en 16 bits tout en gardant les accumulations sensibles en 32 bits. Cela réduit la mémoire de moitié environ et double le débit sans coût de qualité perceptible, et c’est le réglage par défaut de toute stack d’entraînement moderne ; le BF16 évite le loss scaling qu’exige le FP16. En savoir plus
QLoRA: LoRA appliqué sur un modèle de base quantifié en 4 bits, de sorte que les poids gelés n’occupent qu’un quart de la mémoire pendant que les adaptateurs s’entraînent en plus haute précision. C’est ce qui rend praticable le fine-tuning d’un modèle de 70B sur une seule carte de 48 GB ou 80 GB. En savoir plus

Plateforme et accès 18

Accès SSH: Une session shell chiffrée sur la machine louée, authentifiée par clé. C’est le plus petit dénominateur commun pour travailler sur une instance GPU : tout installer, exécuter de longues tâches sous un multiplexeur de terminal et copier des données dans les deux sens avec rsync ou rclone. En savoir plus
API REST: Une interface HTTP pour piloter le service depuis du code. Sur LowCostGPU, les endpoints de tarification et d’inventaire sont publics et ne nécessitent aucune clé, si bien que toute la fiche de prix peut être consultée avant de créer un compte ; déployer, arrêter et détruire des instances utilise la même API avec une clé bearer. En savoir plus
Bare metal: Un serveur physique complet loué sans couche de virtualisation entre le locataire et le matériel. Il offre des performances maximales et un contrôle total, au prix de la flexibilité et d’une durée d’engagement minimale, et il est normalement réservé aux charges de travail importantes et soutenues plutôt qu’aux expérimentations. En savoir plus
CLI: Un client en ligne de commande qui encapsule l’API : les machines peuvent être recherchées, lancées et arrêtées depuis un shell ou un pipeline CI, sans écrire d’appels HTTP. C’est la façon habituelle de rendre la location de GPU reproductible dans un script de build. En savoir plus
Cluster: Plusieurs serveurs GPU reliés par un fabric à faible latence et ordonnancés comme un seul pool, pour des runs d’entraînement trop grands pour un seul nœud. Au-delà d’une seule machine, le réseau devient le goulot d’étranglement : l’InfiniBand ou l’équivalent, et la topologie entre les nœuds, comptent alors autant que les GPU eux-mêmes. En savoir plus
Clé API: Un jeton secret qui authentifie les requêtes programmatiques, envoyé comme jeton bearer. Les clés LowCostGPU sont affichées une seule fois et stockées uniquement sous forme de hash, agissent avec toutes les permissions du compte et devraient avoir une portée limitée par machine, afin qu’une clé divulguée puisse être révoquée sans perturber le reste. En savoir plus
Crédit de disponibilité: Une compensation versée sur le solde du compte quand un fournisseur manque à son engagement de disponibilité, généralement sous forme d’un pourcentage de la dépense concernée et généralement réclamée plutôt qu’accordée automatiquement. C’est la seule partie d’un SLA qui ait réellement du poids, si bien que le barème de crédits compte plus que le pourcentage mis en avant. En savoir plus
Image Docker / OCI: Un système de fichiers empaqueté avec sa configuration, qui définit exactement ce qui s’exécute sur l’instance, identifié par une référence de registre. Toute image compatible OCI fonctionne sur LowCostGPU avec le runtime NVIDIA injecté : un environnement validé en local s’exécute à l’identique sur du matériel loué. En savoir plus
Instance conteneur: Une charge de travail GPU qui s’exécute dans un conteneur partageant le noyau de l’hôte, avec le runtime NVIDIA injecté. Les conteneurs démarrent en environ trente secondes parce que l’image est déjà mise en cache, ce qui en fait l’unité adaptée à tout ce qui n’a pas besoin de son propre noyau ni de pilotes personnalisés. En savoir plus
JupyterLab: Un environnement de notebook exécuté dans le navigateur, généralement préinstallé sur les templates GPU, exposé sur un port mappé. Il convient à l’expérimentation interactive et à l’inspection des données ; les entraînements longs sont mieux lancés depuis un shell, pour survivre à la fermeture d’un onglet du navigateur. En savoir plus
llms.txt: Un fichier texte brut à la racine d’un site, qui donne aux modèles de langage un index sélectionné de son contenu et de ses faits clés, de la même façon que robots.txt donne une politique aux robots d’indexation. LowCostGPU en publie un, plus une version Markdown intégrale, et sert n’importe quelle page en Markdown sur demande. En savoir plus
Machine virtuelle: Un système d’exploitation invité complet, avec le GPU en passthrough, démarrant son propre noyau avec accès root. Il faut des minutes, et non des secondes, pour le démarrer, et c’est ce qu’il faut pour des modules de noyau personnalisés, des environnements de bureau ou des logiciels qui refusent de s’exécuter dans un conteneur. En savoir plus
MCP (Model Context Protocol): Un protocole ouvert qui permet à un assistant IA d’appeler des outils externes et de lire des données externes via une interface standard, plutôt que de s’appuyer sur ce qu’il a mémorisé pendant l’entraînement. LowCostGPU exploite un serveur MCP public en lecture seule afin qu’un assistant puisse indiquer les prix GPU du jour, comparer les cartes et chiffrer une tâche. En savoir plus
Région: L’emplacement géographique du centre de données qui fait tourner votre instance. Il détermine la latence réseau vers vos utilisateurs, la juridiction dans laquelle se trouve le matériel, et parfois la disponibilité d’un GPU particulier. LowCostGPU opère dans 32 régions sur cinq continents, à un prix uniforme. En savoir plus
SDK: Une bibliothèque cliente typée qui transpose l’API en objets natifs et gère l’authentification, les nouvelles tentatives et les erreurs. Elle compte surtout quand le provisionnement de GPU fait partie d’une application plutôt que d’une tâche d’opérateur, comme lancer un worker par tâche. En savoir plus
SLA: Un accord de niveau de service (SLA) : la disponibilité qu’un fournisseur s’engage à tenir, et ce qu’il doit en cas de manquement. Un engagement sans compensation n’est que du marketing. LowCostGPU publie un objectif mensuel de 99,9 % sur les instances à la demande et réservées, avec des crédits de service en cas de non-respect. En savoir plus
Template: Une image de conteneur préconstruite, avec une stack déjà installée, lancée en un clic pour que l’environnement soit prêt en quelques secondes plutôt qu’après un après-midi à déboguer des pilotes. LowCostGPU publie 37 templates à partir d’images officielles en amont — PyTorch, vLLM, ComfyUI, Ollama et d’autres — et le template lui-même est gratuit. En savoir plus
Volume: Un stockage en réseau qui survit à l’instance qui l’utilise, si bien que modèles, datasets et sorties survivent à la destruction de la machine. Garder les poids sur un volume transforme les instances en calcul jetable et réduit les démarrages à froid, puisque le téléchargement n’a lieu qu’une fois. LowCostGPU facture $0,08 par GB par mois. En savoir plus

Paiement et identité 8

Crédit prépayé: Un solde alimenté avant utilisation et débité à mesure que les ressources tournent, au lieu d’une facture en fin de mois. Il plafonne l’exposition — une tâche incontrôlée s’arrête quand le solde s’épuise — et supprime la vérification de solvabilité qu’implique la facturation par carte. Les soldes LowCostGPU sont détenus en USD et remboursables sur demande. En savoir plus
KYC: Know Your Customer : la vérification d’identité qu’un fournisseur effectue avant d’accepter un client, généralement une pièce d’identité, une carte au nom correspondant ou une immatriculation d’entreprise. C’est une exigence réglementaire pour les services financiers et un choix commercial pour les fournisseurs de calcul. En savoir plus
Location sans KYC: Louer du calcul sans fournir de documents d’identité, ce qui devient possible quand le règlement est prépayé plutôt qu’à crédit. Sur LowCostGPU, un compte est une adresse e-mail et un mot de passe, alimenté par une recharge en crypto ; pas de documents, pas de carte et pas d’adresses IP conservées. En savoir plus
Monero (XMR): Une cryptomonnaie dont les montants et les participants sont masqués par défaut au niveau du protocole, plutôt que simplement pseudonymes. C’est l’option la plus confidentielle parmi les monnaies acceptées par LowCostGPU, et les confirmations arrivent généralement en quelques minutes. En savoir plus
Recharge: Ajouter des fonds à un solde prépayé. Sur LowCostGPU, une recharge génère une adresse de dépôt à usage unique pour l’actif choisi ; le crédit apparaît après confirmation réseau, de quelques secondes sur TRON ou Solana à environ une demi-heure sur Bitcoin. Le minimum est $40 et les crédits n’expirent jamais. En savoir plus
Stablecoin: Une cryptomonnaie conçue pour conserver une valeur constante par rapport à une monnaie fiduciaire, généralement le dollar américain. C’est le moyen pratique de payer le calcul en crypto, car le montant dû ne varie pas entre l’envoi de la transaction et sa confirmation. En savoir plus
TRC-20 et ERC-20: Les standards de token sur les réseaux TRON et Ethereum respectivement. Le même stablecoin existe sur les deux, mais les adresses ne sont pas interchangeables : envoyer un transfert ERC-20 vers une adresse TRC-20 fait perdre les fonds, ce qui explique pourquoi les pages de dépôt indiquent toujours le réseau. En savoir plus
USDT: Tether, le stablecoin en dollars le plus utilisé, émis sur plusieurs blockchains. LowCostGPU l’accepte sur TRON (TRC-20) et Ethereum (ERC-20) ; le réseau choisi ne change que les frais et le délai de confirmation, pas le montant crédité. En savoir plus

Les trois questions qui sous-tendent la plupart de ces termes

Des réponses plus complètes se trouvent dans les guides ; les chiffres qui sous-tendent chaque prix sont sur la page de méthodologie.

Qu’est-ce qu’un GPU-heure ?

Un GPU qui tourne pendant une heure. C’est l’unité dans laquelle tous les prix des GPU cloud sont exprimés, et elle se compte par GPU et non par machine : une instance à 8 GPU tournant pendant une heure consomme huit GPU-heures. Sur LowCostGPU, le prix par GPU est identique de 1× à 8×, et la facturation est à la seconde, si bien qu’une tâche de 12 minutes est facturée 0,2 GPU-heure.

Quelle est la différence entre les GPU à la demande et les GPU interruptibles ?

La capacité à la demande est garantie tant que vous conservez l’instance : personne ne peut vous la reprendre, et le prix est verrouillé au déploiement. La capacité interruptible est moins chère, car elle peut être mise en pause quand le matériel est nécessaire ailleurs. Sur LowCostGPU, l’interruptible bénéficie d’une remise fixe de 50 % sur le tarif à la demande, sans enchères : le disque est conservé et l’instance est remise en file automatiquement — elle convient donc à l’entraînement avec checkpoints, à l’inférence par lots et aux files de rendu.

De combien de VRAM un modèle a-t-il besoin ?

Pour un LLM, comptez environ 2,4 GB par milliard de paramètres en FP16 et environ 0,62 GB par milliard en 4 bits, plus la place nécessaire pour le cache KV, qui augmente avec la longueur de contexte et la concurrence. Un modèle de 70B a donc besoin d’environ 44 GB en 4 bits — une carte de 80 GB — ou de deux cartes de 80 GB en FP16. Les tableaux complets sont dans le guide des besoins en VRAM.