Echte Fabric
NVLink/NVSwitch innerhalb des Knotens, InfiniBand rail-optimiert zwischen Knoten, NCCL vorab optimiert. All-Reduce-Werte liefern wir mit dem Angebot.
Produkte · Cluster
GPU-Cluster für verteiltes Training, bepreist wie die Preisliste
Multi-Node-Pods aus 8×-SXM-Maschinen, verbunden mit InfiniBand – 16 bis 512 GPUs – zu denselben öffentlichen Preisen pro GPU wie einzelne Instanzen. Ein 64×-H100 SXM-Pod zu reservierten Sätzen: $69,89/Std., Fabric inklusive.
Kein Cluster-Aufpreis
Preis pro GPU × Anzahl der GPUs. Fabric, Head-Knoten und Scratch-Speicherplatz sind inbegriffen – vergleichen Sie diese Zeile mit jedem Hyperscaler-Angebot.
Ihr Scheduler
Slurm installiert und konfiguriert, oder reines SSH mit eigener Orchestrierung. In jedem Fall Root-Zugriff auf jedem Knoten.
Tage, nicht Quartale
Standard-Pods werden in 1–3 Werktagen bereitgestellt. Kein Gremium, kein „Kapazitätsgespräch“ – nur ein Ticket und ein Angebot.
Standard-Pod-Konfigurationen
Aufgebaut aus 8×-SXM-Knoten; jedes Vielfache funktioniert. Angezeigt sind reservierte Sätze – Burst-Pods laufen zu On-Demand-Preisen, wenn Kapazität verfügbar ist.
| Pod | GPUs | VRAM gesamt | Interconnect | $/Std. (reserviert) |
|---|---|---|---|---|
| 2 × 8× H100 SXM | 16 | 1,3 TB | NVLink + IB HDR | $17,47 |
| 8 × 8× H100 SXM | 64 | 5,1 TB | NVLink + IB NDR | $69,89 |
| 8 × 8× H200 | 64 | 9,0 TB | NVLink + IB NDR | $130,24 |
| 8 × 8× B200 | 64 | 12,3 TB | NVLink 5 + IB NDR | $269,31 |
| 64 × 8× H100 SXM | 512 | 41 TB | Rail-optimiert NDR | $559 |
Berechnung pro GPU: reservierter Satz (öffentliche Preisliste) × Anzahl der GPUs. Es kommt nichts weiter hinzu.
Welche Teams auf Pods arbeiten
- Pretraining & fortgesetztes Pretraining – FSDP/DeepSpeed/Megatron knotenübergreifend.
- Große Fine-Tuning-Läufe – Vollparameter-Läufe ab 70B, die eine einzelne Maschine übersteigen.
- RLHF-/RLVR-Pipelines – Actor-, Critic- und Reward-Flotten auf einem gemeinsamen Fabric.
- Batch-Scale-Outs – Render- oder Simulationskampagnen über Tausende von GPU-Stunden.
Single-Node-8×-Maschinen (keine Fabric nötig) lassen sich sofort über die Konsole bereitstellen, wie jede andere Instanz – Cluster sind für den Moment gedacht, in dem ein einzelnes Gehäuse nicht mehr ausreicht.
$ sinfo
PARTITION AVAIL NODES STATE NODELIST
gpu* up 8 idle pgx-[01-08]
$ sbatch --nodes 8 --gpus-per-node 8 train.sh
✓ Submitted batch job 1129
# NCCL all-reduce 256MB: 47 GB/s bus BW (rail-optimised NDR)GPU-Cluster: FAQ
Beginnen Sie mit einem Konsolenticket: Modell, Anzahl der GPUs, Wunschregion, Laufzeit. Ein Angebot mit Topologie kommt innerhalb eines Werktags zurück.
Welchen Interconnect nutzen die Cluster?
Innerhalb eines Knotens: NVLink/NVSwitch auf SXM-Plattformen. Zwischen Knoten: InfiniBand NDR/HDR (400/200 Gb/s pro Port, rail-optimiert) bei Flaggschiff-Pods; 100 GbE RoCE bei kleineren A100/L40S-Pods. Topologie-Details liefern wir mit jedem Angebot.
Wie schnell kann ich einen Cluster bekommen?
Standardblöcke (2–8 Knoten mit je 8× H100/H200) werden über ein Konsolen-Ticket meist in 1–3 Werktagen bereitgestellt. Größere oder ungewöhnliche Topologien erhalten ein Angebot mit Liefertermin – üblicherweise unter zwei Wochen.
Wie werden Cluster bepreist?
Pro GPU-Stunde aus derselben öffentlichen Preisliste – reservierte Sätze für feste Laufzeiten, On-Demand für Burst-Blöcke, sofern verfügbar. Ein 64×-H100-SXM-Pod kostet zu reservierten Sätzen $70/Std. all-in; InfiniBand-Fabric und Management-Knoten sind inbegriffen, nicht separat aufgeführt.
Welche Software wird mitgeliefert?
Ubuntu mit NVIDIA-Treiberstack, CUDA, Fabric-optimiertem NCCL, Slurm oder reinem SSH nach Wahl sowie gemeinsam genutztem NVMe-Scratch. Bringen Sie eigene Images mit – Cluster gehören Ihnen mit Root-Zugriff.