Templates · 37 gepflegte Stacks
37 GPU-Templates: von „Bereitstellen“ zu funktionierendem Stack in 30 Sekunden
Jedes Template ist ein gepinntes, GPU-bereites Image mit zugeordneten Ports und eingebundenem Speicherplatz – offizielle Builds der Tools, die Sie bereits verwenden. Starten Sie PyTorch, servieren Sie mit vLLM, generieren Sie mit ComfyUI, fine-tunen Sie mit Axolotl – oder verweisen Sie uns auf Ihr eigenes Docker-Image.
Basis & Frameworks 6
-
Das reine CUDA-Basis-Image – Treiber, Toolkit, SSH und Jupyter. Bauen Sie Ihren eigenen Stack darauf auf.
lowcostgpu/base:cuda13
GPUs & Details bereitstellen -
Der Standard für Training und Forschung: PyTorch 2.6, cuDNN, JupyterLab und SSH von Haus aus.
lowcostgpu/pytorch:2.6-cuda12.8
GPUs & Details bereitstellen -
TensorFlow mit GPU-Unterstützung, Keras und TensorBoard auf einem zugeordneten Port.
lowcostgpu/tensorflow:cuda12.1
GPUs & Details bereitstellen -
NGC-optimierter PyTorch-Build von NVIDIA – abgestimmte Kernel für die Datacenter-Karten.
nvcr.io/nvidia/pytorch
GPUs & Details bereitstellen -
GPU-beschleunigte Data Science – cuDF, cuML, cuGraph in einem Notebook.
rapidsai/notebooks
GPUs & Details bereitstellen -
Ein Launcher, der die meistgenutzten KI-Anwendungen auf einem Desktop bündelt – auswählen und starten.
lowcostgpu/aio-studio
GPUs & Details bereitstellen
LLM-Serving & Chat 9
-
Produktionsreifes LLM-Serving mit PagedAttention – ein OpenAI-kompatibler Endpunkt aus jedem HF-Modell.
lowcostgpu/vllm
GPUs & Details bereitstellen -
vLLM erweitert für multimodale Modelle – Bild- und Audioeingaben auf demselben schnellen Server.
lowcostgpu/vllm-omni
GPUs & Details bereitstellen -
Hochdurchsatz-Serving mit RadixAttention – eignet sich besonders für strukturierte und agentische Workloads.
lowcostgpu/sglang
GPUs & Details bereitstellen -
GGUF-Inferenz mit integriertem Server – der schlankste Weg, um quantisierte Modelle auszuführen.
lowcostgpu/llama-cpp
GPUs & Details bereitstellen -
Quantisierte Modelle mit einem Befehl abrufen und ausführen – mit sauberer REST-API.
lowcostgpu/ollama
GPUs & Details bereitstellen -
Eine vollständige Chat-Oberfläche über Ollama – Unterhaltungen, RAG und Modellverwaltung im Browser.
lowcostgpu/openwebui
GPUs & Details bereitstellen -
Die WebUI & API für Textgenerierung – laden Sie GPTQ, EXL2 oder GGUF mit Erweiterungen.
lowcostgpu/oobabooga
GPUs & Details bereitstellen -
Hugging Face Text Generation Inference – bewährtes Serving für den Produktivbetrieb mit API.
ghcr.io/huggingface/text-generation-inference
GPUs & Details bereitstellen -
Erstellen Sie visuell LLM-Pipelines und Agenten auf einem lokalen Ollama-Backend.
lowcostgpu/langflow
GPUs & Details bereitstellen
Training & Fine-Tuning 5
-
Fine-Tuning von Llama, Qwen oder Mistral aus einer einzigen YAML-Datei – LoRA, QLoRA und Multi-GPU-FSDP.
axolotlai/axolotl-cloud
GPUs & Details bereitstellen -
2× schneller, weniger VRAM beim Fine-Tuning – Unsloth-Kernel mit Notebook-Workflow.
lowcostgpu/unsloth-studio
GPUs & Details bereitstellen -
Trainieren Sie SDXL- und Flux-Bild-LoRAs in einer Browser-GUI – Datensatz rein, .safetensors raus.
lowcostgpu/kohyas-gui
GPUs & Details bereitstellen -
Eine denkbar einfache Oberfläche zum Trainieren von Flux-LoRAs, aufbauend auf den Kohya-Skripten.
lowcostgpu/fluxgym
GPUs & Details bereitstellen -
Der AI-Toolkit-Trainer für Flux- und Diffusionsmodelle, mit einer Weboberfläche.
lowcostgpu/ostris-ai-toolkit
GPUs & Details bereitstellen
Bildgenerierung 6
-
Knotenbasierte Bild- und Video-Workflows mit vorinstalliertem ComfyUI-Manager.
lowcostgpu/comfyui
GPUs & Details bereitstellen -
Ein ausgereiftes Stable-Diffusion-Studio – Canvas, Ebenen und Workflow-Knoten.
lowcostgpu/invokeai
GPUs & Details bereitstellen -
Der Forge-Fork der SD WebUI – schnellere Attention, weniger VRAM, gleiche Erweiterungen.
lowcostgpu/sd-forge
GPUs & Details bereitstellen -
Die klassische AUTOMATIC1111 Stable Diffusion WebUI mit dem vollständigen Erweiterungsökosystem.
lowcostgpu/a1111
GPUs & Details bereitstellen -
Prompt-and-go-Bildgenerierung – Einfachheit im Midjourney-Stil auf SDXL.
lowcostgpu/fooocus
GPUs & Details bereitstellen -
Eine auf ComfyUI basierende Oberfläche, die die Generierung auf mehrere GPUs skaliert.
lowcostgpu/swarmui
GPUs & Details bereitstellen
Videogenerierung 2
-
Wan und andere Videogenerierungsmodelle mit bescheidenem VRAM ausführen, mit einer einfachen Oberfläche.
lowcostgpu/wan2gp
GPUs & Details bereitstellen -
Das offene Text-to-Video-Modell, einsatzbereit für Generierung und Fine-Tuning.
lowcostgpu/open-sora
GPUs & Details bereitstellen
Audio & Sprache 3
-
Batch-Transkription von Audio mit faster-whisper, hinter einer Oberfläche und einem REST-Endpunkt.
lowcostgpu/whisper
GPUs & Details bereitstellen -
Text-to-Speech und Stimmenklonen mit Weboberfläche und API.
lowcostgpu/voicebox
GPUs & Details bereitstellen -
Das ACE-Step-Musikgenerierungsmodell mit Oberfläche und API.
lowcostgpu/acestep
GPUs & Details bereitstellen
Desktops & VMs 4
-
Ein vollständiger GPU-Linux-Desktop im Browser – XFCE, VNC/RDP, GUI-Anwendungen ausführen.
lowcostgpu/linux-desktop
GPUs & Details bereitstellen -
Der Pinokio-Ein-Klick-App-Browser für den Desktop – KI-Apps mit einem Klick installieren.
lowcostgpu/pinokio
GPUs & Details bereitstellen -
Eine vollständige virtuelle KVM-Maschine – eigener Kernel, Root, systemd, jeder Stack.
lowcostgpu/kvm:ubuntu-22.04
GPUs & Details bereitstellen -
Die Ubuntu-VM mit GNOME-Desktop über VNC/RDP – eine vollständige grafische Workstation.
lowcostgpu/kvm:ubuntu-desktop
GPUs & Details bereitstellen
Spezialisiert 2
-
Eine Unreal-Engine-App per Pixelstreaming in den Browser übertragen – auf einer Cloud-GPU.
lowcostgpu/unreal-pixel-streaming
GPUs & Details bereitstellen -
GPU-Passwort-Wiederherstellung für autorisierte Sicherheitstests – CUDA-beschleunigtes Hashcat.
dizcza/docker-hashcat
GPUs & Details bereitstellen
Eigenes Image mitbringen
Nichts Passendes dabei? Das Bereitstellungsformular akzeptiert jede OCI-Referenz – wir injizieren die NVIDIA-Runtime und führen Ihren Entrypoint unverändert aus.
- Öffentliche oder private Registries (Zugangsdaten verschlüsselt gespeichert).
- Ihre Ports, Umgebungsvariablen und Mount-Punkte für Volumes, festgelegt bei der Bereitstellung.
- Nach Image-Tag gepinnt – eine erneute Bereitstellung ist im nächsten Monat byteidentisch.
$ lowcostgpu launch --gpu l40s \
--image ghcr.io/acme/trainer:v14 \
--ports 8080 --disk 100
✓ instance i-4fd02b11 running (31.2s)
GPU-Templates: FAQ
Umgebungsvariablen, Ports und benutzerdefinierte Images in der Template-Dokumentation.
Was genau ist ein Template?
Ein gepflegtes Container-Image mit sinnvollen Standardwerten beim Start: offene Ports, Mount-Punkte für Volumes, Health-Checks und Umgebungsvariablen. Wählen Sie eines bei der Bereitstellung aus, überschreiben Sie, was Sie möchten, und die Instanz startet direkt in einen funktionierenden Stack – meist in etwa 30 Sekunden.
Kann ich stattdessen mein eigenes Docker-Image verwenden?
Ja – das Bereitstellungsformular akzeptiert jede öffentliche oder private OCI-Image-Referenz (Registry-Zugangsdaten werden pro Konto verschlüsselt gespeichert). Wir injizieren die NVIDIA-Runtime; Ihr Entrypoint bleibt unverändert.
Was bedeuten die Tags ARM, SSH, Jupyter und VM?
Sie zeigen, wie ein Template läuft: ARM = baut auch für ARM-Hosts, SSH = direkter Shell-Zugriff, Jupyter = ein Notebook-Server auf einem zugeordneten Port, VM = eine vollständige virtuelle Maschine statt eines Containers.
Kosten Templates extra?
Nein. Sie zahlen nur den GPU-Preis – eine ComfyUI-Session auf einer RTX 4090 kostet $0,354/Std., Template inklusive, abgerechnet pro Sekunde.