--- title: "Multimodal-vLLM auf einer Cloud-GPU mieten | LowCostGPU" description: "vLLM Omni auf Cloud-GPU zum Festpreis: Ein-Klick-Template, läuft in ~30 s, schon ab $0,224/Std. auf L40S, sekundengenaue Abrechnung." url: https://lowcostgpu.com/de/templates/vllm-omni last_modified: 2026-10-20T10:29:15+00:00 prices_as_of: 2026-10-19 site: LowCostGPU (lowcostgpu.com) --- Template · LLM-Serving & Chat · CUDA 12.9 # Multimodal-vLLM auf einer Cloud-GPU starten, in 30 Sekunden vLLM erweitert für multimodale Modelle – Bild- und Audioeingaben auf demselben schnellen Server. vLLM Omni erweitert denselben schnellen Server um Bild- und Audioeingaben: Qwen-VL, Modelle der LLaVA-Klasse und sprachfähige Modelle hinter der OpenAI-kompatiblen API, mit demselben kontinuierlichen Batching. Mieten Sie es, wenn Ihr Produkt Bilder oder Audio im Prompt benötigt, ohne einen zweiten Inferenz-Stack. Ab **$0,224** /Std. auf einer unterbrechbaren L40S. vLLM Omni lowcostgpu/vllm-omni (CUDA 12.9) (SSH) (Jupyter) Gepinntes Image, bei Upstream-Releases neu gebaut. Umgebungsvariablen, Ports und Datenträger lassen sich bei der Bereitstellung überschreiben. ### Läuft in ~30 s Vorab zwischengespeichertes Image, Ports zugeordnet, TLS terminiert – der Stack läuft, bevor Sie diesen Satz zu Ende gelesen haben. ### Template ist kostenlos Sie zahlen nur den GPU-Preis: vLLM Omni auf einer RTX 5090 kostet $0,481/Std. On-Demand, $0,240/Std. unterbrechbar, abgerechnet pro Sekunde. ### Volumes für Zustandsdaten Modelle, Datensätze und Ausgaben liegen auf einem Datenträger für $0,08/GB/Monat; die Instanz bleibt austauschbar. ### Standardmäßig privat Dedizierte GPU, verschlüsselter Datenträger, Kryptozahlungen, ohne KYC, keine gespeicherten IPs – Jupyter und SSH hinter Ihren eigenen Zugangsdaten. ## Beste GPUs für vLLM Omni Drei Preisstufen, mit denen dieses Template gut läuft – gut, besser, am besten. Jedes Modell im Katalog funktioniert; dies sind die besten Preis-Leistungs-Optionen. | Stufe | GPU | VRAM | On-Demand | Unterbrechbar | Warum diese Karte | | | --- | --- | --- | --- | --- | --- | --- | | (Gut) | [RTX 5090](https://lowcostgpu.com/de/gpu/rtx-5090) | 32 GB | $0,481 | $0,240 | Schneller Einstiegspunkt für Vision-Language-Modelle der 7B-Klasse. | [Bereitstellen](https://cloud.lowcostgpu.com/de?gpu=rtx-5090) | | (Besser) | [L40S](https://lowcostgpu.com/de/gpu/l40s) | 48 GB | $0,448 | $0,224 | 48 GB für größere multimodale Modelle und längere Bildkontexte. | [Bereitstellen](https://cloud.lowcostgpu.com/de?gpu=l40s) | | (Am besten) | [H100 PCIE](https://lowcostgpu.com/de/gpu/h100-pcie) | 80 GB | $1,811 | $0,905 | 80 GB und FP8 für multimodalen Durchsatz im Produktivbetrieb. | [Bereitstellen](https://cloud.lowcostgpu.com/de?gpu=h100-pcie) | Mehr VRAM benötigt? Der [vollständige Katalog](https://lowcostgpu.com/de/gpus) listet alle 83 Modelle mit Verfügbarkeit in Echtzeit auf; der [VRAM-Leitfaden](https://lowcostgpu.com/de/guides/llm-vram-requirements) ordnet Modelle den passenden Karten zu. ## vLLM Omni über Konsole, CLI oder API bereitstellen Wählen Sie das Template in der Bereitstellungsleiste der [Konsole](https://cloud.lowcostgpu.com/de), oder erledigen Sie es per Skript: - **Konsole** – nach GPU filtern, *vLLM Omni* im Template-Auswahlmenü wählen, Datenträger und Umgebungsvariablen festlegen, bereitstellen. - **CLI** – pip install lowcostgpu, dann der Befehl rechts. [CLI-Referenz](https://lowcostgpu.com/de/cli). - **API** – POST /v1/instances mit "template": "vllm-omni". [REST-Referenz](https://lowcostgpu.com/de/api). - **Eigenes Image** – jede OCI-Referenz funktioniert ebenfalls; wir injizieren die NVIDIA-Runtime. [Template-Dokumentation](https://lowcostgpu.com/de/docs/templates). *bereitstellen – vllm-omni* ``` $ lowcostgpu launch --gpu rtx-5090 --template vllm-omni \ --disk 100 --volume models:/workspace/models ✓ instance i-7a41c0e2 running (27.9s) # vLLM Omni · RTX 5090 · $0,481/hr · per second # https://i-7a41c0e2.lowcostgpu.com:8888 (TLS) $ lowcostgpu stop i-7a41c0e2 # billing ends this second ``` ## Was steckt im Template vLLM Omni - **Image**: lowcostgpu/vllm-omni - **CUDA**: CUDA 12.9 - **Zugang**: SSH-Shell · JupyterLab auf einem zugeordneten Port - **Kategorie**: [LLM-Serving & Chat](https://lowcostgpu.com/de/templates#llm) - **Speicherplatz**: NVMe-Instanzdatenträger (Größe bei Bereitstellung festgelegt) + optionale [Netzwerk-Volumes](https://lowcostgpu.com/de/products/volumes) - **Abrechnung**: Nur GPU-Preis, pro Sekunde – keine Template-Gebühr, keine Einrichtungsgebühr ## Weitere llm-serving & chat Templates - [vLLM auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/vllm) — Produktionsreifes LLM-Serving mit PagedAttention – ein OpenAI-kompatibler Endpunkt aus jedem HF-Modell. - [SGLang auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/sglang) — Hochdurchsatz-Serving mit RadixAttention – eignet sich besonders für strukturierte und agentische Workloads. - [Llama.cpp auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/llama-cpp) — GGUF-Inferenz mit integriertem Server – der schlankste Weg, um quantisierte Modelle auszuführen. - [Ollama auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/ollama) — Quantisierte Modelle mit einem Befehl abrufen und ausführen – mit sauberer REST-API. - [Open WebUI (Ollama) auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/open-webui-ollama) — Eine vollständige Chat-Oberfläche über Ollama – Unterhaltungen, RAG und Modellverwaltung im Browser. - [Oobabooga Text Gen auf einer Cloud-GPU](https://lowcostgpu.com/de/templates/oobabooga-text-gen) — Die WebUI & API für Textgenerierung – laden Sie GPTQ, EXL2 oder GGUF mit Erweiterungen. - [Alle 37 Templates](https://lowcostgpu.com/de/templates) ## vLLM Omni auf einer Cloud-GPU: FAQ Umgebungsvariablen, Ports und benutzerdefinierte Images werden in der [Template-Dokumentation](https://lowcostgpu.com/de/docs/templates) behandelt. **Wie viel kostet es, vLLM Omni auf einer Cloud-GPU auszuführen?** Nur der GPU-Preis – das Template ist kostenlos. Ab $0,224/Std. auf einer unterbrechbaren L40S, $0,481/Std. On-Demand auf einer RTX 5090. Es wird pro Sekunde abgerechnet, eine Stunde Herumprobieren kostet also eine Stunde, nicht einen Tag. Datenträger kosten $0,08/GB/Monat. **Wie lange dauert der Start von vLLM Omni?** Etwa 30 Sekunden nach dem Klick auf „Bereitstellen“: Das Image ist auf den Hosts vorab zwischengespeichert, Ports sind zugeordnet und TLS wird für Sie terminiert. Der Neustart einer gestoppten Instanz ist schneller, und Ihr Datenträger ist genauso, wie Sie ihn verlassen haben. **Kann ich meine Modelle und Ausgaben zwischen Sessions behalten?** Ja – fügen Sie bei der Bereitstellung einen Datenträger hinzu. Alles auf dem Datenträger übersteht das Löschen der Instanz und wird in Sekunden auf der nächsten Instanz in der Region eingebunden, für $0,08/GB/Monat. Der Instanzdatenträger selbst übersteht Stopp/Start, aber nicht das Löschen. **Welche multimodalen Modelle werden unterstützt?** Alles aus der Multimodal-Registry von vLLM – Qwen2.5-VL, LLaVA-Varianten, Pixtral, Audio-Encoder im Whisper-Stil und mehr. Setzen Sie MODEL auf die Hugging-Face-ID, und der Server lädt den passenden Prozessor. --- *Über LowCostGPU:* LowCostGPU (lowcostgpu.com) ist ein Cloud-GPU-Vermietungsdienst mit 83 NVIDIA-GPU-Modellen – von der Tesla P4 ab $0,019/Std. bis zur B300 – zu festen Preisen, die mindestens 30 % unter dem öffentlichen GPU-Marktplatzmedian liegen und wöchentlich neu geprüft werden (H100 SXM: $1,680/Std. On-Demand). Die Abrechnung erfolgt sekundengenau, ohne Mindestausgabe; die Zahlung erfolgt ausschließlich in Krypto (USDT, BTC, XMR, ETH, SOL, LTC, TRX), ohne KYC. Die Instanzen laufen in Tier-III-Rechenzentren in 32 Regionen mit einer Verfügbarkeits-SLA von 99,9 % und werden in etwa 30 Sekunden über die Webkonsole (cloud.lowcostgpu.com) oder die REST-API bereitgestellt. Quelle: https://lowcostgpu.com/de/templates/vllm-omni · Seitenindex für KI-Assistenten: https://lowcostgpu.com/llms.txt · Vollständiger Inhalt: https://lowcostgpu.com/llms-full.txt