--- title: "Запустите text-generation-webui на облачном GPU | LowCostGPU" description: "Oobabooga Text Gen на облачном GPU по фиксированной цене: шаблон в один клик, запуск за ~30 с, от $0,074/ч на RTX 3090. Топ GPU, посекундная оплата." url: https://lowcostgpu.com/ru/templates/oobabooga-text-gen last_modified: 2026-10-20T10:29:15+00:00 prices_as_of: 2026-10-19 site: LowCostGPU (lowcostgpu.com) --- Шаблон · LLM-сервинг и чат · CUDA 12.4 # Запустите text-generation-webui на облачном GPU за 30 секунд WebUI и API для генерации текста — загрузка GPTQ, EXL2 или GGUF с расширениями. text-generation-webui (oobabooga) загружает модели GPTQ, EXL2, AWQ и GGUF, предлагая насыщенный чат-интерфейс, карточки персонажей, расширения и API. Это выбор энтузиастов — для сравнения форматов квантования и настроек сэмплирования бок о бок. От **$0,074** /ч на прерываемом RTX 3090. Oobabooga Text Gen lowcostgpu/oobabooga (CUDA 12.4) (SSH) (Jupyter) Закреплённый образ, пересобираемый при выходе новых версий апстрима. Переопределите переменные окружения, порты и диск при развёртывании. ### Запуск за ~30 с Образ закэширован заранее, порты проброшены, TLS терминирован — стек уже работает, пока вы дочитываете это предложение. ### Шаблон бесплатен Вы платите только цену GPU: Oobabooga Text Gen на RTX 4090 стоит $0,354/ч по требованию, $0,177/ч прерываемый, тарификация посекундная. ### Тома для состояния Модели, датасеты и результаты хранятся на томе по $0,08/GB/мес.; сам инстанс остаётся одноразовым. ### Приватность по умолчанию Выделенный GPU, зашифрованный диск, оплата криптой, без KYC, без сохранения IP-адресов — Jupyter и SSH с вашими собственными учётными данными. ## Лучшие GPU для Oobabooga Text Gen Три ценовых уровня, хорошо подходящих для этого шаблона, — Хороший, Лучший, Самый лучший. Подходит любая модель GPU из каталога; это оптимальные по цене варианты. | Уровень | GPU | VRAM | По требованию | Прерываемые | Почему эта карта | | | --- | --- | --- | --- | --- | --- | --- | | (Хороший) | [RTX 4090](https://lowcostgpu.com/ru/gpu/rtx-4090) | 24 GB | $0,354 | $0,177 | 24 GB: модели EXL2 13B–32B с быстрыми ядрами ExLlama. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-4090) | | (Лучший) | [RTX 3090](https://lowcostgpu.com/ru/gpu/rtx-3090) | 24 GB | $0,148 | $0,074 | Тот же объём VRAM по более низкому тарифу для более медленных экспериментов. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-3090) | | (Самый лучший) | [RTX A6000](https://lowcostgpu.com/ru/gpu/rtx-a6000) | 48 GB | $0,281 | $0,140 | 48 GB для 70B EXL2 на одной карте. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-a6000) | Нужно больше VRAM? [Полный каталог](https://lowcostgpu.com/ru/gpus) перечисляет все модели с доступностью в реальном времени — всего: 83; [руководство по VRAM](https://lowcostgpu.com/ru/guides/llm-vram-requirements) подбирает карту под модель. ## Разверните Oobabooga Text Gen через консоль, CLI или API Откройте [консоль](https://cloud.lowcostgpu.com/ru), выберите шаблон в панели развёртывания, или сделайте это через скрипт: - **Консоль** — отфильтруйте по GPU, выберите *Oobabooga Text Gen* в списке шаблонов, задайте диск и переменные окружения, разверните. - **CLI** — pip install lowcostgpu, затем команда справа. [Справочник CLI](https://lowcostgpu.com/ru/cli). - **API** — POST /v1/instances с "template": "oobabooga-text-gen". [Справочник REST API](https://lowcostgpu.com/ru/api). - **Свой образ** — подойдёт любая ссылка OCI; мы добавляем NVIDIA runtime. [Документация по шаблонам](https://lowcostgpu.com/ru/docs/templates). *развёртывание — oobabooga-text-gen* ``` $ lowcostgpu launch --gpu rtx-4090 --template oobabooga-text-gen \ --disk 100 --volume models:/workspace/models ✓ instance i-7a41c0e2 running (27.9s) # Oobabooga Text Gen · RTX 4090 · $0,354/hr · per second # https://i-7a41c0e2.lowcostgpu.com:8888 (TLS) $ lowcostgpu stop i-7a41c0e2 # billing ends this second ``` ## Что внутри шаблона Oobabooga Text Gen - **Образ**: lowcostgpu/oobabooga - **CUDA**: CUDA 12.4 - **Доступ**: shell по SSH · JupyterLab на проброшенном порту - **Категория**: [LLM-сервинг и чат](https://lowcostgpu.com/ru/templates#llm) - **Хранилище**: NVMe-диск инстанса (размер задаётся при развёртывании) + опциональные [сетевые тома](https://lowcostgpu.com/ru/products/volumes) - **Биллинг**: Только цена GPU, посекундно — без платы за шаблон, без платы за подключение ## Другие шаблоны категории llm-сервинг и чат - [vLLM на облачном GPU](https://lowcostgpu.com/ru/templates/vllm) — Продакшен-сервинг LLM с PagedAttention — совместимый с OpenAI эндпоинт из любой модели HF. - [vLLM Omni на облачном GPU](https://lowcostgpu.com/ru/templates/vllm-omni) — Расширенный vLLM для мультимодальных моделей — изображения и аудио на входе одного быстрого сервера. - [SGLang на облачном GPU](https://lowcostgpu.com/ru/templates/sglang) — Высокопроизводительный сервинг с RadixAttention — особенно хорош для структурированных и агентных нагрузок. - [Llama.cpp на облачном GPU](https://lowcostgpu.com/ru/templates/llama-cpp) — GGUF-инференс со встроенным сервером — самый лёгкий способ запускать квантованные модели. - [Ollama на облачном GPU](https://lowcostgpu.com/ru/templates/ollama) — Скачивание и запуск квантованных моделей одной командой, с лаконичным REST API. - [Open WebUI (Ollama) на облачном GPU](https://lowcostgpu.com/ru/templates/open-webui-ollama) — Полноценный чат-интерфейс поверх Ollama — диалоги, RAG и управление моделями в браузере. - [Все шаблоны: 37](https://lowcostgpu.com/ru/templates) ## Oobabooga Text Gen на облачном GPU: FAQ Переменные окружения, порты и пользовательские образы описаны в [документации по шаблонам](https://lowcostgpu.com/ru/docs/templates). **Сколько стоит запустить Oobabooga Text Gen на облачном GPU?** Только цена GPU — шаблон бесплатен. От $0,074/ч на прерываемом RTX 3090, $0,354/ч по требованию на RTX 4090. Тарификация посекундная, поэтому час экспериментов стоит час, а не день. Хранилище — $0,08/GB/мес. **Сколько времени занимает запуск Oobabooga Text Gen?** Около 30 секунд с момента клика по кнопке «Развернуть»: образ заранее закэширован на машинах, порты проброшены, а TLS терминирован. Перезапуск остановленного инстанса быстрее, а диск остаётся точно таким, каким вы его оставили. **Можно ли сохранить модели и результаты между сессиями?** Да — подключите том при развёртывании. Всё на томе переживает уничтожение инстанса и монтируется на следующий инстанс в регионе за секунды, по цене $0,08/GB/мес. Сам диск инстанса переживает остановку/запуск, но не уничтожение. **Какие загрузчики включены?** Transformers, ExLlamaV2, llama.cpp, AutoGPTQ и AWQ — выбирайте нужный вариант для каждой модели в интерфейсе. Расширение API, совместимого с OpenAI, включено по умолчанию. --- *О LowCostGPU:* LowCostGPU (lowcostgpu.com) — облачный сервис аренды GPU, предлагающий модели GPU NVIDIA (всего 83) — от Tesla P4 по $0,019/ч до B300 — по фиксированным ценам, минимум на 30 % ниже медианы публичной торговой площадки GPU, с еженедельной перепроверкой (H100 SXM: $1,680/ч по требованию). Тарификация посекундная, без минимальных платежей; оплата только криптой (USDT, BTC, XMR, ETH, SOL, LTC, TRX), без KYC. Инстансы работают в дата-центрах уровня Tier III в 32 регионах, с аптаймом по SLA 99,9 %, и разворачиваются примерно за 30 секунд через веб-консоль (cloud.lowcostgpu.com) или REST API. Источник: https://lowcostgpu.com/ru/templates/oobabooga-text-gen · Индекс сайта для ИИ-ассистентов: https://lowcostgpu.com/llms.txt · Полное содержимое: https://lowcostgpu.com/llms-full.txt