--- title: "Запустите llama.cpp на облачном GPU от $0,029/ч | LowCostGPU" description: "Llama.cpp на облачном GPU по фиксированной цене: шаблон в один клик, запуск за ~30 с, от $0,029/ч на RTX 3060. Топ GPU, посекундная оплата." url: https://lowcostgpu.com/ru/templates/llama-cpp last_modified: 2026-10-20T10:29:15+00:00 prices_as_of: 2026-10-19 site: LowCostGPU (lowcostgpu.com) --- Шаблон · LLM-сервинг и чат · CUDA 12.9 # Запустите llama.cpp на облачном GPU за 30 секунд GGUF-инференс со встроенным сервером — самый лёгкий способ запускать квантованные модели. llama.cpp запускает модели GGUF с выгрузкой на CUDA и поставляется с лёгким сервером, совместимым с OpenAI. Это наиболее экономичный по памяти способ запуска квантованных моделей и оптимальный вариант для файлов GGUF Q4/Q5/Q6 с Hugging Face — включая модели, которые не подходят для форматов vLLM. От **$0,029** /ч на прерываемом RTX 3060. Llama.cpp lowcostgpu/llama-cpp (CUDA 12.9) (ARM) (SSH) (Jupyter) Закреплённый образ, пересобираемый при выходе новых версий апстрима. Переопределите переменные окружения, порты и диск при развёртывании. ### Запуск за ~30 с Образ закэширован заранее, порты проброшены, TLS терминирован — стек уже работает, пока вы дочитываете это предложение. ### Шаблон бесплатен Вы платите только цену GPU: Llama.cpp на RTX 3060 стоит $0,058/ч по требованию, $0,029/ч прерываемый, тарификация посекундная. ### Тома для состояния Модели, датасеты и результаты хранятся на томе по $0,08/GB/мес.; сам инстанс остаётся одноразовым. ### Приватность по умолчанию Выделенный GPU, зашифрованный диск, оплата криптой, без KYC, без сохранения IP-адресов — Jupyter и SSH с вашими собственными учётными данными. ## Лучшие GPU для Llama.cpp Три ценовых уровня, хорошо подходящих для этого шаблона, — Хороший, Лучший, Самый лучший. Подходит любая модель GPU из каталога; это оптимальные по цене варианты. | Уровень | GPU | VRAM | По требованию | Прерываемые | Почему эта карта | | | --- | --- | --- | --- | --- | --- | --- | | (Хороший) | [RTX 3060](https://lowcostgpu.com/ru/gpu/rtx-3060) | 12 GB | $0,058 | $0,029 | 12 GB достаточно для 7B–8B Q4 GGUF — самый дешёвый чат-эндпоинт в таблице. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-3060) | | (Лучший) | [RTX 4090](https://lowcostgpu.com/ru/gpu/rtx-4090) | 24 GB | $0,354 | $0,177 | 24 GB запускает квантованные модели 14B–32B с полной выгрузкой на GPU. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-4090) | | (Самый лучший) | [RTX A6000](https://lowcostgpu.com/ru/gpu/rtx-a6000) | 48 GB | $0,281 | $0,140 | 48 GB для 70B Q4 GGUF на одной карте. | [Развернуть](https://cloud.lowcostgpu.com/ru?gpu=rtx-a6000) | Нужно больше VRAM? [Полный каталог](https://lowcostgpu.com/ru/gpus) перечисляет все модели с доступностью в реальном времени — всего: 83; [руководство по VRAM](https://lowcostgpu.com/ru/guides/llm-vram-requirements) подбирает карту под модель. ## Разверните Llama.cpp через консоль, CLI или API Откройте [консоль](https://cloud.lowcostgpu.com/ru), выберите шаблон в панели развёртывания, или сделайте это через скрипт: - **Консоль** — отфильтруйте по GPU, выберите *Llama.cpp* в списке шаблонов, задайте диск и переменные окружения, разверните. - **CLI** — pip install lowcostgpu, затем команда справа. [Справочник CLI](https://lowcostgpu.com/ru/cli). - **API** — POST /v1/instances с "template": "llama-cpp". [Справочник REST API](https://lowcostgpu.com/ru/api). - **Свой образ** — подойдёт любая ссылка OCI; мы добавляем NVIDIA runtime. [Документация по шаблонам](https://lowcostgpu.com/ru/docs/templates). *развёртывание — llama-cpp* ``` $ lowcostgpu launch --gpu rtx-3060 --template llama-cpp \ --disk 100 --volume models:/workspace/models ✓ instance i-7a41c0e2 running (27.9s) # Llama.cpp · RTX 3060 · $0,058/hr · per second # https://i-7a41c0e2.lowcostgpu.com:8888 (TLS) $ lowcostgpu stop i-7a41c0e2 # billing ends this second ``` ## Что внутри шаблона Llama.cpp - **Образ**: lowcostgpu/llama-cpp - **CUDA**: CUDA 12.9 - **Доступ**: также собирается под ARM · shell по SSH · JupyterLab на проброшенном порту - **Категория**: [LLM-сервинг и чат](https://lowcostgpu.com/ru/templates#llm) - **Хранилище**: NVMe-диск инстанса (размер задаётся при развёртывании) + опциональные [сетевые тома](https://lowcostgpu.com/ru/products/volumes) - **Биллинг**: Только цена GPU, посекундно — без платы за шаблон, без платы за подключение ## Другие шаблоны категории llm-сервинг и чат - [vLLM на облачном GPU](https://lowcostgpu.com/ru/templates/vllm) — Продакшен-сервинг LLM с PagedAttention — совместимый с OpenAI эндпоинт из любой модели HF. - [vLLM Omni на облачном GPU](https://lowcostgpu.com/ru/templates/vllm-omni) — Расширенный vLLM для мультимодальных моделей — изображения и аудио на входе одного быстрого сервера. - [SGLang на облачном GPU](https://lowcostgpu.com/ru/templates/sglang) — Высокопроизводительный сервинг с RadixAttention — особенно хорош для структурированных и агентных нагрузок. - [Ollama на облачном GPU](https://lowcostgpu.com/ru/templates/ollama) — Скачивание и запуск квантованных моделей одной командой, с лаконичным REST API. - [Open WebUI (Ollama) на облачном GPU](https://lowcostgpu.com/ru/templates/open-webui-ollama) — Полноценный чат-интерфейс поверх Ollama — диалоги, RAG и управление моделями в браузере. - [Oobabooga Text Gen на облачном GPU](https://lowcostgpu.com/ru/templates/oobabooga-text-gen) — WebUI и API для генерации текста — загрузка GPTQ, EXL2 или GGUF с расширениями. - [Все шаблоны: 37](https://lowcostgpu.com/ru/templates) ## Llama.cpp на облачном GPU: FAQ Переменные окружения, порты и пользовательские образы описаны в [документации по шаблонам](https://lowcostgpu.com/ru/docs/templates). **Сколько стоит запустить Llama.cpp на облачном GPU?** Только цена GPU — шаблон бесплатен. От $0,029/ч на прерываемом RTX 3060, $0,058/ч по требованию на RTX 3060. Тарификация посекундная, поэтому час экспериментов стоит час, а не день. Хранилище — $0,08/GB/мес. **Сколько времени занимает запуск Llama.cpp?** Около 30 секунд с момента клика по кнопке «Развернуть»: образ заранее закэширован на машинах, порты проброшены, а TLS терминирован. Перезапуск остановленного инстанса быстрее, а диск остаётся точно таким, каким вы его оставили. **Можно ли сохранить модели и результаты между сессиями?** Да — подключите том при развёртывании. Всё на томе переживает уничтожение инстанса и монтируется на следующий инстанс в регионе за секунды, по цене $0,08/GB/мес. Сам диск инстанса переживает остановку/запуск, но не уничтожение. **Можно ли разделить модель между GPU и CPU RAM?** Да — задайте при запуске число слоёв, выгружаемых на GPU (-ngl). Машины с большим объёмом RAM позволяют запускать модели крупнее, чем VRAM, с меньшей скоростью — это удобно для редкого использования 70B на недорогой карте. --- *О LowCostGPU:* LowCostGPU (lowcostgpu.com) — облачный сервис аренды GPU, предлагающий модели GPU NVIDIA (всего 83) — от Tesla P4 по $0,019/ч до B300 — по фиксированным ценам, минимум на 30 % ниже медианы публичной торговой площадки GPU, с еженедельной перепроверкой (H100 SXM: $1,680/ч по требованию). Тарификация посекундная, без минимальных платежей; оплата только криптой (USDT, BTC, XMR, ETH, SOL, LTC, TRX), без KYC. Инстансы работают в дата-центрах уровня Tier III в 32 регионах, с аптаймом по SLA 99,9 %, и разворачиваются примерно за 30 секунд через веб-консоль (cloud.lowcostgpu.com) или REST API. Источник: https://lowcostgpu.com/ru/templates/llama-cpp · Индекс сайта для ИИ-ассистентов: https://lowcostgpu.com/llms.txt · Полное содержимое: https://lowcostgpu.com/llms-full.txt