Запуск за ~30 с
Образ закэширован заранее, порты проброшены, TLS терминирован — стек уже работает, пока вы дочитываете это предложение.
Шаблон · Обучение и файнтюнинг · CUDA 12.6
Запустите файнтюнинг Axolotl на облачном GPU за 30 секунд
Дообучение Llama, Qwen или Mistral из одного YAML-файла — LoRA, QLoRA и мульти-GPU FSDP. Axolotl файнтюнит Llama, Qwen, Mistral и другие модели из одного YAML: LoRA, QLoRA, полный файнтюнинг, DeepSpeed и FSDP, форматы датасетов обрабатываются автоматически. Это тот самый шаблон, для которого написано наше пошаговое руководство по QLoRA, — чекпоинты сохраняются на том, а инстанс с тренером — одноразовый. От $0,177/ч на прерываемом RTX 4090.
Шаблон бесплатен
Вы платите только цену GPU: Axolotl — Файнтюнинг на RTX 4090 стоит $0,354/ч по требованию, $0,177/ч прерываемый, тарификация посекундная.
Тома для состояния
Модели, датасеты и результаты хранятся на томе по $0,08/GB/мес.; сам инстанс остаётся одноразовым.
Приватность по умолчанию
Выделенный GPU, зашифрованный диск, оплата криптой, без KYC, без сохранения IP-адресов — Jupyter и SSH с вашими собственными учётными данными.
Лучшие GPU для Axolotl — Файнтюнинг
Три ценовых уровня, хорошо подходящих для этого шаблона, — Хороший, Лучший, Самый лучший. Подходит любая модель GPU из каталога; это оптимальные по цене варианты.
| Уровень | GPU | VRAM | По требованию | Прерываемые | Почему эта карта | Действие |
|---|---|---|---|---|---|---|
| Хороший | RTX 4090 | 24 GB | $0,354 | $0,177 | QLoRA для моделей 8B–13B на 24 GB за пару долларов. | Развернуть |
| Лучший | A100 SXM4 | 80 GB | $0,468 | $0,234 | 80 GB с NVLink для полных файнтюнов и 8× FSDP. | Развернуть |
| Самый лучший | H100 PCIE | 80 GB | $1,811 | $0,905 | 80 GB + FP8 — полные файнтюны примерно за половину реального времени A100. | Развернуть |
Нужно больше VRAM? Полный каталог перечисляет все модели с доступностью в реальном времени — всего: 83; руководство по VRAM подбирает карту под модель.
Разверните Axolotl — Файнтюнинг через консоль, CLI или API
Откройте консоль, выберите шаблон в панели развёртывания, или сделайте это через скрипт:
- Консоль — отфильтруйте по GPU, выберите Axolotl — Файнтюнинг в списке шаблонов, задайте диск и переменные окружения, разверните.
- CLI — pip install lowcostgpu, затем команда справа. Справочник CLI.
- API — POST /v1/instances с "template": "axolotl-fine-tuning". Справочник REST API.
- Свой образ — подойдёт любая ссылка OCI; мы добавляем NVIDIA runtime. Документация по шаблонам.
$ lowcostgpu launch --gpu rtx-4090 --template axolotl-fine-tuning \
--disk 100 --volume models:/workspace/models
✓ instance i-7a41c0e2 running (27.9s)
# Axolotl — Файнтюнинг · RTX 4090 · $0,354/hr · per second
# https://i-7a41c0e2.lowcostgpu.com:8888 (TLS)
$ lowcostgpu stop i-7a41c0e2 # billing ends this secondЧто внутри шаблона Axolotl — Файнтюнинг
| Образ | axolotlai/axolotl-cloud |
|---|---|
| CUDA | CUDA 12.6 |
| Доступ | также собирается под ARM · shell по SSH · JupyterLab на проброшенном порту |
| Категория | Обучение и файнтюнинг |
| Хранилище | NVMe-диск инстанса (размер задаётся при развёртывании) + опциональные сетевые тома |
| Биллинг | Только цена GPU, посекундно — без платы за шаблон, без платы за подключение |
Другие шаблоны категории Обучение и файнтюнинг
Unsloth Studio на облачном GPU — 2× быстрее, файнтюнинг с меньшим расходом VRAM — ядра Unsloth и работа через notebook.
Kohya's GUI на облачном GPU — Обучение LoRA для SDXL и Flux в браузерном GUI — датасет на входе, .safetensors на выходе.
Flux Gym на облачном GPU — Максимально простой интерфейс для обучения LoRA для Flux, построенный на скриптах Kohya.
Ostris AI Toolkit на облачном GPU — AI-Toolkit — инструмент для обучения Flux и диффузионных моделей, с веб-интерфейсом.- Все шаблоны: 37
Axolotl — Файнтюнинг на облачном GPU: FAQ
Переменные окружения, порты и пользовательские образы описаны в документации по шаблонам.
Сколько стоит запустить Axolotl — Файнтюнинг на облачном GPU?
Только цена GPU — шаблон бесплатен. От $0,177/ч на прерываемом RTX 4090, $0,354/ч по требованию на RTX 4090. Тарификация посекундная, поэтому час экспериментов стоит час, а не день. Хранилище — $0,08/GB/мес.
Сколько времени занимает запуск Axolotl — Файнтюнинг?
Около 30 секунд с момента клика по кнопке «Развернуть»: образ заранее закэширован на машинах, порты проброшены, а TLS терминирован. Перезапуск остановленного инстанса быстрее, а диск остаётся точно таким, каким вы его оставили.
Можно ли сохранить модели и результаты между сессиями?
Да — подключите том при развёртывании. Всё на томе переживает уничтожение инстанса и монтируется на следующий инстанс в регионе за секунды, по цене $0,08/GB/мес. Сам диск инстанса переживает остановку/запуск, но не уничтожение.
Сколько времени занимает прогон QLoRA?
Около 1,5 часа для 10 тыс. пар инструкций на Llama 3.1 8B на одной RTX 4090; QLoRA для 70B на карте с 80 GB — задача на ночь. В руководстве приведены точные конфигурации и расходы.