Вычисления 1 мин чтения обновлено 2026-09-03
Шаблоны & образы
Шаблон = закреплённый образ OCI + параметры запуска по умолчанию (порты, точки монтирования, переменные окружения). Каталог перечисляет поддерживаемые шаблоны; эта страница описывает, как они себя ведут.
Анатомия шаблона
image: lowcostgpu/vllm:0.8 # pinned tag, rebuilt on upstream releases
ports: 8000/http # exposed + TLS-terminated for you
mounts: /root/.cache/huggingface # survives restarts on the instance disk
env: MODEL=… # anything here is overridable at deployПри развёртывании можно переопределить любое поле — добавить переменные окружения, открыть больше портов, изменить размер диска. Переопределения сохраняются вместе с инстансом, поэтому они не теряются при остановке и запуске.
Переменные окружения
Задаются при развёртывании (форма консоли, флаги --env или словарь env в API). Примечание о секретах: значения переменных окружения хранятся в зашифрованном виде и никогда не попадают в логи, но для долгоживущих учётных данных лучше получать их при загрузке из вашего собственного хранилища.
Собственный образ Docker
Шаблон Docker принимает любую ссылку на образ:
lowcostgpu launch --gpu l40s \
--image ghcr.io/acme/trainer:v14 \
--ports 8080 --disk 100 \
--env WANDB_API_KEY=…- Рантайм NVIDIA внедряется — не включайте в образ драйверы; пользовательское пространство CUDA в образе допустимо.
- Приватные реестры: один раз добавьте учётные данные в разделе Настройки; они хранятся в зашифрованном виде для каждого аккаунта и используются только для загрузки образов.
- Поведение точки входа: ваш ENTRYPOINT/CMD выполняется как есть. Без обёртки, без агента внутри контейнера.
Версионирование
Теги шаблонов неизменяемы: повторное развёртывание lowcostgpu/pytorch:2.6-cuda12.8 в следующем месяце будет побайтово идентичным. Новые версии выходят как новые теги; консоль показывает, когда доступен более новый тег, но никогда не переключает вас на него незаметно.
Кэширование образов & холодный старт
Поддерживаемые шаблоны заранее загружены на большинство машин — это и есть развёртывание за ~30 секунд. Пользовательские образы загружаются при первом использовании на конкретной машине (зависит от скорости сети), затем кешируются. Очень большие образы выигрывают от уменьшения размера: каждый GB — это примерно 1–3 с дополнительного времени при первом запуске.