Не зависит от инстанса
Уничтожайте дорогой GPU, как только задача завершится, — том сохранит ваше состояние для следующей. Основная модель стоимости при посекундной тарификации.
Продукты
Разработчики & компания
GPU · по требованию, в час
Продукты · тома
Сетевые тома NVMe по фиксированной цене $0,08/GB/мес., посекундная тарификация. Держите датасеты, чекпоинты и библиотеки моделей наготове, пока инстансы создаются и уничтожаются, — подключайте к любой машине в регионе за секунды.
Уничтожайте дорогой GPU, как только задача завершится, — том сохранит ваше состояние для следующей. Основная модель стоимости при посекундной тарификации.
Чтение со скоростью в несколько GB/s помещает веса 70B в VRAM за десятки секунд — без издержек на скачивание из S3 при каждом развёртывании.
Одно подключение с правом записи, множество читателей: парк для сервинга монтирует одну и ту же библиотеку моделей без копий.
$0,08/GB/мес. везде. Никаких уровней IOPS, никаких классов пропускной способности, никакой платы за запрос.
Посекундная тарификация не мешает считать и по часам — в обеих колонках одно и то же число.
| Сценарий | Размер | В месяц | За час | Примечания |
|---|---|---|---|---|
| Рабочая область LoRA | 50 GB | $4,00 | $0,0055 | чекпоинты + датасеты для файнтюнинга |
| Библиотека моделей | 500 GB | $40,00 | $0,0548 | ~6 квантованных моделей 70B, готовых к сервингу |
| Хранилище рендеров | 2 000 GB | $160,00 | $0,2192 | файлы сцен + кадры для студийного пайплайна |
| Озеро данных | 10 000 GB | $800,00 | $1,0959 | Шарды уровня LAION, размещённые рядом с GPU |
Время GPU — дорогая статья расходов; хранение — копейки. Тома позволяют перестать платить за первое, не теряя результатов работы:
$ lowcostgpu volume create --name models --size 500 --region eu-west-1
✓ vol-8c31f2 · 500 GB · $40,00/mo
$ lowcostgpu launch --gpu l40s --template vllm --volume models:/models:ro
✓ instance i-4fd02b11 running · library mounted read-only
Параметры монтирования и снимки — в документации по хранилищу.
Выделенный объём × $0,08/GB/мес., посекундно, вне зависимости от того, подключён он или нет. Том на 100 GB стоит примерно $0,0110 в час — удалите его, и тарификация остановится в ту же секунду.
Одно подключение на чтение и запись одновременно, плюс неограниченное число подключений только для чтения в том же регионе — стандартная схема для парков для сервинга, которые читают одну библиотеку моделей, пока процесс обучения пишет чекпоинты в другом месте.
NVMe по сети дата-центра: последовательное чтение на скорости в несколько GB/s на серверах дата-центра — этого хватает, чтобы загрузить модель 70B меньше чем за минуту, — при этом локальный NVMe инстанса по-прежнему доступен для временного ввода-вывода.
Да — в этом и суть. Уничтожайте инстансы свободно; тома сохраняются, пока вы их не удалите, и подключаются заново к любому новому инстансу в своём регионе.
Пополните баланс в криптовалюте, сравните нас с текущим провайдером. Посекундная тарификация, фиксированные цены ≥ 30 % ниже рынка — для отмены достаточно остановить инстанс.