TL;DR
- Арендуйте RTX 4090 для батчей SDXL и QLoRA 8-13B; арендуйте RTX 5090, когда задаче нужно 24-32 GB.
- RTX 5090 даёт 32 GB GDDR7, 1,79 TB/s и 419 TFLOPS против 24 GB, 1,0 TB/s и 330 TFLOPS у 4090.
- На LowCostGPU 4090 стоит $0,354 в час, а 5090 — $0,481; на SDXL 4090 всё ещё выигрывает по числу изображений на доллар.
- Потолок QLoRA — около 13B на 24 GB и 34B на 32 GB; видео-моделям нужно 32 GB и больше.
Бок о бок
| RTX 4090 | RTX 5090 | |
|---|---|---|
| Архитектура | Ada Lovelace | Blackwell |
| VRAM | 24 GB GDDR6X | 32 GB GDDR7 |
| Пропускная способность памяти | 1,0 TB/s | 1,79 TB/s |
| Тензор FP16 (плотный) | 330 TF | 419 TF |
| Аренда, по требованию | $0,354/ч | $0,481/ч |
| Аренда, прерываемый | $0,177/ч | $0,240/ч |
Наценка сегодня — $0,127/ч (36 %). Вопрос всегда один: использует ли задача дополнительные 8 GB или дополнительную пропускную способность? Если нет — выигрывает цена 4090.
Математика LLM-инференса
- Класс 8B (помещается на обе карты) — пропускная способность 5090 обеспечивает ~1,6–1,8× по токенам в секунду; в пересчёте на токен это перекрывает её 1,36× цену. Победитель: 5090, с небольшим перевесом.
- Класс 14B — FP16 требует ~31 GB: 5090 обслуживает модель нативно, 4090 приходится квантовать. Победитель: 5090.
- 32B 4-бит (~21 GB весов) — загружается на обе карты, но KV-кэш переполняет память 4090 при реальной параллельной нагрузке. Победитель: 5090, безоговорочно.
- Батч-эмбеддинги / Whisper — небольшие модели с ограничением по вычислениям: арендуйте ту карту, что дешевле в час в этот день; обычно это 4090.
Генерация изображений & видео
SDXL при 1024px не упирается в VRAM: отставание 4090 по скорости ~25–30 % меньше её преимущества в цене на 26 % — больше изображений на доллар на 4090. Flux dev меняет расклад: веса FP16 и текстовые энкодеры почти достигают 24 GB, и каждая выгрузка в CPU тормозит 4090, пока 5090 держит всё в памяти. Видео- модели (Wan, LTX) — территория 5090 и выше — см. руководство по видео.
Файнтюнинг
Потолки QLoRA: ~13B на 24 GB, ~34B на 32 GB. Если целевая модель — Qwen 32B, 5090 — самый дешёвый вариант обучения на одной карте в этой таблице; на 8B 4090 (или даже 3090 за $0,148/ч) проходит те же эпохи дешевле. Пошаговое руководство с реальными цифрами расхода: руководство по QLoRA.
Итоговая таблица
| Задача | Аренда | Почему |
|---|---|---|
| Батчи SDXL | 4090 | выигрывает по изображениям/$ |
| Тяжёлые задачи на Flux | 5090 | умещается в 32 GB |
| 7–8B сервинг | 5090 | пропускная способность → токены/$ |
| 32B 4-битный сервинг | 5090 | единственный с запасом по кэшу |
| 8–13B QLoRA | 4090 | тот же результат, ниже тариф |
| 34B QLoRA | 5090 | потолок на одной карте |
| Генерация видео | 5090+ | 24 GB — ниже начального уровня |
Не можете решить? Возьмите обе карты в аренду на час — суммарно $0,835 по требованию — и протестируйте свою реальную нагрузку. Этот эксперимент обойдётся дешевле, чем заняло чтение этой статьи.
Применить цифры на практике
Каждая цена в этом руководстве — наш тариф в реальном времени: фиксированный, ≥30 % ниже медианы рынка, с посекундной тарификацией. Разверните ту же конфигурацию, что описана выше, из консоли примерно за 30 секунд — оплата криптой, без карты и без KYC.
