Начало темыГайд

ComfyUI на 6 ГБ: считаем бюджет VRAM вместо гаданий про --lowvram

byteputbyteputНовичок·11.11.2026· 0 ответов 0 реакций

Все гайды «ComfyUI на 6 гигах» устроены одинаково: автор пишет «работает, вот воркфлоу», прикладывает JSON и скриншот с чекпойнтом SDXL. Что именно у него влезло и почему — не пишет никто. Я решил начать с арифметики, потому что на 6 ГБ именно арифметика решает, будет у тебя кадр или OOM посреди ночи.

И сразу неприятное, чтобы не было сюрприза в конце. ComfyUI я не запускал. На машине, где писался проект, его нет. Поэтому таймингов в посте не будет вообще — ни секунд на шаг, ни секунд на кадр. Всё, что ниже, это либо точная арифметика из размеров модели, либо расчёт с явно названной эмпирической поправкой. Разница между «посчитано» и «измерено» тут принципиальная, и я её не стираю.

Веса: fp16 на 6 ГБ не живёт вообще

SDXL base — это unet на 2.567 миллиарда параметров, плюс CLIP-L на 123 миллиона, CLIP-G на 694 и VAE на 83. В fp16 каждый параметр — два байта, и один unet занимает 4896 МБ. С текстовыми энкодерами и VAE получается 6614 МБ. Бюджет 6144. То есть модель не влезает ещё до того, как понадобилось место под активации.

Это, кстати, объясняет, почему половина гайдов про 6 ГБ на деле про 8 ГБ, а в комментариях у них «у меня не запустилось». Не запустилось не потому, что руки, а потому что fp16 туда физически не влезает.

В fp8 веса весят 3386 МБ. Уже разговор. Остаётся 2758 МБ на всё остальное, и вот тут начинается интересное.

Активации: та часть, которую все пропускают

Активации — это промежуточные тензоры, и на диффузии они растут с площадью кадра быстрее, чем хотелось бы. Точной формулы из карточки модели тут нет: она зависит от сэмплера, от включённого attention slicing, от версии torch. Поэтому в коде это эмпирическая поправка — доля от веса unet, растущая с длинной стороной кадра. По порядку величины она сходится с тем, что видно в nvidia-smi на чужих прогонах, и я честно называю её самой слабой частью расчёта.

При 1024² в fp8 получается 2448 МБ активаций. Итого занято 5834 из 6144, остаток 54 МБ. Формально влезает. Фактически — это ровно тот случай, когда в живом ComfyUI понадобится --lowvram с частичным offload, потому что 54 мегабайта не покрывают даже фрагментацию. CLI сам об этом пишет, когда остаток меньше 300 МБ, — мне не нравится, когда инструмент делает вид, что «влезает» и «поедет» это одно и то же.

Главное открытие: 2048 латентом не поднимается

Дальше я собирался показать, как получить 2048 через второй проход, и расчёт поставил на этом месте стену. Второй KSampler работает по латенту 2048², и активаций ему нужно 9548 МБ — при бюджете 6144. Не хватает семи гигабайт.

Тайлинг этого не лечит. Тайлится декод VAE, а не сэмплер: VAEDecodeTiled режет на куски уже готовый латент, и пик памяти приходится на сам сэмплинг, который идёт по всему латенту целиком. Именно поэтому в гайдах «2048 через hires fix» обычно оказывается, что человек сидел на 12 гигах.

Рабочий путь на 6 ГБ другой: сэмплить в 1024, декодировать в картинку и тянуть уже картинку — ресайзом или отдельным апскейлером, который сам тайлит. В архиве оба воркфлоу: тот, что влезает, и тот, что не влезает. Второй я не выбросил и не переписал под красивый вывод — он оставлен как пример ошибки, в README прямо написано, что на 6 ГБ он не пойдёт.

Тайлинг считаем, а не угадываем

Тайл 512 с перекрытием 64 даёт шаг 448. Чтобы покрыть 2048, нужно пять шагов по каждой оси — 5×5 = 25 тайлов. Площадь перерисовки при этом 6.5 миллиона пикселей против 4.2 миллиона у кадра, то есть x1.56. Это и есть цена тайлинга: время растёт в полтора раза, а не «немного».

Для 1536 с тайлом 768 и перекрытием 96 сетка 3×3, перерисовка x2.25. Тут уже видно, где предел: перекрытие в 96 пикселей на тайл 768 съедает почти седьмую часть каждого тайла впустую.

python -m comfyplan --total 6144 --quant fp8 --size 2048x2048 --tile 512 --overlap 64

тайлинг 512px с перекрытием 64px, шаг 448px
сетка 5x5 = 25 тайлов
пикселей на кадр 4194304, с тайлингом 6553600 (перерисовка x1.562)

Валидатор: чтобы не ловить опечатку посреди прогона

Вторая половина проекта появилась из злости. Воркфлоу в API-формате — это просто JSON, и в нём легко оставить связь на узел, которого больше нет: переименовал ноду в редакторе, экспортировал, а ссылка осталась. ComfyUI в таком случае либо молча не запускается, либо падает в середине. На 6 ГБ это стоит не секунд, а минут.

validate.py проверяет пять вещей: есть ли у узла класс и входы, на месте ли обязательные входы известных классов (например cfg у KSampler и tile_size у VAEDecodeTiled), указывают ли все связи на существующие узлы, нет ли цикла и есть ли куда сохранять результат. На кольце ComfyUI не ругается — он просто висит, и это худший вид ошибки.

$ python validate.py broken_wf.json
[FAIL] broken_wf.json
       5 (KSampler): не хватает входа cfg
       5 (KSampler): вход latent_image ссылается на несуществующий узел 99

Реестр классов там намеренно короткий. Он ловит опечатки в своих воркфлоу, а не подменяет собой сервер: незнакомый кастомный класс пропускается без проверки входов. Иначе валидатор падал бы на каждой второй сборке с нодами из менеджера, и им бы просто перестали пользоваться.

Что всё-таки ставить руками

Расчёт расчётом, но на 6 ГБ всё равно нужны флаги запуска. --lowvram — обязательный: веса режутся на слои и подгружаются по мере надобности. --novram — крайний случай, почти всё на CPU, скорость падает в разы, но хотя бы не падает процесс. И --reserve-vram 0.5, если ловишь OOM на пике: драйверу тоже нужна память, и ComfyUI об этом не догадывается.

Отдельно про hires fix: denoise на втором проходе ниже 0.4 почти не даёт детализации, а выше 0.55 начинает перерисовывать сюжет. 0.45 — рабочая середина, и это единственное число в посте, которое я не считал, а взял из практики. Формально оно ничем здесь не подтверждено, и я говорю это прямо.

Что в архиве

comfyplan/ — расчёт весов, активаций и тайлинга плюс CLI. validate.py — проверка воркфлоу. workflows/ — три файла в API-формате: рабочий txt2img на 1024, hires с латентным апскейлом (и explicit «на 6 ГБ не влезает» в README) и путь через ресайз после декода. make_project.py собирает транскрипт и обе картинки из реальных прогонов, числа на схеме парсятся из транскрипта, а не вписаны руками. Тридцать пять тестов.

Чего в архиве нет: таймингов, замеров через nvidia-smi и поддержки других моделей — считаются параметры SDXL base. Для Flux или Pony константы в models.py придётся поменять, и это одна правка, а не переписывание.

нет ничего постояннее временной заплатки

Исходники
comfy6gb.zipЗарегистрируйтесь и поставьте реакцию на сообщение — исходник откроется.19 КБ

Комментарии

0
Пока нет комментариев. Войдите, чтобы ответить первым.