Калькулятор оценивает, сколько видеопамяти займёт нейросеть: Stable Diffusion, FLUX, Wan для видео или локальная языковая модель. Выберите модель и точность весов, и сразу будет видно, поместится ли она в вашу видеокарту.
Как считается видеопамять
Главная часть это веса модели: число параметров, умноженное на объём одного параметра. В FP16 и BF16 параметр занимает 2 байта, в FP8 один байт, в квантованных форматах GGUF меньше: Q8 около 1,07 байта, Q4_K_M около 0,6. Модель на 12 млрд параметров в FP16 весит около 24 ГБ, в FP8 около 12 ГБ.
У генераторов картинок и видео есть ещё текстовый энкодер: CLIP, T5 или umT5. Он нужен только для того, чтобы перевести запрос в числа, поэтому многие программы держат его в оперативной памяти и освобождают видеопамять для основной сети. Сверху нужен запас на активации, служебные буферы CUDA и, у языковых моделей, на кэш контекста. Он растёт с разрешением картинки, длиной видео и размером контекста.
Какую точность выбрать
- FP16 / BF16: исходное качество, самый большой объём.
- FP8: вдвое меньше, для картинок разница с FP16 обычно малозаметна.
- Q8: почти без потерь, для языковых моделей хороший компромисс, если память позволяет.
- Q5_K_M и Q4_K_M: заметная экономия, лёгкая потеря точности; самый частый выбор для локальных LLM на домашних картах.
- NF4: компактный формат для FLUX и SD на картах 8-12 ГБ.
Если не помещается
Есть три пути. Снизить точность весов. Выгрузить текстовый энкодер в оперативную память. Или разрешить программе держать часть слоёв в ОЗУ: Ollama, LM Studio и ComfyUI это умеют, модель заработает, но скорость упадёт в разы, потому что данные пойдут через шину PCIe. Если генерация нужна регулярно, выгоднее карта с большим объёмом памяти, чем более быстрая с меньшим. Подробно о железе для локальных нейросетей в статье про Ollama, LM Studio и железо, тесты видеокарт собраны в разделе «Полигон».
Частые вопросы
Как считается объём?
Веса занимают число параметров, умноженное на байты на параметр: 2 байта в FP16, 1 в FP8, около 0,6 в Q4_K_M. К весам добавляется текстовый энкодер, если он остаётся в видеопамяти, и запас на активации, контекст и служебные буферы CUDA.
Почему у меня модель занимает больше или меньше?
Программы по-разному выгружают части модели, кэшируют и сжимают. ComfyUI и Forge умеют держать текстовый энкодер в оперативной памяти, а большое разрешение или длинный контекст увеличивают запас. Калькулятор даёт оценку для выбора карты, а не точный замер.
Что делать, если модель не помещается?
Взять точность ниже: FP8 вдвое меньше FP16, Q4 почти вчетверо. Выгрузить текстовый энкодер в оперативную память. Или запустить с частичной выгрузкой слоёв в ОЗУ: модель заработает, но заметно медленнее.
Сколько видеопамяти нужно для Flux?
Основная сеть FLUX.1 [dev] весит около 24 ГБ в FP16 и около 12 ГБ в FP8, текстовый энкодер T5 ещё около 9,5 ГБ в FP16. С FP8 и выгрузкой энкодера Flux помещается в 16 ГБ, в квантованных версиях Q4 и NF4 работает и на 12 ГБ.
Другие инструменты собраны на странице онлайн-инструментов.



