Локальный запуск 3D-генераторов: какое железо реально нужно

Облачные генераторы 3D удобны ровно до момента, когда упираешься в лимит генераций или в запрет загружать проект заказчика на сторонний сервер. Дальше возникает вопрос про локальный запуск: что из этого поднимается у себя и какое железо для этого нужно на самом деле.

Ниже требования именно для генерации трёхмерного, а не текста: там другие узкие места. Плюс честно про то, где локальный запуск проигрывает облаку и почему.

Чем генерация 3D отличается от генерации текста по требованиям

Требования к железу для языковых моделей давно разобраны, и главный параметр там объём видеопамяти под веса модели. С трёхмерным иначе.

Генерация 3D это обычно цепочка из нескольких моделей: сначала строится представление объёма, потом из него извлекается поверхность, потом накладываются текстуры. Каждый шаг со своими требованиями.

Отсюда два следствия. Первое: пиковое потребление памяти определяется самым тяжёлым шагом, а не средним. Второе: заметная часть времени уходит на обработку, где важна скорость вычислений, а не объём памяти.

Практический вывод: карта с большим объёмом, но медленная, для генерации 3D подходит хуже, чем для языковых моделей. Там нужен баланс.

Сколько видеопамяти нужно

Ориентиры по классам задач, от меньшего к большему.

8 ГБ. Хватает на генерацию простых объектов в невысоком разрешении сетки. Текстурирование скорее всего придётся делать отдельно или в облаке.

12 ГБ. Рабочий минимум. Генерация с приемлемым качеством плюс базовое текстурирование.

16 ГБ. Комфортный уровень: высокое разрешение сетки, текстуры, возможность держать несколько моделей загруженными.

Двадцать четыре и больше. Нужны для самых тяжёлых моделей и для пакетной обработки, когда генерируется много объектов подряд.

Важная оговорка: цифры относятся к самой генерации. Если параллельно открыт Blender со сценой, память делится, и запас нужен больше.

Что кроме видеокарты

Оперативная память. Модели загружаются в системную память перед переносом в видеопамять, и на этом шаге требуется столько же, сколько занимает модель. 32 ГБ разумный минимум, шестнадцать будет узким местом.

Накопитель. Модели весят единицы и десятки гигабайт, и загружаются они с диска при каждом запуске. Быстрый накопитель сокращает ожидание с минут до секунд.

Процессор. Влияет мало на саму генерацию, но заметно на постобработку: упрощение сетки, расчёт развёртки, конвертацию форматов. Это процессорные задачи.

Охлаждение. Генерация нагружает карту короткими, но интенсивными сериями. Перегрев даёт сброс частот и рост времени, и это тот же механизм, что при рендере.

Что реально можно запустить

Не всё, о чём слышно, доступно локально, и это стоит понимать до покупки железа.

Доступно с открытым кодом: модели генерации объёма из изображения, модели извлечения поверхности, часть моделей текстурирования. Их достаточно для полного цикла на базовом уровне.

Недоступно: самые качественные закрытые модели коммерческих сервисов. Именно они дают тот результат, который показывают в рекламе, и запустить их у себя нельзя.

Практическое следствие: локальная генерация даёт результат заметно скромнее лучших облачных сервисов. Сравнивать надо не с ними, а с бесплатными тарифами облака.

Сколько времени занимает генерация

Ожидания обычно завышены из-за облачных сервисов, где генерация идёт на серверном железе.

На домашней карте один объект считается заметно дольше, чем в облаке: разница в разы, а не в проценты. Это нормально и не означает, что что-то настроено неверно.

Практический вывод: локальный запуск не для итеративного перебора вариантов. Для него облако удобнее. Локальный запуск для задач, где важна приватность или где генераций много и они не срочные.

Когда локальный запуск оправдан

Проекты под соглашением о неразглашении. Главная причина. Загрузка эскизов и моделей заказчика на сторонний сервис может быть прямым нарушением договора.

Большой поток однотипных задач. Если генераций сотни в месяц, лимиты облака становятся дороже электричества.

Нестандартные сценарии. Встраивание генерации в свой скрипт, пакетная обработка, интеграция с пайплайном. В облаке это либо невозможно, либо стоит отдельных денег.

Нестабильный доступ. Прозаичная, но реальная причина.

Когда не оправдан

Эпизодическое использование. Несколько генераций в месяц покрываются бесплатными лимитами облака.

Нужно лучшее качество. Лучшие модели закрытые. Локально вы получите крепкий средний результат.

Нет подходящей карты. Покупать видеокарту ради локальной генерации почти никогда не окупается по сравнению с подпиской. Другое дело, если карта уже есть под рендер.

Как считать окупаемость инструментов вообще, разобрано в материале про бюджет на нейросети для 3D.

Что понадобится кроме железа

Порог входа не только в видеокарте, и это часто недооценивают.

Окружение. Установка библиотек, совпадение версий, драйверы. Первый запуск обычно занимает несколько часов, и это нормально.

Место на диске. Каждая модель это гигабайты, и вариантов моделей несколько.

Понимание, что делать с результатом. Локальная генерация даёт сырую сетку так же, как облачная. Порядок доводки тот же: проверка целостности, ретопология, развёртка, масштаб. Об этом подробно в материале про работу с генератором на практике.

Общие принципы локального запуска моделей, выбор среды и подводные камни установки разобраны в материале про локальные нейросети на своём ПК.

Гибридная схема

На практике чаще всего выигрывает не выбор одного из двух, а разделение.

Облако для быстрого перебора вариантов на этапе поиска формы: там важна скорость отклика, а качество на этой стадии некритично.

Локально всё, что связано с материалами заказчика, и всё, что идёт потоком.

При такой схеме требования к железу снижаются: вам не нужно покрывать локально самые тяжёлые сценарии.

Из чего состоит локальный пайплайн

Полезно понимать этапы: они и определяют, где именно упрётся ваша машина.

Построение объёма. Модель получает на вход изображение или текст и строит внутреннее представление формы. Самый требовательный к памяти этап.

Извлечение поверхности. Из объёма получается сетка. Здесь память тоже нужна, а время зависит от заданного разрешения.

Упрощение сетки. Сырая сетка избыточна, её прореживают. Обычно считается на процессоре.

Развёртка. Автоматическое построение текстурных координат. Процессорная задача, на сложной модели занимает заметное время.

Текстурирование. Ещё одна модель, ещё одна загрузка в память. Часто это отдельный шаг, который можно вынести в облако, оставив локально только геометрию.

Практический приём для машины с ограниченной памятью: выполнять этапы по очереди, выгружая модель между ними. Медленнее, зато проходит там, где полный цикл падает.

Настройки, которые снижают требования

Прежде чем менять железо, стоит попробовать уложиться в имеющееся.

Разрешение сетки. Главный рычаг. Снижение на шаг сокращает потребление памяти существенно, а для болванки под скульптинг высокое разрешение и не нужно.

Точность вычислений. Большинство моделей работают в половинной точности без заметной потери качества, но по умолчанию не везде это включено.

Размер пакета. Если генерируете по одному объекту, убедитесь, что пакет равен единице. Значение по умолчанию иногда больше.

Выгрузка неиспользуемого. Часть инструментов держит в памяти всю цепочку моделей сразу. Явная выгрузка между этапами освобождает гигабайты.

Как проверить свою машину до того, как вкладываться

Порядок, который занимает вечер и даёт точный ответ.

Первое: посмотреть объём видеопамяти и сравнить с ориентирами выше.

Второе: запустить самую лёгкую из доступных моделей на простом объекте. Если не хватает памяти уже здесь, дальше можно не пробовать.

Третье: замерить время одной генерации и умножить на реальное число попыток, которое у вас уходит на приемлемый результат. Обычно это три до пяти.

Четвёртое: сравнить полученное время с тем, сколько заняло бы в облаке, и решить, окупается ли приватность и отсутствие лимитов.

Типичные ошибки при первом запуске

Частые вопросы