Всем здравствуйте. Настало время моего еженедельного отчёта
::Мои проекты::
-
LeetCode 🖥️ 1 час
- Прошёл две задачи, и дошёл до задачи номер 130 по порядку
-
Рисование 🖼️ 7 часов
- Начал делать большой цифровой рисунок. На этой неделе нужно продолжить
::Оптимизации Stable Diffusion на Windows::
Расскажу про то, какие оптимизации я использую для наилучшей работы генератора картинок Stable Diffusion на Windows 11. Самое главное для генератора картинок - это видеопамять. Здесь замечаем такую особенность: многие программы на Windows 11 жрут видеопамять вёдрами 🥵 При этом, никто толком не может ответить на вопрос "почему так?" Поиск в интернете покажет много жалоб на высокое использование видеопамяти, но внятного объяснения не найти, да и попытки написать разработчикам напрямую ничего не дают: разбираться в вопросах видеопамяти никто не хочет. Чтобы увидеть, какие программы кушают видеопамять, нужно включить колонку Dedicated GPU Memory в диспетчере задач. По умолчанию, эта колонка скрыта. Вот собственно сам список настроек:
-
Добавляем ключи командной строки для ComfyUI
- --use-split-cross-attention --novram
-
Выключаем Hardware Acceleration для этих программ:
- Браузер
- VS Code
- Windows Terminal
- Steam
-
Модели Flux и SD 3.5
- Качаем версии fp8, а версии fp16 игнорируем
Для браузера нужно сделать ещё пару "тонких" настроек: во-первых, выключаем Smooth Scrolling, ибо без HW-ускорения прокрутка будет дико тормозить на многих страницах. А во-вторых, нужно установить отдельный клон браузера для просмотра видео, и использовать этот второй браузер только для просмотра видео с HW, и больше ни для чего. Нужна именно отдельная установка, а не "профиль", ибо все профили имеют общий набор системных настроек, включая HW-ускорение
В результате, работаем с любыми моделями без тормозов и лагов на видеокарте с 16 GB VRAM.