Ускоряем hunyuan почти в двое, особенно полезно для тех у кого нет 24vram
json
Workflow.json23.09 Kb
Для начало нам понадобится старая версия Comfyui
распаковываем в удобное для вас место
из своего Comfyui переносим папки custom_nodes и models в новый
запускаем новый Comfyui и видим такую картинку
обновляем comfyui с помощью manager
после обновления видим что красного больше нет и закрываем comfyui
далее кладем этот файл в папку ComfyUI_windows_portable\update
whl
triton-3.1.0-cp311-cp311-win_amd64.whl22.89 Mb
далее распаковываем этот архив в папке ComfyUI_windows_portable
rar
SageAttention.rar74.48 Mb
далее заходим в папку ComfyUI_windows_portable\update
и вводим в адресную строку cmd нажимаем enter
далее копируем строки и поочередно устанавливаем
..\python_embeded\python.exe -s -m pip install "accelerate >= 1.1.1"
..\python_embeded\python.exe -s -m pip install "diffusers >= 0.31.0"
..\python_embeded\python.exe -s -m pip install "transformers >= 4.39.3"
..\python_embeded\python.exe -s -m pip install ninja
..\python_embeded\python.exe -s -m pip install --upgrade torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
..\python_embeded\python.exe -s -m pip install triton-3.1.0-cp311-cp311-win_amd64.whl
скачиваем архив
и распаковываем в папку ComfyUI_windows_portable\python_embeded
Если у вас не установлен Microsoft Visual Studio то установите https://visualstudio.microsoft.com/ru/downloads/
флажки которые нужно отметить
далее заходим в папку ComfyUI_windows_portable\SageAttention
запускаем cmd и вводим
..\python_embeded\python.exe -m pip install .
установка долгая, у меня более 10 минут
заходим в папку ComfyUI_windows_portable и на файле run_nvidia_gpu.bat нажимаем изменить и добовляем строку
--use-sage-attention
вот и все, запускаем и видим разницу.
На моей 4060 ti 16vram при разрешении 720*1024 53 кадра 10 шагов генерирует за
4мин 40сек а было 7мин 50сек.