OreX

OreX 

нейросети и stable diffusion

8 487subscribers

230posts

Showcase

108
goals1
$1 160.89 of $1 434 raised
На развитие проекта и поддержку автора ☕

🚀 ИДЕАЛЬНАЯ сборка WanGP: Portable, INT4, NVFP4, FP8 | Как добавлять и квантовать модели

🎦 СМОТРЕТЬ НА YOUTUBE
🎦 СМОТРЕТЬ НА RUTUBE
🔥 Масштабное обновление портативной сборки WanGP! Я собрал ультимативную среду для запуска нейросети прямо из коробки. Никаких сложных установок и танцев с бубном — просто скачай, распакуй и запускай!
В этом видео я покажу, как работает новая версия, как настроить сборку под вашу видеокарту и как управлять моделями.
Что нового в сборке:
✅ Два оптимизированных окружения: * Новое окружение для видеокарт NVIDIA RTX 2000 – 5000 серий и старое окружение специально для видеокарт GTX 1000 серии.
✅ Полная портативность (Portable): Установка не требуется, достаточно просто распаковать архив.
✅ Удобный запуск: В новом окружении доступны два варианта старта — быстрый (обычный) и с продвинутыми настройками для профи.
✅ Автоматизация через .bat файлы: * Отдельные скрипты для установки Triton, Sage Attention и Flash Attention под разные типы видеокарт.
Скрипты для быстрой установки поддержки GGUF, NVFP4 и Nunchacu (INT4 / FP4).
В этом гайде я подробно покажу:
👉 Как легко добавлять свои кастомные модели (GGUF или FP8).
👉 Как самостоятельно квантовать добавленные модели в INT8 для максимальной экономии видеопамяти (VRAM).
🎯 Поддерживаемые форматы моделей в новой сборке: BF16, FP8, GGUF, INT8, INT4, FP4, NVFP4.

МЕНЮ
00:58 - Установка и обзор сборки wangp (wan2gp)
06:12 - Обзор веб интерфейса wangp
08:11 - Как добавить свою модель в wan2gp wangp
13:16 - Как квантовать модели в int8
15:25 - Обзор настроек WanGP
 ИНСТРУКЦИЯ
1. Скачайте сборку:
Wan2GP v1.4 для 1000 серии Nvidia: ( HF / ЯНДЕКС)
Wan2GP v1.5 для 2000-5000 серии Nvidia: ( HFЯНДЕКС)
Распакуйте её в любое место. В пути не должно быть кириллицы и пробелов.
2. Обновите драйвера Nvidia: ССЫЛКА
3. Запустите сборку файлом:
__RUN.bat - с обычными настройками
__RUN_Advanced.bat - с продвинутыми настройками
4. После того как убедитесь что сборка работает обновите её файлом
__Update.bat
Пункт 5 для ускорения генерации
5. Установите Triton, SageAttention и FlashAttention
_Install_Tritin_Sage_Flash_for_2000_3000.bat - для 2000-3000 Nvidia
_Install_Tritin_Sage_Flash_for_4000_5000.bat - для 4000-5000 Nvidia
Пункты 6, 7, 8 по мере необходимости
6. Установите поддержкe GGUF, запустив файл 
_Install_GGUF_Kernels_for_all.bat
7. Установите поддержкe NVFP4 для 5000 серии Nvidia, запустив файл
_Install_Lightx2v NVP4 Kernels_for_5000.bat
8. Установите поддержкe Nunchaku INT4, FP4, запустив файл
_Install_Nunchaku INT4_FP4 Kernels_for_all.bat
9. Как добавить свою модель смотри на 08:11
10. Как квантовать свою модель в INT8 смотри 13:16 
И используй для запуска файл __RUN_SaveQuantized.bat
Потом не забудь перезапустится штатно __RUN.bat
11. Обязательно проверь Configuration - Performance
Default Memory Profile для Image, Video, Audio
Выбери профиль под свою видеокарты для максимальной производительности.
ДОПОЛНИТЕЛЬНЫЕ ССЫЛКИ
1. Страница разработчика Wan2GP: ССЫЛКА
🔥 Курс по "AUTOMATIC 1111" с поддержкой на сайте: ССЫЛКА
🔥 Курс по "ComfyUI" с поддержкой на сайте: ССЫЛКА
📺Присоединиться к стримам (+архив): ССЫЛКА
✔️Телеграм-канал: присоединиться
✔️VK Prompts: присоединиться
Вот это подарок, огромное спасибо за труд, всё работает идеально !
Олег, есть какие-то принципиальные отличия от версии https://github.com/deepbeepmeep/Wan2GP ? Заранее спасибо
HORVAD, это этот же репозиторий один в один, но превращен в portable версию и добавлены bat для быстрой установки разных поддержек.
В этой версии, что бы работала Sage2, уже не надо действовать по старой инструкции: (УСТАНОВКА ПОДДЕРЖКИ SAGA2(установочные файлы приложены ниже в архиве)), или все таки, надо все это сделать, по старой схеме?
OreX, у меня сейчас то же установлено, так как еще стоит ваша сборка V1,3. Если ставить на чистую систему, надо это знать. Тут у вас этого архива, со всем необходимым, как на прошлой версии нет и ничего об этом вы не сказали.
Андрей ЦарЦар, тут нет дополнительных Lora так как всё обновилось и ставится вместе с моделями на автомате. В сборке разработчик все загрузки автоматизировал. Ставьте новую.
Было бы круто подробнее понять что в ней можно еще делать? и какие другие параметры там генераций видео в списке. хотелось бы обзор хотя бы на часть из них (Хунюань и тд которые)
есть еще вопрос, при обновлении Update.bat он просит обновить pithon, до версии 26.1. это надо сделать, или критично, в данной сборке надо работать на 26,01. 
[notice] A new release of pip is available: 26.0.1 -> 26.1
[notice] To update, run: F:\Wan2GP-v1.5\python\python.exe -m pip install --upgrade pip
Андрей ЦарЦар, pip это установщик пакетов. Можно обновить, можно не обновлять - разницы не будет.
OreX, да напрягают лишние надписи, если нет разницы то лучше обновить чтоб не мозолила глаза?
Можно ли установить в ней Flux2 ?
Виктор Новожилов, в ней установлен Flux 2 
Кто нибудь в курсе где шрифт интерфейса прописан? Подскажите плз.
Спасибо Орекс!))))-Очень быстро и удобно ... - Всё летает!)))beaming_face
Борис Аджиев, А сколько ram и vram на твоем ПК?
Dan, Geforce RTX-4090-24Гб. 64ram/ Видео им2вид.10сек- за минуту...Text2Vid. - минута с копейками...Ничего не квантизировал..Просто скачал и запустил по описанию Орекса..
почему не используется нигде Sage3? или с ним какие-то проблемы?
Таблица лор для LTX-2, может пригодится.
Андрей ЦарЦар, это хорошо!Это пять!
Всем привет! Все время отхватываю ошибку. На LTX-video, например. Почему он на cpu лезет, хотя есть 4090? Может кто-то сталкивался? Что не так?RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cpu!
HeartHMX, у меня так же на 5090(((
HeartHMX, на какой модели такая ошибка : int8, fp8, nvfp4, gguf? Попробуйте поменять модель. Это иногда встречается или всегда выскакивает такая ошибка? Если драйвер Nvidia не обновлен, то обновите его.
Хотел бы уточнить такой момент, до этого качал через Pinokio но у меня проблемы со скачиванием больших файлов в итоге основную модель пришлось качать отдельно, и она не хочет ее принимать, тут так же придется модель дозагружать или я могу свою просто закинуть?
OreX, подскажите в чем отличие обычного старта __RUN.bat, от __RUN_Advanced.bat. Вы говорите про продвинутые настройки, но я не увидел разницы в настройках, хоть как мне кажется я облазил всё.
прописал вроде все как в видео, что бы пользоваться своей моделью, но ее нет в списке. Модель стандартная не дистилированная и не gguf
"model": {
"name": "ltx2310eros_beta",
"architecture": "ltx2_22B",
"description": "ltx2310eros_beta.safetensors dev checkpoint (22B) using the distilled 1.1 stage-2 LoRA. Generates video up to 20s with an audio soundtrack, supports start/end keyframes and sliding-window continuation, and can use an Audio Prompt or a Voice Audio Sample for Id LoRA voice cloning (lora automatically loaded).",
"URLs": [
"F:\Wan2GP-v1.5\ckpts\ltx2310eros_beta.safetensors"
],
"preload_URLs": [
"https://huggingface.co/DeepBeepMeep/LTX-2/resolve/main/id-lora-celebvhq-ltx2.3.safetensors|%lora_dir",
"https://huggingface.co/DeepBeepMeep/LTX-2/resolve/main/ltx-2.3-22b-distilled-lora-384-1.1.safetensors|%lora_dir"
]
},
Андрей ЦарЦар, спасибо заработало! )
Михаил Ш., а модель генерирует видео? если генерирует покажите Josn.
Сборка портабельная, но все временные файлы пихает в системную папку.
Предлагаю в сборках создавать папку tmp и вот примерно такое решение в батнике set "userprofile=%~dps0tmp"
set "temp=%~dp0tmp"
А как победить эту ошибку? Я что то упустил? Или железо слабое?
Даже не знаю установил свою модель с которой работаю.Прописал вроде все как положено.Запустил.А этот вангп что скачивает до бесконечности.Зачем то скачивает мне bf16_int8 за 19 гб?Нафига она мне нужна?В общем пока не понимаю что к чему и честно говоря видео тоже минимально иформативное.Особо не помогает.
Нет,не хватило терпения на это дерьмо.Снес к чертовой матери не дождавшись окончания всех этих загрузок.Два часа загружал и все не осианвливался.
два дня всё скачивалось и устанавливалось.....один хрен не пашет.....на видеокарте 1070(8гб) вообще реально что нибудь запустить?
Flexey Rokomda, да, можно, к примеру картинку в Klein 9B. Видео то же можно, но есть нюанс, для начала профиль для видео выбрать -Profile 5 и разрешение ставить 354р, иначе устраните ждать......
да так и сделал......оператива заполняется, видеопамять тоже.....а нагрузки на видеочип нет....
Subscription levels1

Поддержать автора

$2.87 per month
✔ Если появится платный контент, то с подпиской будет доступен. 
✔ Карма выше.
Go up