about generative neural networks (AI) о нейросетях
66subscribers
25posts
About
Активно изучаю генеративные нейронные сети на ubuntu server, на десктопе mac.
Портативные сборки нейронок под windows собираю по просьбе друзей с https://discord.gg/xpuct, доступный мне pc с win10 c картой nvidia, поэтому под amd нет возможности собирать/тестировать.
В инсталляторах я делаю только сами инсталляторы, в исходники лезу только если по другому не заставить нейронку работать локально, чаще всего отвязываю от сторонних api типа huggingface. В gradio ставлю автоматическое открытие вкладки в браузере для удобства использования.
Платной подписки нет и не будет, это принципиально. Хотите меня замотивировать, подписывайтесь/пишите, донатьте.
Хотелки по сборкам присылаем сюда же или в discord.
Я ленивая жопа, не люблю писать frontend, поэтому мои собственные поделки почти все в виде ботов в telegram .
Сегодня портативка BRIA Background Removal v2.0 в необычном формате, (делал для друга, ему все эти GUI не особенно нужны), но получилось достаточно удобно в использовании.
Установка: Запускаем rmbg-caveman.part1.exe, распаковываем как можно ближе к корню диска, в пути не должно быть пробелов и национальных символов. Можете сами распаковать винраром.
Запускаем rmbg-caveman.cmd, при первом запуске он создаст ярлык на рабочем столе:
Как пользоваться наверное уже прочитали на скриншоте )) Есть только одно но! В путях папок и именах файлов не должно быть пробелов, иначе он их считает разными путями. Подумаю как обойти это ограничение, но ни чего не обещаю, банально жалко на это тратить много времени.
Работает на cuda достаточно быстро, на старых картах работает (проверял на gtx1070), vram кушает не много, 4-5гиг. На cpu тоже работает, понятно, что сильно медленнее, но лучше так, чем совсем никак.
Собрал SmolVLM, допилил, что бы запускалась на старых картах, не только на 30й и 40й серии, на GTX1070 кушает 6.8GB VRAM. Возможно можно оптимизировать, но я не смотрел, если честно...
Ну и воткнул перевод с русского на английский для промпта ( перевод работает, только при наличии интернета). Если перевод не нужен, просто удалите файл google_translate.py
Установка: запускаем SmolVLM-CaveMan.part01.exe - это rar архив (кому надо, можете сами winrar'ом распаковать не запуская exe).
Установка: запускаем tango2-caveman.part01.exe - это rar архив (кому надо, можете сами winrar'ом распаковать не запуская exe).
Распаковываем в папку как можно ближе к корню диска, русские символы в пути не допустимы. Запускаем run.bat, вкладка в браузере откроется сама.
Работает только на картах Nvidia 3й и 4й серии, видеопамяти кушает в районе 8Gb. Аудио генерируется около 8-10 сек. на 4090.
Промпт можно писать на великом и могучем, само переводится на английский.
exe
tango2-caveman.part01.exe990 Mb
rar
tango2-caveman.part02.rar990 Mb
rar
tango2-caveman.part03.rar990 Mb
rar
tango2-caveman.part04.rar990 Mb
rar
tango2-caveman.part05.rar990 Mb
aicave
ai
audio
sound
CaveMan
Собрал это безобразие под 11ю куду, на старенькой машинке с GTX1070 8gb запускается, кушает ~7.1Gb VRAM, генерация ~55сек. Надо оно кому-то ? Единственное, что быстро я не смогу выложить, интернет только мобильный, оптику в дом оборвало льдом, когда починят не понятно.
Да в принципе оно должно и на этой сборке сработать, просто добавить строчку в run.bat python -m pip install -U --pre torch==2.0.1+cu118 torchvision==0.15.2+cu118 torchaudio==2.0.2+cu118 -f https://download.pytorch.org/whl/torch_stable.html перед python app.py
базара ноль dxo лучший но последние версии принесли говнеца пиратки... вылетают с проверкой лицензии, чуть не каждые пять минут, хоть подключен интернет хоть нет... вот кстати ещё тема про музон вроде как ещё свежо) https://github.com/hkchengrex/MMAudio но оно уже и для комфи модулёк есть https://github.com/kijai/ComfyUI-MMAudio
Для страждущих создал Space на HuggingFace, пользуйтесь.
Не забываем выбрать Русский интерфейс. Промпт можно писать на великом и могучем. В Advanced настройках не забываем крутить Температуру, это то, насколько нейронка может "фантазировать".
Это пример генерации во Flux по промпту на скриншоте 😉:
Собрал для Вас простой UI для улучшения промптов для Flux, SD3.x и других нейронок, которые используют T5. Полностью портативная сборка, в системе не гадит.
Detanatar, не могу стопроцентно сказать, у меня карта 40й серии, то что на ней работает, работает и на 30й, остальное не гарантировано, если проверите буду благодарен
