EN
Sergey Leonov
Sergey Leonov
558 subscribers
Apr 16 02:18

Параметры тренировки LoRA

Links из видео:
✅Где взять KohyaSS - https://github.com/serpotapov/Kohya_ss-GUI-LoRA-Portable
✅Где взять универсальный конфиг Хачатура (читайте и сам пост!) - https://t.me/win10tweaker/379
---------------------------------------
upd. видео перезаливается после доп. монтажа, возможно не будет доступно пару часов (02.05.2024)
leonov
lergey
gu
64
Show more comments
avatar
Отдельное спасибо за визуальное дублирование информации, это очень помогаетClappingHands
Apr 17 23:13
avatar
Спасибо большое за видео. В то время, когда у Хачатура (не камень ему в огород) всё бегом-бегом в видео, и иногда даже не понятно, о какой функции вообще идет речь, вы раскладываете всё по полочкам и приходит понимание того, как именно всё работает и какой параметр за что отвечает. Конечно тем, кто вообще просто впервые в жизни запустил батник SD, ваше видео наверное не подойдет, и человек плюнет со словами "нейросети это слишком сложно для меня", но для тех, кто просто крутит-вертит все ползунки, не понимая, как они работают, это видео отлично подходит. Даже до такого дебила, как я, многое дошло. Продолжайте, пожалуйста, и огромных успехов вам!
Apr 18 08:17 (changed)
avatar
Сергей, огромное спасибо за проделанную работу! С удовольствием посмотрел от начала до конца. 
Вы интересно и понятно доносите сложную информацию!
Apr 19 16:50
avatar
Сергей, шикарный гайд, колоссальный труд, большое спасибо!
Думаю, что гайд применим не только к Kohya, так как параметры не привязаны конкретно к этому инструменту, а являются параметрами алгоритма LoRA, соответственно гайд полезен и для тех, кто использует скрипты или OneTrainer.
Хотелки (часть 1, в один коммент не лезет):
1). Обзор/разбор OneTrainer - там часть параметров зачем-то авторы назвали иначе, часть спрятали, а рекомендуемый тобой шедуллер в принципе отсутствует. Однако у инструмента, на мой взгляд, более дружелюбный UI и им приятней пользоваться (есть еще полезные фичи, которых нет в Kohya, хотя и перекрываются некоторыми другими инструментами).
2). Более детально про LR и эпохи, так как это основные параметры в ML в целом (как я понял из разных статей). Пока в гайдах видел только подбор, без описания логики.
3). (Возможно скоро будет не актуально, так как появилась SD3) Отдельный разбор про обучение LoRA на SDXL/cascade (в OneTrainer уже конфиг под cascade появился).
Apr 20 18:42 (changed)
avatar
Хотелки (часть 2, в один коммент не лезет):
4). (Будет актуально всегда с поправкой на время) Разбор конкретного кейса - есть фотосет из студии с моделью. Нужно обучить LoRA на нее для последующей генерации в различном антураже, с разными прическами и одеждой. В чем сложность - весь дата сет физически не может быть приведен к 1x1, необходимо правильное приготовление описания. ИМХО, такой гайд лучше делать на актуальной модели, например на Deliberate6 (в голосе для LoRA Хачатур посоветовал выбрать ее, а не Reliberate), либо SDXL (но это специфично, ибо долго и ресурсы, да и может стать не актуальным скоро, если SD3 оправдает ожидания, а та же Deliberate наверняка будет еще очень долго поддерживаться Хачатуром).
P.S. п.4 для меня на самом деле самый актуальный, несмотря на то что он идет последним.
Еще раз спасибо, лучше твоего гайда я пока не видел по LoRA (никого обидеть не хочу, все авторы молодцы, это субъективная оценка).
Apr 20 18:43
1
avatar
На Deliberate по гайду фотосет отлично в LoRA запаковался, в связке с расширением из пред. видео вообще пушка получается. Результат самый близкий к модели кстати получил на предпоследней эпохе, но видимо из-за бакетов это.
Apr 21 22:14
avatar
Сергей, огромное Вам спасибо! Гайд ультра супер) У меня вопрос, а почему генерируете на Reliberate 1 версии? Есть какие-то причины или просто так тыкнули? 0_0
Apr 22 01:43
1
avatar
Данил Лин, все такие вопросы вынесу в что-то типо "Советы, Лайфхаки" и выложу отдельно :)
Apr 22 16:30
3
avatar
у меня постоянно китайцы получаются, не понимаю что не так делаю 
из схожести только череп и волосы.
Apr 22 10:08
TheNickiller22, ты точно вкладку переключил на LoRA вверху?
Apr 23 19:57
TheNickiller22, и сколько у тебя весит модель?
Apr 23 19:57
avatar
Спасибо! Оч интересно. Понять как делать лоры для предметов, например одежды или каких то аксессуаров и стилей.
Apr 22 22:18
avatar
olkon111, Согласен полностью. запарился если честно подбирать конфиг удачный именно для автомобилей. Тема по ощущением никому не нужная особо, а сделать идеал пока так и не получилось.
Apr 23 09:12
avatar
Eileen Slepski, люди по большей части развлекаются. Профессионалов мало и чем уже область тем меньше, мне вот автомобили не нужны например, а в моей области фарма и медицина нет ничего чт нужно ни на стоках, ни модели толком это не умеют. Так что надо и сильно надо, но нас не много видимо. PartyPopper
Apr 23 09:34
avatar
У меня одного видео приболело ?
Apr 24 14:39
avatar
ritya, Вроде все в порядке
Apr 25 12:54
avatar
ritya, скорее всего у вас включен VPN
Apr 30 05:05
avatar
kohya_ss хочет 18.51 GiB под SDXL, а в OneTrainer никаких проблем с обучением, на RTX 3060 12GB все прекрасно работает, очень жду видос по OneTrainer =)
Apr 29 01:33
avatar
Halt!, сегодня уже :)
Apr 29 17:34
3
avatar
Огромная работа, 1,5 часа подробного разбора множества параметров, их взаимосвязи. Но по-сути из полезного, только пересказ видоса Хачатура, >года давности  https://www.youtube.com/watch?v=A15M4cbUM5k&t=2077s Он хоть там местами сумбурно, но всё там сказал, рассказал. Всё тоже самое! Вот ничего нового, полезного не увидел. Кой-какие только уточнения. Ну зачем разжёвывать параметры, которые сам даже не используешь? Ну скачет график обучения так-то, до середины в 0, и обратно заново, и на что это влияет? Как это использовать? Ну можно так, и что дальше? Зачем всё это? Раз говоришь, можно так, говори зачем, иначе какой смысл? Было бы полезней и интересней на примерах: перекрутил такой-то параметр, вылез такой результат, недокрутил, вылез такой-то косяк. Если много работал с лорами, наверняка должно быть много примеров. А просто пересказ мануала, ну зачем это в видео на 1,5 часа? Надеюсь при разборе примеров датасетов 3-5 фотографий, будет что-то новое, и при этом дельное.
May 07 22:27
avatar
А что обозначают эти слова на картинке? Как то надо особым образом подготоавливать фотки?
May 20 00:01
avatar
Владислав Котвицкий, это параметры Network Dim и Network alpha. Я про них рассказываю в ролике.
May 20 00:40
avatar
Sergey Leonov, разобрался, Lora обучается замечательно.
May 21 21:38
avatar
Будет настройка для обучения SDXL лор с инструкцией?
May 21 21:38
2
avatar
Владислав Котвицкий, будет  сразу для SD3
Jul 10 11:16
avatar
Большое спасибо! Всё ясно и понятно!
May 29 13:39
avatar
Добрый вечер, нормально, что на rtx3070 обучение лоры на 50 фото идёт примерно 2 часа?
Jun 10 22:51
avatar
TrMk, ага,(((у меня 3060 ,долгооооо!
Jun 26 11:44
avatar
Прошу помощи! посмотрел ролик Хачатура и Ваш, Скачал портативную версию, поставил Лору с вашими настройками, все по видео поменял, обучение идет 1 секунду, дает 3 файла с разным расширением, а лоры нет. В чем проблема и что делать?
Jun 16 22:13 (changed)
Show more replies
avatar
Sergey Leonov, было бы очень круто, с 20.30 по МСК буду на связи, куда заходить в дискорде? вроде где то видел дискорд... Лучше и про него сказать где он) Пару дней назад только нарвался на ваш контент)
Jun 17 09:24
avatar
Fanatik Fackir, Привет! 
Утром не увидел твой комментарий, напиши в ЛС на бусти, договоримся :)
Jun 18 21:22
avatar
спасибо!!!!!)большая работа!
Jun 26 13:38
avatar
Убил пару дней, чтобы запустить эту сборку на компе без дискретной видяхи (i5-12400, 32Гб). Мишн импосбл?
Jul 03 15:19
Show more replies
avatar
Sergey Leonov, главное забыл сказать. огромное спасибо за видео. Без него, самотыком, у меня вообще ничего не получилось бы. ClappingHands
Jul 04 14:40
avatar
Sergey Leonov, попробовал лору для инпейнта, неплохо все получается. Хотя я тренировал именно для text2img. Никакие ухищрения в txt2img не помогают - лицо становится трудно узнаваемым, если рисовать фигуру по пояс, и совершенно неузнаваемым, если в полный рост. Может быть посоветуешь что-то?
сделать не 100 проходов, а 200? не одну эпоху, а пять. Ну поработает обучение пару дней, я потерплю, лишь бы результат был удачный. ))
Jul 04 17:38
avatar
не тренит, вылазит ошибка valueerror: bf16 mixed precision requires pytorch >= 1.10 and a supported device .Не могу к вам добавиться в дискорд @xpuct - не удается принять приглашение
Jul 18 14:30
avatar
DIMA MIX, Пересмотрите видео была таже проблема, если у вас карта ниже 3000 и 4000 серии выберете pf16
Aug 02 09:41
avatar
Привет может кто подсказать в чем проблема ? 
 raise RuntimeError(f"NaN detected in latents: {info.absolute_path}")
RuntimeError: NaN detected in latents: C:\Users\kyoka\Desktop\images\40_Ostrava Vnebe\1.png
Traceback (most recent call last):
Aug 02 09:39
Go to all posts

Subscription levels

Я тут просто посмотреть

$ 1,08 per month
🟢 Вы поддерживаете автора

Я хочу погенерировать

$ 3,3 per month
🟢 Доступ к скачиванию LoRA (без конфигов и объяснений по применению)

Я хочу научиться

$ 5,4 per month
🟢Все плюсы предыдущих уровней
🟢 Доступ к гайдам и статьям

Я хочу понимать

$ 10,8 per month
🟢 Все плюсы предыдущих уровней
🟢 Личные консультации в Telegram (Не обучение, 15-30 мин)
Go up