saiga-nemo-12b или Qwen3.5-9B-Claude-4.6-9B

переобученная модель Qwen 3.5 на данных и рассуждениях Opus 4.6 вышла ещё 4 месяца назад, но я обратил на неё внимание только сейчас :):

9В параметров, а запустить можно всего на 5 гб видеопамяти.

первые впечатления оч приятные

предлагаю решить достойна ли она заменить текущую модель по умолчанию, голосуй пжста если попробовал обе модели

Qwen3.5-9B-Claude-4.6-9b q4-km

saiga-nemo-12b q4-km

если железо мощное попробуй q5 или выше

Qwen3.5-9B-Claude-4.6-9b q5-km

saiga-nemo-12b q5-km

какая модель пзже?

saiga_nemo_12b.Q4_K_M

9 votes

Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED.Q4_K_M

18 votes

27 users voted

local model

saiga nemo

qwen

claude

uncensored

Flame RUS

сигма порой много "на себя" начинает брать. Говорит от твоего имени, придумывает сама... хотя сила стоит не большая 6,5-7,5 из рекомендованных 8,0

Jul 01 11:20

alisa rra

saiga - до-о-лго думает, неплоха и даже местами адекватна, но через какое то время диалогов начинает обрезать ответы на полуслове.

Qwen q4- совсем не хочет нормально работать, то после пары ответов перестает вовсе отвечать что то, то выдает простыню с логами и условиями ответа на англ языке.

Qwen q5 - даже работает:) быстро думает, а вот соображает на "троечку", но через какое то время диалогов начинает в конце ответа постоянно добавлять одни и те же предложения.

Все проверялось на "чистой" игре, с удалением папки настроек. Железки мягко говоря так себе, 16 гб, 3070.

Jul 03 02:23

Myafk

Qwen3.5-9B-Claude-4.6-9b, что-то не сработала, koboldcpp возвращает ошибки с этой моделью

Jul 03 03:47