анонс и выборы текстовой модели

в готовящейся обнове, ближе к чтвргу, будет:

полная переработка кастомных контекстов
внедрение карточек персонажей Character Card V2/V3
сюжетный ивент с днд
новый сценарий в сеттинге 1000 и 1 ночь
прикрепление LoRAs к персонажам
кнечно багфикс и немного рефакторинга

сайга используется как модель по умолчанию уже чуть больше года, думаю пора найти ей замену, ну или убедиться что она всё ещё удовлетворяет большинство

критерии отбора моделей - чтобы шла на ноутбучных видеокартах, имела от 9 до 12b параметров, была многоязычной и без цензуры

первые две модели построены на новом поколении Qwen3.5, Gemma - на новой Gemma 4. остальные претенденты основаны на Mistral Nemo, как и нынешняя Saiga, но c свежим дооубучением

если твоя любимая модель не вошла в список - пиши в комменты, в том числе и модели больше 12b - моделью по умолчанию не станет, но войдёт в рекомендуемый список для счастливых обладателей мощного железа :):

какая модель пзже

Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED.Q4_K_M

14 votes

Qwythos-9B-Claude-Mythos-5-1M-uncensored-heretic-Q4_K_M

gemma-4-12B-it-uncensored-opus4.7-cot-Q4_K_M

6 votes

MN-CaptainErisNebula-Chimera-v1.1-THINKING-ClaudeOpus4.5-12B-heretic-uncensored.i1-Q4_K_M

Mistral-Nemo-2407-12B-Thinking-Claude-Gemini-GPT5.2-Uncensored-HERETIC.i1-Q4_K_M

2 votes

saiga_nemo_12b.Q4_K_M

6 votes

28 users voted

announcement

local

local model

poll

text model

Славсон Kotopes

saiga_nemo_12b-Q8_0-GGUF. Мне нравится эта модель

Jul 20 21:32

Александр Бондаренко

Мне нравится сайга, но её стоит немного ограничивать в фантазии, а то вместо ответа она ебашит рассказы от лица всех персонажей. А если снизить фантазию, то даёт ответы адекватно.

Jul 21 15:48

Александр Бондаренко

Но я сегодня попробую и другие модели, если что переголосую.

Jul 21 15:49

Жмышенко Валерий

Буду благодарен, если кто-нибудь подскажет есть ли где-то инфа как пользоваться разделом "кастом"

Jul 24 01:16