Омельченко Михаил | Django School

Омельченко Михаил | Django School 

О веб разработке, IT и AI простым языком

23subscribers

101posts

Сделал свой сервис с LLM

Реализовал чат с LLM.
Доступные модели на данный момент:
- линейка Claude, Opus 4.7/4.6, Sonnet 4.6/4.5, Haiku 4.5
- DeepSeek v3.2
- GPT Open Source 120B и 20B
- GLM от версии 4.6 до новой 5.1
Из интересных функций
➡️ Можно забыть контекст, история чата остается видна, но LLM ее не учитывает.
➡️ Можно сделать саммари диалога для экономии токенов.
➡️ Перегенерация ответа и выбор подходящего.
➡️ Поиск в интернете.
➡️ Режим размышления.
Настройки ответа llm в чате
Можно выбрать длину ответа от короткого до полного. Это позволяет экономить токены или наоборот получать более детальный ответ.
Температура позволяет контролировать ответ от точного до максимально творческого, находя баланс между сухими фактами и оригинальными идеями.
Работа с промптами
Если не хотите писать промпт с нуля, выберите готовый из каталога. Понравившийся промпт можно добавить в избранное.
Можно сгенерировать промпт. Выбираете модель, категорию и роль, описываете задачу. LLM задаёт уточняющие вопросы и на выходе вы получаете готовый детализированный промпт.
Его можно сразу использовать в чате, добавить в личную коллекцию или поделиться с другими пользователями.
Из неинтересных функций 😄
Все чаты автоматически группируются по датам. Если их становится много, можете создать папку, выбирать цвет и дать название, а затем поместить чаты в папку.
Копирование ответа в md или как текст.
Работа с файлами: pdf, docx, txt, py, csv, json, js, yaml.
Распознавание изображений: jpg, png, webp, gif.
При регистрации начисляется 5000 бонусных токенов.
👉 Попробовать можно тут
Буду рад обратной связи, отзывам и идеям.
Go up