MS_China_AI

MS_China_AI 

"..ИИ рядом, уже тут и мы этого не замечаем.."

11subscribers

182posts

goals2
2 of 1 000 paid subscribers
Рассказывать об ИИ агентах, возможностях, обучение, лайвхаки,видео и статьи, популяризация искусственного интеллекта
$0 of $3 598 raised
4x Tesla V100 32Гб HBM2 PCi-e (комплект для AI-Сервера)

Как подключить и попробовать бесплатные тарифы

Как подключить все бесплатные тарифы. Это сделано по документации репозитория ( https://github.com/tashfeenahmed/freellmapi/tree/main ).
 
1. Запустите FreeLLMAPI. Поставьте .exe из Releases, он запускает сервис на http://localhost:3001. Либо используйте Docker, как описано выше.
2. Получите бесплатные ключи у провайдеров. Бесплатно можно без карты завести аккаунты, например, у этих провайдеров из каталога:
  • Google Gemini (AI Studio)
  • Groq
  • Cerebras
  • Mistral
  • OpenRouter (бесплатны модели с суффиксом :free)
  • Cohere
  • NVIDIA NIM
  • Hugging Face (есть $0,10 в месяц кредита)
  • Cloudflare Workers AI (ключ в формате account_id:token)
  • Z.ai (Zhipu)
Ключи делайте только на официальных сайтах провайдеров, в разделе API Keys. Условия бесплатного тарифа меняются, поэтому актуальные лимиты каждого провайдера смотрите на его сайте. Некоторые провайдеры уже закрыли бесплатный тариф, например SambaNova, а у Reka и OpenCode Zen он ограничен.
3. Провайдеры без ключа. Kilo, OVH и AI Horde работают анонимно. У них жёсткие лимиты по IP, например у Kilo 200 запросов в час. Kilo к тому же использует ваши за
просы для обучения, поэтому секретное туда не отправляйте.
4. Добавьте ключи в панель. Откройте http://localhost:3001, перейдите на страницу Keys, выберите провайдера, вставьте ключ и сохраните. Ключи хранятся зашифрованными. Для одного провайдера можно добавить несколько ключей, тогда лимиты складываются.
5. Настройте порядок резервных моделей. Это страница Fallback Chain. Поставьте выше модели, которые вам нужнее. Когда у одного провайдера кончается лимит, запрос сам уходит к следующему. Можно создать отдельные цепочки, например для кода и для картинок, и вызывать их как auto:<имя>.
6. Возьмите единый ключ. В шапке страницы Keys есть ключ вида freellmapi-…. Только его вы вставляете в свои программы, ключи провайдеров дальше не уходят.
7. Подключите программы. Любая программа с настройкой «OpenAI-совместимый адрес» работает так:
  • Base URL: http://localhost:3001/v1
  • API key: ваш freellmapi-…
  • Model: auto или конкретная модель из списка /v1/models
Для Claude Code, Codex, Cline, Aider, Continue, OpenCode и других есть готовые команды, например npx freellmapi setup-claude --url http://localhost:3001 --api-key <ключ>. Добавьте --dry-run, чтобы сначала посмотреть изменения, перед записью делается резервная копия настроек.
8. Картинки, речь, эмбеддинги. Те же адреса /v1/images/generations, /v1/audio/speech, /v1/embeddings работают через провайдеров с такими моделями, например SiliconFlow и Groq (речь).
9. Свои локальные модели. На странице Keys добавьте провайдера custom и укажите адрес вашего Ollama, LM Studio или llama.cpp (например, http://localhost:11434/v1). Тогда локальные и облачные модели будут в одной цепочке.
Не открывайте доступ извне (HOST_BIND=0.0.0.0): панель защищена только единым ключом
Subscription levels1

Премиум

$19.3 per month
Доступ к закрытой части, видео, обучение, статьи, лайвхаки, дополнительные материалы
Go up