Как подключить и попробовать бесплатные тарифы
Как подключить все бесплатные тарифы. Это сделано по документации репозитория ( https://github.com/tashfeenahmed/freellmapi/tree/main ).
1. Запустите FreeLLMAPI. Поставьте .exe из Releases, он запускает сервис на http://localhost:3001. Либо используйте Docker, как описано выше.
2. Получите бесплатные ключи у провайдеров. Бесплатно можно без карты завести аккаунты, например, у этих провайдеров из каталога:
- Google Gemini (AI Studio)
- Groq
- Cerebras
- Mistral
- OpenRouter (бесплатны модели с суффиксом :free)
- Cohere
- NVIDIA NIM
- Hugging Face (есть $0,10 в месяц кредита)
- Cloudflare Workers AI (ключ в формате account_id:token)
- Z.ai (Zhipu)
Ключи делайте только на официальных сайтах провайдеров, в разделе API Keys. Условия бесплатного тарифа меняются, поэтому актуальные лимиты каждого провайдера смотрите на его сайте. Некоторые провайдеры уже закрыли бесплатный тариф, например SambaNova, а у Reka и OpenCode Zen он ограничен.
3. Провайдеры без ключа. Kilo, OVH и AI Horde работают анонимно. У них жёсткие лимиты по IP, например у Kilo 200 запросов в час. Kilo к тому же использует ваши за
просы для обучения, поэтому секретное туда не отправляйте.
4. Добавьте ключи в панель. Откройте http://localhost:3001, перейдите на страницу Keys, выберите провайдера, вставьте ключ и сохраните. Ключи хранятся зашифрованными. Для одного провайдера можно добавить несколько ключей, тогда лимиты складываются.
5. Настройте порядок резервных моделей. Это страница Fallback Chain. Поставьте выше модели, которые вам нужнее. Когда у одного провайдера кончается лимит, запрос сам уходит к следующему. Можно создать отдельные цепочки, например для кода и для картинок, и вызывать их как auto:<имя>.
6. Возьмите единый ключ. В шапке страницы Keys есть ключ вида freellmapi-…. Только его вы вставляете в свои программы, ключи провайдеров дальше не уходят.
7. Подключите программы. Любая программа с настройкой «OpenAI-совместимый адрес» работает так:
- Base URL: http://localhost:3001/v1
- API key: ваш freellmapi-…
- Model: auto или конкретная модель из списка /v1/models
Для Claude Code, Codex, Cline, Aider, Continue, OpenCode и других есть готовые команды, например npx freellmapi setup-claude --url http://localhost:3001 --api-key <ключ>. Добавьте --dry-run, чтобы сначала посмотреть изменения, перед записью делается резервная копия настроек.
8. Картинки, речь, эмбеддинги. Те же адреса /v1/images/generations, /v1/audio/speech, /v1/embeddings работают через провайдеров с такими моделями, например SiliconFlow и Groq (речь).
9. Свои локальные модели. На странице Keys добавьте провайдера custom и укажите адрес вашего Ollama, LM Studio или llama.cpp (например, http://localhost:11434/v1). Тогда локальные и облачные модели будут в одной цепочке.
Не открывайте доступ извне (HOST_BIND=0.0.0.0): панель защищена только единым ключом
free
llm