Как подключить и попробовать бесплатные тарифы
Как подключить все бесплатные тарифы. Это сделано по документации репозитория ( https://github.com/tashfeenahmed/freellmapi/tree/main ).
1. Запустите FreeLLMAPI. Поставьте .exe из Releases, он запускает сервис на http://localhost:3001. Либо используйте Docker, как описано выше.
2. Получите бесплатные ключи у провайдеров. Бесплатно можно без карты завести аккаунты, например, у этих провайдеров из каталога:
- Google Gemini (AI Studio)
- Groq
- Cerebras
- Mistral
- OpenRouter (бесплатны модели с суффиксом :free)
- Cohere
- NVIDIA NIM
- Hugging Face (есть $0,10 в месяц кредита)
- Cloudflare Workers AI (ключ в формате account_id:token)
- Z.ai (Zhipu)
Ключи делайте только на официальных сайтах провайдеров, в разделе API Keys. Условия бесплатного тарифа меняются, поэтому актуальные лимиты каждого провайдера смотрите на его сайте. Некоторые провайдеры уже закрыли бесплатный тариф, например SambaNova, а у Reka и OpenCode Zen он ограничен.
3. Провайдеры без ключа. Kilo, OVH и AI Horde работают анонимно. У них жёсткие лимиты по IP, например у Kilo 200 запросов в час. Kilo к тому же использует ваши за
просы для обучения, поэтому секретное туда не отправляйте.
4. Добавьте ключи в панель. Откройте http://localhost:3001, перейдите на страницу Keys, выберите провайдера, вставьте ключ и сохраните. Ключи хранятся зашифрованными. Для одного провайдера можно добавить несколько ключей, тогда лимиты складываются.
free
llm