强烈推荐!这个开源项目把14个免费LLM变成了一个API

admin 2026-05-24 05:57:28 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

文章总结: freellmapi是一个开源OpenAI兼容代理服务,可聚合14个免费LLM提供商的API配额,提供统一调用端点、自动故障转移和密钥加密功能。项目支持包括GoogleAIStudio、Groq、智谱AI等平台,月配额总计约10亿tokens,包含安装配置指南和Python/curl使用示例,但明确注明仅适用于个人实验非生产环境。 综合评分: 82 文章分类: 安全工具,解决方案,技术标准,安全开发,其他


cover_image

强烈推荐!这个开源项目把 14 个免费 LLM 变成了一个 API

原创

adra1n adra1n

YY的黑板报

2026年5月21日 09:33 天津

在小说阅读器读本章

去阅读

还在到处找免费 AI API?这个开源工具帮你一键聚合,每月最高 10 亿tokens!


作为一个 AI 爱好者,你是否经常遇到这些困扰?

  • • 各个平台的免费 API 密钥管理麻烦
  • • 用着用着就遇到 rate limit
  • • 想用最好的模型,但免费额度不够

今天给大家推荐一个开源项目 —— freellmapi,完美解决这些问题!


什么是 freellmapi?

freellmapi 是一个 OpenAI 兼容的代理服务,它可以同时聚合 14 个免费 LLM 提供商的配额,帮你统一管理、统一调用。

✨ 核心特性:

  • • ✅ 一个端点,调用所有免费模型
  • • ✅ 自动故障转移,一个提供商不行就换另一个
  • • ✅ API 密钥加密存储,安全放心
  • • ✅ 流式响应支持
  • • ✅ 速率限制智能追踪

GitHub:https://github.com/tashfeenahmed/freellmapi\ ⭐ 500+ Stars


支持的免费平台一览

| 提供商 | 免费模型 | 月均配额 | 推荐理由 | | — | — | — | — | | Google AI Studio | Gemini 2.5 Pro/Flash | 100 RPD | 🏆 最高智能 | | Groq | Llama 3.3 70B, Qwen3 | 15-60M | ⚡ 最快速度 | | Cerebras | Qwen3 235B | ~30M | 💪 最大吞吐量 | | SambaNova | DeepSeek V3, Llama 4 | ~6M | 🔥 405B 大模型 | | Mistral | Large 3, Medium 3.5 | ~50-100M | ✨ 高质量 | | OpenRouter | 19+ 免费模型 | ~6M | 🌟 包括 DeepSeek-R1 | | GitHub Models | GPT-4o, GPT-4.1 | 18-54M | 💻 官方免费 | | Cloudflare | Llama 3.1, GLM-4 | 18-45M | 🇨🇳 国内可访问 | | Z.ai (智谱) | GLM-4.5, GLM-4.7 | – | 🇨🇳 国内可直接访问 |

📊 总计:配置全部密钥后约 10 亿 tokens/月


快速开始

1. 安装

git clone https://github.com/tashfeenahmed/freellmapi.git
cd freellmapi
npm install

2. 配置

# 复制配置
cp .env.example .env

# 生成加密密钥 (macOS)
ruby -e "require 'securerandom'; puts SecureRandom.hex(32)"

# 将密钥填入 .env 文件的 ENCRYPTION_KEY

3. 启动

npm run dev

服务启动后:

  • • 📊 管理界面:http://localhost:5173
  • • 🔌 API 端点:http://localhost:3001/v1

如何获取免费 API 密钥?

| 平台 | 获取地址 | | — | — | | Google AI Studio | https://aistudio.google.com/app/apikey | | Groq | https://console.groq.com/keys | | Cerebras | https://cloud.cerebras.ai/ | | SambaNova | https://cloud.sambanova.ai/ | | Mistral | https://console.mistral.ai/ | | OpenRouter | https://openrouter.ai/keys | | GitHub Models | https://github.com/settings/models | | Z.ai (智谱) | https://open.bigmodel.cn/ |


使用示例

Python

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-你复制的密钥"
)

response = client.chat.completions.create(
    model="auto",  # 自动选择最佳模型
    messages=[{"role": "user","content": "你好"}]
)
print(response.choices[0].message.content)

cURL

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer freellmapi-你复制的密钥" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "你好"}]}'

使用注意

⚠️ 仅供个人实验和学习使用,不适合生产环境

  • • 免费配额可能随时变化
  • • 某些提供商的免费条款禁止商业使用
  • • 建议仅用于开发测试

总结

freellmapi 极大降低了免费 AI API 的使用门槛,一个统一的端点就能畅玩 14 个平台的免费模型。配置一次,终身免费使用各种顶级 AI 模型!

快去试试吧 🚀


如果你觉得有用,欢迎分享给更多朋友!

更多技术干货,欢迎关注我~


免责声明:

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。

任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我

本文转载自:YY的黑板报 adra1n adra1n《强烈推荐!这个开源项目把 14 个免费 LLM 变成了一个 API》

评论:0   参与:  0