34 家厂商的免费额度拼出月 74 亿 token:FreeLLMAPI 把它们收进一个 /v1 接口

34 家厂商的免费额度拼出月 74 亿 token:FreeLLMAPI 把它们收进一个 /v1 接口

1周前
duguying
6 阅读
来源:GitHub

34 家厂商免费额度叠出月约 74 亿 token、474 个模型家族、635 个免费端点,FreeLLMAPI 用智能路由与自动 failover 把它们收进一个 OpenAI 兼容 /v1 接口(仅供个人实验)。

相关标签

#GitHub#Trending#LLM#API聚合#开源

每家 AI 实验室都在送免费额度——每月几百万 token、每天几千次请求。单看任何一家都是玩具,但 34 家叠在一起,FreeLLMAPI(tashfeenahmed/freellmapi)算出的是约每月 74 亿 token 的工作推理容量,横跨 474 个模型家族、635 个免费端点,全部收进一个 OpenAI 兼容的 /v1 接口。

这个项目的出发点很直白:手动拼免费额度太痛苦——34 套 SDK、34 套限速、34 个请求可能失败的位置。FreeLLMAPI 把这些全部折叠掉,任何 OpenAI 客户端指向本地服务器即可,路由器在你加了 key 的供应商之间透明调度。

接口面出奇地全:除了常规的 chat completions 和补全,还覆盖 /v1/responses(Codex CLI 依赖的接口)、图像生成、视频生成、语音合成与转写、embeddings;甚至直接说 Anthropic Messages API(/v1/messages)——Claude Code 和官方 Anthropic SDK 可以原样跑在这套免费池上,另有 Gemini /v1beta 与 Ollama 仿真端点伺候 Zed、JetBrains 这类本地模型客户端。

路由能力是核心卖点:六种智能路由策略,按实时的速度、能力、可靠性评分挑模型;一家被限速,自动 failover 到下一家;按 key 逐个跟踪用量,保证不撞破任何一家的免费额度上限。还有个有趣的花活叫 Fusion:请求一个虚拟的 fusion 模型,路由器把提示词并行发给一组多样的免费模型,再由 judge 模型把草稿综合成一份答案。

免费额度的世界变化极快,供应商上新、下架、改配额从不打招呼。FreeLLMAPI 的应对是目录自更新:路由器从 freellmapi.co 拉取签名模型目录,新模型、配额变化、兼容性修复不用 git pull 就能落地。免费安装拿的是月度快照(新模型要等 30 天才到达),每年 19 美元的付费版当天同步。

编码 Agent 一条命令即接入:npx freellmapi setup-claude --url http://localhost:3001 --api-key <统一密钥>,支持 Claude Code、Codex、Gemini CLI、Cursor、Cline 等;也有 macOS/Windows 桌面应用和移动端,可 Docker 自托管。

两点必须说清。其一,它和此前报道过的 FreeToken 走的是不同路线:FreeToken 做本地 MoE 模型调度,这个项目聚合的是云厂商免费层,各自面向不同场景。其二,README 明确标注”仅供个人实验”(Personal experimentation only)——免费额度的商用边界是各家供应商自己说了算,真要规模化使用,请先读各家条款。

仓库地址:https://github.com/tashfeenahmed/freellmapi

返回列表

更多资讯

想看更多优质内容?

浏览所有资讯