10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 小程序 标签云

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI开源项目

OmniRoute:21K Star 的开源 AI 网关,一个端点连接 237 个 AI 提供商

1月前 AI开源项目 513 0

OmniRoute 是一个开源 AI 网关项目,通过一个端点连接 237 个 AI 提供商(其中 90+ 个免费),并提供自动故障转移、智能路由和 Token 压缩功能。它的核心口号是"Never stop coding"——让你的 AI 编码工具永不因配额问题而中断。

图片

什么是 OmniRoute?

OmniRoute 由开发者 diegosouzapw 发起,核心理念很简单:把所有 AI 提供商统一到一个 OpenAI 兼容的端点下,让任何 AI 工具都能无缝对接。

图片

你只需配置一个本地网关,然后把 Claude Code、Cursor、Cline、Copilot 等工具都指向这个网关。网关会智能选择最优的 AI 提供商——可以是最快的、最便宜的、质量最好的,也可以是配额最充足的。

当某个提供商出问题或配额用完时,系统会自动切换到备用方案,整个过程对开发者完全透明。

图片

核心功能亮点

免费 Tokens 池

OmniRoute 聚合了 40+ 个提供商池、500+ 个模型的免费额度。它会去重计数——多个服务商共享同一免费池时只算一次,确保数据真实可信。

4 层自动故障转移

OmniRoute 设计了 4 层故障转移机制,确保 AI 服务永不中断:

  • 订阅层:优先使用付费订阅的服务商(如 Claude Code、Codex、Copilot)
  • API Key 层:订阅配额用完时,自动切换到已配置的 API Key 提供商
  • 便宜层:使用成本极低的模型(如 GLM,约 $0.5/1M tokens)
  • 免费层:最后兜底,使用永久免费的提供商

整个切换过程在毫秒级完成,几乎感觉不到任何中断。

15-95% Token 压缩

AI 编码工具输出(如 git diff、日志、grep 结果)往往占据大量 tokens。OmniRoute 集成了 RTK + Caveman 压缩技术,智能过滤和压缩这些内容,平均可节省 15-95% 的 tokens 消耗。

17 种路由策略

OmniRoute 提供 17 种路由策略,可按场景灵活组合:

  • priority:按优先级顺序使用,用尽一个再切换下一个
  • cost-optimized:自动选择成本最低的模型
  • headroom:优先选择配额最充足的提供商
  • lkgp:优先使用最近成功的提供商(Last-Known-Good Path)
  • fusion:并行请求多个模型,由"裁判"模型综合最优答案

内置 MCP 服务器

OmniRoute 内置了 MCP(Model Context Protocol)服务器,支持 95 个工具和 30 个权限范围,方便扩展。

快速上手指南

安装方式

OmniRoute 支持多种安装方式:

npm 安装(最简单):

npm install -g omniroute

Docker 运行:

docker run -p 20128:20128 diegosouzapw/omniroute

也提供 Electron 桌面应用,支持 Windows、macOS、Linux。

启动服务

omniroute start

服务默认运行在 http://localhost:20128/v1。

配置工具

将你的 AI 编码工具指向 OmniRoute 端点:

  • Claude Code:在设置中配置 API Base URL 为 http://localhost:20128/v1
  • Cursor:在设置中配置自定义 API 端点
  • 其他工具:类似配置 OpenAI API 的方式,将 base URL 指向本地网关

使用 Auto 模式

最简单的方式是使用 auto 模式,OmniRoute 会自动构建虚拟组合并实时评分:

  • auto/coding — 代码生成优化
  • auto/fast — 最低延迟优先
  • auto/cheap — 最低成本优先
  • auto/offline — 配额最充足优先
  • auto/smart — 质量优先 + 10% 探索

自定义 Combo

你可以在仪表盘中创建自定义 combo,指定路由策略和提供商顺序:

Combo: "always-on"
Strategy: priority
1. cc/claude-code       # 订阅层:Claude Code
2. cx/copilot           # 备用订阅:GitHub Copilot
3. ds/deepseek-chat     # 便宜层:DeepSeek
4. kg/kilo-code         # 免费层:Kilo Code

总结

OmniRoute 解决了一个实际痛点:如何让 AI 编码工具永不因配额问题中断。它通过聚合免费额度、智能路由和自动故障转移,大幅降低了 AI 使用成本和管理复杂度。

项目完全开源免费,零成本启动,GitHub 已获得 21K+ Star。

  • 项目地址:https://github.com/diegosouzapw/OmniRoute
  • 官网:https://omniroute.online
声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:OmniRoute:21K Star 的开源 AI 网关,一个端点连接 237 个 AI 提供商
#AI网关 #开源项目 #AI工具 #OmniRoute #API路由 
收藏 1
WorkBuddy + jianying-editor:5 分钟搭建剪映自动化视频工作流
Lapian-Notes:开源 AI 电影拉片工具,剧情时间轴+情绪曲线一键生成
推荐阅读
  • Beads 开源项目详解:给 AI Agent 装上「项目经理大脑」,22.4K Star 的分布式任务追踪系统
  • PasteMD:解决 AI 对话、Markdown 与 Office 文档间的格式转换问题
  • DataEase:开源BI数据可视化工具,拖拽制图+Apache Doris加速查询,支持多数据源
  • DocQuality:开源 Word 文档智能审查平台,AI 质检+可视化分析
  • BMAD-METHOD v6.10.0:AI 无人值守开发循环正式成型
评论 (0)
请登录后发表评论
分类精选
WeKnora:终于等到了腾讯ima的开源知识库框架,用 API 轻松打造本地智能文档检索
12048 12月前
OpenSpec:比 Cursor Plan 更聪明?试试这款让 AI 编码更靠谱的规范驱动工具
10593 10月前
CapCut API:一个剪映API开源项目,让AI自动剪辑视频
9962 8月前
AIRI:你的开源AI女友,让你随时拥有属于自己的 AI VTuber
8970 12月前
Antigravity-Manager:这个开源神器让你白嫖ClaudeOpus 4.5,Gemini 3!还能接Claude Code等任意平台
8890 8月前
CompressO:开源免费的视频压缩神器,让你的硬盘瞬间轻松 10 倍
8497 11月前
就要创作:从提示词到创作团队,开源 AI 网文写作平台
8369 10月前
awesome-openclaw-skills:700+ Skills 一条命令装配完成,如何让本地 AI Agent 真正落地可用
7882 7月前
baoyu-skills:又一个宝藏Skill,面向内容创作者的技能集,支持图文生成、发布与处理
7662 7月前
Claude Code 生成专业图表的 15 个 Skills:覆盖 7 种渲染引擎的完整指南
7595 4月前

文章目录

关注「苏米客」公众号

订阅推送更及时,手机查看更方便
分类排行
1 Superlearn开源Skill:一句话生成交互式学习网站,支持六种视图与记忆卡片
2 浙大联合北大开源 Easel:社媒运营全链路 Agent,从热点发现到多平台一键发布
3 开源旅行海报工具 Yingzao · 营造:20 张废片对比实测,多模型协作把照片变杂志级海报
4 Anthropic 开源 Claude 电商 Agent:Shopping + Merchant 双端架构,Shopify 率先接入
5 一个HTML文件撑起整个3D世界:Kage 开源项目实测
6 GitHub Trending 精选:OpenCut、Meetily、TokenSaver 三个实用开源项目
7 headlong:AI Agent微框架开源,自动执行任务并主动汇报结果
8 GitHub热门3D人体器官网站:AI生成交互式人体器官模型
9 飞鼠格式:支持80+格式的本地文件转换工具,开源免费无广告
10 AI视频编辑器:Codex直接操作视频时间线,重新定义AI创作流程
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6
微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联