10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 小程序 标签云

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI开源项目

OmniRoute:21K Star 的开源 AI 网关,一个端点连接 237 个 AI 提供商

3小时前 AI开源项目 22 0

OmniRoute 是一个开源 AI 网关项目,通过一个端点连接 237 个 AI 提供商(其中 90+ 个免费),并提供自动故障转移、智能路由和 Token 压缩功能。它的核心口号是"Never stop coding"——让你的 AI 编码工具永不因配额问题而中断。

图片

什么是 OmniRoute?

OmniRoute 由开发者 diegosouzapw 发起,核心理念很简单:把所有 AI 提供商统一到一个 OpenAI 兼容的端点下,让任何 AI 工具都能无缝对接。

图片

你只需配置一个本地网关,然后把 Claude Code、Cursor、Cline、Copilot 等工具都指向这个网关。网关会智能选择最优的 AI 提供商——可以是最快的、最便宜的、质量最好的,也可以是配额最充足的。

当某个提供商出问题或配额用完时,系统会自动切换到备用方案,整个过程对开发者完全透明。

图片

核心功能亮点

免费 Tokens 池

OmniRoute 聚合了 40+ 个提供商池、500+ 个模型的免费额度。它会去重计数——多个服务商共享同一免费池时只算一次,确保数据真实可信。

4 层自动故障转移

OmniRoute 设计了 4 层故障转移机制,确保 AI 服务永不中断:

  • 订阅层:优先使用付费订阅的服务商(如 Claude Code、Codex、Copilot)
  • API Key 层:订阅配额用完时,自动切换到已配置的 API Key 提供商
  • 便宜层:使用成本极低的模型(如 GLM,约 $0.5/1M tokens)
  • 免费层:最后兜底,使用永久免费的提供商

整个切换过程在毫秒级完成,几乎感觉不到任何中断。

15-95% Token 压缩

AI 编码工具输出(如 git diff、日志、grep 结果)往往占据大量 tokens。OmniRoute 集成了 RTK + Caveman 压缩技术,智能过滤和压缩这些内容,平均可节省 15-95% 的 tokens 消耗。

17 种路由策略

OmniRoute 提供 17 种路由策略,可按场景灵活组合:

  • priority:按优先级顺序使用,用尽一个再切换下一个
  • cost-optimized:自动选择成本最低的模型
  • headroom:优先选择配额最充足的提供商
  • lkgp:优先使用最近成功的提供商(Last-Known-Good Path)
  • fusion:并行请求多个模型,由"裁判"模型综合最优答案

内置 MCP 服务器

OmniRoute 内置了 MCP(Model Context Protocol)服务器,支持 95 个工具和 30 个权限范围,方便扩展。

快速上手指南

安装方式

OmniRoute 支持多种安装方式:

npm 安装(最简单):

npm install -g omniroute

Docker 运行:

docker run -p 20128:20128 diegosouzapw/omniroute

也提供 Electron 桌面应用,支持 Windows、macOS、Linux。

启动服务

omniroute start

服务默认运行在 http://localhost:20128/v1。

配置工具

将你的 AI 编码工具指向 OmniRoute 端点:

  • Claude Code:在设置中配置 API Base URL 为 http://localhost:20128/v1
  • Cursor:在设置中配置自定义 API 端点
  • 其他工具:类似配置 OpenAI API 的方式,将 base URL 指向本地网关

使用 Auto 模式

最简单的方式是使用 auto 模式,OmniRoute 会自动构建虚拟组合并实时评分:

  • auto/coding — 代码生成优化
  • auto/fast — 最低延迟优先
  • auto/cheap — 最低成本优先
  • auto/offline — 配额最充足优先
  • auto/smart — 质量优先 + 10% 探索

自定义 Combo

你可以在仪表盘中创建自定义 combo,指定路由策略和提供商顺序:

Combo: "always-on"
Strategy: priority
1. cc/claude-code       # 订阅层:Claude Code
2. cx/copilot           # 备用订阅:GitHub Copilot
3. ds/deepseek-chat     # 便宜层:DeepSeek
4. kg/kilo-code         # 免费层:Kilo Code

总结

OmniRoute 解决了一个实际痛点:如何让 AI 编码工具永不因配额问题中断。它通过聚合免费额度、智能路由和自动故障转移,大幅降低了 AI 使用成本和管理复杂度。

项目完全开源免费,零成本启动,GitHub 已获得 21K+ Star。

  • 项目地址:https://github.com/diegosouzapw/OmniRoute
  • 官网:https://omniroute.online
声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:OmniRoute:21K Star 的开源 AI 网关,一个端点连接 237 个 AI 提供商
#AI网关 #开源项目 #AI工具 #OmniRoute #API路由 
收藏 1
WorkBuddy + jianying-editor:5 分钟搭建剪映自动化视频工作流
Lapian-Notes:开源 AI 电影拉片工具,剧情时间轴+情绪曲线一键生成
推荐阅读
  • 开源中国古典诗词 API:37 万首诗,一键接入国风应用
  • SeekDB:一款AI原生的混合搜索数据库!还支持MCP
  • 超级 AI 大神Andrej Karpathy 强推的开源项目和 92 个信息源
  • Fun-CineForge:阿里开源的端到端电影配音系统,解决口型同步与多角色音色转换
  • PraisonAI:5行代码部署24小时AI智能体团队,7300+ Star
评论 (0)
请登录后发表评论
分类精选
WeKnora:终于等到了腾讯ima的开源知识库框架,用 API 轻松打造本地智能文档检索
10929 10月前
OpenSpec:比 Cursor Plan 更聪明?试试这款让 AI 编码更靠谱的规范驱动工具
10155 9月前
Antigravity-Manager:这个开源神器让你白嫖ClaudeOpus 4.5,Gemini 3!还能接Claude Code等任意平台
8226 6月前
CapCut API:一个剪映API开源项目,让AI自动剪辑视频
8168 7月前
awesome-openclaw-skills:700+ Skills 一条命令装配完成,如何让本地 AI Agent 真正落地可用
7275 5月前
AIRI:你的开源AI女友,让你随时拥有属于自己的 AI VTuber
7211 10月前
就要创作:从提示词到创作团队,开源 AI 网文写作平台
7175 9月前
CompressO:开源免费的视频压缩神器,让你的硬盘瞬间轻松 10 倍
7056 10月前
baoyu-skills:又一个宝藏Skill,面向内容创作者的技能集,支持图文生成、发布与处理
6448 5月前
Claude Code 生成专业图表的 15 个 Skills:覆盖 7 种渲染引擎的完整指南
6308 3月前

文章目录

关注「苏米客」公众号

订阅推送更及时,手机查看更方便
分类排行
1 ai-agent-book:12K Star 的开源 AI Agent 全书,从原理到工程实践
2 Transitions.dev:27 个开箱即用的 UI 交互动效库,支持 Claude Skills
3 Lapian-Notes:开源 AI 电影拉片工具,剧情时间轴+情绪曲线一键生成
4 OmniRoute:21K Star 的开源 AI 网关,一个端点连接 237 个 AI 提供商
5 Claude HUD:Claude Code 终端状态栏插件,实时监控上下文与Token用量
6 SenseNova Infographic-V3:商汤开源信息图增强模型,支持局部编辑与全局风格迁移
7 Grok Build 被迫开源:84万行Rust代码公开,xAI终端编码智能体全解析
8 Codex Dream Skin:开源换肤工具让 Codex 桌面端颜值翻倍
9 SmartTable:开源私有化多维表格,本地离线+团队协作双模式
10 emilkowalski/skills:开源 Apple 设计风格 Skill,让 AI 生成的界面拥有原生手感
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6
微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联