BAIZE AI RESOURCE

AI 模型路由系统

9router

9Router 是面向 AI 编程工具的模型路由系统,可集中连接多个模型服务商,追踪额度、配置备用模型,并压缩工具返回内容,减少切换服务的操作。

9router

资源介绍

9Router 适合同时使用多个 AI 模型或编程工具的用户。它在本机或 Docker 环境中运行,提供控制面板来连接模型提供商,再通过统一的 API 地址供 Claude Code、Codex、Cursor 等工具调用。用户无需在每个工具里反复更换提供商地址;当已配置的模型额度不足时,可通过自动切换组合继续使用其他模型。它还提供配额追踪、多账户轮询和工具返回内容压缩,帮助用户了解额度使用情况、减少重复切换与 Token 消耗。除编程对话外,项目还提供图像生成、语音转文字和文本向量等接口;这些能力需要连接相应的模型提供商。

核心能力

统一连接模型

通过统一的 API 地址,将 Claude Code、Codex、Cursor 等工具连接到已配置的模型提供商,减少在不同工具间分别设置提供商的工作。

额度不足时自动切换

可通过自动切换组合在多个提供商之间依次尝试模型,避免因单一提供商额度耗尽而手动更换。

压缩工具返回内容

RTK 可压缩编程工具的 tool_result 内容,减少这类输出占用的 Token;项目说明给出的节省幅度为 20%–40%,实际效果取决于请求内容。

追踪额度并轮询账户

支持追踪订阅额度,并在同一提供商的多个账户间轮询,便于分配已有额度。

提供多种模型接口

除聊天与代码生成外,还提供图像生成、语音转文字和文本向量接口,供已连接相应模型的应用调用。

使用方法

  1. 使用 npm 全局安装 9router 并运行;也可选择 Docker 部署。

  2. 打开本机控制面板 http://localhost:20128/dashboard,在提供商页面连接可用的模型服务,并获取网关 API Key。

  3. 按控制面板 CLI Tools 或对应客户端指南配置端点、API Key 与模型 ID。README 的 Cursor 示例使用 http://localhost:20128/v1,Codex CLI 的 OPENAI_BASE_URL 示例使用 http://localhost:20128,应按客户端分别设置。

  4. 需要备用线路时建立模型组合,按顺序加入已连接的可用模型,再从客户端选择该组合。

使用案例

编程工具切换模型

使用场景开发者使用 Claude Code,现有模型额度不足。

将 Claude Code 接入 9Router,并配置包含多个提供商的自动切换组合;原模型不可用时,组合可尝试后续已配置的模型。

录音转文字

使用场景用户需要把音频文件转成文字。

连接支持语音识别的模型后,向 /v1/audio/transcriptions 提交音频文件和模型 ID,获取转写文本;接口也支持请求 SRT 或 VTT 字幕格式。

包含内容

9router-source.zip
README-中文安装说明.md
LICENSE-MIT.txt
THIRD-PARTY-NOTICES.md
SHA256.txt

常见问题

9Router 可以通过哪些方式运行?
项目提供 npm 安装方式,运行 9router 后可在 http://localhost:20128/dashboard 打开控制面板;也提供 Docker 镜像,示例将 20128 端口映射到主机。
不同客户端的 API 地址都相同吗?
应按对应客户端指南配置。README 的 Cursor 示例使用 http://localhost:20128/v1;Codex CLI 的 OPENAI_BASE_URL 示例使用 http://localhost:20128。API Key 和模型 ID 从已配置的网关中获取。
不使用编程对话时,9Router 还能调用哪些能力?
项目提供图像生成接口 /v1/images/generations、语音转文字接口 /v1/audio/transcriptions,以及文本向量接口 /v1/embeddings;使用时需连接支持相应能力的模型提供商。