One Switch

本地 AI API 网关，在多个模型供应商或上游模型之间自动故障转移。

只需把 AI 客户端连接到一个本地地址，One Switch 就会按队列优先级选择上游。当当前渠道遇到网络故障、超时、限流、鉴权异常或服务端错误时，请求会自动尝试下一个可用渠道。所有配置、密钥和请求记录均保留在本机。

为什么使用 One Switch

• 一个入口连接多个上游：客户端只需配置一次本地 API 地址，不必反复修改不同供应商的 Base URL。
• 自动故障转移：网络错误、超时、401、403、408、429 和 5xx 响应会触发队列中的下一次尝试。
• 协议感知路由：同一个上游模型可以配置多个协议端点，请求只会进入与其协议匹配的端点。
• 统一模型名称：客户端请求中的 model 会被替换为当前队列项配置的真实上游模型 ID。
• 手动切换与拖拽排序：可以随时指定首选模型或调整优先级，不会中断已经开始的请求。
• 流式响应透传：支持 SSE 流式输出；只要上游持续返回数据，长时间生成不会被总时长限制。
• 健康检查与冷却：连续失败的供应商会暂时进入冷却期，恢复后重新参与路由。
• 本地可观测性：提供请求尝试记录、成功率、延迟、TTFT、Token 用量、缓存命中和失败原因统计。
• 本地优先：API Key 使用 Electron safeStorage 加密保存，配置导出默认不包含密钥。

界面预览

截图素材统一存放在 snapshot/ 目录中。

支持的协议

上述路径也兼容省略 /v1 的形式。GET /v1/models 由 One Switch 本地提供，返回统一的 default 模型。

One Switch 会识别并原样透传多种协议，但不会在 OpenAI、Anthropic 等协议之间转换请求或响应。一次故障转移只会尝试支持当前请求协议的队列项。Gemini 和自定义协议目前尚未在当前版本中开放。

工作方式

AI 客户端
    │
    │  http://127.0.0.1:9300/v1/...
    ▼
One Switch
    │
    ├─ 1. 识别请求协议
    ├─ 2. 筛选支持该协议且处于健康状态的模型
    ├─ 3. 按队列顺序改写真实模型 ID 并发起请求
    └─ 4. 失败时尝试下一个候选
            ├─ Provider A / Model A
            ├─ Provider B / Model B
            └─ Provider C / Model C

对于流式请求，One Switch 只会在响应尚未发送给客户端时切换上游。一旦响应头或内容已经开始透传，中途断开会被记录为失败，但不会拼接另一个模型的输出，以免产生混杂响应。

安装

前往 GitHub Releases 下载适合当前平台的安装包：

• macOS：.dmg，支持 Apple Silicon 和 Intel
• Windows：.exe，支持 x64 和 ARM64
• Linux：.AppImage

macOS 构建目前采用 ad-hoc 签名且未公证。若系统阻止首次打开，请在“系统设置 → 隐私与安全性”中确认打开，或在 Finder 中右键应用并选择“打开”。

快速开始

1. 添加供应商

打开 模型管理，新增一个供应商并填写：

• 供应商名称
• API Key
• 请求超时时间
• 该供应商支持的协议默认地址

API Key 只保存在本机加密存储中，不会出现在导出的配置文件里。

2. 添加上游模型

在供应商下添加真实模型 ID，例如 gpt-4.1、deepseek-chat 或 claude-sonnet-4-20250514，然后为它启用一个或多个协议端点。

端点可以使用供应商的默认地址，也可以为单个模型填写完整接口地址。一个模型即使支持多个协议，在故障转移队列中也只占一行。

3. 设置故障转移顺序

进入 模型队列：

1. 拖拽模型调整优先级。
2. 启用或停用不希望参与路由的模型。
3. 需要临时指定上游时，手动切换当前首选模型。
4. 使用队列测试确认各协议端点可以正常连接。

手动切换只影响后续请求，正在进行的普通或流式请求不会被中断。首选模型失败后，自动故障转移仍然生效。

4. 连接 AI 客户端

代理默认监听：

http://127.0.0.1:9300

在客户端中根据其协议填写 Base URL：

客户端要求填写 API Key 时，可以填写任意非空占位值；真实上游密钥由 One Switch 按供应商注入。模型名可填写 default，代理会自动替换为最终选中队列项的真实模型 ID。

也可以直接验证本地模型列表：

curl http://127.0.0.1:9300/v1/models

监听地址和端口可在 设置 中修改。修改后需要重启本地代理服务才能让监听配置生效。

故障转移策略

连续失败阈值、初始冷却时间、最大冷却时间和流式空闲超时均可在 设置 → 故障转移 中调整。

数据与隐私

• 代理默认监听 127.0.0.1，不会主动暴露到局域网。
• API Key 使用 Electron safeStorage 加密后保存在本地。
• 配置、运行日志和请求元数据均存储在本机应用数据目录。
• 请求记录用于展示路由结果和性能指标，不保存完整提示词与响应正文。
• 导出的配置不包含 API Key；重新导入后需要补充密钥。
• One Switch 不提供云同步、账号体系或远程中转服务，请求只会发往你配置的上游地址。

默认应用数据目录：

本地开发

需要 Node.js 22 或更高版本，以及 pnpm 9.6：

pnpm install
pnpm run dev

常用命令：

pnpm run typecheck     # TypeScript 类型检查
pnpm run lint          # ESLint
pnpm run test:server   # 服务端测试
pnpm run build         # 构建当前平台安装包
pnpm run release:mac   # 构建 macOS arm64 与 x64 安装包
pnpm run release:win   # 构建 Windows arm64 与 x64 安装包
pnpm run release:linux # 构建 Linux arm64 与 x64 安装包

技术栈包括 Electron、React、TypeScript、Vite、Drizzle ORM 和 SQLite。更详细的设计与行为约定见 规格文档。

当前边界

• 当前代理入口使用一个逻辑模型队列；客户端模型名最终映射到该队列中的上游模型。
• 不进行 OpenAI、Anthropic 等协议之间的报文转换。
• 不接管系统全局代理，需要在每个 AI 工具中单独设置 Base URL。
• 不提供团队协作、云同步、远程访问或多用户权限管理。
• Gemini、自定义协议和更多智能路由策略仍在后续规划中。

参与开发

欢迎通过 Issues 报告问题或提出建议。提交问题时，建议附上 One Switch 版本、操作系统、请求协议以及脱敏后的运行日志；请勿粘贴 API Key、完整提示词或其他敏感信息。