快速开始： 打开在线工作台，在“对话实验室”输入“登录失败，而且订单需要退款”，观察意图识别、主辅 Agent 路由和工具执行；随后进入“模型中心”或“知识空间”体验多模型与检索能力。Render 免费实例首次唤醒可能需要约一分钟。

项目简介

EpochFlow 是一个面向客服与知识服务场景的 Agent 工程项目，将一次模型请求拆成可观察的工程链路：意图识别 → Agent 路由 → Skills 注入 → 工具调用 → 知识检索 → 回复合成 → 运行评测。

项目关注的不只是“让大模型多回答一句话”，而是让 Agent 系统具备清晰的角色边界、可追踪的执行过程、可替换的模型能力和可重复的质量验证。系统包含 Vue 工作台、FastAPI 后端、多 Agent 编排器、轻量知识库、模型网关、评测模块、自动化测试与 Render 云端部署。

能力地图

一眼看懂项目

核心能力

1. 路由驱动的多 Agent 协作

• 先识别细粒度意图与结构化实体，再决定由哪个 Agent 处理。
• 复杂请求可以选择一个主 Agent 和多个辅助 Agent，而非简单切换 prompt。
• 每个角色拥有独立的 system prompt、输出契约、模型参数和工具白名单。
• 执行结果返回路由原因、置信度、参与角色和工具调用明细。

2. 多协议模型网关与模型中心

• 同时适配 Anthropic Messages 和 OpenAI Chat Completions 风格接口。
• 使用请求级上下文隔离模型选择，避免并发会话相互覆盖配置。
• 根据任务分别调用文字、视觉、图像、视频、语音、Embedding 与 Rerank API。
• 提供 50 个模型、9 类实验入口，并实时核验当前账号的模型清单。
• 视频任务采用提交与状态轮询分离，刷新页面后仍可恢复任务查询。

3. 可观察的 Agent 执行过程

工作台不会只显示最终回答。每次请求都可以检查：

• 意图分类、置信度与实体提取结果；
• 主 Agent、辅助 Agent 与路由理由；
• 工具名称、输入、输出、耗时和成功状态；
• 知识检索是否参与回答；
• 请求标识与端到端延迟。

4. 知识增强与动态 Skills

• 支持 TXT、Markdown、JSON 文档导入与分片。
• 免费云端版本采用进程内字符 n-gram 检索，避免引入付费数据库。
• 知识变更会主动清理检索缓存，防止删除内容继续被命中。
• Skills 以文件形式维护业务规则，可在运行时重新加载。
• 模型中心额外提供真实 Embedding 相似度和 Reranker 排序实验。

5. 评测与可靠性边界

• 支持自定义意图用例和多轮对话质量用例。
• 使用 LLM-as-Judge 对回答质量进行结构化评分并生成建议。
• 模型失败、超时或返回异常时显式报错，不伪造成功结果。
• 后端统一限制请求体、响应体、频率与并发，并为响应附加 request_id。
• Markdown 输出经过 DOMPurify 清理，供应商密钥始终保留在服务端。

Agent 工作闭环

这套闭环让系统的重点从“模型说了什么”扩展到“系统为什么这样路由、调用了什么、结果如何验证”。

系统架构

flowchart LR
  User[用户 / 浏览器] --> UI[Vue 3 工作台]
  UI --> Boundary[FastAPI 请求边界]

  Boundary --> Chat[Agent 对话链路]
  Chat --> Memory[会话记忆]
  Memory --> Intent[混合意图识别]
  Intent --> Router[主辅 Agent 路由]
  Router --> Agents[通用 / 技术 / 账单 / 升级]
  Agents --> Skills[动态 Skills]
  Agents --> Tools[工具与知识检索]
  Agents --> Composer[回复合成]

  Boundary --> Studio[模型实验中心]
  Studio --> Gateway[多协议模型网关]
  Gateway --> SiliconFlow[SiliconFlow APIs]

  Composer --> Trace[执行记录与监控]
  Tools --> Trace
  Trace --> UI
  Boundary --> Eval[意图 / 对话质量评测]

一次 Agent 对话的主链路：

请求校验
  → 读取会话上下文
  → 意图识别与实体提取
  → 主辅 Agent 路由
  → Skills 与知识上下文注入
  → 工具调用循环
  → 回复合成
  → 写入临时记忆与执行记录

详细设计见架构与运行约定和项目导览与设计说明。

技术栈

在线体验路线

路线 A：观察 Agent 如何协作

1. 打开在线工作台。
2. 在“对话实验室”输入包含两个诉求的问题，例如：我的账号无法登录，而且刚才被重复扣款了。
3. 查看右侧执行面板中的意图、主辅 Agent、路由理由和工具记录。

路线 B：体验多模型能力

1. 进入“模型中心”。
2. 按文字、视觉、图像、视频、语音、向量或重排筛选模型。
3. 选择模型运行单次实验，查看真实结果、耗时和 token 使用量。

路线 C：验证知识增强

1. 在“知识空间”添加一篇自定义文档。
2. 使用检索实验检查命中结果。
3. 回到对话实验室提问，并在执行记录中检查知识工具是否参与。

关键代码导航

本地运行

环境要求：Python 3.12、Node.js 22.16+。

git clone https://github.com/ASEpochs/epochflow.git
cd epochflow/backend
python -m venv .venv
.\.venv\Scripts\python.exe -m pip install -r requirements-free.txt
Copy-Item .env.example .env.local

cd ../frontend
npm ci
cd ..
python 启动开发.py

在 backend/.env.local 中填写模型服务配置：

ANTHROPIC_API_KEY=your_api_key
ANTHROPIC_BASE_URL=https://api.siliconflow.cn
ANTHROPIC_MODEL=deepseek-ai/DeepSeek-V3.2

随后访问 http://127.0.0.1:5174。开发后端使用 8003 端口；终端内按 Ctrl+C 会停止本次启动的前后端进程。

测试

cd backend
.\.venv\Scripts\python.exe -m pytest -q `
  tests/test_free_profile.py `
  tests/test_agent_orchestrator.py `
  tests/test_llm_utils.py `
  tests/test_model_studio.py

cd ../frontend
npm run build
npm run test:e2e

当前验证范围包括：模型接口参数、Agent 工具调用、多模型并发隔离、访问边界、知识生命周期、向量顺序、重排结果、XSS 清理、移动端布局和视频任务恢复。CI 状态可在 GitHub Actions 查看。

部署方式

线上版本使用：

• 前端： Render Static Site；
• 后端： Render Free Python Web Service；
• 模型： SiliconFlow 远程 API；
• 存储： 临时内存，不挂载持久磁盘；
• 发布： GitHub main 分支 + 自动构建。

配置文件见 render.yaml，详细步骤见Render 免费部署说明。

在线版本边界

• Render 免费后端休眠后，首次访问可能需要约一分钟唤醒。
• 会话记忆、上传知识和运行统计会在服务重启或重新部署后清除。
• 公开访客共享临时知识空间，请勿上传隐私或敏感资料。
• 模型接口最多并行 2 项、每分钟 12 项，防止公开演示无限消耗额度。
• 图像与视频结果由模型平台临时托管，重要结果请及时保存。
• 页面中的订单、退款等业务工具用于 Agent 工程演示，不连接真实商家系统。

文档

• English README
• 文档中心
• 项目导览与设计说明
• 架构与运行约定
• 模型接入说明
• Render 免费部署

作者

ASEpochs · GitHub

如果这个项目对你理解 Agent 工程有所帮助，欢迎 Star 或提出 Issue。