背景#

在上一篇《构建个人 AI 工程知识操作系统》中，我记录了 Hermes Agent 多层记忆架构的搭建过程。但解决了”记住什么”之后，下一个问题是——“用什么模型来思考”。

日常对话、RAG 检索、简单脚本用 Flash 就够，但系统架构设计、硬件安全分析、多方案权衡需要更强的推理能力。全部用最强模型浪费 token，全部用最便宜模型质量不够。

本文记录从单模型到多模型路由的完整演化过程。

问题定义#

架构演化#

1
看到"架构" → delegate
2
看到"状态机" → delegate
3
看到"电路图" → delegate

1
                User Request
2
                     │
3
                     ▼
4
          DeepSeek V4 Flash
5
          Router + Orchestrator
6
                     │
7
        ┌────────────┼────────────┐
8
        │            │            │
9
        ▼            ▼            ▼
10
     Level 0      Level 1      Level 2
11
     Flash       Flash+Pro      GLM-5.2
12
        │            │            │
13
        │            │            │
14
        ▼            ▼            ▼
15
    简单任务      审查增强      专家设计
16
                     │
17
                     ▼
18
              Flash 整合输出

1
Flash
2
  ↓
3
delegate_task → GLM-5.2（深度推理）
4
  ↓
5
GLM 结果返回 Flash
6
  ↓
7
Flash 职责：
8
  ├── 验证结果合理性
9
  ├── 合并 memory 上下文（用户偏好、设备参数）
10
  ├── 检查已知/未知约束
11
  ├── 补充 OpenViking 知识
12
  └── 输出最终答案给用户

1
"用 GLM-5.2 分析这个架构" → 走 GLM
2
"用 DeepSeek Pro 审查代码"  → 走 Pro

1
问题
2
  ↓
3
有 OpenViking 知识可用？
4
  ↓ YES → 先检索，看能否直接回答
5
  ↓ NO  → 继续复杂度判断

1
如果预计回答 < 1000 tokens
2
  AND 无架构设计
3
  AND 无多方案比较
4
  AND 无硬件安全
5
→ 不要 delegate，Flash 足够

完整路由决策树#

1
Step 1: 用户指定了模型？
2
  YES → 尊重用户选择，跳过路由
3

4
Step 2: 包含图片？
5
  YES → Doubao Vision（自动，无需操作）
6

7
Step 3: 有 OpenViking 知识可用？
8
  YES → 先检索，看能否直接回答
9

10
Step 4: 复杂度评估
11
  预计回答长度、模块数、是否含方案比较、
12
  是否涉及硬件安全、是否需要架构图
13

14
Step 5: 路由
15
  Level 0 → Flash 直接回答
16
  Level 1 → Flash 或 Pro（代码审查走 Pro）
17
  Level 2 → delegate → GLM-5.2 → 回流 Flash 整合

辅助链（自动路由，无需操作）#

1
图片/截图/OCR
2
        │
3
        ▼
4
Doubao Seed 2.0 Pro
5

6
后台任务（压缩、策展、background_review）
7
        │
8
        ▼
9
DeepSeek V4 Pro

为什么 Flash 是”大脑”而不是”最低级模型”#

很多多模型方案的结构是：

1
便宜模型 → 判断 → 贵模型

这种方案的问题：便宜模型判断不准，路由错误率高。

我们的方案：

1
Flash → 理解上下文 → 决定是否调用专家 → 整合输出

Flash 不是”便宜替代品”，而是主控制器。它负责：

• 理解用户完整意图
• 调用 memory 和知识库
• 判断是否需要专家介入
• 整合专家输出为最终答案

配置实现#

1
model:
2
  default: deepseek-v4-flash
3
  provider: custom
4

5
delegation:
6
  model: glm-5.2          # 子任务自动走 GLM
7
  provider: custom
8

9
auxiliary:
10
  vision:
11
    model: doubao-seed-2-0-pro-260215
12
    base_url: "https://ark.cn-beijing.volces.com/api/coding/v3"
13
    timeout: 120
14
  compression:
15
    model: deepseek-v4-pro
16
  background_review:
17
    model: deepseek-v4-pro
18
  curator:
19
    model: deepseek-v4-pro

当前状态：冻结 v3，进入数据收集#

现在不做更多规则调整，让真实使用数据跑出来。

1
Flash:  70-85%
2
Pro:    10-20%
3
GLM:     5-15%
4
Doubao: 按需

未来方向#

1
task-memory/
2
├── energy/EMS设计
3
│     ├── model: GLM-5.2
4
│     ├── success: true
5
│     └── pattern: state-machine
6
├── software/docker迁移
7
│     ├── model: Flash
8
│     └── success: true
9
└── hardware/BMS分析
10
      ├── model: GLM-5.2
11
      └── success: true

1
                  Hermes
2
                    │
3
             Model Router
4
                    │
5
        ┌───────────┼───────────┐
6
     Rules       Memory       Feedback
7
       │            │             │
8
   当前规则     历史决策      成功率
9
        └───────────┼───────────┘
10
                    ▼
11
            自适应模型选择

架构模式总结#

当前 Hermes 已经形成 4 层知识体系：

模型链形成 Planner → Specialist → Reviewer → Integrator 结构：

1
创造能力 = GLM-5.2
2
执行能力 = DeepSeek V4 Flash
3
审查能力 = DeepSeek V4 Pro
4
经验能力 = OpenViking

经验教训#

1. 不要用关键词触发路由 — 容易误触发，趋向过拟合
2. Flash 是大脑，不是最低级模型 — 它负责判断和整合，不是替代品
3. GLM 不直接面对用户 — 专家输出必须经过主模型验证和整合
4. 成本等级不要硬编码 — 不同 API Plan 价格不同，用资源等级替代
5. 先查知识库再 delegate — 充分利用已有知识，避免不必要的专家调用
6. 规则路由是起点，经验路由是终点 — 先跑数据，再做自适应

关联阅读#

• 构建个人 AI 工程知识操作系统：Hermes + OpenViking 多层记忆架构实践 — 记忆架构搭建
• model-router skill：~/.hermes/skills/meta/model-router/SKILL.md
• 决策记录：OpenViking viking://user/memories/events/