跳转到内容

AI、AGENT 与上下文 · DEFINED TERM

Model Routing 模型路由

根据任务类型、风险、成本和速度选择不同模型或处理链。

你可能会这样说“简单分类走轻量模型,复杂代码审查交给推理模型。”

VISUAL EXAMPLE

先看懂它怎么工作

INPUT简单分类走轻量模型,复杂代码审查交给推理模型。
识别任务特征
评估策略
选择模型
监测结果并回退
CHECK路由规则可解释,失败有回退,质量、延迟和成本都有真实数据

MECHANISM

运行机制

  1. 识别任务特征
  2. 评估策略
  3. 选择模型
  4. 监测结果并回退

USE WHEN

适合这样用

多模型平台、成本优化和可靠性分层

NOT FOR

不要这样理解

只按模型名称硬编码会很快过时

TELL YOUR AGENT

可直接发给 Agent

请按“Model Routing 模型路由”的概念处理这个需求:简单分类走轻量模型,复杂代码审查交给推理模型。。先说明实现边界,再给出可检查的结果。

ACCEPTANCE

怎么确认它真的做好了

路由规则可解释,失败有回退,质量、延迟和成本都有真实数据

OFFICIAL SOURCES

官方来源