意图路由（Intent Routing）

一句话定义：在请求进入系统的最前端，先用一次便宜、快速的分类判断”这是哪种意图”，再由代码决定把它交给哪个处理器——确定性代码（Deterministic Code）、某个装了领域知识的专家 LLM，或者一个真人。

官方把它列为四种经典模式（Patterns）之一：「意图路由（Intent Routing）——先用便宜的分类定意图，再决定交给哪个处理器」。

1. 核心要点

1.1 为什么要在最前面分类

不是每个请求都需要同一种处理器：有的查一次数据库就能答，有的需要一个带领域上下文的 LLM，有的必须转人工。最贵的做法是把每条消息都先送进一个大 LLM 去判断它是什么；意图路由反过来——先分类、再分发，只让真正需要的请求去碰昂贵资源。

“TypeSafe can sit in front of all of these as a fast, cheap classifier that determines which handler to invoke.” 译：TypeSafe 可以坐在这一切的前面，充当一个又快又便宜的分类器，决定该调用哪个处理器。

1.2 官方客服路由示例

官方给出的完整例子：客服消息进来，先用一次请求、两个问题同时评估——

问题	类型	选项 / 档位
intent（意图）	选择题（Choice）	4 个：order_status（查订单）/ product_question（购买前咨询）/ return_exchange（退换货）/ complaint（投诉，要解决）
complexity（复杂度）	打分题（Score）	3 档：① 简单查询或标准流程 ② 需要一些判断或多步流程 ③ 异常情况、边界案例或需要升级

两个问题在一次调用里并行回答，各带一个置信度（Confidence）分数。

1.3 置信度当闸门

第一道闸门是意图的置信度。官方代码原文：

if intent.confidence < 0.5:
    # If we don't have enough confidence to classify, route to a human agent
    return route_to_human_agent(ticket_id)

译：如果我们没有足够把握做分类，就转给人工客服。

1.4 四条分发路径

• order_status（查订单） → 交给确定性代码，完全不经过 LLM。官方强调这是四条路径中唯一一条不碰 LLM 的：「One intent routes to deterministic code with no LLM involved.」
• product_question（产品咨询） → 交给”产品专家 LLM”（带产品上下文）。
• return_exchange（退换货） → 交给”退货专家 LLM”（带退货政策上下文）。
• complaint（投诉） → 先看复杂度：complexity.score > 1 或 complexity 的置信度 < 0.5，就转人工；否则交投诉处理 LLM。

“TypeSafe handles the classification all in a single quick call; the expensive resources only get invoked for the requests that actually need them.” 译：TypeSafe 用一次快速的调用完成全部分类；昂贵资源只会被真正需要它的请求调用到。

1.5 复杂度也要看置信度

官方特意提醒：除了意图，复杂度的低置信度同样要处理——一个”说不清复杂度”的投诉，交出去自动处理本身就是风险。低置信度在系统里的含义，要结合这个决策的利害来读。

1.6 更广的用法：模型路由（Model Routing）

在用例地图（Use-case Map）里，同一模式被推广到”给不同的 LLM 分流”：

“Use Jev to build a custom router that chooses which LLM receives each prompt. … Classify intent and domain. Estimate difficulty and risk. Escalate requests that need a more expensive model.” 译：用 Jev 建一个自定义路由器，决定每条提示词由哪个 LLM 接收……分类意图与领域，估计难度与风险，把需要更贵模型的请求升级出去。

2. 与 Jev 的关系

• Jev 的位置：它就是”坐在最前面的那个又快又便宜的分类器”。70–500 毫秒、$0.042/百万输入词元，使它适合在每个请求的入口处跑一遍。
• 判断与行动分离：Jev 只回答”这是什么意图 / 有多复杂”，转派、升级、自动执行这些动作全部由代码按阈值完成——见 模型与框架分责。
• 一次问多个问题：意图 + 复杂度并行评估，几乎不增加延迟，这是”投机式扇出（Speculative Fan-out）“的入口版本。
• 和 工具调用 的关系：让 AI 助手”选下一步用哪个工具”本质上是同一件事——Jev 只会在你给出的合法工具列表里选，从根上杜绝”编出一个不存在的工具名”。
• 在 Harness工程 中的位置：官方把”模型路由（Model Routing）“直接列为工程框架增强（Harness Engineering）的一类用途。

3. 相关来源

• 官方文档 patterns__intent-routing.md —— 客服路由示例、intent/complexity 定义、confidence < 0.5 转人工的代码与流程图
• 官方文档 concepts__use-case-map.md —— Model routing 与 LLM guardrails 的用例条目
• wiki/synthesis/Jev 知识.md 第 5.4 节 —— 官方四种经典用法（投机式扇出、置信度门控、复合评分、意图路由）