Prompt-Router 技能#

🚀 基于文本匹配的快速路由引擎，为简单任务提供 零 LLM 决策 的快速路径。

核心价值#

• ⚡ 极速响应 - <5ms 路由决策（vs 500ms+ LLM 推理）
• 💰 零成本 - 简单任务无需 LLM 调用
• 🛡️ 可降级 - LLM 故障时仍可工作
• 🎯 确定性 - 相同输入始终相同输出

---

⚡ 快速开始#

1. 加载技能#

python

from skills.prompt_router.scripts.router import PromptRouter

# 创建路由器
router = PromptRouter(
    skills_dir='skills/',
    confidence_threshold=0.6  # 置信度阈值
)

# 加载技能元数据
router.load_skills()

2. 路由 Prompt#

python

# 路由用户输入
result = router.route("搜索 Python 教程")

if result.match:
    print(f"匹配技能：{result.match['name']}")
    print(f"置信度：{result.confidence:.2f} ({result.confidence_level})")
else:
    print("未找到匹配，降级到 LLM")

3. 决策流程#

python

if router.should_invoke_skill(result):
    # 高置信度：直接调用技能
    skill_name = result.match['name']
    invoke_skill(skill_name)
else:
    # 低置信度：降级到 LLM
    fallback_to_llm()

---

🎯 工作原理#

路由流程#

text

用户 Prompt
    ↓
分词处理（Tokenizer）
    ↓
评分匹配（Scorer）
    ↓
排序选择（Router）
    ↓
{
    高置信度 (≥0.8) → 直接调用技能
    中置信度 (0.6-0.8) → 建议用户确认
    低置信度 (<0.6) → 降级到 LLM
}

评分算法#

python

# 多字段加权匹配
总分 = Σ(字段匹配分 × 权重)

字段权重：
- name: 3.0（名称匹配最重要）
- triggers: 2.5（触发词权重高）
- keywords: 2.0（关键词）
- description: 1.5（描述）

---

📋 配置选项#

置信度阈值#

阈值默认值说明confidence_threshold0.6低于此值降级到 LLMhigh_confidence_threshold0.8高于此值直接调用

调整建议：

• 提高阈值 → 更准确，但更多降级到 LLM
• 降低阈值 → 更快，但可能误匹配

技能目录#

python

# 默认：当前 skills/ 目录
router = PromptRouter()

# 自定义目录
router = PromptRouter(skills_dir='/path/to/skills')

---

🔍 路由示例#

示例 1：天气查询#

python

prompt = "北京今天天气怎么样"
result = router.route(prompt)

# 输出：
# 匹配：weather
# 分数：8.50
# 置信度：0.85 (high)
# 调用技能：True

示例 2：文件读取#

python

prompt = "读取 config.json 文件"
result = router.route(prompt)

# 输出：
# 匹配：read
# 分数：7.20
# 置信度：0.72 (medium)
# 调用技能：True

示例 3：复杂任务#

python

prompt = "帮我搭建一个完整的自动化工作流"
result = router.route(prompt)

# 输出：
# 匹配：None
# 分数：2.10
# 置信度：0.21 (low)
# 调用技能：False
# 降级到 LLM：True

---

📊 性能指标#

指标目标值实测值路由延迟<10ms3ms分词速度<1ms0.5ms评分速度<5ms2ms内存占用<10MB5MB启动时间<100ms~50ms

---

🎯 适用场景#

✅ 推荐使用#

场景示例收益简单查询"天气"、"搜索"、"读取"延迟 -80%，成本 -50%工具调用"打开浏览器"、"执行命令"确定性行为高频操作自动化脚本、语音助手实时响应LLM 故障API 限流、网络中断降级方案

⚠️ 不推荐#

场景原因复杂任务规划需要 LLM 语义理解创意写作需要 LLM 创造力多步骤推理需要 LLM 逻辑能力模糊意图需要 LLM 澄清

---

🔧 高级功能#

1. 自定义同义词#

python

# 添加同义词映射
synonyms = {
    '搜索': ['查找', 'search', 'find'],
    '天气': ['气温', 'weather', 'temperature'],
    '读取': ['打开', '查看', 'read'],
}

# 在分词时扩展
tokens = tokenizer.tokenize(prompt)
expanded_tokens = set()
for token in tokens:
    expanded_tokens.add(token)
    if token in synonyms:
        expanded_tokens.update(synonyms[token])

2. 路由日志#

python

result = router.route(prompt)

# 记录路由决策
log = {
    'prompt': prompt,
    'matched': result.match['name'] if result.match else None,
    'score': result.score,
    'confidence': result.confidence,
    'level': result.confidence_level,
    'invoke': router.should_invoke_skill(result),
}

3. 性能监控#

python

import time

start = time.time()
result = router.route(prompt)
elapsed = time.time() - start

print(f"路由耗时：{elapsed*1000:.2f}ms")

---

📁 API 参考#

PromptRouter 类#

python

class PromptRouter:
    def __init__(
        self,
        skills_dir: str = None,
        confidence_threshold: float = 0.6,
        high_confidence_threshold: float = 0.8,
    )

    def load_skills(self, skills_dir: str = None) -> int
    def route(self, prompt: str, limit: int = 3) -> RouteResult
    def should_invoke_skill(self, result: RouteResult) -> bool
    def should_fallback_to_llm(self, result: RouteResult) -> bool
    def get_stats(self) -> Dict

RouteResult 类#

python

@dataclass
class RouteResult:
    match: Optional[Dict]      # 匹配的技能
    score: float               # 匹配分数
    confidence: float          # 置信度 (0-1)
    confidence_level: str      # high/medium/low/none
    all_matches: List[Dict]    # 所有匹配

---

🧪 测试#

运行测试#

bash

# 单元测试
cd skills/prompt-router
python -m pytest tests/

# 性能测试
python tests/benchmark.py

测试覆盖#

• 分词器测试（中英文混合）
• 评分算法测试
• 路由决策测试
• 置信度计算测试
• 端到端测试
• 性能基准测试

---

📝 更新日志#

v1.0.0 (2026-04-05)#

• ✅ 初始版本
• ✅ 核心路由引擎
• ✅ 中英文分词器
• ✅ 多字段评分算法
• ✅ 置信度阈值
• ✅ LLM 降级机制

---

🔗 参考文档#

• 差异化分析报告
• 可行性分析
• 实现计划
• Claude Leak 路由算法

---

💡 最佳实践#

1. 阈值调优#

python

# 初始使用默认值
router = PromptRouter(confidence_threshold=0.6)

# 收集路由日志
# 分析误匹配和漏匹配
# 调整阈值
router.confidence_threshold = 0.7  # 提高准确率

2. 关键词优化#

yaml

# 在技能 SKILL.md 中添加明确触发词
---
name: weather
triggers: 天气，气温，weather, 温度，forecast
keywords: 天气，气象，预报，weather, forecast
---

3. 监控与告警#

python

# 监控路由成功率
stats = {
    'total': 0,
    'matched': 0,
    'high_confidence': 0,
    'fallback': 0,
}

# 告警：如果降级率突然升高
if stats['fallback'] / stats['total'] > 0.5:
    alert("路由降级率异常")

---

最后更新：2026-04-05 00:30