跳到主要内容
Documentation

Confidence

概览

版本:最新版

Confidence

概览

confidence 是循环算法:在候选模型间逐级升级,直到置信度足够高。

对应 config/algorithm/looper/confidence.yaml

主要优势

  • 支持由小到大升级,而非固定胜者。
  • 停止条件显式。
  • 仅在需要时用额外延迟换更高置信度。

解决什么问题?

部分路由应先试便宜候选,仅当答案不够自信时再升级。confidence 将升级策略独立为算法,而非塞进应用代码。

何时使用

  • 路由应在多个候选模型间逐级尝试
  • 由置信度决定是否继续
  • 一旦某次响应足够好即停止

配置

routing.decisions[].algorithm 中使用:

algorithm:
type: confidence
confidence:
confidence_method: hybrid
threshold: 0.72
escalation_order: small_to_large
on_error: skip