AI决策模型

Jev vs Laya：2026 最新"AI 决策模型"对比与原理全解析

适用读者：AI 应用开发者、Agent 工作流设计者、技术选型者
技术背景：Jev（TypeSafe，闭源云 API）与 Laya（Convai，开源权重）
作者：一位想进大厂的树先生：Mr.Tree。

一、这是什么：一个全新的模型品类

2026 年 9 月，AI 领域出现了一个新品类——决策模型（Decision Model），而且一次来了两个：

• Jev：TypeSafe AI 推出的托管式（闭源）云 API，于 2026 年 9 月 15 日上线。
• Laya：Convai Innovations 推出的**开源（Apache 2.0）**模型，数周后发布，权重放在 Hugging Face。

它们解决的是同一个观察：大多数生产环境的 AI 流水线，其实并不需要"生成文本"，它们只需要一个"标签"。

想想你现在的做法：用一个大语言模型（LLM）做客服工单分类，它要花 500ms 到 2 秒逐字吐出一段 “The correct category is: billing（正确类别是：账单）”，然后你的代码再把 “billing” 这个标签解析出来。这中间有大量浪费：

决策模型把这一切省掉：状态（state）进去，一个带概率的结构化答案出来。没有散文、没有解析、没有幻觉句子。TypeSafe 借用大脑中"快速、直觉"的那一半，把它命名为 System One（系统一）模型。

发展时间线：

#mermaid-svg-I0LV18Q8TT18X2H1{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-I0LV18Q8TT18X2H1 .error-icon{fill:#552222;}#mermaid-svg-I0LV18Q8TT18X2H1 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-I0LV18Q8TT18X2H1 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-I0LV18Q8TT18X2H1 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-I0LV18Q8TT18X2H1 .marker.cross{stroke:#333333;}#mermaid-svg-I0LV18Q8TT18X2H1 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-I0LV18Q8TT18X2H1 p{margin:0;}#mermaid-svg-I0LV18Q8TT18X2H1 .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster-label text{fill:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster-label span{color:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster-label span p{background-color:transparent;}#mermaid-svg-I0LV18Q8TT18X2H1 .label text,#mermaid-svg-I0LV18Q8TT18X2H1 span{fill:#333;color:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 .node rect,#mermaid-svg-I0LV18Q8TT18X2H1 .node circle,#mermaid-svg-I0LV18Q8TT18X2H1 .node ellipse,#mermaid-svg-I0LV18Q8TT18X2H1 .node polygon,#mermaid-svg-I0LV18Q8TT18X2H1 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-I0LV18Q8TT18X2H1 .rough-node .label text,#mermaid-svg-I0LV18Q8TT18X2H1 .node .label text,#mermaid-svg-I0LV18Q8TT18X2H1 .image-shape .label,#mermaid-svg-I0LV18Q8TT18X2H1 .icon-shape .label{text-anchor:middle;}#mermaid-svg-I0LV18Q8TT18X2H1 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-I0LV18Q8TT18X2H1 .rough-node .label,#mermaid-svg-I0LV18Q8TT18X2H1 .node .label,#mermaid-svg-I0LV18Q8TT18X2H1 .image-shape .label,#mermaid-svg-I0LV18Q8TT18X2H1 .icon-shape .label{text-align:center;}#mermaid-svg-I0LV18Q8TT18X2H1 .node.clickable{cursor:pointer;}#mermaid-svg-I0LV18Q8TT18X2H1 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-I0LV18Q8TT18X2H1 .arrowheadPath{fill:#333333;}#mermaid-svg-I0LV18Q8TT18X2H1 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-I0LV18Q8TT18X2H1 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-I0LV18Q8TT18X2H1 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-I0LV18Q8TT18X2H1 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-I0LV18Q8TT18X2H1 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-I0LV18Q8TT18X2H1 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster text{fill:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 .cluster span{color:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-I0LV18Q8TT18X2H1 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-I0LV18Q8TT18X2H1 rect.text{fill:none;stroke-width:0;}#mermaid-svg-I0LV18Q8TT18X2H1 .icon-shape,#mermaid-svg-I0LV18Q8TT18X2H1 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-I0LV18Q8TT18X2H1 .icon-shape p,#mermaid-svg-I0LV18Q8TT18X2H1 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-I0LV18Q8TT18X2H1 .icon-shape .label rect,#mermaid-svg-I0LV18Q8TT18X2H1 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-I0LV18Q8TT18X2H1 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-I0LV18Q8TT18X2H1 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-I0LV18Q8TT18X2H1 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

2025年3月 Laya作者发表概率预测强化学习论文

2026年9月15日 TypeSafe发布Jev

数周后 Convai开源Laya

Laya登上Hugging Face热榜第一

一张图看懂三者关系：

#mermaid-svg-b3ZDQ7vfnrNEJrA9{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .error-icon{fill:#552222;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .marker.cross{stroke:#333333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 p{margin:0;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster-label text{fill:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster-label span{color:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster-label span p{background-color:transparent;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .label text,#mermaid-svg-b3ZDQ7vfnrNEJrA9 span{fill:#333;color:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node rect,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node circle,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node ellipse,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node polygon,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .rough-node .label text,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node .label text,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .image-shape .label,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .icon-shape .label{text-anchor:middle;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .rough-node .label,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node .label,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .image-shape .label,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .icon-shape .label{text-align:center;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node.clickable{cursor:pointer;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .arrowheadPath{fill:#333333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster text{fill:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .cluster span{color:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 rect.text{fill:none;stroke-width:0;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .icon-shape,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .icon-shape p,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .icon-shape .label rect,#mermaid-svg-b3ZDQ7vfnrNEJrA9 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-b3ZDQ7vfnrNEJrA9 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

需要开放生成、写一段话

只需一个结构化标签

一个判断任务：分类、路由、打分、是否

用什么模型？

生成式大模型，如 DeepSeek、GPT

决策模型

Jev：闭源云 API，开箱即用

Laya：开源权重，本地部署

二、核心原理：为什么决策模型又快又稳

2.1 生成式 LLM 是怎么"做分类"的

生成式模型是自回归解码器：它每次只生成一个 token，一个接一个地往后拼，直到拼出完整句子。用它做分类，本质是"让它写一句包含答案的话，再把答案抠出来"。

#mermaid-svg-X2fEzbvEQ7KyoVou{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-X2fEzbvEQ7KyoVou .error-icon{fill:#552222;}#mermaid-svg-X2fEzbvEQ7KyoVou .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-X2fEzbvEQ7KyoVou .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-X2fEzbvEQ7KyoVou .marker{fill:#333333;stroke:#333333;}#mermaid-svg-X2fEzbvEQ7KyoVou .marker.cross{stroke:#333333;}#mermaid-svg-X2fEzbvEQ7KyoVou svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-X2fEzbvEQ7KyoVou p{margin:0;}#mermaid-svg-X2fEzbvEQ7KyoVou .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster-label text{fill:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster-label span{color:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster-label span p{background-color:transparent;}#mermaid-svg-X2fEzbvEQ7KyoVou .label text,#mermaid-svg-X2fEzbvEQ7KyoVou span{fill:#333;color:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou .node rect,#mermaid-svg-X2fEzbvEQ7KyoVou .node circle,#mermaid-svg-X2fEzbvEQ7KyoVou .node ellipse,#mermaid-svg-X2fEzbvEQ7KyoVou .node polygon,#mermaid-svg-X2fEzbvEQ7KyoVou .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-X2fEzbvEQ7KyoVou .rough-node .label text,#mermaid-svg-X2fEzbvEQ7KyoVou .node .label text,#mermaid-svg-X2fEzbvEQ7KyoVou .image-shape .label,#mermaid-svg-X2fEzbvEQ7KyoVou .icon-shape .label{text-anchor:middle;}#mermaid-svg-X2fEzbvEQ7KyoVou .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-X2fEzbvEQ7KyoVou .rough-node .label,#mermaid-svg-X2fEzbvEQ7KyoVou .node .label,#mermaid-svg-X2fEzbvEQ7KyoVou .image-shape .label,#mermaid-svg-X2fEzbvEQ7KyoVou .icon-shape .label{text-align:center;}#mermaid-svg-X2fEzbvEQ7KyoVou .node.clickable{cursor:pointer;}#mermaid-svg-X2fEzbvEQ7KyoVou .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-X2fEzbvEQ7KyoVou .arrowheadPath{fill:#333333;}#mermaid-svg-X2fEzbvEQ7KyoVou .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-X2fEzbvEQ7KyoVou .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-X2fEzbvEQ7KyoVou .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-X2fEzbvEQ7KyoVou .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-X2fEzbvEQ7KyoVou .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-X2fEzbvEQ7KyoVou .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster text{fill:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou .cluster span{color:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-X2fEzbvEQ7KyoVou .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-X2fEzbvEQ7KyoVou rect.text{fill:none;stroke-width:0;}#mermaid-svg-X2fEzbvEQ7KyoVou .icon-shape,#mermaid-svg-X2fEzbvEQ7KyoVou .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-X2fEzbvEQ7KyoVou .icon-shape p,#mermaid-svg-X2fEzbvEQ7KyoVou .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-X2fEzbvEQ7KyoVou .icon-shape .label rect,#mermaid-svg-X2fEzbvEQ7KyoVou .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-X2fEzbvEQ7KyoVou .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-X2fEzbvEQ7KyoVou .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-X2fEzbvEQ7KyoVou :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

输入文本与候选类别

自回归解码器

逐字生成第1个token

逐字生成第2个token

生成整段文本

代码解析文本，提取标签

可能格式错误、幻觉、输出token计费

痛点很明显：

• 慢：要生成几十个、上百个 token，而真正有用的信息只有那个标签。
• 不稳：JSON 可能格式错误，需要重试。
• 贵：输出 token 也要计费。
• 概率不可信：生成式模型不会原生给出"每个候选类别的概率分布"。

2.2 决策模型是怎么"一次前向"出结果的

决策模型的思路更接近经典的分类器：把输入文本和候选选项编码，用一个打分头（head）直接计算每个候选的 logits，再经过 softmax 得到概率分布，取概率最大的项即可。一次前向传播，不生成任何 token。

#mermaid-svg-d75niOFFcPGyiMH7{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-d75niOFFcPGyiMH7 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-d75niOFFcPGyiMH7 .error-icon{fill:#552222;}#mermaid-svg-d75niOFFcPGyiMH7 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-d75niOFFcPGyiMH7 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-d75niOFFcPGyiMH7 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-d75niOFFcPGyiMH7 .marker.cross{stroke:#333333;}#mermaid-svg-d75niOFFcPGyiMH7 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-d75niOFFcPGyiMH7 p{margin:0;}#mermaid-svg-d75niOFFcPGyiMH7 .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-d75niOFFcPGyiMH7 .cluster-label text{fill:#333;}#mermaid-svg-d75niOFFcPGyiMH7 .cluster-label span{color:#333;}#mermaid-svg-d75niOFFcPGyiMH7 .cluster-label span p{background-color:transparent;}#mermaid-svg-d75niOFFcPGyiMH7 .label text,#mermaid-svg-d75niOFFcPGyiMH7 span{fill:#333;color:#333;}#mermaid-svg-d75niOFFcPGyiMH7 .node rect,#mermaid-svg-d75niOFFcPGyiMH7 .node circle,#mermaid-svg-d75niOFFcPGyiMH7 .node ellipse,#mermaid-svg-d75niOFFcPGyiMH7 .node polygon,#mermaid-svg-d75niOFFcPGyiMH7 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-d75niOFFcPGyiMH7 .rough-node .label text,#mermaid-svg-d75niOFFcPGyiMH7 .node .label text,#mermaid-svg-d75niOFFcPGyiMH7 .image-shape .label,#mermaid-svg-d75niOFFcPGyiMH7 .icon-shape .label{text-anchor:middle;}#mermaid-svg-d75niOFFcPGyiMH7 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-d75niOFFcPGyiMH7 .rough-node .label,#mermaid-svg-d75niOFFcPGyiMH7 .node .label,#mermaid-svg-d75niOFFcPGyiMH7 .image-shape .label,#mermaid-svg-d75niOFFcPGyiMH7 .icon-shape .label{text-align:center;}#mermaid-svg-d75niOFFcPGyiMH7 .node.clickable{cursor:pointer;}#mermaid-svg-d75niOFFcPGyiMH7 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-d75niOFFcPGyiMH7 .arrowheadPath{fill:#333333;}#mermaid-svg-d75niOFFcPGyiMH7 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-d75niOFFcPGyiMH7 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-d75niOFFcPGyiMH7 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-d75niOFFcPGyiMH7 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-d75niOFFcPGyiMH7 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-d75niOFFcPGyiMH7 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-d75niOFFcPGyiMH7 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-d75niOFFcPGyiMH7 .cluster text{fill:#333;}#mermaid-svg-d75niOFFcPGyiMH7 .cluster span{color:#333;}#mermaid-svg-d75niOFFcPGyiMH7 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-d75niOFFcPGyiMH7 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-d75niOFFcPGyiMH7 rect.text{fill:none;stroke-width:0;}#mermaid-svg-d75niOFFcPGyiMH7 .icon-shape,#mermaid-svg-d75niOFFcPGyiMH7 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-d75niOFFcPGyiMH7 .icon-shape p,#mermaid-svg-d75niOFFcPGyiMH7 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-d75niOFFcPGyiMH7 .icon-shape .label rect,#mermaid-svg-d75niOFFcPGyiMH7 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-d75niOFFcPGyiMH7 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-d75niOFFcPGyiMH7 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-d75niOFFcPGyiMH7 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

输入文本与候选集合

编码器一次前向

分类打分头计算每个选项logits

softmax得到各选项概率分布

取概率最大项

结构化结果加校准置信度

这带来三个关键优势：

• 零幻觉：输出格式被 schema 约束，永远是你定义的选项之一，不可能产生格式错误的答案。
• 快：省掉了自回归逐 token 生成，单次前向即可。
• 原生概率：直接输出每个选项的概率，可做置信度门槛、自动升级。

注意：“零幻觉"不等于"不出错”。错误分类仍然可能，所以两个厂商都建议：当置信度低于约 0.3 到 0.5 时，升级给人工或大模型处理。

2.3 三种"问题原语"：Choice、Score、Noul

Jev 和 Laya 的接口几乎一模一样，都接受三种类型的问题，且可以在一次调用里同时问多个问题：

#mermaid-svg-pTbxaojOfwWJ95B3{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-pTbxaojOfwWJ95B3 .error-icon{fill:#552222;}#mermaid-svg-pTbxaojOfwWJ95B3 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-pTbxaojOfwWJ95B3 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-pTbxaojOfwWJ95B3 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-pTbxaojOfwWJ95B3 .marker.cross{stroke:#333333;}#mermaid-svg-pTbxaojOfwWJ95B3 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-pTbxaojOfwWJ95B3 p{margin:0;}#mermaid-svg-pTbxaojOfwWJ95B3 .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster-label text{fill:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster-label span{color:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster-label span p{background-color:transparent;}#mermaid-svg-pTbxaojOfwWJ95B3 .label text,#mermaid-svg-pTbxaojOfwWJ95B3 span{fill:#333;color:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 .node rect,#mermaid-svg-pTbxaojOfwWJ95B3 .node circle,#mermaid-svg-pTbxaojOfwWJ95B3 .node ellipse,#mermaid-svg-pTbxaojOfwWJ95B3 .node polygon,#mermaid-svg-pTbxaojOfwWJ95B3 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-pTbxaojOfwWJ95B3 .rough-node .label text,#mermaid-svg-pTbxaojOfwWJ95B3 .node .label text,#mermaid-svg-pTbxaojOfwWJ95B3 .image-shape .label,#mermaid-svg-pTbxaojOfwWJ95B3 .icon-shape .label{text-anchor:middle;}#mermaid-svg-pTbxaojOfwWJ95B3 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-pTbxaojOfwWJ95B3 .rough-node .label,#mermaid-svg-pTbxaojOfwWJ95B3 .node .label,#mermaid-svg-pTbxaojOfwWJ95B3 .image-shape .label,#mermaid-svg-pTbxaojOfwWJ95B3 .icon-shape .label{text-align:center;}#mermaid-svg-pTbxaojOfwWJ95B3 .node.clickable{cursor:pointer;}#mermaid-svg-pTbxaojOfwWJ95B3 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-pTbxaojOfwWJ95B3 .arrowheadPath{fill:#333333;}#mermaid-svg-pTbxaojOfwWJ95B3 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-pTbxaojOfwWJ95B3 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-pTbxaojOfwWJ95B3 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-pTbxaojOfwWJ95B3 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-pTbxaojOfwWJ95B3 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-pTbxaojOfwWJ95B3 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster text{fill:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 .cluster span{color:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-pTbxaojOfwWJ95B3 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-pTbxaojOfwWJ95B3 rect.text{fill:none;stroke-width:0;}#mermaid-svg-pTbxaojOfwWJ95B3 .icon-shape,#mermaid-svg-pTbxaojOfwWJ95B3 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-pTbxaojOfwWJ95B3 .icon-shape p,#mermaid-svg-pTbxaojOfwWJ95B3 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-pTbxaojOfwWJ95B3 .icon-shape .label rect,#mermaid-svg-pTbxaojOfwWJ95B3 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-pTbxaojOfwWJ95B3 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-pTbxaojOfwWJ95B3 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-pTbxaojOfwWJ95B3 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

一次调用

Choice 选择：从候选列表选一个

Score 打分：放到有序等级上

Noul 判定：返回陈述为真的概率

举例：给一封客服工单，一次调用可以同时问"分到哪个部门（Choice）/ 有多紧急（Score）/ 是否要求退款（Noul）"。

2.4 置信度校准（Calibration）

决策模型的概率要能"当概率用"，就需要校准——让模型说的"90% 把握"在统计上真的对应约 90% 的正确率。常用方法是温度缩放（temperature scaling）。衡量指标是 ECE（期望校准误差），数值越低越可信。

批处理（Batching）：两个模型都支持一次喂入一批问题，每个问题独立评估，这是官方推荐的使用方式，能进一步摊薄延迟（Laya 批处理时单问可低至约 7ms）。

三、Jev 详解：闭源、开箱即用

3.1 基本信息

3.2 接口示例

curl -X POST https://api.typesafe.ai/v1/systemone \\
-H "Authorization: Bearer $TYPESAFE_API_KEY" \\
-H "Content-Type: application/json" \\
-d '{
"state": "Your monthly bank statement is ready…",
"model": "jev-1.13.0",
"questions": {
"doc_class": {
"type": "choice",
"instructions": "Classify this document.",
"criteria": {
"invoice": "A bill requesting payment",
"contract": "A legal agreement",
"bank_statement": "A periodic account statement"
}
}
}
}'

# 返回：直接给结构化结果，含每个类别概率与置信度
# {"answers":{"doc_class":{"choice":"bank_statement","confidence":1.0,
# "probabilities":{"bank_statement":1.0,"contract":0.0,"invoice":0.0}}}}

3.3 核心优势

• 能处理大量候选选项：在需要从 77 个意图标签中选一个的 Banking77 上，Jev 得 0.870，而 Laya 只有 0.425。这是架构差异，不是调参能弥补的。
• 开箱即用、校准好：typed-decisions 上 ECE 约 0.144，概率更可信。
• 零运维：不用管 GPU、模型文件、冷启动。

四、Laya 详解：开源、本地、可微调

4.1 基本信息

4.2 架构：Router 按文字脚本路由

Laya 分英文和多语言两个 checkpoint，由一个 Router 识别 Unicode 文字脚本，自动派发到正确的模型。

#mermaid-svg-6Bb2yQDrVlSBO5ha{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-6Bb2yQDrVlSBO5ha .error-icon{fill:#552222;}#mermaid-svg-6Bb2yQDrVlSBO5ha .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-6Bb2yQDrVlSBO5ha .marker{fill:#333333;stroke:#333333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .marker.cross{stroke:#333333;}#mermaid-svg-6Bb2yQDrVlSBO5ha svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-6Bb2yQDrVlSBO5ha p{margin:0;}#mermaid-svg-6Bb2yQDrVlSBO5ha .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster-label text{fill:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster-label span{color:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster-label span p{background-color:transparent;}#mermaid-svg-6Bb2yQDrVlSBO5ha .label text,#mermaid-svg-6Bb2yQDrVlSBO5ha span{fill:#333;color:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .node rect,#mermaid-svg-6Bb2yQDrVlSBO5ha .node circle,#mermaid-svg-6Bb2yQDrVlSBO5ha .node ellipse,#mermaid-svg-6Bb2yQDrVlSBO5ha .node polygon,#mermaid-svg-6Bb2yQDrVlSBO5ha .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .rough-node .label text,#mermaid-svg-6Bb2yQDrVlSBO5ha .node .label text,#mermaid-svg-6Bb2yQDrVlSBO5ha .image-shape .label,#mermaid-svg-6Bb2yQDrVlSBO5ha .icon-shape .label{text-anchor:middle;}#mermaid-svg-6Bb2yQDrVlSBO5ha .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .rough-node .label,#mermaid-svg-6Bb2yQDrVlSBO5ha .node .label,#mermaid-svg-6Bb2yQDrVlSBO5ha .image-shape .label,#mermaid-svg-6Bb2yQDrVlSBO5ha .icon-shape .label{text-align:center;}#mermaid-svg-6Bb2yQDrVlSBO5ha .node.clickable{cursor:pointer;}#mermaid-svg-6Bb2yQDrVlSBO5ha .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .arrowheadPath{fill:#333333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-6Bb2yQDrVlSBO5ha .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-6Bb2yQDrVlSBO5ha .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-6Bb2yQDrVlSBO5ha .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster text{fill:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha .cluster span{color:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-6Bb2yQDrVlSBO5ha .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-6Bb2yQDrVlSBO5ha rect.text{fill:none;stroke-width:0;}#mermaid-svg-6Bb2yQDrVlSBO5ha .icon-shape,#mermaid-svg-6Bb2yQDrVlSBO5ha .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-6Bb2yQDrVlSBO5ha .icon-shape p,#mermaid-svg-6Bb2yQDrVlSBO5ha .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-6Bb2yQDrVlSBO5ha .icon-shape .label rect,#mermaid-svg-6Bb2yQDrVlSBO5ha .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-6Bb2yQDrVlSBO5ha .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-6Bb2yQDrVlSBO5ha .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-6Bb2yQDrVlSBO5ha :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

拉丁/英文脚本

其他文字脚本

输入文本

Router 识别 Unicode 文字脚本

英文 checkpoint 421M，ModernBERT-large

多语言 checkpoint 322M，覆盖100+语言

决策打分头

结构化决策与置信度

4.3 本地调用示例

pip install laya

from laya import Router
router = Router(preload=True) # 预加载权重，首次会下载模型

questions = {
"doc_class": {
"type": "choice",
"instructions": "Classify this document.",
"criteria": {
"invoice": "A bill requesting payment",
"contract": "A legal agreement",
"bank_statement": "A periodic account statement",
},
}
}

res = router.predict("Your monthly bank statement is ready…", questions)
res["answers"]["doc_class"]["choice"] # -> "bank_statement"
res["routing"]["model"] # -> "english"，自动选了英文 checkpoint

4.4 为什么候选选项太多时会变差

Laya 在所有候选选项之间共享一个固定的 token 预算（约 192 到 256 token）。候选少时每个选项表示充分；一旦候选超过约 20 个，每个选项只能分到几个 token，准确率明显下降。

#mermaid-svg-GKVuitpxWSnsxkC8{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-GKVuitpxWSnsxkC8 .error-icon{fill:#552222;}#mermaid-svg-GKVuitpxWSnsxkC8 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-GKVuitpxWSnsxkC8 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-GKVuitpxWSnsxkC8 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-GKVuitpxWSnsxkC8 .marker.cross{stroke:#333333;}#mermaid-svg-GKVuitpxWSnsxkC8 svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-GKVuitpxWSnsxkC8 p{margin:0;}#mermaid-svg-GKVuitpxWSnsxkC8 .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster-label text{fill:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster-label span{color:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster-label span p{background-color:transparent;}#mermaid-svg-GKVuitpxWSnsxkC8 .label text,#mermaid-svg-GKVuitpxWSnsxkC8 span{fill:#333;color:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 .node rect,#mermaid-svg-GKVuitpxWSnsxkC8 .node circle,#mermaid-svg-GKVuitpxWSnsxkC8 .node ellipse,#mermaid-svg-GKVuitpxWSnsxkC8 .node polygon,#mermaid-svg-GKVuitpxWSnsxkC8 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-GKVuitpxWSnsxkC8 .rough-node .label text,#mermaid-svg-GKVuitpxWSnsxkC8 .node .label text,#mermaid-svg-GKVuitpxWSnsxkC8 .image-shape .label,#mermaid-svg-GKVuitpxWSnsxkC8 .icon-shape .label{text-anchor:middle;}#mermaid-svg-GKVuitpxWSnsxkC8 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-GKVuitpxWSnsxkC8 .rough-node .label,#mermaid-svg-GKVuitpxWSnsxkC8 .node .label,#mermaid-svg-GKVuitpxWSnsxkC8 .image-shape .label,#mermaid-svg-GKVuitpxWSnsxkC8 .icon-shape .label{text-align:center;}#mermaid-svg-GKVuitpxWSnsxkC8 .node.clickable{cursor:pointer;}#mermaid-svg-GKVuitpxWSnsxkC8 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-GKVuitpxWSnsxkC8 .arrowheadPath{fill:#333333;}#mermaid-svg-GKVuitpxWSnsxkC8 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-GKVuitpxWSnsxkC8 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-GKVuitpxWSnsxkC8 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-GKVuitpxWSnsxkC8 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-GKVuitpxWSnsxkC8 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-GKVuitpxWSnsxkC8 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster text{fill:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 .cluster span{color:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-GKVuitpxWSnsxkC8 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-GKVuitpxWSnsxkC8 rect.text{fill:none;stroke-width:0;}#mermaid-svg-GKVuitpxWSnsxkC8 .icon-shape,#mermaid-svg-GKVuitpxWSnsxkC8 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-GKVuitpxWSnsxkC8 .icon-shape p,#mermaid-svg-GKVuitpxWSnsxkC8 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-GKVuitpxWSnsxkC8 .icon-shape .label rect,#mermaid-svg-GKVuitpxWSnsxkC8 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-GKVuitpxWSnsxkC8 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-GKVuitpxWSnsxkC8 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-GKVuitpxWSnsxkC8 :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

固定 token 预算约 192 到 256

候选少于约20个：每个选项表示充分，准确

候选超过约20个：每选项只剩几个token，准确率下降

4.5 核心优势

• 快：本地推理约 33ms，批处理约 7ms，比 Jev 的网络往返快约 6 到 8 倍。
• 免费、隐私：数据不出服务器，可离线（air-gapped）部署。
• 可微调：Jev 权重闭源无法微调，Laya 可用自有标注数据微调。

五、全面对比：基准、延迟、成本

5.1 核心维度对比

5.2 基准数据（注意：多为厂商自报，存在口径差异）

Convai 自报的对比（Laya 占优的小选项集任务）：

第三方真实文档分类实测（腾讯云，含生成式模型 DeepSeek 对照）：

延迟实测（腾讯云，含网络）：

5.3 如何读这些数字（很重要）

• 几乎所有公开数字都是自报的，两边的结论互相打架，样本量、提示词、是否微调都不同。
• Laya 的 typed-decisions 高分是在该基准训练集上微调过的 checkpoint，衡量的是"专精"而非"全面超越"。
• 速度对比（33ms vs 150ms）是"本地热 GPU 推理"对"含网络的云 API"，对成本测算公平，对纯模型能力不公平。
• 独立的现实增益：决策模型相对前沿 LLM，在流水线决策任务上通常快约 7 到 25 倍。

六、坑与局限（务必了解）

6.1 文字脚本陷阱：置信度也可能是错的

Laya 的英文 checkpoint 在孟加拉语脚本上准确率只有 0.080，却报出 0.945 的置信度——模型读不懂这种文字，却"不知道自己读不懂"。这时置信度门槛救不了你，因为置信度本身就是错的。

解决办法：一定要用 Router 识别 Unicode 脚本并派发多语言模型，或在推理前自己按脚本路由。任何在拉丁脚本上训练的决策模型都可能有此问题。

6.2 零样本基础模型可能完全不会

一组来自 LargitData 的零样本 RAG 路由测试给出尖锐警告：未调优的 Laya 322M 基础模型在完整多轮路由决策上正确率为 0%，而托管 Jev 为 61.4%。又快又免费，但如果基础模型不会做你的任务，就毫无价值。

6.3 不能做开放生成

这些模型只能回答你能预先定义清楚的问题。如果今天你连类别都枚举不出来，那你需要的是语言模型，而不是决策模型。

6.4 校准数据存在冲突

不同来源对 ECE 的说法不一致（一份称 Jev 约 0.144、Laya 约 0.213；另一份称 Laya 约 0.081、Jev 约 0.246）。因此置信度阈值应基于你自己的真实数据重新标定，不要直接照搬厂商数字。

七、如何选择与落地

7.1 选型决策流程

#mermaid-svg-C25HpMYWQ2mj4CGe{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-C25HpMYWQ2mj4CGe .error-icon{fill:#552222;}#mermaid-svg-C25HpMYWQ2mj4CGe .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-C25HpMYWQ2mj4CGe .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-C25HpMYWQ2mj4CGe .marker{fill:#333333;stroke:#333333;}#mermaid-svg-C25HpMYWQ2mj4CGe .marker.cross{stroke:#333333;}#mermaid-svg-C25HpMYWQ2mj4CGe svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-C25HpMYWQ2mj4CGe p{margin:0;}#mermaid-svg-C25HpMYWQ2mj4CGe .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster-label text{fill:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster-label span{color:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster-label span p{background-color:transparent;}#mermaid-svg-C25HpMYWQ2mj4CGe .label text,#mermaid-svg-C25HpMYWQ2mj4CGe span{fill:#333;color:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe .node rect,#mermaid-svg-C25HpMYWQ2mj4CGe .node circle,#mermaid-svg-C25HpMYWQ2mj4CGe .node ellipse,#mermaid-svg-C25HpMYWQ2mj4CGe .node polygon,#mermaid-svg-C25HpMYWQ2mj4CGe .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-C25HpMYWQ2mj4CGe .rough-node .label text,#mermaid-svg-C25HpMYWQ2mj4CGe .node .label text,#mermaid-svg-C25HpMYWQ2mj4CGe .image-shape .label,#mermaid-svg-C25HpMYWQ2mj4CGe .icon-shape .label{text-anchor:middle;}#mermaid-svg-C25HpMYWQ2mj4CGe .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-C25HpMYWQ2mj4CGe .rough-node .label,#mermaid-svg-C25HpMYWQ2mj4CGe .node .label,#mermaid-svg-C25HpMYWQ2mj4CGe .image-shape .label,#mermaid-svg-C25HpMYWQ2mj4CGe .icon-shape .label{text-align:center;}#mermaid-svg-C25HpMYWQ2mj4CGe .node.clickable{cursor:pointer;}#mermaid-svg-C25HpMYWQ2mj4CGe .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-C25HpMYWQ2mj4CGe .arrowheadPath{fill:#333333;}#mermaid-svg-C25HpMYWQ2mj4CGe .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-C25HpMYWQ2mj4CGe .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-C25HpMYWQ2mj4CGe .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-C25HpMYWQ2mj4CGe .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-C25HpMYWQ2mj4CGe .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-C25HpMYWQ2mj4CGe .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster text{fill:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe .cluster span{color:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-C25HpMYWQ2mj4CGe .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-C25HpMYWQ2mj4CGe rect.text{fill:none;stroke-width:0;}#mermaid-svg-C25HpMYWQ2mj4CGe .icon-shape,#mermaid-svg-C25HpMYWQ2mj4CGe .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-C25HpMYWQ2mj4CGe .icon-shape p,#mermaid-svg-C25HpMYWQ2mj4CGe .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-C25HpMYWQ2mj4CGe .icon-shape .label rect,#mermaid-svg-C25HpMYWQ2mj4CGe .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-C25HpMYWQ2mj4CGe .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-C25HpMYWQ2mj4CGe .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-C25HpMYWQ2mj4CGe :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

否，需要开放生成

是

是，或要开箱即用

否

是

否

是

否

任务能否枚举候选答案？

用生成式大模型

候选选项是否超过约20个？

选 Jev

数据不能出域、要几十毫秒延迟、或要微调？

选 Laya，建议先微调

置信度低于0.3到0.5？

升级给人工或大模型

自动执行

• 选 Jev：想零运维、候选选项超过 20 个、信任其开箱校准、或只想先低成本试这个品类。
• 选 Laya：数据不能离开环境、延迟预算在几十毫秒、调用量大、或想用自有标注数据微调。
• 都不选：任务是开放式生成。

7.2 落地建议（影子模式）

#mermaid-svg-5CHyclZTtgTvDmGb{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-5CHyclZTtgTvDmGb .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-5CHyclZTtgTvDmGb .error-icon{fill:#552222;}#mermaid-svg-5CHyclZTtgTvDmGb .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-5CHyclZTtgTvDmGb .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-5CHyclZTtgTvDmGb .marker{fill:#333333;stroke:#333333;}#mermaid-svg-5CHyclZTtgTvDmGb .marker.cross{stroke:#333333;}#mermaid-svg-5CHyclZTtgTvDmGb svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-5CHyclZTtgTvDmGb p{margin:0;}#mermaid-svg-5CHyclZTtgTvDmGb .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-5CHyclZTtgTvDmGb .cluster-label text{fill:#333;}#mermaid-svg-5CHyclZTtgTvDmGb .cluster-label span{color:#333;}#mermaid-svg-5CHyclZTtgTvDmGb .cluster-label span p{background-color:transparent;}#mermaid-svg-5CHyclZTtgTvDmGb .label text,#mermaid-svg-5CHyclZTtgTvDmGb span{fill:#333;color:#333;}#mermaid-svg-5CHyclZTtgTvDmGb .node rect,#mermaid-svg-5CHyclZTtgTvDmGb .node circle,#mermaid-svg-5CHyclZTtgTvDmGb .node ellipse,#mermaid-svg-5CHyclZTtgTvDmGb .node polygon,#mermaid-svg-5CHyclZTtgTvDmGb .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-5CHyclZTtgTvDmGb .rough-node .label text,#mermaid-svg-5CHyclZTtgTvDmGb .node .label text,#mermaid-svg-5CHyclZTtgTvDmGb .image-shape .label,#mermaid-svg-5CHyclZTtgTvDmGb .icon-shape .label{text-anchor:middle;}#mermaid-svg-5CHyclZTtgTvDmGb .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-5CHyclZTtgTvDmGb .rough-node .label,#mermaid-svg-5CHyclZTtgTvDmGb .node .label,#mermaid-svg-5CHyclZTtgTvDmGb .image-shape .label,#mermaid-svg-5CHyclZTtgTvDmGb .icon-shape .label{text-align:center;}#mermaid-svg-5CHyclZTtgTvDmGb .node.clickable{cursor:pointer;}#mermaid-svg-5CHyclZTtgTvDmGb .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-5CHyclZTtgTvDmGb .arrowheadPath{fill:#333333;}#mermaid-svg-5CHyclZTtgTvDmGb .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-5CHyclZTtgTvDmGb .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-5CHyclZTtgTvDmGb .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-5CHyclZTtgTvDmGb .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-5CHyclZTtgTvDmGb .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-5CHyclZTtgTvDmGb .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-5CHyclZTtgTvDmGb .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-5CHyclZTtgTvDmGb .cluster text{fill:#333;}#mermaid-svg-5CHyclZTtgTvDmGb .cluster span{color:#333;}#mermaid-svg-5CHyclZTtgTvDmGb div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-5CHyclZTtgTvDmGb .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-5CHyclZTtgTvDmGb rect.text{fill:none;stroke-width:0;}#mermaid-svg-5CHyclZTtgTvDmGb .icon-shape,#mermaid-svg-5CHyclZTtgTvDmGb .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-5CHyclZTtgTvDmGb .icon-shape p,#mermaid-svg-5CHyclZTtgTvDmGb .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-5CHyclZTtgTvDmGb .icon-shape .label rect,#mermaid-svg-5CHyclZTtgTvDmGb .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-5CHyclZTtgTvDmGb .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-5CHyclZTtgTvDmGb .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-5CHyclZTtgTvDmGb :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

先挑一个高频但可逆的任务

保留旧流程做影子模式并行

记录模型版本、完整概率分布、真实结果

用真实数据调阈值

稳定后再让模型自主决策

八、总结