大模型编排中的故障隔离

大模型编排中的故障隔离

编排链路里，异常输入、检索超时和工具失败应当被分别处理。将错误统一抛给模型继续猜测，往往会掩盖真正的边界问题。

先规定停止条件

为每种工具调用设定输入校验、超时和最大重试次数。权限不足、参数不完整或外部服务不可用时，返回明确状态并停止后续写入。

验证的是恢复能力

用可控样本演练空结果、重复调用和客户端取消，检查系统能否保留上下文并让用户继续完成任务。