云计算百科
云计算领域专业知识百科平台

标签:ai

第21页

技术产品服务异常时如何分层降级

技术产品服务异常时如何分层降级在端侧设备(如嵌入式设备、边缘网关或移动终端)部署 AI 推理模型时,工程环境相比云端具...

阅读(100)

大模型编排中的故障隔离

大模型编排中的故障隔离编排链路里,异常输入、检索超时和工具失败应当被分别处理。将错误统一抛给模型继续猜测,往往会掩盖真正的边界问题。...

阅读(64)

大模型服务首版的必要边界

大模型服务首版的必要边界第一版的边界应从一个具体业务任务和可观测指标出发;下面的组件只是可选组合,不是所有团队都必须采用的标准答案。...

阅读(92)