**Agent = 大脑 + 眼睛 + 手脚**:LLM 是大脑(决策核心),上下文是眼睛(决定它能看到什么),工具是手脚(决定它能做什么)。三者缺一不可。
**眼睛(上下文)是决定性的因素**:上下文由静态前缀(系统提示词 + 工具定义)和动态轨迹(消息历史)构成。消融实验表明,去掉任何一个组件都会导致系统显著退化。ReAct 循环的本质是通过不断追加轨迹来让模型持续推进任务。
**Harness 是竞争力所在**:模型能力正在商品化,真正的差异在于 Harness——围绕上下文和工具构建的约束、验证与纠正机制,确保 Agent “可靠地做事”。在生产级的 Agent 系统中,Harness 的绝大部分代码都在做这些保障机制,而不仅仅是上下文和工具本身。
**从工作流到自主 Agent**:先优化提示词,再考虑工作流,最后才引入自主 Agent——这是降低意外风险最实用的顺序。每种编排模式都有其适用场景,不存在通用最优解。
**安全是架构问题**:护栏、人工干预、对齐(alignment,即让模型的行为与人类意图保持一致)——安全问题从第一行代码就要考虑,而不是上线前打补丁。安全问题贯穿模型、上下文、工具、协作和社会五个层面。
网硕互联帮助中心






评论前必须登录!
注册