大模型新趋势：删掉80%系统Prompt，编码能力却没掉分

文章目录

• 1. 这波操作，直接把写prompt的人整不会了
• • 1.1 先给没跟上瓜的朋友同步下消息
  • 1.2 这事有多打脸呢
• 2. 先搞明白：你以为的prompt，根本不是全部
• • 2.1 很多人到现在还有个误区
  • 2.2 为啥以前要堆这么多东西？
• 3. 核心真相：模型越强，越不能瞎堆规则
• • 3.1 先讲个很重要的概念：注意力预算
  • 3.2 那删掉80%，凭啥效果不崩？
• 4. 官方总结的6个新旧思路变化
• • 4.1 从“定死规则”到“给判断标准”
  • 4.2 从“给一堆示例”到“给接口就行”
  • 4.3 从“全堆在开头”到“用的时候再加载”
  • 4.4 从“反复强调”到“自动记忆”
  • 4.5 从“写大段要求”到“甩参考物过去”
  • 4.6 从“项目文档写成长篇小说”到“精简再精简”
• 5. 为啥非得改？以前的规则有啥问题？
• • 5.1 最头疼的就是规则打架
  • 5.2 老规则是把双刃剑
• 6. 各个模块到底该装啥？给你捋得明明白白
• • 6.1 系统提示词
  • 6.2 项目说明文档
  • 6.3 技能配置
  • 6.4 自动记忆
  • 6.5 参考资料
• 7. 别误会：不是让你把所有规则都删了
• • 7.1 有些底线绝对不能松
  • 7.2 真正的硬规则，别写在上下文里
• 8. 最后说句掏心窝子的

P.S. 推荐一个大神的教程给想要了解或者学习人工智能知识的读者，这个教程里内容讲解通俗易懂且风趣幽默，对我帮助很大。我想与大家分享这个宝藏教程，请点击下方链接查看，传送门https://blog.csdn.net/qq_74013365

1. 这波操作，直接把写prompt的人整不会了

1.1 先给没跟上瓜的朋友同步下消息

最近AI圈出了个挺颠覆认知的事。

做模型的A社，直接把自家新模型的系统提示词删掉了80%。

你没听错，就是我们平时绞尽脑汁往上堆的各种规则、指令、注意事项，人家删了一大半。

删完之后测编码能力，居然没怎么掉分。

我当时看到这个消息第一反应是：那我之前熬夜写的那几百行规则，都是在做无用功？

1.2 这事有多打脸呢

就好比你为了带新人，熬了三个通宵写了五十页员工手册。

小到打卡格式，大到汇报话术，连茶水间拿纸巾的规范都写进去了。

结果新人上班第一天告诉你，这些我都不用看，我自己能判断怎么干，而且干得不比你差。

合着我之前熬的夜，都属于自我感动是吧？

2. 先搞明白：你以为的prompt，根本不是全部

2.1 很多人到现在还有个误区

觉得跟AI对话，就是我发的那一句prompt最重要。

真不是。

系统提示词、各种技能配置、项目说明文档、历史记忆、工具定义、你上传的代码文件……

这些东西加起来，才是模型真正拿到的全部上下文。

就好比你去上班，不只有老板当面给你派的那一句活。

员工手册、部门规范、历史项目文档、前辈踩过的坑，全堆在你工位上，这些都是你的工作上下文。

2.2 为啥以前要堆这么多东西？

还不是因为早期模型不够聪明。

你不写死规则，它就容易放飞自我，瞎写注释、乱改结构，啥离谱的事都能干出来。

所以大家只能不停加规则，恨不得把每一步都给它规定死。

结果堆着堆着，上下文就成了个大杂烩。

3. 核心真相：模型越强，越不能瞎堆规则

3.1 先讲个很重要的概念：注意力预算

很多人以为，上下文窗口越大就越牛，能塞的东西越多越好。

其实根本不是这么回事。

说专业点叫注意力预算，说人话就是，它同时能上心的事就那么多。

你每多塞一条没用的规则，它就得花一份注意力去琢磨：这条我现在用不用得上？

要是塞的都是优先级规则，它还得额外判断：这几条谁说了算？

到最后看起来上下文满满当当，真正能用在干活上的注意力，反而被冲没了。

这就跟你上班同时挂着八个工作群，消息叮咚响个不停。

看似信息拉满，其实你根本没法专心干正事，大半精力都用来刷消息了。

3.2 那删掉80%，凭啥效果不崩？

原因很简单：现在的新模型，判断力已经上来了。

以前你必须写死“写代码不许加多余注释”，它才敢不写。

现在它自己会扫一遍项目代码，看看现有风格是啥样，跟着来就行。

以前你得反复强调“遇到报错先查日志”，它才记得住。

现在它自己知道排查问题的正常流程，不用你一遍遍念叨。

说白了，以前是带实习生，得手把手教每一步；现在是招了个资深工程师，你再碎碎念，反而耽误人家干活。

4. 官方总结的6个新旧思路变化

4.1 从“定死规则”到“给判断标准”

以前的思路是，把所有行为都给它规定死，啥能做啥不能做，一条条列清楚。

现在的思路是，告诉它判断的依据是什么，具体怎么做，让它自己拿主意。

有效规则是教它怎么判断，不是替它做决定。

这句话真的值得记下来。

4.2 从“给一堆示例”到“给接口就行”

以前教模型用工具，总得写好几个调用示例，生怕它学不会。

现在发现，对新模型来说，示例反而会限制它的发挥。

就拿个简单的待办工具来说，以前得写满满当当的说明，再加好几个使用案例。

现在就告诉它有几个状态，同时只能有一个进行中，剩下的它自己就会用了。

能写进接口里的约束，就别往提示词里塞。

4.3 从“全堆在开头”到“用的时候再加载”

以前啥东西都往系统提示词里塞，代码审查、验证规则、工具用法……

每一轮对话都全量加载一遍。

可大部分任务根本用不上这些东西，纯纯浪费注意力。

现在改成了按需加载，要做验证的时候，再加载验证的技能；要用某个工具的时候，再去查完整定义。

平时就留个名字和用途，让它知道有这么个东西就行。

这就叫渐进式披露，说白了就是用啥拿啥，别提前都摆桌上占地方。

4.4 从“反复强调”到“自动记忆”

以前怕模型记不住，同样的话得反复写，各个地方都提一遍。

现在有自动记忆功能了，它干活过程中踩过的坑、摸出来的规律，会自己存下来。

比如某次发现本地Redis没启动会报某个错，下次它自己就知道先排查这个。

不用啥都提前写死在规则里。

4.5 从“写大段要求”到“甩参考物过去”

以前要让模型做个东西，得写好几百字的规格说明，描述来描述去。

现在发现，不如直接给参考物管用。

要做页面，就给个能运行的HTML原型；要移植功能，就指给它已有代码；要评判好坏，就给一套明确的评分标准。

尤其是代码任务，现成的源码永远是最准的参考，比你写两页文字描述靠谱多了。

4.6 从“项目文档写成长篇小说”到“精简再精简”

很多人喜欢把项目说明文档写得巨长，啥都往里塞。

现在官方建议，这类核心文档尽量控制在200行以内。

只放每次干活都必须知道的东西，比如项目用途、构建命令、核心目录结构、藏得深的坑。

模型扫一眼代码就能知道的内容，就别往上写了。

这里还有个坑要提醒大家：别把大段内容拆成好几个文件，然后全导入进来。

看着好像结构清晰了，其实启动的时候还是全加载进上下文，一点没省。

5. 为啥非得改？以前的规则有啥问题？

5.1 最头疼的就是规则打架

你想想，系统提示词说不要加注释，技能文档说必要时补文档，用户又说复杂代码要写清楚说明。

这仨要求凑一块，模型先得花半天调解矛盾，再开始干活。

就好比你出门前，你妈让你多穿点，你爸让你别捂出汗，你对象让你穿帅点。

三个人同时在你耳边说，你出门前先得纠结十分钟听谁的。

以前的AI，天天就过这日子。

5.2 老规则是把双刃剑

当初定那么死的规则，本来是为了治旧模型的坏毛病。

比如动不动就写一堆没用的注释，瞎编设计思路啥的。

可模型能力上来之后，这些死规则反而成了枷锁。

碰到复杂任务，真需要写注释、留文档的时候，它反而被规则限制住不敢写了。

所以现在干脆就留一条核心规则：写代码跟现有项目风格保持一致。

剩下的，它自己看着办。

6. 各个模块到底该装啥？给你捋得明明白白

6.1 系统提示词

就管两件事：有啥权限，要做哪类工作。

大方向说清楚就行，别塞细枝末节的东西。

自己做AI代理的朋友，重点琢磨这块就对了。

6.2 项目说明文档

只放每次任务都用得上的内容。

比如项目的坑、核心命令、特殊约定。

那种看一眼代码就能明白的，就别写了，纯浪费。

6.3 技能配置

放特定任务的操作流程，比如发布流程、代码审查规范、前端验证步骤。

要是内容很长，就把详细参考和脚本拆出去，用的时候再读，别全塞进来。

6.4 自动记忆

存干活过程中攒的经验和偏好。

偶尔踩一次的坑不用急着写成正式规则，等反复出现了，再挪到项目文档里去。

6.5 参考资料

优先给源码、测试用例、可运行原型、验收标准。

越具象、越可验证的东西越好，别整虚头巴脑的文字描述。

7. 别误会：不是让你把所有规则都删了

7.1 有些底线绝对不能松

这话必须说清楚，不是啥都能交给模型自己判断。

删文件、碰敏感数据、对外发消息、改生产环境……

这类高危操作，该严格定义还得严格定义，半点儿不能含糊。

你总不能因为员工聪明，就让他自己随便动公司账户吧？

这跟能力没关系，这是底线问题。

7.2 真正的硬规则，别写在上下文里

还有个很关键的点：项目说明文档是上下文，不是强制执行的关卡。

真正必须遵守的规定，得放在权限控制、沙箱、钩子和代码里。

写在提示词里的规则，模型可能会忘；写在系统里的限制，它才真的越不过去。

8. 最后说句掏心窝子的

以前我们写上下文，总像写员工手册。

生怕漏了一条，模型就会出错。

现在慢慢发现，更像是给一个靠谱的工程师搭工作环境。

告诉他边界在哪，工具放在哪，资料去哪查，做完怎么验收。

剩下的，人家自己会安排。

毕竟模型都进化到这份上了，咱们的思路也该跟着升级了。

总拿着管实习生的套路，去管资深工程师，那不出问题才怪。

P.S. 推荐一个大神的教程给想要了解或者学习人工智能知识的读者，这个教程里内容讲解通俗易懂且风趣幽默，对我帮助很大。我想与大家分享这个宝藏教程，请点击下方链接查看，传送门https://blog.csdn.net/qq_74013365