云计算百科
云计算领域专业知识百科平台

蒸馏了500多个小说SKILL,终于开发了这个软件

用 AI 写长篇的人,大多卡在同一个地方。

开篇几章写得挺好,人物立得住,节奏也顺。可写到十几章,问题就来了。人物性格开始飘,前面埋的伏笔忘了,上一章已经写死的配角又冒出来。到后来你只能手动把前面几万字往回粘,粘到上下文塞不下,模型开始胡言乱语,之前理顺的全乱套。

这真不怪模型不够聪明。

聊天框那种用完就忘的上下文,本来就撑不起几十万字的长篇。想让 AI 把长篇写稳,靠的不是换一个更强的模型,是换一套管理方法。

下面这六条,是我折腾长篇时总结出来的,跟具体用哪个模型没关系,通用的。

一、把“设定”和“总结”分成两码事

这是长篇不崩的地基,也是最容易被忽略的一条。

你要在项目里明确划出两样东西。

第一样是“事实”。主角叫什么、什么性格、什么背景,世界观怎么设,大纲往哪走,每一章要完成什么。这些是你说了算,只有你能改。

第二样是“派生信息”。AI 生成的章节摘要、角色当前处在什么状态、剧情脉络图,这些全是从上面那些事实里现算出来的临时结果。它算错了,也不许回过头去改你写的事实。

为什么这条这么关键?

因为大部分 AI 写作翻车,都是同一个原因:模型自己“总结”出来的那点东西,被当成了真事,然后一路往下写。角色状态被它记错一个,后面十几章全跟着歪,而且你还找不到是哪一步错的。

怎么做:永远以你自己手写的那份设定为准。AI 总结出来的东西,当成一张随时可以推翻的临时便签,别当成事实供起来。

二、别让“写、审、改、定”一步到位

很多人图省事,直接让 AI 从头写到尾。这是给自己挖坑。

正确的做法是拆开,一个动作干一件事。

先出草稿。草稿出来,单独跑一遍审稿,让 AI 挑问题。挑出来的问题,你人工过一遍,确认哪些要改。确认之后才进修稿。修完看差异,再合并。最后才是定稿。

关键就在最后这一步。只有定稿的章节,才算真正写进项目,才会成为后面章节的上下文依据。

为什么拆:每一步你都能停、能退、能改。哪里不对,退回去那一步重来就行,不用整章推倒。一步到位看着快,出了错就得整段重写。

三、分清“保存”“定稿”“导出”是三件事

这三个词很容易混,混了就要踩坑。

保存,是把你的修改留在项目里,随手按一下就行。

定稿,是确认这一章,同时更新后面创作要用到的那些记录。

导出,是把已经定稿的章节生成成文件,用来分享或者归档。

坑在哪呢。导出只包含已经定稿的章节。

你要是只保存了草稿就跑去导出,多半会看到一句“没有可以导出的章节”。这不是故障,是设计。定稿相当于在项目内部盖了个章,它不等于对外发布。

习惯建议:每写完一章,自己从头到尾读一遍,核对人名、时间线、语气,确认没问题了再定稿。定稿之前,草稿是自由的,想怎么改怎么改;一旦定稿,它就成了后面章节的地基,再动就牵一发动全身。

四、本地模型想跑顺,记住这几个数

如果你把写作放在自己电脑上跑,下面这些数字能省你不少试错时间。

地址别填错。Ollama 的兼容接口是 11434 端口下的 /v1 路径,不是它自己原生的 /api。很多人栽在这,填错了连不上,还以为是自己配错了别的地方。LM Studio 默认是 1234 端口。

模型别贪大。显存 6G 起步的话,选 7B 左右、四比特量化的指令模型就够了,别一上来就拿 14B 当默认。

显存不是光装得下权重就行。还得留给缓存、留给运行时,还得留一部分给你显示器。所以“权重塞得进去”,不等于“多长的上下文都能跑顺”。

输出长度从 2048 个 token 起步比较稳。落到中文是多少字,得你自己实测。别拿模型宣传页上那个最大上下文,当成实际能用的能力。

做检索的向量模型是单独配的。一开始真不用急着配,先用全文检索顶着完全够用。

验证顺序:先建一个虚构的小项目,就写一章、一场戏,跑通了,再把你真正的长篇搬进来。别一上来就并行大批量去压它。

五、写作方法要按阶段挂,别堆成一大段

这是很多人做错的地方。

写作指导应该按阶段拆开挂上去。搞设定和规划的时候挂一套,写正文的时候挂一套,审稿挂一套,润色修稿再挂一套。

为什么不能堆成一段?因为你把两千字的写作心得摞成一段“总提示词”,改一个字可能就把别的也带乱了,而且没法复用到别的阶段。拆开挂,每一套都能单独打磨、单独复用。

还有一点要有心理准备。工具底层那些约定,比如用什么语言、输出要什么结构、怎么调用工具,通常是锁死的,你改不了。你能定制的是“让模型扮演什么角色、按什么风格写”这一层。指望改底层去适配自己的怪癖,往往白费劲。

六、几个容易踩的坑

能列出模型,不等于能拿它写文章。列表里那只是一份目录,连接测试通过,也不代表它写出来的东西能用。真正的标准只有一个,实测一次。

任务正在跑的时候,别强行关软件,也别连着点“开始”。真要停,就在任务面板里点取消。硬关容易丢东西。

本地连接失败,多数工具不会自动切云端。这是好事,说明它不乱动你的配置。

备份别只备份导出的正文。导出的文件里没有角色、没有设定、没有大纲,也没有项目数据。模型配置一般存在用户目录下,不在小说文件夹里,换电脑的时候得单独搬一份。只备份正文,等于把地基丢了。

带密钥的配置文件,别往外发。

· · ·

说到底

AI 写长篇,拼的从来不是谁的模型参数更大。

拼的是,你有没有把“写作”当成一件需要管理的事。

把设定、大纲、草稿、定稿分层放好,让每一章都有据可依,让每一处改动都能回头查。做到这点,模型换哪个都不容易崩;做不到,再强的模型也白搭。

这是长篇真正缺的那块地基。

地址:https://pan.quark.cn/s/cfb320b98f4b

赞(0)
未经允许不得转载:网硕互联帮助中心 » 蒸馏了500多个小说SKILL,终于开发了这个软件
分享到: 更多 (0)

评论 抢沙发

评论前必须登录!