2024 年 3 月,一篇论文给出了一个数字:20 美元。
不到 20 美元,可以提取 OpenAI 的 ada 和 babbage 两个模型的完整投影矩阵。
论文给出的是一次精确提取,不是近似还原:误差 4×10⁻⁴,比随机初始化低 500 倍。
顺手,还第一次确认了这两个模型的隐藏维度:1024 和 2048。
对 gpt-3.5-turbo,论文估算,不到 2000 美元的查询量能拿到同样的东西。
这两件事都发生在 2024 年 3 月。两年半过去,这套方法的成本只会更低,工具只会更顺手。
一、先说清楚:权重和 API key 不是一回事
第 59 篇写的是 API key 被偷——九家 AI 开发平台,一个月,同一把钥匙。
那是调用权。
你丢了 key,攻击者能刷你的额度、用你的模型。但模型还在你手里,他拿走的是"使用权"。
权重丢了,丢的是复制权。对方拿到的不只是"能用",还等于"拥有"。
对方拿到的不只是"能用",是"拥有"。他可以在自己的机器上跑,不联网,不付费,不受你任何管控。
打个比方。
API key 是你家的钥匙。被偷了,换锁就行,房子还是你的。
权重是你家的图纸加全部建材。被偷了,对方在隔壁盖了一栋一模一样的。
更麻烦的是,你可能一直不知道。
二、三条路,成本差着两个数量级
偷权重有三种走法,门槛差着两个数量级。
第一条:黑盒提取——20 美元起
就是开头那个数字。
原理不复杂:模型的最后一层,是把隐藏状态映射成词表上的概率分布。如果你能看到这个分布(logits),就能反推那一层的权重矩阵。
论文的做法是 top-down——不从输入层往上重建,直接打最后一层。
在六个开源模型上验证,隐藏维度全部提取成功,误差 0 或 1。GPT-2 Small 报了 757,比真实的 768 少 11 维——查下去发现这个模型有效隐藏维度确实是 757,多出来的 11 维是死的。
连模型自己没用上的那 11 维,也被算了出来。
当然,真实的商业 API 不会直接给你 logits。论文也承认这个假设要放松。
但"放松假设"的意思是成本上升,不是做不到。2000 美元那个估算,就是放松之后的结果。
第二条:内存泄露——0 美元,三个请求
2026 年 5 月,Cyera 公开了 Ollama 的一个漏洞,CVE-2026-7482,CVSS 9.1,代号 Bleeding Llama。
问题出在 GGUF 解析器。GGUF 是现在本地模型的标准打包格式,一个二进制文件,加一个头部,头部告诉加载器每个张量在哪、多大。
Ollama 相信了这个头部。
你上传一个特制的 GGUF,把张量尺寸声明得比实际数据大得多。Ollama 就按声明的尺寸去读内存,读到了缓冲区外面。
然后是最巧的一步:怎么把读到的数据带出来。
泄露的内存是 Ollama 进程的堆。里面有 system prompt、其他用户的对话、环境变量,云上的机器,环境变量里常有 AWS、GCP、Anthropic、OpenAI 的 key。
但量化过程会损坏数据。Cyera 的解法是把 tensor type 设成 F16、目标格式设成 F32。F16 到 F32 是无损转换,两字节变四字节,数据原样落盘。
最后一步:Ollama 的 /api/push 可以把模型推到任意 URI,而且模型名不校验。你把模型名写成 http://你的服务器/x,它就老老实实把整个文件推过去。
三个 API 调用,零凭证,全程不用登录。
暴露面有多大?
Cyera 估约 30 万台服务器。SentinelLABS 和 Censys 实测 17.5 万台公开暴露的主机,分布在 130 个国家。
第三条:直接拿走,内部人员
这条最朴素,也最难防。
离职的工程师、外包团队、云上存储配置错了、备份没加密。
没有技术含量,但成功率最高。
三条路的成本从 0 到 2000 美元,没有一条需要国家级资源。
三、法律上其实已经解决了
很多人以为"AI 模型能不能受保护"还是空白。不是。
中国:判了,而且是终审
2020 年,某科技公司做了一个"变身漫画"的 AI 特效。
30 多人的团队,20 多名手绘师手工画了 5 万多张漫画当训练数据,做了近 10 个月,花了几千万元。
2020 年 6 月上线。两个月后,发现另一家公司的相机 App 上线了"少女漫画"特效,效果高度相似。技术比对下来,两个模型高度同一。
起诉到北京朝阳法院,索赔 550 万。
被告说是韩国某公司独立研发的,但拿不出合作合同,也拿不出研发证据。
2025 年 3 月,北京知识产权法院二审驳回上诉,维持原判,赔 160 万。
这个案子更值得看的是法官的论证方式,赔多少反而没那么要紧。
著作权法保护不了,模型结构和参数不是"作品"。
反不正当竞争法的具体条款也套不上。
最后用的是第二条:经营者在市场交易中应当遵循自愿、平等、公平、诚信的原则,遵守法律和商业道德。
法官的逻辑是:在 AI 领域,把别人已经训练完成的模型参数、模型结构直接抄走,本身就违反商业道德。
这是全国首例明确认定"AI 模型结构和参数可受保护"的案子。
美国:走商业秘密,不需要注册
美国那边的路径更直接,商业秘密。
它的好处是不用申请、不用审批、不用公开。成立条件只有两个:有独立经济价值、不为公众所知,加上权利人采取了合理保密措施。
覆盖范围明确包含:算法、模型参数(节点数、权重值)、训练/验证/测试数据集。
而且有个很关键的反向逻辑:专利和版权的申请过程要公开信息,这跟商业秘密的保密要求直接冲突。所以对模型权重这种资产,商业秘密反而比专利更合适。
但商业秘密有个硬伤:它只防"不正当手段"。
法条列的是:盗窃、贿赂、虚假陈述、违反保密义务、电子间谍。
问题是,"爬取"和"提示注入"算不算?
判例已经在往这个方向走了。
“爬取”,用机器规模地抓取,获取人类无法获取的信息量,已经被判例认定为"不正当手段"。
更近的一步:OpenEvidence 起诉 Pathway Medical,指控对方用"提示注入"骗取系统的基础代码,也就是"定义这个 AI 模型如何行为和响应的那组指令"。
这个案子怎么判,会决定"提示注入算不算窃取商业秘密"。
还有 DeepSeek 那次。某头部公司质疑 DeepSeek 用数百万个问题"轰炸"它的模型,把回答拿回去训练新版本,而这件事恰好发生在它发布之后几天。
这里的区别在于:用你的 API 喂几百万个问题,属于搬运,不属于使用。
四、卡住的地方是举证
上面那些听起来都挺顺。中国判了,美国有路径,商业秘密覆盖到了权重。
但所有这一切,都卡在同一个地方:你怎么证明对方偷了你的权重?
你不能去对方服务器上翻他的权重文件。
就算你能,一堆浮点数摆在那,你怎么证明它跟你的是同一个?
这是权重这种资产最特殊的地方,它不可见。
一份文档被抄了,你比一下文字。
一段代码被抄了,你比一下结构。
权重被抄了,你比什么?
答案是:比行为。
五、模型的指纹,藏在它的错误里
2024 年 6 月,斯坦福三个学生发了个开源多模态模型,叫 Llama3-V,说 500 美元就能训出一个比肩 GPT-4V 的东西。
发布当天冲上 HuggingFace 热度榜,X 上三十多万浏览。
几天后,开源社区开始质疑:这东西是不是套壳了面壁智能刚发的 MiniCPM-Llama3-V 2.5?
最致命的证据是面壁 CEO 李大海在朋友圈发的:
Llama3-V 展现出了跟 MiniCPM 一样的"清华简"识别能力,连做错的样例都一模一样。
而那个训练数据,面壁团队从战国竹简里一个字一个字扫描、人工标注,从未对外公开。
再加一条:高斯扰动验证之后,两个模型在正确和错误的表现上都高度相似。
这就是指纹。
你抄得走权重,抄得走结构,抄得走代码。
抄不走的,是"它为什么错"。
一个模型的知识边界、罕见知识的处理方式、特定输入的失败模式,这些是训练数据、训练顺序、超参数、随机种子共同作用的结果。
这套失败模式是这个模型独有的,换个随机种子,错误就变了。
所以"连错都抄"这件事,在法律上比"连对都像"严重得多。
正确的输出容易重合,错误的输出很难撞上。
六、三种指纹,和它们的对抗
第一类:错误指纹
就是上面那个。构造一批特定输入,看模型的失败模式。
优点是不需要提前准备,事后就能测。
缺点是需要一个足够独特的失败模式。太常见的错误(比如算错小数点)谁都会犯,没有区分度。
清华简那个之所以成立,是因为那个数据没公开过,模型认识它,本身就是证据。
第二类:罕见知识指纹
在训练数据里埋一些"只有你有"的东西。
一段虚构的文本、一个不存在的人名、一组编造的日期。
如果对方的模型能准确复述这些,那它一定见过你的训练数据。
这个思路跟"蜜罐"一样,但更隐蔽,因为你埋进去的东西,看起来像正常语料。
第三类:主动水印
训练时就把水印嵌进权重里。
有做在输出分布上的,有做在特定触发词上的,也有直接改权重数值的。
但水印有个根本问题:能被洗掉。
蒸馏能洗掉一部分。微调能洗掉更多。量化会损失精度,也会顺手把水印磨掉一点。
这就是为什么"错误指纹"比"水印"更硬。
水印是你主动加的,攻击者知道你在加,就会针对性地洗。
错误是训练过程自然产生的,攻击者抄的时候根本不知道自己抄了什么。
抄得越彻底,指纹反而越清楚。
七、如果你在做模型,现在该做什么
不是等出事了再想。
第一,留训练证据。
训练日志、数据版本、超参数、checkpoint 的哈希。
中国那个案子,被告输在哪?拿不出研发证据。
原告有 30 人团队、20 名手绘师、5 万张图、10 个月、几千万元的记录。被告只有一句"韩国公司独立研发的"。
法院最后认的是"能不能证明自己做过"。
第二,提前埋指纹。
找一批只有你的训练数据里才有的内容,记下来。
不要等到打官司才去找,那时候你也不知道该测什么。
第三,把"合理保密措施"做到位。
这是商业秘密成立的硬条件。
权限分级、访问日志、保密协议、离职交接清单。
没有这些,就算被偷了,法律上也构不成商业秘密。
第四,盯住你自己的 API。
如果有人在短时间内用几百万个问题轰炸你的接口,那可能不是普通用户,而是在搬数据。
这种情况下,"提供服务"和"协助窃取"是同一件事。
收个尾
回到开头那个 20 美元。
这件事指向的问题,比某一家公司安不安全更大。
模型的最后一层,是可以从外部反推的。
这不是某家公司的失误。它由 transformer 架构的数学性质决定,只要 API 返回概率分布,那一层的信息就在往外漏。
所以"权重绝对安全"这件事,在技术上不成立。
能成立的只有两件事。
一是让偷到的权重卖不出去。法律、水印、指纹都属于这一类。
二是让偷的人知道,你留了证据。这可能是最有效的一条。
因为窃取权重这件事,成本已经低到 20 美元了。
最后剩下的门槛是"被发现"的概率,不是技术水平。
斯坦福那个团队最后撤了模型、发了道歉信。
他们露馅的地方不在于技术。
在于连错都抄了。
主要来源:Carlini 等《Stealing Part of a Production Language Model》(arXiv 2403.06634,2024-03)、Cyera《Bleeding Llama: Critical Unauthenticated Memory Leak in Ollama》(CVE-2026-7482,2026-05)、SentinelLABS / Censys 暴露面统计(2026-05)、全国首例 AI 模型侵权案(北京朝阳法院一审、北京知识产权法院 2025-03 二审维持)、Mondaq《Developing an IP Strategy for Protecting AI Assets and Outputs》(2025-05)、面壁智能与斯坦福 Llama3-V 事件公开材料(2024-06)。
口径说明:20 美元与 2000 美元为论文对 ada/babbage 与 gpt-3.5-turbo 的估算,实验基于可观察 logits 的假设并在此基础上做了放松;Ollama 暴露主机数存在两个口径(Cyera 估约 30 万台,SentinelLABS 与 Censys 实测 17.5 万台);中国首例案判决为不正当竞争,非著作权侵权,赔偿 160 万元;美国"爬取构成不正当手段"与 OpenEvidence 案的提示注入主张均处于判例发展过程中,尚未形成终局规则。
网硕互联帮助中心





评论前必须登录!
注册