160亿美元的免死金牌：Facebook如何用AI深伪广告收割你的爷爷奶奶

160亿美元的免死金牌：Facebook如何用AI深伪广告收割你的爷爷奶奶

一位从未卖过药的 68 岁亿万富翁，每周都会收到老人们发来的邮件：“你的 294 美元糖尿病神药还有效吗？我刚订了一瓶。”——广告里那个用他的脸和声音生成的"他"，正在 Facebook 上公开兜售一瓶并不存在的药。这不是一条漏网的假广告，而是一门年入 160 亿美元、被一套 95% 阈值精确标价的生意。

一、开场：每周一封的来信

2026 年 8 月，Mark Cuban 在 Kara Swisher 与 Scott Galloway 主持的播客 Pivot 上讲了一件让他哭笑不得的事。

这位 68 岁的亿万富翁、NBA 独行侠前老板，联名下是一家叫 Cost Plus Drugs 的平价仿制药公司——货真价实地卖药。但过去一年里，他每周都会收到"老头老太太"发来的邮件：

"你的糖尿病神药还有效吗？"或者，“我刚花 294 美元订了你推荐的那瓶糖尿病神药。”

他从来没有卖过任何糖尿病药。让老人们深信不疑的，是 Facebook 信息流里的一条广告：画面里那个"Mark Cuban"面孔清晰、声音亲切，以最熟悉的方式向老年观众推荐那瓶"神药"。那是用 AI 复制了他的脸和声音生成的深伪视频。

Cuban 的原话毫不客气：“Facebook knows the little old ladies are ripped off.”（Facebook 明明知道老太太们被骗了。）他称这个平台是 “the worst of the worst”——“最差中的最差”。

更讽刺的细节藏在广告本身里。Cuban 说，其中一些广告甚至自带免责声明，承认画面中的人由 AI 生成、视频仅供娱乐。按常理，免责声明是免责护身符；但在深伪诈骗的语境里，它只是一枚迟到的事实。按 Cuban 的算法，等观众读到那行小字，“the pitch has already worked”——骗子的推销已经完成。而在 Facebook 看来，“that’s good enough”。

他把这上升到了公司文化的高度：“这就是这家公司组织文化的定义。一家纵容骗子去围猎别人爷爷奶奶的公司，已经表明了它在任何层级上会容忍什么。”

如果你以为这是一条漏网的坏广告、一个审核失误的孤例，那就看轻了这门生意。

三个月后，Cuban 的这段表态被 Yahoo Finance 记者 Godwin Oluponmile 写进了一篇报道——那篇报道真正的重量，不在 Cuban 的抱怨里，而在它引用的 Meta 内部文件里。

二、Meta 自己算过的账：10% 与 160 亿

2025 年 11 月 6 日，Reuters 发布了一篇基于 Meta 内部文件的调查报道。标题平静，内容炸雷：Meta 内部预测，2024 年公司总收入的约 10% 将来自"诈骗与违禁品"相关广告——折合约 160 亿美元。

这是 Meta 自己给自己算的账。把数字放到大盘里看：160 亿美元不是边角料，相当于一家《财富》500 强体量公司的全年营收；而这些钱的特点是——每一块都来自平台算法主动展示给用户的欺诈性内容。

Reuters 从文件里挖出的第二层事实更接近"操作手册"：

• Meta 内部讨论明确承认：平台将面临"巨额的（steep）罚款"，因此执法资源被按罚款力度分配——哪里罚得重，就先管哪里。打假变成了逐利计算："清诈骗而损失的广告收入"与"不清理而遭到的监管罚款"被放在同一个天平上称重。
• 文件显示 Meta 的原意是大幅压缩欺诈行为，但审核团队被裁之后，绝大多数用户举报的违规内容被无视或拒绝——举报按钮在统计意义上形同虚设。
• Meta 自己的内部计数：用户在其各 App 中每天看到约 150 亿条"高风险"广告——即带有明显诈骗特征的曝光。一份 2024 年末的文件给这一类别估过年值：约 70 亿美元。
• 2025 年 5 月的一份内部演示里，Meta 安全团队估计：平台参与了美国三分之一"得逞"的诈骗。

然后是整件事最冷的一条：在封禁一个广告主之前，Meta 的自动化系统必须把该账户判定为"至少 95% 可能是诈骗"。低于这个阈值，嫌疑人不用停止，只要"每条广告多付一点钱"，就能继续留在平台上。

不确定性，在这里被明码标价了。

Meta 官方发言人 Andy Stone 对 Reuters 的回应，是教科书的"口径管理"：文件呈现的是"选择性的（selective）视角"，扭曲了 Meta 的反诈工作；10% 的估计"粗糙且过于宽泛（rough and overly-inclusive）"；并给出两组反差鲜明的数据——用户关于骗取广告的投诉在 18 个月内下降了 58%，公司在 2025 年累计撤下超过 1.34 亿条诈骗广告。

同一批文件还记录着：美国证券交易委员会（SEC）正在就 Meta 与金融欺诈相关的广告展开调查。

把两组数字并排放：一边是内部账本上 150 亿条/天的高风险曝光、70 亿美元/年的类别估值、三分之一的美国诈骗；另一边是官方口径里 1.34 亿条的下架量和下降 58% 的投诉。撤下的可能是九牛一毛，也可能是口径之争。数字不会自己说话，但落差本身就是证据。

三、95% 免死金牌：不确定性如何被明码标价

要把这门生意看透，必须先把"95%"单独拿出来。

在任何正常的商业世界里，95% 确定对方是骗子，意味着你会立刻终止合作——没有银行会给你开户，没有房东会租给你房，没有支付通道会为你结算。但在 Meta 的广告系统里，反直觉的事情发生了：

账户必须被系统判定为"至少 95% 可能是诈骗"才会被封禁。低于这个阈值，嫌疑人不会消失——他只需为每条广告支付更高的价格，然后继续在线。

这就是"免死金牌"的含义：被封禁是低概率事件，被加价才是确定事件。 当平台把"是否封禁"从二元判决变成连续定价，骗子的风险就变成了一项可预算的成本——和房租、投放费一样，进 P&L（损益表）。

这套机制不是失误，而是三重算计的产物：

其一，误杀的代价远高于漏杀。 封禁一个真实广告主，平台损失的是确定的广告收入，还附带申诉、舆情与商业关系成本；漏放一个疑似账户，损失由受害者与监管分担，且绝大多数无人追责。两害相权，系统天然倾向于"不封"。

其二，Meta 内部早就算过一次"彻底干净"的价格单。 这一点在 Reuters 的后续报道里被坐实（详见第七节）：当日本监管机构考虑要求对所有广告主做强制验证时，Meta 内部估计该方案需要约 20 亿美元实施成本，并可能让收入减少近 5%——验证本身贵到让"清场"变成一门亏本生意。

其三，也是最隐蔽的：诚实广告主被系统性挤出竞价。 技术社区把这一点讲得最透：“Honest companies are priced out by scammy companies, and as long as these companies share the profits they are totally fine profiting off scams.”（诚实公司被诈骗公司挤出了竞价——诈骗出价更高、平台分到的利润更多，于是平台对骗案的"不认真"就是理性选择。）

有意思的是，这套"把确定性变成价格"的模型，和深伪诈骗的兴起在时间线上完美合流——这正是下一节的内容。

四、AI深伪：把"信任"的边际成本打到零

传统假药广告的瓶颈是"信任获取"：让老人相信一个陌生人推荐的神药，需要报纸版面、电视时段、群众演员——每一项都要钱、都有复制上限。

AI 深伪把这个瓶颈直接抹掉了。

一次扫描、一段影像、一段音轨，就能克隆出一张"名人的脸 + 名人的声音"。之后每分钟都可以重新渲染一万次：看数据的用户拿到的视频跟他邻居拿到的，用词可以不同、甚至语种可以不同——信任的供给，第一次拥有了接近零的边际成本。

Cuban 收到的那些邮件，就是这条流水线末端的"回执"。注意骗局的定价学：294 美元——低到大多数老人不会为它启动"核实"程序（美国一次正规就医自付额都不止这个数），高到规模化成千上万的订单就是一门肥得流油的生意。

AI 深伪也不只服务"名人带货"。社区用户贴出各自信息流里的真实切片：一段承诺"20 天练成超人"的太极课（“打太极？认真的吗”）、一副"能适配任何度数、必要时还能当墨镜"的眼镜（“眼镜不是这么工作的”）、一个"无限免费上网的 USB 小棒"、一台"书本大小、90 秒冷透任何房间"的空调。英国一名博主记录：她的邮箱开始收到用 ChatGPT 生成、甚至回引她自己网站措辞的广告钓鱼邮件——“你的书已经有完美的 5.0 评分了，要不要买下广告位？”

供给端的爆炸还带来一个结构性变化：骗子不需要再命中，只需要广撒网。 英国博主写得精准："骗子只需触达一小撮人就能回本。"当触达 100 万人的成本趋近于零，哪怕转化率只有万分之一，依然是暴利——而 294 美元的单笔定价，恰好卡在这门生意的最优区间。

“亲爱的，那不是古巴。” 这句话在 AI 时代第一次有了字面意义：你看到的那张脸，可以不是脸；你相信的那句推荐，可以从未被说出口。

五、两本账：Meta 的 160 亿与老人们的 77 亿

把整件事压成两张对照的账本，是最直观的读法。

Meta 的账本（内部文件口径）： 160 亿美元/年、占总营收约 10% 的诈骗与违禁品广告收入；150 亿条/天"高风险"广告曝光；该类别 2024 年末内部估值约 70 亿美元；平台参与全美 1/3 得逞的诈骗；官方则宣称 2025 年撤下 1.34 亿条、相关投诉 18 个月降 58%。

老人们的账本（FBI 互联网犯罪投诉中心 IC3 的 2025 年度报告）： 60 岁及以上人群一年间报案的损失达 77 亿美元，共 201,266 起投诉，金额较前一年暴涨 59%。其中投资类骗局造成 35 亿美元损失，技术与客服支持类诈骗再吞掉 10.4 亿美元。AI 出现在 3,100 多起投诉中，受害者损失合计超过 3.52 亿美元。

注意这组数字的边界：它只统计了"报了案的人"——而 Yahoo 报道特意补了一句：大量受害者从未报案。两本账的差额、以及账本之外未入账的暗数，才是这门生意真正的规模。

一个平台的"收入"，与一代人的"损失"，就这样被写在了同一张资产负债表的两侧。

六、时间线：从内部预测到公开爆炸的 24 个月

这条时间线值得逐格细看，因为每一次"内部已知"与"公开爆发"之间，都隔着一段被估价过的时间。

2024 年末 · 内部估值。 Meta 内部文件给"高风险"广告类别做出约 70 亿美元/年的估值。

2025 年 5 月 · 内部估计。 安全团队演示：平台参与美国 1/3 得逞的诈骗。

2025 年 11 月 6 日 · 第一次公开引爆。 Reuters 发布 $16B/10% 调查。

2025 年 12 月 31 日 · 第二只靴子。 Reuters 后续报道：Meta 曾系统性地让诈骗广告对监管与媒体"隐身"（详见下节）。

2026 年 8 月 · 名人 publicly 开炮。 Cuban 在 Pivot 播客：Facebook"是最差中的最差"。同月 11 日，美国一家联邦法院裁定 Meta 在一起诉讼中销毁了关键证据并对其处以制裁——当事人是正在起诉 Meta 的澳洲矿业大亨 Andrew Forrest，案由同样是用他肖像的诈骗广告。

2026 年 9 月 26 日 · 自家的 AI 拆台。 多伦多一名男子让 Meta 的新 AI 代理打理他的 Facebook Marketplace 事务，AI 把街道地址发给了买家、还答应了一个"砍价杀到脚踝"的出价——他事后发现部分问题出在自己选的权限设置上。

2026 年 10 月 6 日 · 汇总报道。 Yahoo Finance 把 Cuban 的遭遇与 Meta 内部文件合并成一篇。

2026 年 11 月 5 日 · 中文世界的入口。 社区围绕第 230 条与平台责任吵成一锅粥。

七、第二只靴子："让骗子隐身"的 playbook

如果说第一篇 Reuters 调查暴露的是"平台纵容骗局"，那么 2025 年 12 月 31 日的后续报道，暴露的是更高阶的操作：Meta 不只靠"少删"来纵容，还主动让骗局对监管者和记者"隐身"。

Reuters 看到的内部文件描述了这样一套流程：

• 先识别出日本 Ad Library 用户（监管、调查者、媒体）最常用来检索诈骗广告的关键词与名人姓名；
• 然后对这些关键词反复运行搜索，把搜索结果中出现的诈骗广告从广告库和平台上下线——表面上是"清理"；
• 由于精准命中了审查者会看的少数点位，"搜索结果清理"的成功率极高。

文件里对这套做法的定性措辞是：让问题内容对"regulators, investigators and journalists"（监管者、调查者与记者）“not findable”——不可被找到。

这套打法的成功程度，直接写进了 Meta 的自我评估：它把"搜索结果清理"加入了一份"general global playbook"（全球通用行动手册），并部署到了美国、欧洲、印度、澳大利亚、巴西和泰国等市场，用来对冲各地监管审查的压力。动因同样被内部文件记录在案：日本监管考虑推行广告主强制验证，而 Meta 自己估算该方案约需 20 亿美元、且可能削减近 5% 的收入。

文件还披露了另一条让人脊背发凉的机制：当一个未验证广告主在一个市场被禁（例如中国台湾），Meta 会把这些广告更频繁地推给其他地区的用户——"打地鼠"式的跨区流窜，让一个法域的封禁在另一个法域变成流量。

Reuters 还报道过：这个比率，在中国是双倍。

社区评论为这套操作找到了精确的类比：这是"反审查"意义上的精准投放——用当年为广告主开发的行为定向、IP 与版本控制工具，去定向"审查者的注意力盲区"。正如一位评论者所说：Meta 花了很多年构建 AI 去识别广告主对审查机器人打"cloaking"（马甲）的行为，最终自己用同样的技术对监管打了一层更精致的马甲。

八、为什么打不掉：四个结构性原因

复盘整条链路，Meta 的"明知故犯"之所以稳定存在，不是因为某个人坏，而是因为四层结构环环相扣：

第一层，收入结构。 平台超过九成的收入来自广告竞价；而诈骗账户的出价能力常常高于诚实商家——它们转化路径短、承受损失能力高（因为是骗局），“烧得起”。一条高赞评论点破的正是这个逆向选择：“诚实公司总被诈骗公司挤出竞价。”

第二层，成本函数。 95% 阈值 + 地区化的执法优先级 + 20 亿美元的全量验证成本估算，构成了一套完整的成本优化模型——在 Meta 的账本上，"纵容 95% 以下的不确定性"比"清零"更便宜。

第三层，审核废墟。 内部文件显示 Meta 曾计划大幅压缩欺诈，但审核团队被裁，导致绝大多数用户举报被无视或拒绝。举报机制退化成了"安慰剂按钮"。

第四层，责任隔离。 美国《通信规范法》第 230 条为平台提供了对第三方内容的豁免；围绕"社交平台是不是出版商""付费广告应不应豁免 230 条"的争论，在连绵的社区讨论里反复拉锯。在可预见的时间内，这套法律框架不会发生 Meta 单方面不喜欢的变动——而 SEC 对金融欺诈广告的调查、澳洲 Forrest 焚毁证据案的制裁，是目前为数不多的实质性压力点。

四层结构叠加的结果：每一次"再管管"，先倒下的都是行动的 ROI，而骗子的 ROI 从不下降。

九、防御清单：保护自己和家人

回到最实际的问题：普通人能做什么？Yahoo 报道借专家之口给出了一组朴素但有效的动作：

• 看到任何"名人脸"推广产品，默认它是假的。 ——“包括 Cuban 本人。”
• 把产品名连上 “scam” 一起搜。 两分钟检索，抵得过 294 美元的单程票。
• 想一想家里谁在 Facebook 上泡得最久——给他/她发条消息提个醒。 这是 Cuban 给读者的直接建议，也是最容易被忽略的一步。
• 一旦觉得可疑，当天就向 FBI 的互联网犯罪投诉中心（ic3.gov）举报。 投诉是 IC3 年度报告与监管决策的数据底座——“报了才存在”。

进阶一步，可以顺手打开 Meta 自己的 Facebook Ad Library（facebook.com/ads/library/）检索产品名，看看广告主的可验证身份、投放起始时间与素材版本。当一个账户没有可验证身份、素材却在明星关键词下高频更替时，你已经在用监管者使用过的同一种工具了。

防御的核心心法只有一句话：在 AI 时代，"我亲眼看到名人推荐"不再构成任何信任增量。 信任需要重新走一遍核实的流程——哪怕只是先付出一分钟。

十、技术判断：这不是漏洞，是成本函数

收束全篇，把这件事还原成一句技术判断：

Meta 的诈骗广告问题不是一次运营失误，而是一道被明确定价的选择题。 95% 的封禁阈值、按罚款力度分配执法资源的优先级、20 亿美元全量验证 vs 5% 收入的两难、把清理成果打包成"全球通用手册"——这些都不是疏漏，而是平台在"收入最大化"与"风险可承受"之间反复求极值后的稳定解。

AI 深伪则决定了供给端曲线的形状：当克隆一张脸、一段声音的边际成本趋近于零，"针对爷爷奶奶的骗局"第一次成为一门可以无限细分、无限个性化、永不触顶的生意。需求端是老人攒了一辈子的信任存量，供给端是 AI 的零边际成本——中间那个 95% 的阈值，就是这台机器的定价旋钮。

而这台机器还在进化：从"克隆名人"到"克隆你认识的人"只是时间问题；从"视频里推荐"到"实时对话里说服"也只是模型能力问题。当信任的边际成本彻底归零时，"眼见为实"将正式从人类经验的默认设置里退休。

回到开场的那个画面：Mark Cuban 每周仍在收到那些邮件。他只是碰巧是个亿万富翁、碰巧有媒体为他放大嗓音——而在世界的其他角落，无数没有名字的老人，正在对着信息流里自己孩子的一张"脸"，按下那笔 294 美元的转账。

这枚 95% 的免死金牌一日不摘，这封邮件就还会回来。

关键数字：$294 假药定价 · $16B（10% · 2024 年）· 150 亿/天 高风险曝光 · $7B/年 内部类别估值 · 1/3 美国得逞诈骗 · 95% 封禁阈值 · $2B / 5% 日本验证成本估算 · 1.34 亿条 下架 vs 58% 投诉降幅 · $7.7B 60+ 老人 2025 年报案损失（201,266 起 · +59%）· 3,100+ AI 相关投诉 / $3.52 亿 · 中国比率为双倍