AI 产品 · 错误预算
三月中旬的一场评审会，开到下午四点多。空调有点冷，我坐在长桌最靠门那侧，手里那杯茶凉了半截。
业务线负责人站在投影前，指着那页 PPT 说了句：准确率 92% 了，可以上。
会议室里没人反对。我也没反对。
散会以后我在电梯里想了一路，楼层数字一格一格往下跳。不是数字不对，92% 是真的，评测集跑了三遍。
不对的是「可以上」这四个字。它默认了一件事，错一次的代价，可以等上线以后再算。
这件事，几乎没人算过。
我也没算。
所有人都在报准确率，没人报「错一次的价钱」
我翻了过去两年经手和看过的验收文档，二十来份，记不全了。能把「错一次折多少钱」写清楚的大概两份。剩下的差不多全是 F1、AUC、人工抽检通过率、响应时长。
四个指标，全部长在模型身上。没有一个是长在「错了以后怎么办」上的。
同一个 92%，落在不同场景，代价差三个数量级。客服回复错了，用户骂一句，客服改一句。合同条款提取错了，可能要赔钱。财报摘要错了，第二天股价替你说话。面试筛选错杀一个人，三个月后你才知道，而那个人大概已经去了对手那边。
还有一种更麻烦的，错了没人发现。它们躺在系统里，慢慢变成别人做决定时的地基，等你回过神，上面已经盖了三层楼，拆一层的代价比当初答错一次贵几十倍。
模型不知道这些差别。它在训练的时候只被教会「答对」，它不知道答错在你这家公司里意味着什么。这不是模型的缺陷，是我们没告诉它。
把错误折成工时，一笔你能自己复算的账
我试过一个笨办法，把准确率换算成人力。算法粗糙，但能对上账。
假设客服场景，一天 1000 单，误判率 3%，就是 30 单要人工复核。每单 12 分钟，一天 6 小时，一个月按 21 个工作日算，126 小时。
126 小时，大约是一个人一个月工作量的四分之三。
所以「准确率从 92% 提到 96%」，翻译成人话不是「模型更强了」，是「你能省下 0.75 个人」。这句话进采购会，才有资格谈钱。
同样的账我也算过内容审核：一天三千来条，误判 2%，六十条，一条人工看一眼差不多两分钟，一天两小时，一个月四十来小时，怎么也得半个人。数字不大，但它是一个能拿出去对账的数，不是一个能拿出去对的分数。
这张表我后来又拿去套了三个没写进这篇文章的场景：会议纪要、字幕翻译、代码补全。
会议纪要：错了当场看见，能改，谁承担都不重，四问答完是「可以激进」。
代码补全：错了编译不过，当场发现，可撤回，也是激进派。
面试初筛：错了三个月后才知道，不可撤回，承担方是那个没被叫来的人。四问答完，这地方必须留人。
框架好不好用，标准很土——它得能解释你没写进来的例子。这三条是我临时找的，套得进去，我才敢把它当框架讲。
错误预算四问，问题本身比答案重要
四个问题，顺序不能换。
谁承担。客户、一线客服、法务、还是老板。承担的人不坐在评审会里，验收标准就永远写不准。
多贵。钱、工时、信誉、合规，四种价钱不通用。合规的价钱最贵，因为它不可谈判。
合规最贵，且没法打折。
多久发现。当场、第二天、季度审计，三档。发现得越晚，同样一次错误的有效成本越高，因为中间会有一串错误决定建在它上面。
晚一天，贵一倍，这事不夸张。
能不能撤回。能改、能道歉、能补发，算半可撤回。不可逆的只有一类：决定了别人的处境，比如拒了一个人、签了一份合同、发了一条公告。
四个答案里只要有一个落在最坏那格，产品就必须带兜底。兜底不是加个人看着，是设计一条「错了也走得通」的路。
《孙子》里那句「先为不可胜，以待敌之可胜」，放在这儿比放在战略课上合适。善战的人先让自己败不了，AI 产品先让自己错得起。
准确率什么时候真的值钱
得给反面留同等位置，不然这套说法就成了万金油。
高频、单次后果轻、可撤回的场景，准确率就是唯一变量。推荐排序、字幕、翻译、会议纪要、搜索联想，这些地方继续卷分数完全正确。它们的错误预算是零，因为错误不落地。
这也意味着，兜底本身是有成本的。给每个场景都配人工复核，毛利会被吃光，最后产品死在自己给自己上的保险上。我见过两个团队死在这条路上，一个做合同审查，一个做简历筛选，都是把兜底做成了主体业务。
所以不是「所有 AI 产品都该做兜底」。是「兜底的厚度，要跟四问的答案对齐」。
我写坏的第一版 PRD
说个丢人的。
第一版 PRD 的验收标准，我抄的是当年做传统软件的模板：功能清单、性能指标、验收用例通过率。我把「准确率 ≥90%」写进验收条款，还写了抽样方法，看着挺严谨。
我以为验收就是数字达标。
后来试了三条路。第一条，加大评测集，从 500 条加到 3000 条，指标稳了，业务方还是不签。第二条，加人工抽检，抽 5%，抽完写报告，业务方看完更慌，因为报告里的错误案例被他们逐条截图发到群里。第三条，灰度，放 10% 流量，一周后叫停，因为客服组集体来找我。
我承认，第三条停的那天我挺尴尬的，因为灰度那一周，正好是我在周会上把它吹得最狠的一周。
什么时候开始怀疑自己的？第三次退回的时候。业务负责人说：「不是它答得不对，是我不知道它什么时候会答错。」
我问：「那你要什么？」
他答：「错的时候我能接住。」
那句话把我打醒了。他要的不是更高的准确率，是一条退路。
后来我把验收条款改成一句很土的话：业务方能不能在五分钟内处理掉一次错误。这句话没法写进合同，但评审会当场就过了。
代价是延期 18 天。
这不是我的坑。这是这一整类产品的结构性缺陷——写需求的人在软件时代学的验收，模型给的是概率，两套语言对不上，中间那段没人负责翻译。
成本结构变了什么
变便宜的是生成。初稿、草稿、备选方案、第一版代码，边际成本趋近于零。
变贵的是担保。兜底的人、回滚的机制、可追溯的日志、审计的口径、出事以后敢签字的那张脸。
一头往下，一头往上。
这件事我越想越确定：AI 把「生产」变便宜了，把「担保」变贵了。谁在卖担保，谁在赚钱。
给个敢被推翻的判断。未来十二个月，AI 产品的采购合同里会长出错误成本条款——分级赔付、兜底工时、SLA 拆档。盯的指标很具体：招投标文件里开始出现「单次误判」这几个字。
一年以后要是还没有，我这个判断就是错的，你可以拿这篇来打我的脸。
回到电梯里那四个字。「可以上了」。
后来我在另一个项目上换了个问法。评审会上，销售问我：「这活儿谁签字？」
我答：「我签。」
然后在 PPT 上加了一页，写清楚错一次赔什么、谁来接、多久能发现。那页很难看，全是防守动作，但它让项目提前两天过了会。
答不出「谁兜」的时候，92% 只是给自己壮胆。