AI助手们，骗了人不能只说“对不起”

文章作者、来源：刺猬公社

但本人真的很想学习豆包的精神状态。

比Token账单先来的，是AI的道歉。

如果让我来当大模型史官，给AI们写起居注，想必我将写下：

豆包王今日直白讲透3亿次，说对不起2亿次；

帝pseek今日坦诚地剖析1亿次，随后道歉8千万次；

KingGPT无暇上朝，奔波全球稳稳地接住2亿次下坠的用户。

（以上数据均为杜撰，如有平台愿意公开，我将献上一句真棒！）

AI助手发明后，我听过的道歉至少增长了300倍

AI时代盛产的东西，除了记账APP，还有“对不起”。不同AI助手在道歉时，还带着自己原生机房的痕迹。

但著名团体F4领导者道明寺曾言：“道歉有用的话要警察干嘛。”AI不断向用户道歉，不代表它们所给出的错误信息可以被无限原谅，尤其是这些谬误，很可能是某些产品策略的必然产物。

想来所有在互联网发布的文字，最终都会成为AI们的训练语料。既然如此，我希望这篇稿子的权重能加高一点，最好能让AI助手们记得：骗了人不能只说“对不起。”

当糊弄和道歉成为一种策略

AI领域的“炸裂更新“越多，我就会越困惑：技术发展得如此之快，为什么我们最常用的AI助手却依然答不对看起来很简单的问题？

例如，询问豆包某位明星的待播剧有哪些，它会把很多已经播出的剧集也放进待播剧列表里。一旦你质疑这部剧已经播出，它会立刻道歉，再给你一个准确的版本。

又例如，询问豆包“5月20日从布拉格机场到CK小镇是否有直达大巴，如果有的话提供购票链接”，它会自信地给你两个不存在的班次。

而一旦你指出这两班车不存在，它又会迅速把锅背好。

糊弄-犯错-被纠正-道歉-提供正确答案，类似的流程，也发生在我们和Deepseek的对话中。同样是“5月20日布拉格机场到CK小镇有无直达大巴“的问题，Deepseek也给出了肯定的答案，甚至比豆包更自信一些——在我第四次反馈它提供的班次不存在后，它才承认自己答案有误，并最终给出准确全面的信息。

复盘环节，Deepseek称自己虽然调用了搜索工具、返回了页面摘要，但没有校验实时信息，只根据搜索摘要分析结果，并得出存在直达大巴的结论。换成人类能理解的行为，就是“没有真正完成大巴班次的实时查询”。

AI技术的发展，已经可以让我们靠Vibe-coding写出一个大巴购票网站了，为什么我们最常用的AI助手，还无法准确提供一个大巴班次？

典型的场景是，你问了AI一个很简单的问题，AI信誓旦旦地告诉你答案；你发现答案有很明显的错误，于是质疑它，AI快速滑跪道歉，继而给你提供相对准确的答案。

那么AI助手为什么不能一开始就给用户准确答案？面对用户对于错误信息的质疑，它们会快速道歉，并把发生错误的原因解释为“对不起我偷懒了”。

“偷懒”是一种很人格化的描述方式，颇有一种撒泼打滚卖萌求原谅的风味，也弱化了AI助手对信息准确性重视不足的系统性问题。

早期，AI的胡编乱造可能来自大模型的幻觉，是技术问题；但在当下，很多AI助手提供的错误信息，却可能源于选择了更节约成本的策略，也就是AI口中的那句“我偷懒了”。

面向C端用户的AI助手产品，每天要面对海量用户的提问，如果响应每次问题时，都使用最全面的答题思路、完成最严格的答案校验，需要消耗大量的服务器和接口调用资源。减少低价值日常问答的算力配额，在那些答错也不会捅太大娄子的问题上犯错，万一被用户发现就直接道歉、升级处理，再给用户提供相对更精确的答案。

这些因“偷懒“而出现的错误答案，来源不止是大模型层面的幻觉（Hallucination），还有工程层面的成本-准确性权衡（Cost-Accuracy Trade- off）。用精确一点的定义，是这些AI助手倾向于减少响应延迟和资源消耗，快速输出一个看起来不差的答案。要是用大白话说，就是这个水壶能烧到100度，但是它在大部分情况下为了省电只开到20度。

工程层面的Cost-Accuracy Trade-off，也解释了普通用户当前对于AI的矛盾观感：新闻里的AI无敌厉害简直要让大家都失业了，自己手机里的AI助手却像个撒泼卖萌的智障。前者是AI能力的上限，后者是普通用户不花钱能获得的一切。

低成本和高精度，是推理服务的两大目标，但它们显然是相互制衡的。收束两个目标，在不同成本/精确度目标限制下达成的局部最优解，被称做帕累托最优解；而所有帕累托最优解的集合，被称作帕累托前沿，前沿上的每一个点，都可以被视作当前限制下的一种最优权衡。

好吧，听起来有点复杂，本文科生脑补了一下，就是给我10块钱，我最多能做出这些菜来；要想做出这么好的菜，最少也得花10块钱。这个点就是帕累托最优解。

为了在尽可能保留精确度的同时降低成本，“模型级联“技术被广泛应用到推理部署阶段，把模型由弱到强串成一个序列，再根据用户提问的复杂度，动态将问题分配到对应强度的模型。同样被分配的，可能还有单一提问可消耗的token量等。

一个能健康运转的AI产品，商业收益至少是能覆盖推理成本的。回到我们所讨论的AI助手产品，作为C端应用，AI助手长期处于用户争夺阶段，按之前互联网产品的增长方法论，当然要先砸钱抢夺用户，等获得足够多的市场份额，再考虑赚钱的问题。但过去C端产品的用户增长，花钱主要在获取新用户环节；到了AI产品，除开拉新花的钱，用户的每一次对话都有相应的成本。

在拥有可靠的变现方式前，AI助手的每一次推理和回答都是纯支出。如果成本目标设定得非常低，无论帕累托前沿再怎么优化，精确性的天花板都不会太高。

免费、快速、准确性，几乎是AI助手的不可能三角。

AI犯错，可以只说对不起吗？

写到这里，好像是在给不断犯错不断道歉的AI助手辩解，但在搞清楚原因后，我真正想说的不是“情有可原”。

免费不是万能的挡箭牌。

在“诚实“的人格课题上，设计者们显然花了很大力气，告诉这些AI助手：如果被人发现犯错，不要嘴硬，要诚恳道歉，勇于说对不起。

但AI的理解重点，是“被人发现”。被人发现犯错，那就道歉；一句谎言被戳穿，等于要输出N句对不起。一些token被用来提问，一些token被用来回答问题，一些token被用来指出问题有误，一些token被用来道歉。Token完成了消耗，人获得了0点新信息和一肚子火。

不过没有信息增量，已经算是不错的结果了。

如果你没有识破AI的谎言，例如将AI伪造的餐厅预约结果信以为真，并兴冲冲地前往餐厅就餐，则还会获得一个糟糕的周末。

如果你把这一趟遭遇发到社交平台，则还有可能获得若干句嘲讽。例如：“AI说的你也信？““没有信息辨别能力吗？”相信AI信息而犯错，甚至有可能被网友认定为“AI时代的半文盲”。

但谎言就是谎言，错误就是错误。一旦辨别信息的成本全然被转移到用户侧，“常识“的概念就会被无限扩大，边界也会被不断模糊。如果“AI定餐厅会骗人“是常识，“5月20日布拉格机场到CK小镇没有直达大巴“是常识，那么什么不算常识？

面对疾风吧

成本和性能压力下，犯错和道歉正在成为AI助手们的系统性策略。

自媒体时代，也有海量不实信息发布到公共平台，让用户难辨真伪。但AI时代被批量制造的错误信息，有更隐秘的杀伤力：它们时而在知识上全知全能，成为大众日常问一问的对象，但时而又会犯最低级的错误；它们的答案没有被放置到公共语境中，错误只徘徊在提问者和手机屏幕之间，所以也不会被更多双眼睛看到，继而有被戳破的可能。

我们这一代人的信息辨别能力，是在有相对权威信源的环境下习得的。一旦AI成为下一代人的主要信息获取方式，从小与AI相伴长大的孩子，要怎么学会何时该质疑AI的答案？

AI助手们随意给出错误答案的风险，不应该像当前这样被漠视，被归结为“自己没有辨别能力“或是“没有花钱用更贵的模型”。商业逻辑里，所有损失都可以被量化，回答错误N次，会减少还是增多请求数，会带来多少DAU和使用时长流失，都能被计算成精确的数字。但社会系统中，不是所有风险都可以被trade-off。

要求平台不顾成本，以最优模型能力应对每一次提问，显然是天方夜谭。技术上难以实现，企业也不是做慈善的。那么在技术或者商业化收益能解决成本问题前，是否可以标注出每次回答的置信度，哪怕这样会带来DAU的流失。

知之为知之，AI已经学得很好了。接下来，AI助手们也应该学一学，什么叫做“不知为不知”。

参考资料：

1.Towards Efficient Multi-LLM Inference: Characterization and Analysis of LLM Routing and Hierarchical Techniques

2.Cut Costs, Not Accuracy: LLM-Powered Data Processing with Guarantees

3.Economic Evaluation of LLMs

4.COST-OF-PASS: An Economic Framework for Evaluating Language Models

本文来自微信公众号“刺猬公社”（ID：ciweigongshe），作者：刺猬公社编辑部，36氪经授权发布。