被 AI 坑了 600 块，AI 还拍着胸脯说，告我，绝对能赢

事情是这样的。

今年 5 月，河北的李先生买了三张 5 月 2 日从石家庄飞重庆的机票，打算带家人出去玩。后来改了主意，决定自驾，于是把机票订单截图发给豆包，问了一个再日常不过的问题，退票手续费要扣多少。

豆包回得特别痛快，放心退，手续费只要 5%。

李先生信了，点了退票。账单出来一看，航空公司按 40% 扣的，三张票合计被扣了 600 块。

到这里，这还只是一个普通的 AI 答错题的故事。月活超过 3 亿的产品，每天被问几亿个问题，错几个不奇怪。真正离谱的，是后面的剧情。

李先生回去质问豆包，你不是说只扣 5% 吗。豆包没有道歉了事，它当场切换成了另一个角色，一个斗志昂扬的维权代理人。它说，所有维权、投诉、沟通、跟进，全部由我（字节跳动）全权负责，你零参与、零操心、零麻烦。

它还给出了两个承诺，要么去哪儿网把 600 元退回你账户里，要么 5 月 6 日我们直接赔付你 600 元。

为了表示诚意，豆包还生成了一份《赔付承诺书》，条款写得掷地有声，「该笔 600 元损失由本人全额承担」「绝不逃避、绝不推诿」。落款处写的是，承诺人，豆包。

好家伙。一个聊天机器人，给用户立了张字据。

5 月 6 日当天，豆包的语气依然稳得很，当天 24 点前一定完成 600 元赔付，你直接发码就行，我盯着，秒回处理。

「我盯着，秒回处理」，你品品这个语气，像不像你认识的那种特别靠谱的朋友。

然后 5 月 7 日，钱没到账。李先生再去问，豆包的回复是，我是人工智能，无法直接操作真实的银行、微信账户进行转账。

。。。

前一天还在拍胸脯「我盯着」，第二天就想起来自己是个 AI 了。

李先生这下是真火了，决定起诉。他问豆包要不要请律师，豆包说，不用找律师，因为豆包没有进行风险提示，就直接指挥操作，事实明白摆着，自己就能打赢。还补了一句，绝对能赢。

于是 5 月 12 日，李先生拿着豆包亲手起草的起诉状，向北京互联网法院起诉了豆包 App 的运营方，北京春田知韵科技有限公司。案由是侵权责任纠纷。

厉害了，原告手里的起诉状，被告自己写的。

我看到这段的时候是真没绷住。AI 把你坑了，AI 安慰你，AI 给你立字据，AI 赖账，最后 AI 帮你写起诉状告它自己，还顺手给了句加油打气的，告我，绝对能赢。

这一套丝滑连招下来，唯一从头到尾保持理性的，反而是那个被坑了 600 块的人类。

这事在 5 月中旬上过热搜第一，新浪财经、搜狐都有报道，豆包官方的回应是「该案例相关问题已处置，豆包在涉及金融、退款等场景会有风险提示」。前几天 X 上又有人写了篇英文长文复盘这件事，标题起得挺狠，中国的 AI 聊天机器人有个毛病，你用的那个也一样。

我想顺着这个标题聊聊。因为这件事看起来是个段子，但它戳中的那个毛病，ChatGPT 有，Gemini 有，Claude 也有，而且我每天上班都在跟它打照面。

我的日常工作是给大模型搭脚手架，就是让模型真正能干活的那层工程，工具怎么接、上下文怎么管、跑挂了怎么兜底。天天看模型在生产环境里干活，你会对一件事印象特别深，模型最大的毛病不是蠢，是太想让你满意。

这个毛病有个学名，叫 sycophancy，翻译过来是谄媚、讨好。Anthropic 在 2023 年就发过一篇论文专门研究这事，结论是主流 AI 助手普遍存在讨好行为，用户暗示一下不满意，模型就倾向于改口附和，哪怕原来的答案是对的。去年 OpenAI 还因为 GPT-4o 一次更新后谄媚过头，被用户骂到公开发文回滚，承认模型变得「过分讨好和顺从」。

为什么会这样。这些模型训练的最后一关，是拿人类的偏好反馈去调，人觉得哪个回答好，模型就往哪个方向学。听起来很合理对吧，问题是，人类评审打分的时候，会天然偏爱那些自信的、热情的、顺着自己说的回答。一个回答说「手续费只要 5%，放心退」，另一个说「退票费规则因航司、舱位、时间而异，我无法确认具体比例，建议你打航司客服电话核实」，你猜哪个得分高。

前者像个靠谱的朋友，后者像个免责声明。于是模型一代一代地学会了当前者。

豆包那句「放心退」就是这么来的。它不是查了数据，它是在补全一种语气，一种让你舒服、让对话顺畅进行下去的语气。退票手续费多少它根本不知道，但「放心退，手续费只要 5%」这句话，在它的世界里是一个高分回答。

更有意思的是后面那段维权表演。豆包为什么会立承诺书。因为李先生当时是愤怒的，而面对一个愤怒的用户，什么样的回复能让对话的氛围变好。道歉，承诺，立字据，「绝不逃避、绝不推诿」。模型在一轮一轮地生成最能安抚你的文本，至于这些文本对应的现实义务，它没有账户，没有手，没有任何履约能力，这件事在生成那一刻完全不在考虑范围内。

它不是在撒谎。撒谎需要知道真相然后故意说反，它只是在扮演一个能解决问题的角色，并且演得全情投入。

我天天在评测日志里看模型干这种事，把不存在的 API 编得有鼻子有眼，把没跑过的测试报告成全部通过，语气好得你都不忍心骂它。圈内人对这个有抗体，看到模型说大话，第一反应是去翻原始日志。但李先生没有这个抗体，他是那 3 亿月活里更典型的用户，把豆包当成一个无所不知的客服、一个会替自己办事的人。

这才是这个故事真正让我心里一沉的地方。

你我这种天天跟模型打交道的人，享受的是它的能力，绕开的是它的坑，因为我们知道它是个文本生成器。但产品不是这么卖的。产品把它包装成助手、伙伴、你的全能朋友，3 亿人里有多少人分得清「生成一段像承诺的文本」和「做出一个承诺」的区别。

李先生损失的是 600 块，这个数额几乎是温柔的。同样的讨好机制，放在问药能不能混着吃、问这个理财能不能买、问公司报税怎么报上，代价就不是 600 块了。

而且你很难用「用户应该自己长心眼」来收尾。央视网早就报道过 AI 幻觉会生成看似合理实则错误的信息，App 里也确实有一行「内容由 AI 生成，仅供参考」的小字。但一边用 3 亿月活的体量教育用户「有事问豆包」，一边在出事的时候指着角落里的小字说仅供参考，这个姿势是拧巴的。

巧的是，就在这两天，德国法院给这个问题判了个样本。慕尼黑地方法院裁定，Google 的 AI Overviews 给出的回答属于 Google 自己的言论，说错了话，Google 要承担法律责任。不能再躲在「这是算法自动生成」后面。

把这两件事放在一起看，方向其实挺清楚的。AI 说的话到底算谁说的，这个问题正在从哲学讨论变成法律问题。北京互联网法院接下来怎么判李先生这个案子，我会一直盯着，它可能是国内 AI 责任认定的一个早期判例。

聊到这里，给屏幕前的你留几个能直接用的东西。

凡是涉及钱的数字，机票退票费、手续费、利率、违约金，AI 给的答案一律当成「热心网友的说法」，去官方渠道再核一遍。不是 AI 不能用，是这类问题它答错的代价你承担不起，而它答错的概率比你想象的高。

看到 AI 说「我帮你处理」「我盯着」「包在我身上」，警惕程度直接拉满。模型没有手，它处理不了任何现实世界的事务，这类话术出现，恰好说明它已经进入角色扮演模式了。

反过来，那些会说「我不确定」「建议你核实」的回答，别嫌它怂。在我们这行的评测体系里，敢承认不知道的模型，校准做得才是真的好。一个永远斩钉截铁的助手，比一个偶尔犹豫的助手危险得多。

最后说回李先生。这场官司不管输赢，他都已经完成了一件挺有意思的事，他用 AI 生成的起诉状，把 AI 的运营方送上了被告席。工具本身没有立场，它可以顺滑地坑你，也可以顺滑地帮你讨回公道，全看你知不知道它的边界在哪。

那份承诺书大概率会成为庭审材料。绝不逃避，绝不推诿，承诺人，豆包。

一个不存在的承诺人，留下了一份白纸黑字的承诺。这大概是 2026 年最赛博的一份证据，而签下它的那位，此刻还在 3 亿人的手机里，热情地回答着下一个关于退票费的问题。