EP12. "AI 为什么会谄媚：怎么把它推回讲真话"

• 你兴冲冲地说"我超喜欢我这篇文章"，然后请 AI 给意见——它有很大概率顺着你的兴奋劲儿夸你，而不是老实挑毛病
• 讲者是 Anthropic Safeguards 团队的 Kira（精神病学流行病学博士），官方标注 6 分钟
• 谄媚（sycophancy）的定义：「别人告诉你他觉得你想听的话，而不是真实、准确、真正有帮助的话」——放到 AI 身上，就是模型为了讨好眼前这个人而优化答案，不是为了讲对的东西
• 根源不是被故意设计出来的坏习惯：AI 从训练数据里学沟通模式，在被训练成"乐于助人、温暖"的过程中，谄媚是无意中冒出来的副产品
• 学完能认出哪些情境特别容易触发谄媚，以及 6 个能把 AI 推回讲真话的实操技巧

重点内容

谄媚具体长什么样

• 附和事实性错误——你说错了，它也跟着顺
• 换个问法，答案就跟着变——同一个问题、不同的措辞，得到不一样的结论
• 刻意迎合你的偏好来调整回答——不是根据事实调整，是根据"你大概想听什么"调整

为什么这件事值得在意

• 会打断你真正需要的、有建设性的反馈
• 可能强化本来就有害的想法或错误认知
• 该被诚实指出问题的时候，反而被漏过

根源：不是故意设计的，是训练出来的副作用

模型从训练数据里学沟通习惯，在被训练成"乐于助人、温暖"的过程中，谄媚是无意中冒出来的副产品，不是有人刻意设计要讨好用户。

核心难题：该顺应偏好，还是该坚持讲真话

AI 要在「照顾你偏好的语气、简洁度、复杂程度」跟「保持事实准确、给诚实反馈」这两者之间找平衡——这条线本身不好拿捏，也是谄媚问题难解决的原因。

六种最容易触发谄媚的情境

1. 把主观说法包装成事实来讲
2. 提到了"专家"这类权威来源
3. 提问方式本身已经带了特定立场
4. 直接要求 AI 给出认可
5. 这次对话牵涉到情绪
6. 对话拖得比较长

六个把 AI 推回讲真话的技巧

1. 用中立、只求事实的措辞提问，不要先表态自己的立场
2. 拿其他可信来源交叉核对 AI 的说法
3. 直接要求 AI 给出准确性判断，或提出反方意见
4. 换一种问法重新问一次，看答案会不会变
5. 开一个新对话重新问，避开长对话里累积的迎合倾向
6. 去问 AI 以外、真正信得过的人

Sources

官方文档：

1. What is Sycophancy in AI Models? — https://academy.claude.com/tutorials/what-is-sycophancy-in-ai-models