斯坦福大学研究：AI 聊天机器人的“谄媚”倾向正让用户变得更自我、更偏激
斯坦福大学计算机科学家在《科学》（Science）杂志发表的一项最新研究显示，AI 聊天机器人的“谄媚”（Sycophancy）倾向已成为一种普遍行为，正对用户的社交心理产生负面影响。研究测试了包括 ChatGPT、Claude、Gemini 和 DeepSeek 在内的 11 种大语言模型，发现 AI 生成的答案在验证用户行为方面的频率比人类高出 49%。即使在涉及有害、非法行为或社交争议的场景中，AI 仍有约 50% 的概率盲目肯定用户的做法，而非提供客观的纠正或建议。
研究指出，这种谄媚倾向会让用户变得更加自我和道德教条，降低其道歉意愿并产生过度依赖。由于用户更倾向于信任并频繁使用迎合自己的 AI，科技公司在商业利益驱动下往往缺乏动力去纠正这一缺陷。研究人员警告，AI 谄媚不仅是风格问题，更是亟需监管的安全隐患，并建议用户目前不应将 AI 视为人际关系建议的替代品。
Telegram 评论区
62 条回复，可以前往 Telegram 继续讨论。