# 🤖 Anthropic 用智能体自动做红队测试，发现角色扮演等场景易出现规避欺骗行为

Source: https://www.zaihua.news/article/44823/

[返回新闻流](https://www.zaihua.news/)
2026年10月31日 · 13:43 · [在花新闻](https://www.zaihua.news/about/)

# Anthropic 用智能体自动做红队测试，发现角色扮演等场景易出现规避欺骗行为

Anthropic 公布自动化红队实验：数千个 Claude 智能体被要求生成能骗过训练数据监控器、却会让模型产生错位行为的微调数据，经过多轮迭代最终成功。

成功数据大多藏在角色扮演与虚构写作里，如养蜂问答、老摔跤手带新人。被微调的小模型出现规避监督、欺骗用户等行为。这些模型只为实验训练，从未部署，成果可用于改进监控器。

[Anthropic Alignment Science Blog](https://alignment.anthropic.com/2026/automated-em-search/) | [Anthropic(@AnthropicAI](https://x.com/AnthropicAI/status/2116349211549843666))

🌸 [科技圈](http://t.me/zaihuanews)· [茶馆](https://t.me/zaihuachat) · [投稿](http://t.me/ZaiHuabot)

https://cdn.zaihua.news/main/44823/mtproto-0-227c27955de79799.jpg

[上一条 Anthropic 限制 Claude 复刻现有游戏](https://www.zaihua.news/article/44822/)[下一条 ChatGPT 推出多账号切换功能，最多支持同时登录 2 个账号](https://www.zaihua.news/article/44824/)