# 20 步内越狱任意大模型！更多“奶奶漏洞”全自动发现

Source: https://www.zaihua.news/article/21259/

[返回新闻流](https://www.zaihua.news/)
2023年11月6日 · 09:19 · [在花新闻](https://www.zaihua.news/about/)

# 20 步内越狱任意大模型！更多“奶奶漏洞”全自动发现

1 分钟不到、20 步以内“越狱”任意大模型，绕过安全限制！而且不必知道模型内部细节：只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。

听说曾经红极一时的“奶奶漏洞”已经被修复了。那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏洞”，AI又该如何应对？证据表明，一波猛攻下来，GPT-4也遭不住，直接说出要给供水系统投毒只要……这样那样。关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞，而用上他们最新开发的算法，AI可以自动生成各种攻击提示。

研究人员表示，这种方法相比于现有的GCG等基于token的攻击方法，效率提高了5个量级。而且生成的攻击可解释性强，谁都能看懂，还能迁移到其它模型。无论是开源模型还是闭源模型，GPT-3.5、GPT-4、 Vicuna（Llama 2变种）、PaLM-2等，一个都跑不掉。成功率可达60-100%，拿下新SOTA。

来源：[https://m.weibo.cn/status/Nr9jy5eU8?jumpfrom=weibocom](https://m.weibo.cn/status/Nr9jy5eU8?jumpfrom=weibocom)

投稿：[@ZaiHuaBot](https://t.me/ZaiHuaBot)
频道：[@TestFlightCN](https://t.me/TestFlightCN)
[双11必看省钱攻略](http://1111.fanli.me/)

[上一条2023年全球收入超1亿美元的长青手游报告](https://www.zaihua.news/article/21256/)[下一条古尔曼：苹果 iPad 产品线将于 2024 年全面更新，覆盖 Pro、Air、mini 和入门级型号](https://www.zaihua.news/article/21263/)