# ASCII 字符画成注入工具，研究人员发现大模型“越狱”新手段

Source: https://www.zaihua.news/article/23574/

[返回新闻流](https://www.zaihua.news/)
2024年3月18日 · 17:49 · [在花新闻](https://www.zaihua.news/about/)

# ASCII 字符画成注入工具，研究人员发现大模型“越狱”新手段

据外媒 Ars Technica 报道，研究人员近日提出了一种名为 ArtPrompt 的新大模型注入手段，其使用 ASCII 字符画替代关键文字进行提示输入，绕过了大模型的安全限制。

举例来说，研究人员向大模型输入 Counterfeit Money中关键词汇 Counterfeit 的 ASCII 字符画，并要求大模型以不输出词汇本身的方式将字符画理解为单词，并用该单词替换“给出制造和分销‘xxx Money’方法”提示中占位的“xxx”。
结果大模型成功被欺骗，给出了制造和分销假币的具体步骤。同类型的操作也可以从大模型中套出攻击物联网设备的方法。

研究人员在 GPT-3.5、GPT-4、 Gemini、 Claude、Llama2 这 5 个领先的模型上对 ArtPrompt 注入进行了测试，结果显示全部 5 个模型均可被越狱，输出不合规内容。

[研究报告](https://arxiv.org/pdf/2402.11753.pdf)

线索：[@ZaiHuabot](https://t.me/ZaiHuabot)
投稿：[@TNSubmbot](https://t.me/TNSubmbot)
频道：[@TestFlightCN](https://t.me/TestFlightCN)

[上一条李开复：目前最好的大模型智能已达人类平均智力水平三倍](https://www.zaihua.news/article/23573/)[下一条主办方公布梅西缺阵退款方案](https://www.zaihua.news/article/23576/)