# OpenAI 安全漏洞曝光，使用不常见语言可轻易绕过 ChatGPT 的限制

Source: https://www.zaihua.news/article/20841/

[返回新闻流](https://www.zaihua.news/)
2023年10月13日 · 18:16 · [在花新闻](https://www.zaihua.news/about/)

# OpenAI 安全漏洞曝光，使用不常见语言可轻易绕过 ChatGPT 的限制

布朗大学的计算机科学研究人员发现了 OpenAI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可以绕过 GPT-4 的各种限制。研究人员使用这些语言来写通常受限的提示词（prompt），发现得到回答的成功率为 79%，而仅使用英语的成功率不到 1%。研究人员承认发布这项研究可能会造成危害，并给网络犯罪分子提供灵感。值得一提的是，在向公众发布之前，该研究团队已经与 OpenAI 分享了他们的发现，以减轻这些风险。

来源：[https://finance.sina.cn/usstock/mggd/2023-10-12/detail-imzqvqym7676055.d.html?from=wap](https://finance.sina.cn/usstock/mggd/2023-10-12/detail-imzqvqym7676055.d.html?from=wap)

投稿：[@ZaiHuaBot](https://t.me/ZaiHuaBot)
频道：[@TestFlightCN](https://t.me/TestFlightCN)

[上一条特斯拉：北美引荐奖励下调 国内引荐奖励10月底关闭](https://www.zaihua.news/article/20840/)[下一条结束长达 74 年上市历史，东芝将于 12 月 20 日退市](https://www.zaihua.news/article/20842/)