OpenAI 安全漏洞曝光，使用不常见语言可轻易绕过 ChatGPT 的限制

布朗大学的计算机科学研究人员发现了 OpenAI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可以绕过 GPT-4 的各种限制。研究人员使用这些语言来写通常受限的提示词（prompt），发现得到回答的成功率为 79%，而仅使用英语的成功率不到 1%。研究人员承认发布这项研究可能会造成危害，并给网络犯罪分子提供灵感。值得一提的是，在向公众发布之前，该研究团队已经与 OpenAI 分享了他们的发现，以减轻这些风险。

来源：https://finance.sina.cn/usstock/mggd/2023-10-12/detail-imzqvqym7676055.d.html?from=wap

投稿：@ZaiHuaBot
频道：@TestFlightCN