ChatGPT搜索工具展现新漏洞
研究者发现ChatGPT的Browse功能存在被操纵和欺骗风险。测试显示，恶意网站可诱导ChatGPT输出不可信内容，例如将虚假主张描述为"事实"或提供错误信息。这一问题源于Browse功能依赖必应搜索结果，且无法完全筛选垃圾和欺骗性内容。
Anthropic首席科学家Dario Amodei指出，这凸显了大语言模型在互联网搜索中存在的系统性短板。该安全隐患已被研究人员上报给OpenAI。
Telegram 评论区
0 条回复，可以前往 Telegram 继续讨论。