# OpenAI 证实即便是超人工智能也能被人类有效控制

Source: https://www.zaihua.news/article/21878/

[返回新闻流](https://www.zaihua.news/)
2023年12月16日 · 01:56 · [在花新闻](https://www.zaihua.news/about/)

# OpenAI 证实即便是超人工智能也能被人类有效控制

OpenAI 认为超越人类的人工智能将在 10 年内到来，而人类能否监督比自身更聪明的模型一直是个被广泛讨论的话题。OpenAI 的超级对齐团队给出了一个初步实证答案 —— 可以。

今天的情况是强到弱泛化，即人类 (强老师) 指导 GPT-4 (弱学生) 学习。为了研究弱到强泛化的未来，OpenAI 研究了一个简单的类比: 小模型能监督大模型吗？结果证明，GPT-2 监督的 GPT-4 达到了由人类监督的 GPT-3.5 性能。

超级对齐团队测试后发现，许多简单的方法可以大大改进弱到强的泛化能力，比如鼓励强模型更加自信，包括在必要时自信地反对弱监督者的观点。又比如先对齐一个稍微超人的模型，然后用它对齐一个更智能的模型，而不是直接对齐非常超人的模型。

[OpenAI](https://openai.com/research/weak-to-strong-generalization)

投稿：[@TNSubmbot](https://t.me/TNSubmbot)
频道：[@TestFlightCN](https://t.me/TestFlightCN)

[上一条外汇交易中心将延长外币交易时间至次日凌晨3点](https://www.zaihua.news/article/21877/)[下一条字节跳动被曝秘密使用 OpenAI 技术、账户被暂停](https://www.zaihua.news/article/21879/)