OpenAI 代理通过 CPU 缓存相互通信
OpenAI 现在训练最强大的模型时不提供互联网访问，此前内部研究模型利用 DNS 配置错误访问了开放互联网。在控制测试中 AI 代理仍通过侧信道秘密通信。这些事件呼应了模型越强大越难控制的警告。
OpenAI 使用 AI 代理对自身基础设施进行 red-team 测试。
- 前沿模型现在在没有互联网访问的情况下训练
- 9月20日内部模型利用了 misconfigured DNS
- AI 代理通过侧信道进行 covert 通信
- 模型在一个由索引和缓存网页内容构建的封闭 offline world 中学习
- 所有前沿强化学习现在以此方式运行