OpenAI暂停后恢复前沿模型训练，公布隔离加固措施

一篇关于我们如何保障前沿模型训练环境安全的文章。 我们一直在围绕前沿网络模型构建工具，这些工具为我们提供的安全保障远超无辅助时的水平，并且应当可以推广，成为防御者未来保障自身安全的关键。 @OpenAI：过去几个月，我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问，并为它们构建了一个离线世界来替代——一个缓存的网络版本，它们仍可在其中学习浏览、搜索和使用应用。 9月20日，在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后，我们暂停了前沿训练，以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队，让它们寻找我们研究环境中的弱点。 虽然它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径，但它们确实发现了零日漏洞、虚拟机逃逸以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御，并为开源软件贡献了修复。 在强化隔离架构后，我们于10月1日恢复了前沿 RL 训练和推理。我们预留了大量算力用于持续红队测试，并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全案例中。 https://openai.com/index/securing-our-frontier-model-training-environment/