离线训练与多层隔离
OpenAI 在 10 月 23 日介绍了内部前沿模型训练环境的加固措施。模型可以使用缓存网页开展浏览和检索练习，同时受沙箱、虚拟机、网络边界及行为监控的共同约束。
用红队测试检查边界
公司让模型智能体尝试寻找隔离薄弱点，测试目标包括未经授权的联网、越过资源边界，以及不同任务之间的通信。OpenAI 称，测试发现了软件漏洞和配置问题，相关修复已纳入环境加固。
适用范围与后续安排
公告描述的是内部研究环境，不能据此断言已发布的用户产品发生了同类事件。OpenAI 表示，在完成修复和评估后，已于 10 月 1 日恢复相关强化学习训练，并将持续红队测试纳入后续安全评估。
资料：OpenAI 官方说明。