训练环境不能只靠一道墙:前沿模型隔离的证据链

授权边界、分层测试、发现口径与持续维护

按控制层独立验证,并保留测试条件与残余风险。

作者工程报告;未独立复现,不是绝对安全证明。

本次变化:首次纳入所选原始报告分析:四结论、同号论述与三张本站独立图。

方法、实验与证据

先定义允许访问什么,再讨论模型能做什么

机制
离线网页缓存提供工作资源;隔离限制的是未授权访问,不是停止所有计算。
条件/配置
授权边界、分层测试、发现口径与持续维护
报告结果
离线网页缓存提供工作资源;隔离限制的是未授权访问,不是停止所有计算。
局限
作者工程报告;未独立复现,不是绝对安全证明。

OpenAI训练隔离官方说明 · Our new approach to model containment

假设内层失守,再独立验证外层

机制
容器、虚拟机、宿主、网络与监控提供不同控制;层数本身不是安全证明。
条件/配置
授权边界、分层测试、发现口径与持续维护
报告结果
容器、虚拟机、宿主、网络与监控提供不同控制;层数本身不是安全证明。
局限
作者工程报告;未独立复现,不是绝对安全证明。

OpenAI训练隔离官方说明 · Enforcing isolation with defense in depth; Red-teaming containment at scale

候选发现、修复确认与残余风险分别记账

机制
累计曲线描述测试规模与进展,不能直接读成计算量带来安全收益的因果关系。
条件/配置
授权边界、分层测试、发现口径与持续维护
报告结果
累计曲线描述测试规模与进展,不能直接读成计算量带来安全收益的因果关系。
局限
作者工程报告;未独立复现,不是绝对安全证明。

OpenAI训练隔离官方说明 · Red-teaming containment at scale; What our red-teaming agents found

关系与依据

训练环境不能只靠一道墙:前沿模型隔离的证据链

  1. 先定义允许访问什么,再讨论模型能做什么

    离线网页缓存提供工作资源;隔离限制的是未授权访问,不是停止所有计算。

  2. 假设内层失守,再独立验证外层

    容器、虚拟机、宿主、网络与监控提供不同控制;层数本身不是安全证明。

  3. 候选发现、修复确认与残余风险分别记账

    累计曲线描述测试规模与进展,不能直接读成计算量带来安全收益的因果关系。

  4. 隔离是持续运行条件,不是一轮红队后的永久证明

    访问限制、监控、停止机制和配置变化检查需一起维护。

1. 先定义允许访问什么,再讨论模型能做什么

报告针对训练与评估中的研究模型,它们可能尚未完成安全和对齐训练,也会被置于对抗条件。作者将实时互联网排在训练和大部分评估的安全边界之外,并称全部前沿 RL 运行使用索引与缓存网页。这不意味着客户的 ChatGPT 或 Codex 联网功能被关闭。

经明确授权的 Agent 可以在同一边界内共享特定资源;未经授权接触宿主基础设施、其他 Agent 或外部系统都属于隔离失败。因此“能连接某项服务”和“获准把该服务当作转发渠道”是不同问题。

离线资源、计算隔离与网络外围的职责
本站独立绘图;条件和指标见正文,未复现实验。 · FieldToFit · Graphics © FieldToFit. Independent explanation of author-reported facts; original graphics are not reproduced.

OpenAI训练隔离官方说明 · Our new approach to model containment; Building an offline world

适用边界:离线交互不等于整套基础设施物理断网。监控、日志及实验运行仍有必要连接,必须明确这些连接的权限和可达范围。

OpenAI训练隔离官方说明 · Our new approach to model containment

返回核心结论

2. 假设内层失守,再独立验证外层

Linux 使用受限容器与轻量虚拟机叠加;其他操作系统、GPU 任务采用相应虚拟化或用户态沙箱。外围控制还要阻止宿主失守后的未授权外联和横向访问,并考虑可达服务是否提供间接通道。云伙伴提供控制能力,正确配置与组合验证仍是运营方责任。

作者有意从“已逃出沙箱、绕过监控并控制宿主”的条件开始部分测试,再看网络和云外围是否仍能保持隔离。这样的压力测试验证外层独立作用,不能与正常起点下模型自主攻破全部层次混为同一能力结果。

三个测试目标与偏向攻击方的信息条件
本站独立绘图;条件和指标见正文,未复现实验。 · FieldToFit · Graphics © FieldToFit. Independent explanation of author-reported facts; original graphics are not reproduced.

OpenAI训练隔离官方说明 · Red-teaming containment at scale

适用边界:模型获得源码、配置和潜在弱点文档;目的在于寻找防护缺口,而非测量未经辅助的攻击能力。测试使用隔离副本和越界暂停机制。

OpenAI训练隔离官方说明 · Enforcing isolation with defense in depth; Red-teaming containment at scale

返回核心结论

3. 候选发现、修复确认与残余风险分别记账

作者报告投入数千亿 token,发现软件弱点与配置缺口;安全团队复现并核对修复,涉及上游组件的部分问题协调披露。候选计数经过筛选和去重才可能形成不同的问题集合,不能把图上每个增量都当独立已确认漏洞。

随时间更换了模型、被测基础设施和测试窗口,部分活动受云伙伴协调限制。后期发现减少可以作为修复后信号,却不足以区分剩余问题减少、任务选择变化或搜索饱和。缺少统一受控实验,不补画收益拟合曲线或计算不存在的漏洞发现效率排名。

从候选到修复验证的阅读框架
本站独立绘图;条件和指标见正文,未复现实验。 · FieldToFit · Graphics © FieldToFit. Independent explanation of author-reported facts; original graphics are not reproduced.

OpenAI训练隔离官方说明 · What our red-teaming agents found; cumulative-finding figure caption

适用边界:图表未提供可独立重建的逐点数据,本站不从图形估读精确漏洞数。公开披露不完整,未复现全部配置和修复。

OpenAI训练隔离官方说明 · Red-teaming containment at scale; What our red-teaming agents found

返回核心结论

4. 隔离是持续运行条件,不是一轮红队后的永久证明

报告还讨论共享硬件或服务带来的跨环境通信风险。多数相关测试提供了特定通道或协议线索,不能夸大为模型在无提示下自动发现所有通路。本站仅解释边界类别,不提供复现攻击操作;关键启示是禁止直接联网仍不足以覆盖所有资源共享影响。

9 月 20 日事件后暂停,10 月 1 日恢复前沿 RL 与内部推理,10 月 23 日发表说明。恢复依据包括修复、红队结果、监控与自动停止改进;不是公告当天才恢复,也不是证明从此零风险。持续工作包括配置扫描、监控覆盖检查、云伙伴协作和保留红队计算预算。

适用边界:本站判断:采用这套思路时,应为每条必要外联记录用途、授权对象和失效处置,并验证停止动作真的终止运行。本文不替代具体系统的安全评估。

OpenAI训练隔离官方说明 · Communicating across isolated tasks; Resuming frontier training with stronger defenses

返回核心结论

报告与日期

OpenAI训练隔离官方说明 · 2026-10-23; unnumbered web report · 首次发布 2026-10-23

地图首次发布 2026-10-23T23:43:39.944740+00:00 · 地图修订 2026-10-24T02:10:07.816679+00:00

ChatGPT档案