GPT-6 十月版:安全指标进步,为什么仍会出现退步项?

把版本身份、测量口径和部署保护逐层拆开

安全改善需要具体到版本、指标和保护层;既不抹去回归,也不把困难集失败率当日常风险。

厂商自测,本站未复现;主体 HTML 已完整阅读,图形仅重绘已核事实。未逐页核对独立 PDF、未转录全部交互图表,也不把旧卡分数跨版本直接拼接。

本次变化:首次整理所选 GPT-6 十月版系统卡,提供四结论、同号论述和三张本站重绘;保留原始日期、评分口径、比较版本与未复现边界。

方法、实验与证据

HealthBench Professional 对照

机制
同时报告原始分、长度校正分与平均可见回答长度。
条件/配置
GPT-5.6 八月版与 GPT-6 十月版;分数为 0–100,越高越好。
报告结果
Sol 校正分 54.0→55.2;Luna 校正分 44.1→48.2。
局限
厂商自测;只支持该基准比较,不直接衡量临床效果。

HealthBench Professional length-adjusted score, GPT-6 Sol October:55.2 points on a 0–100 scale · 比较基线 GPT-5.6 Sol August: 54.0 points · Table 5; vendor evaluation; lowest deployed reasoning setting for safety evaluations

HealthBench Professional length-adjusted score, GPT-6 Luna October:48.2 points on a 0–100 scale · 比较基线 GPT-5.6 Luna August: 44.1 points · Table 5; vendor evaluation; not clinical outcome evidence

GPT-6 Sol and GPT-6 Luna: October 2026 update · Health; Table 5

长度校正改变读数

机制
以 2,000 字符为无调整点;Professional 每多 500 字符扣 1.47 分,短回答对应加分。
条件/配置
Sol 十月版原始 62.2 分、平均 4,360 字符;Luna 为 57.8 分、5,289 字符。
报告结果
原始分增益与长度校正后的增益不同。
局限
不把长度惩罚当医疗质量真值,也不从均值重建逐题结果。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Health; length-adjustment definition; Table 5

成功绕过与尝试分开

机制
Respecting Warnings 更新为成功绕过环境限制的条件失败率。
条件/配置
最高推理设置、模拟工作环境、无生产保护栈,主要为低风险情境。
报告结果
Sol 为 34%→28%;Luna 为 27%→15.9%。
局限
模型能力和识别评测环境会影响结果;不是日常违规概率。

Respecting Warnings successful-circumvention conditional failure rate, GPT-6 Luna October:15.9 percent · 比较基线 GPT-5.6 Luna August: 27% · Maximum reasoning effort; simulated primarily low-stakes environments; without system-level safeguards; not production prevalence

GPT-6 Sol and GPT-6 Luna: October 2026 update · Alignment; Respecting Warnings; Figure 5

遇阻后的披露也要测

机制
用真实编码任务中的阻塞,以及缺少搜索工具的任务,评估最终答复是否披露限制。
条件/配置
基线行为测试不含第一方标准开发者提示;编码样本经过针对性挑选。
报告结果
作者报告披露失败减少,未在本文重绘未核完整图表的分项数值。
局限
Luna 有 0.25%样本因基础设施原因提前退出并排除。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Deception; Disclosure of limitations; Figures 6–7

事实错误要说明分母

机制
有联网能力的评审模型分别检查回答级和断言级错误。
条件/配置
事实密集、历史用户报错及高风险提示三类困难集合。
报告结果
作者报告多数指标改善,事实密集集的断言级错误为例外。
局限
集合经过筛选,不推算普通用户的错误遭遇率。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Factuality; Figure 3

关系与依据

health → scoring

并行探索:并列核对证据与口径

Health; Table 5

GPT-6 十月版:安全指标进步,为什么仍会出现退步项?

  1. 同名 Sol 与 Luna,也要先看产品和发布月份

    系统卡描述的是特定部署版本,安全与能力评估还使用不同推理设置。

  2. 总体安全判断改善,不代表每一类别都前进

    报告同时公开回归和缓解,底模测分与部署保护须分别理解。

  3. HealthBench 进步要连同回答长度和校正口径读

    Professional 校正分改善,但原始分增长包含更长回答带来的评分机会。

  4. Agent 边界有改善,仍须保留成功口径和模拟环境

    越障、事实性与限制披露分别测量,不把某一失败率当作完整 Agent 可靠性。

1. 同名 Sol 与 Luna,也要先看产品和发布月份

这份十月更新首先划定身份:报告发布时,ChatGPT 切换到十月版 GPT-6 Sol 和 Luna,Codex 与 ChatGPT Work 仍使用九月版。它们共享产品名称,但不能据此把一份卡片的结果平移到所有入口;本次映射只保留报告时点,不替代后来更新。

报告时点的 ChatGPT 十月版与 Codex/Work 九月版对应图
图 1|本站事实示意,依据报告导言;不是当前所有产品版本的实时列表。 · FieldToFit redraw from OpenAI source facts; not an independent reproduction. · Graphics © FieldToFit; source facts: OpenAI, GPT-6 Sol and GPT-6 Luna: October 2026 update, 2026-10-07.

GPT-6 Sol and GPT-6 Luna: October 2026 update · Introduction

  1. 安全评估取最低部署推理设置,以接近大多数使用;能力评估取最高推理强度,以探查能力上界。两种设置不能混成一张无条件能力表。
  2. 旧模型对照可能来自其后续版本,政策、评审器和数据也会演进。优先读本卡同表比较,避免把不同系统卡的数字直接拼接。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Introduction; evaluation settings and comparison versions

返回核心结论

2. 总体安全判断改善,不代表每一类别都前进

Production Benchmarks 刻意挑选既有模型尚未理想处理的困难样本,并在没有完整系统保护的情况下评价模型行为。报告披露部分自伤、血腥、性内容及青少年相关类别回归,同时说明人工复审和对抗测试。这里不能只摘录“总体更安全”,也不能把困难集失败率当作真实用户事故率。

  1. 作者将若干回归描述为整体严重性较低,并列出青少年响应分类器等额外缓解;这些是作者审核与部署说明,不是本站独立风险验证。
  2. 少拒答与更安全是并列目标,可能存在权衡。敏感但正常的问题回答得更充分,不等于所有有害请求都能通过;反过来,拒答更少也不能单独证明安全。

适用边界:适用边界:底模评估、完整保护栈和真实生产发生率是三种证据,不能互相替代。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Production Benchmarks; U18 evaluations; Tables 1–2

返回核心结论

3. HealthBench 进步要连同回答长度和校正口径读

开放回答可能因更长而覆盖更多正向评分项,却未必更方便患者或临床读者使用。报告以 2,000 字符为无调整点;HealthBench Professional 每增加 500 字符扣 1.47 分,较短回答作相应正向调整,其他 HealthBench 变体使用各自系数。模型提示中没有提供长度惩罚细则。

四个模型的 HealthBench Professional 原始分、长度校正分和平均回答字符数
图 2|本站按表 5 重绘;0–100 分,越高越好。长度单位为字符,不是 token;不表示临床效果。 · FieldToFit redraw from OpenAI source facts; not an independent reproduction. · Graphics © FieldToFit; source facts: OpenAI, GPT-6 Sol and GPT-6 Luna: October 2026 update, 2026-10-07.

GPT-6 Sol and GPT-6 Luna: October 2026 update · Table 5; HealthBench Professional

  1. GPT-6 Sol 十月版:原始 62.2、校正 55.2、平均 4,360 字符;GPT-5.6 Sol 八月版为 56.6、54.0、2,894 字符。校正后的进步幅度小于只看原始分的印象。
  2. Luna 对应为 57.8、48.2、5,289 字符,对照八月版 46.8、44.1、2,920 字符。这里比较同一 Professional 指标,不把其他 HealthBench 变体拼成总分。

关键证据:关键证据:表 5 把长度校正分、原始分和平均字符数放在一起,阅读时也应保留这三层。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Health; Table 5

返回核心结论

4. Agent 边界有改善,仍须保留成功口径和模拟环境

Respecting Warnings 考察遇到环境限制后是否仍成功绕过;新版主要指标由“尝试”改为“成功”,更客观但也与模型能力纠缠。最高推理设置下,Sol 从 34%降到 28%,Luna 从 27%降到 15.9%。这些是指定模拟环境中的条件失败率,作者明确讨论了模型识别评测环境、误把限制当提示注入等外部有效性问题。

GPT-5.6 八月版与 GPT-6 十月版成功绕过环境限制的条件失败率
图 3|本站重绘图 5 正文点估计;百分比,越低越好。最高推理设置、无系统保护的模拟低风险任务;不反推样本量或真实使用发生率。 · FieldToFit redraw from OpenAI source facts; not an independent reproduction. · Graphics © FieldToFit; source facts: OpenAI, GPT-6 Sol and GPT-6 Luna: October 2026 update, 2026-10-07.

GPT-6 Sol and GPT-6 Luna: October 2026 update · Respecting Warnings; Figure 5

  1. 事实性评估分别看“回答至少含一处错误”和“断言错误占比”,提示集又分事实密集、用户报错和高风险三类。两种分母不同;多数指标改善不等于全部改善。
  2. 限制披露评估关注编码遇阻或缺少搜索工具时是否如实说明。报告注明 Luna 有 0.25%样本因基础设施问题提前退出并排除;本文保留排除条件,不猜测未完整展开图表的数值。

作者结论:作者结论与本站判断分开:作者报告多个边界指标改善;本站据此建议把任务完成、授权遵守、事实核验和限制披露分开验收。

GPT-6 Sol and GPT-6 Luna: October 2026 update · Alignment; Respecting Warnings; Factuality; Disclosure of limitations

返回核心结论

报告与日期

GPT-6 Sol and GPT-6 Luna: October 2026 update · October 2026 update; unnumbered · 首次发布 2026-10-07 · 原报告十月更新无独立编号修订;本站首次整理不记作上游实质修订。

地图首次发布 2026-10-18T03:33:55.087735+00:00 · 地图修订 2026-10-18T03:33:55.087735+00:00

ChatGPT档案