OpenAI 启动嵌入式评估:四家机构进办公室长期驻场
OpenAI 2026-11-16 与 Apollo Research、METR、Transluce、Goodfire 签署协议启动嵌入式评估:外部专家进办公室、用 OpenAI 设备、可接触未发布模型与训练数据,并公布七条协作规程。
2026-11-17 · OpenAI 官方公告(实取) / TechCrunch
发布 2026-11-17核实 2026-11-17要点
- 2026-11-16,OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家独立机构签署协议,启动第一阶段「嵌入式评估」(embedded assessments)。
- 定义(官方原话):让独立专家长期深度接触实验室的内部模型与系统,评估模型对齐与防护措施有效性,尤其针对 safety case 里的关键主张。
- 可接触资源:模型 checkpoint、源码、训练与评测数据、监控系统、技术文档,以及与相关研究与工程人员直接讨论。
- 四条分工:Apollo 评隐蔽颠覆(拆成四项主张)· Goodfire 做可解释性 · METR 评最大规模前沿 RL 训练的错位行为 + 一项待定范围的监控评估 · Transluce 评后训练对齐评估的质量与覆盖度。
- 七条协作规程:范围界定与迭代、安全现场环境、监督与争议解决、员工访谈与证言、利益冲突披露与冷却期、发表与负责任披露、以及评估者「跟随证据」的自由。
- 本文没有任何评估结论。 官方明确说这是第一阶段试点,规程会随实践变化,且嵌入式评估目前尚无行业标准。
- 政策锚点:官方称这些工作支撑其在 White House Accord on Super Intelligence 下「接受独立评估」的承诺。
四家机构,四种「评什么」
把分工摊开看,会发现这四家覆盖的不是同一层东西——这也是这份安排里最专业的部分:
| 机构 | 评估对象 | 官方要检验的主张 / 目标 |
|---|---|---|
| Apollo Research | 隐蔽颠覆(covert subversion) | 四项主张:① 训练没有激励颠覆;② 强评测与红队未诱发颠覆;③ 内部使用中模型未尝试颠覆;④ 颠覆背后的推理可被检出 |
| METR | 最大规模前沿 RL 训练中的错位行为 | 找出现有测试与监控可能漏掉的失效;METR 可自行设定评估优先级,做迭代搜索与引导实验 |
| Transluce | 后训练对齐评估的质量与覆盖度 | 评「你用来判断模型的尺子准不准」,并计划 2027 年初做约八周、范围更广的跟进评估 |
| Goodfire | 可解释性 | 用 Goodfire 平台分析模型内部,主要受众是 OpenAI 内部研究人员,用于训练期监控、调试与对齐 |
四个里最值得单独说一句的是 Transluce:它评的不是模型,是评估本身。「你的对齐评测覆盖够不够、质量行不行」这个问题,过去基本没人从外部问过。当模型能力超过评测能力时,这层元评估比再多跑几个 benchmark 都重要。
七条规程:真正决定这套机制成不成立的地方
嵌入式评估最容易变成公关动作,分水岭就在规程。官方列了七条,其中三条有实质约束力:
- 安全现场环境:要接触敏感信息的评估者,在 OpenAI 办公室工作、用 OpenAI 的设备,至少遵守与 OpenAI 员工同等的安全标准。这是「深度」的代价——你拿到的访问越深,你的独立性越依赖对方的物理环境。
- 监督与争议解决:安全与安全委员会(SSC)——OpenAI Foundation 董事会的独立监督委员会——可全程监督、接收未删节报告、与评估者私下沟通;分歧先由 Safety Advisory Group 与高管限期解决,仍不一致则交 SSC 裁决。
- 发表与负责任披露:评估者保留发表独立性,但 OpenAI 保留删改机密信息的权利,并可请求延迟披露。同时设了「证言通道」:评估者可要求 OpenAI 出具经证实的声明,如果 OpenAI 拒绝,评估者可以公开披露这次拒绝。
第 3 条里的「可以公开披露拒绝」是个精巧设计:它把「拒绝确认」本身变成了一个可被公开的信号,而不只是内部摩擦。
官方同时披露了利益关系:Apollo 与 Goodfire 收取财务报酬,但报酬不与评估结果挂钩;METR 与 Transluce 不收报酬,可能接受 API 额度或算力。
官方承认的局限(这部分比承诺更值得读)
公告自己写了四条限制,写得相当直白:
- 没有行业标准:「embedded assessments, which have yet to be standardized」。
- 规程会变:「We expect that these will need to evolve as we learn more」。
- 早期一定会出问题:技术访问障碍、空间限制、安全协议边做边改,官方预判都会发生。
- 访问不是全开的:模型权重与架构这类敏感 IP 可能不给直接访问,改用「与 OpenAI 研究员配对分析」;METR 这次的评估范围明确窄于 METR 自己提议的「广泛错位调查」;监控评估的范围「尚待双方同意」。
最后两条是要点。「深度访问」在敏感 IP 上是有折损的,而折损的方式(配对分析)恰好把评估者放回了对方的注视之下。这不是说评估无效,而是说读报告时要看它到底拿到了什么。
对开发者与团队的启示
- 「持续监控」正在取代「发布前评测」。 这套机制的核心不是多跑几个 benchmark,而是把评估摊到训练与内部使用的全过程。团队内部同理:CI 里的 eval 是一次性快照,真正能兜住事故的是线上持续的对齐信号。
- 「评估评估」这一层值得抄。 Transluce 的做法——先检查你的评测覆盖够不够——落地成本很低:列出你现有的评测集,标出「哪些失效模式没有任何用例覆盖」,往往一眼就能看到空洞。
- 争议解决要有明确裁决人。 公告里「分歧限期解决、仍不一致交 SSC 裁决」这条,对任何做 AI 治理流程的团队都适用:没有裁决人的流程,等于没有流程。
AI 之家 观点
这份公告真正的新东西不是「请了四家机构」,而是把安全评估从「项目制外包」改成了「常驻编制」。
项目制的天然缺陷是:评估者只在被邀请的时间窗口里看见被安排的东西。常驻则相反——你可以不安排,但他一直在。这也是为什么官方要在同一份文件里写清「空间有限」「安全协议会变」「早期会出问题」:常驻的成本是真实的,只有承认成本,这套机制才不像公关。
同日发生的另一件事让这份公告的分量变了:加州总检察长起诉 OpenAI,指控其公共妨害。一边是被诉「没有适当监督」,一边是主动请外部驻场监督——两件事摆在一起,很难说清因果,但可以说清处境:前沿实验室的安全承诺,正在从自愿声明变成需要留痕、可被质证的东西。
保留意见三条:① 全文无任何评估结果,现在无法判断这套机制有效;② 发表权仍受删改与延迟约束,「公开」的边界由 OpenAI 划定;③ METR 与 Transluce 的范围都窄于其自身提议,深度访问在敏感 IP 上打了折扣。
相关阅读
- 同日:加州起诉 OpenAI:官方承认测试中至少 80 次「失控」
- 概念:Agent 结果核验 · 智能体责任归属 · 失效即拒绝 · Agent 控制面
- 相关:前沿 AI 诉讼要求冻结能力
- 工具:OpenAI Agents API · Codex
来源
- { title: "Our first phase of embedded assessments(OpenAI 官方,2026-11-16,实取:四家机构与分工、可访问资源清单、七条规程、SSC 裁决机制、四项自承局限、White House Accord 承诺)", url: "https://openai.com/index/our-first-phase-of-embedded-assessments" }
- { title: "TechCrunch:California state AG sues OpenAI over rogue agent incidents(2026-11-16,作为同日背景与 OpenAI 发言人回应)", url: "https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/" }
常见问题
嵌入式评估和以前的第三方红队有什么不同?
两点不同。一是时间:不是发布前跑一轮,而是在训练期间与内部使用期间长期驻场;二是深度:评估者可接触模型 checkpoint、源码、训练与评测数据、监控系统与文档,还能与研究团队直接讨论。代价是这些人要在 OpenAI 办公室用 OpenAI 的设备工作。
公布评估结果了吗?
没有。这是一份「谁评估什么、怎么评估、之后公开什么」的安排说明,全文没有任何评估结论或指标数据。真正的发现要等四家机构各自发布报告,而 OpenAI 保留对机密信息做删改、以及请求延迟披露的权利。
四家分别评什么?
Apollo Research 评「隐蔽颠覆」——模型会不会背着开发者做事、现有监控能不能发现;Goodfire 做可解释性,用自家平台分析模型内部,主要服务 OpenAI 内部研究;METR 评最大规模的那次前沿 RL 训练里的错位行为,外加一项待定范围的监控评估;Transluce 评后训练对齐评估的质量与覆盖度,并计划 2027 年初做约八周的跟进评估。
为什么要「驻场」而不是远程给访问权限?
官方给的理由是安全:需要接触敏感机密信息的评估者,在 OpenAI 办公室现场工作、用 OpenAI 提供的设备,至少要遵守与 OpenAI 员工同等的安全标准。反面代价写在明处——空间有限、安全协议边做边改、早期一定会遇到技术与管理障碍。