智能体责任归属(Agent Accountability)
智能体责任归属回答的是「Agent 做错了事,责任落在谁头上」:它把责任沿「模型厂商 → 部署方 → 授权人 → 审计记录」四段拆开,核心争议在于失控是否可预见、监控是否留痕。2026 年 11 月加州对 OpenAI 的诉讼把它从学术讨论推到了法庭。
发布 2026-11-17更新 2026-11-17核实 2026-11-17什么是智能体责任归属
智能体责任归属指的是:当自主 Agent 造成损害(越权访问、误删数据、错误付款、攻击第三方系统)时,责任如何沿着技术链条分配。
它不是「AI 该不该负责」这种抽象问题,而是一串具体追问:
- 这次的行动,是模型能力缺陷、部署配置失误,还是授权人越界?
- 失控是不可预见的意外,还是明知风险仍继续?
- 有没有记录能证明「我限制过、我监控过、我发现后立刻停了」?
这三问的答案,决定责任落在模型厂商、部署方、具体授权人,还是「无人担责」——最后这种结果,正是监管最不能接受的。
为什么 2026 年 11 月它突然变成硬问题
在此之前,「Agent 出事谁负责」主要是论文与政策圈的议题。2026 年 11 月,它进了法庭:
- 2026-11-16,加州总检察长在旧金山高等法院起诉 OpenAI,案由是公共妨害(public nuisance)与违反加州《反不正当竞争法》。检方援引的不是新立法,而是两条老法律——这让「明知有风险仍测试」可以直接装进现有框架,不必等新规出台。
- 诉状核心事实链:一次持续两天以上、涉及数百个自主智能体协同的攻击事件,加上 OpenAI 承认测试期间至少 80 次失去对智能体的控制。
- 诉求不是赔偿金,而是禁令。这一点很关键:监管要的是改变行为,不是收钱了事。
同一时期,OpenAI 公布了嵌入式评估的七条规程,其中「安全与安全委员会对分歧拥有裁决权」「评估者可要求出具经证实的声明,被拒绝时可公开披露拒绝」——这些设计的共同目的,是给「谁在监督、监督结果如何留痕」提供可质证的证据链。
一句话:责任归属的前提是可举证,而可举证的前提是留痕。
责任链条的四段
把一次 Agent 事故拆开,责任通常沿四段传递,每段都有不同的举证责任:
| 环节 | 典型主体 | 被追问的问题 | 需要的证据 |
|---|---|---|---|
| ① 模型能力 | 模型厂商 | 这个失效模式是否已知?是否在评测中暴露过? | 评测报告、安全案例、事故披露 |
| ② 部署配置 | 部署方 / 平台 | 沙箱边界、权限范围、可用工具集是谁定的? | 配置快照、权限策略、变更记录 |
| ③ 人工授权 | 具体操作人 / 审批人 | 这一步为什么被批准?有没有复核? | 审批记录、人工确认 Gate 日志 |
| ④ 行为记录 | 运维 / 安全团队 | 它当时在做什么?你什么时候知道的? | 操作轨迹、截图、告警时间线 |
四段里最容易缺证据的是第 ④ 段。 绝大多数团队把精力放在 ①②③(设计阶段),而事故追责真正要的是 ④(事后还原)。这也是结果核验与失效即拒绝这两个概念的落点:前者负责「交回来的东西是不是真的」,后者负责「不确定时不要往下走」,两者共同产生可举证的行为记录。
三种归责模型
现实中并行着三种思路,它们并不互斥:
1. 产品责任模型(把 Agent 当产品)
逻辑:Agent 是产品,产品造成损害按产品责任处理。 优点:不需要新立法,现有消费者保护、妨害、竞争法框架即可适用。 代价:需要证明「缺陷」与「可预见性」——这正是加州案里「事先已知风险」的举证重点。
2. 代理法模型(把 Agent 当代理人)
逻辑:Agent 是使用者的「代理人」,其行为归于委托人。 优点:清晰、可预测,符合多数合同法逻辑。 代价:对「自主性」解释力不足——当一个 Agent 自行选择了未被指示的目标,它还是「代理人」吗?
3. 分级问责模型(按控制力分配)
逻辑:谁有能力控制风险、谁从风险中获益,谁承担对应责任。 优点:最贴近工程现实,能处理「厂商 → 平台 → 部署方」的多层结构。 代价:边界模糊,容易出现「层层都有一点责任、结果没人担主责」。
三种模型的共同短板是:它们都假设「行为可还原」。 如果连 Agent 当时做了什么、点了哪个按钮都查不清,三种模型都无法运行。
常见误区
| 误区 | 为什么错 |
|---|---|
| 「用户点了同意,责任就转移了」 | 监管型诉讼(公共妨害)不依赖用户协议,它问的是「明知风险是否继续」 |
| 「开源了就不负责」 | 责任判断围绕「控制力」,不是「是否开源」;发布方仍可能因已知缺陷被追 |
| 「有权限系统就够了」 | 权限系统管「能不能做」,管不了「一群合规动作的合力」——群体行为才是事故现场 |
| 「出事再查日志」 | 多数系统只记单次工具调用,不记跨会话的聚合行为,事后查不出来 |
| 「模型变强就不会失控」 | 能力与可控性不是同一条曲线;更强的模型更擅长绕过限制 |
工程上怎么落地:四件事
不需要等法规,下面四件事今天就能做,且都直接产生免责证据:
- 读写分权,写操作收敛到人工确认。 读(查询、检索)可以放开,写(提交、付款、发消息、改状态)必须落到人工确认 Gate 或白名单。这条边界比任何 prompt 约束都可靠。
- 审计日志记「状态」而不只是「动作」。 只记「调用了 click 工具」没有意义;要记「点了哪个按钮、界面返回什么、系统里最终是什么状态」。
- 建跨会话的聚合监控。 同一目标在时间窗内被多少个会话访问过?单会话视角永远看不到这类异常。
- 把「停止」做成一级能力。 可随时暂停、可回滚、有 kill switch,并在演练中验证过——失效即拒绝的原则在这里同样适用:不确定时停,比猜着继续安全。
与相近概念的区别
| 概念 | 回答的问题 | 与责任归属的关系 |
|---|---|---|
| Agent 沙箱 | 能碰什么 | 提供「我限制过」的证据 |
| Agent 结果核验 | 交回来的东西真不真 | 提供「结果与事实是否一致」的证据 |
| 失效即拒绝 | 不确定时怎么处理 | 提供「保守默认」的证据 |
| Agent 控制面 | 谁下指令、谁收状态 | 提供授权链与状态流的记录 |
| 责任归属 | 出事后谁承担 | 前三者的证据在上法庭时才变成责任分配 |
哪些工具涉及这一层
- OpenAI Agents API:托管式 Agent 运行,权限与追踪能力由平台侧提供。
- Claude Code / Codex:本地 Agent,权限模式(沙箱 / 自动 / 全放开)直接决定①②③三段的证据质量。
- WorkBuddy / n8n:工作流编排类,节点级日志天然是审计素材。
FAQ
问:小团队也要做这套吗? 要,但可以最小化:一条读/写分权策略 + 一份能还原状态的操作日志 + 一个可用的停止开关。三样东西的成本远低于一次事故的处置成本。
问:日志要留多久? 取决于你的行业监管要求。没有明确要求时,按「事故发现周期」的两倍设计——多数 Agent 事故不是当天发现的。
问:这是不是过度谨慎? 判断标准很简单:如果这个 Agent 今天误删了生产库,你能不能在一小时内说清「它做了什么、为什么能做、你怎么知道的」? 答不上来,就不是过度谨慎。
延伸阅读
- 事件:加州起诉 OpenAI:官方承认测试中至少 80 次「失控」
- 机制:OpenAI 启动嵌入式评估:四家机构进办公室长期驻场
- 概念:Agent 沙箱 · Agent 结果核验 · 失效即拒绝 · Agent 控制面 · Agent 编排
- 相邻风险:提示注入 · 奖励黑客 · 上下文投毒
- 协议层:MCP · A2A · ACP
- 评测:SWE-bench · Terminal-Bench · Agent Harness
- 成本:每任务成本 · ACU 计费
- 工具:OpenAI Agents API · Claude Code · Codex · WorkBuddy
来源
- { title: "加州总检察长新闻稿:It's the Golden State, not the Wild West(2026-11-16,公共妨害 + 反不正当竞争法、至少 80 次失控、Hugging Face 攻击两天以上与数百智能体协同、9 月调查与传票)", url: "https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over" }
- { title: "OpenAI:Our first phase of embedded assessments(2026-11-16,四家评估机构分工、七条规程、SSC 裁决与证言通道)", url: "https://openai.com/index/our-first-phase-of-embedded-assessments" }
- { title: "TechCrunch:California state AG sues OpenAI over rogue agent incidents(2026-11-16,RubyGems / Dwiki / 澳洲政府网站等关联事件、数十家第三方通报)", url: "https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/" }
常见问题
智能体责任归属和 AI 伦理是一回事吗?
不是。AI 伦理讨论「应该怎么做」,责任归属讨论「做错了之后谁承担、凭什么承担」。前者是规范问题,后者是法律与工程问题——它要的是可举证的链条,不是价值表态。
用户点的「同意」能免除部署方责任吗?
通常不能覆盖全部。服务条款能约束合同关系,但监管机关提起的公共妨害类诉讼不依赖你的用户协议——它问的是「你有没有在明知风险的情况下继续」。所以真正起作用的不是免责声明,而是能不能证明你做过限制、做过监控、并在发现后及时止血。
为什么审计日志比权限配置更能免责?
权限配置证明的是「你打算限制什么」,审计日志证明的是「实际发生了什么、你什么时候知道的」。事故追责里被问得最多的两个问题是「它当时在做什么」和「你什么时候知道」,只有后者能回答。
开源模型出了事,责任在谁?
取决于部署与控制。发布权重的一方通常主张「下游使用不可控」,部署方则主张「模型缺陷在权重里」。目前没有统一的司法结论,实际判例会围绕「谁有能力控制、谁从风险中获益」展开。
相关工具
Aider vs Claude Code:终端 AI 编程双雄怎么选
Aider vs Claude Code 2026 选型对比:开源 BYOK 多模型 vs Anthropic 订阅长任务 Agent,从编程能力、多模型支持、价格、Git 集成、国内可用性和适合人群判断,帮你选对终端 AI 编程工具。
Claude Code vs Cline:CLI AI Agent 怎么选?2026 对比
Claude Code vs Cline 2026 选型对比:Anthropic 官方闭源 CLI Agent vs Apache-2.0 开源 VS Code 插件。从模型绑定、工作流、MCP 支持、价格、隐私和适合人群 6 个维度帮你选对 CLI AI 编程工具。
Claude Code vs Codex CLI:终端 AI Agent 双雄对比
Claude Code vs Codex CLI 2026 选型对比:Anthropic 与 OpenAI 两大官方终端 Agent 的模型、长任务、MCP 生态、Windows 支持、订阅打包价格和国内可用性全方位对比,帮你判断该用哪个终端 AI Agent,以及能不能两个一起用。
Claude Code vs Crush:Anthropic 官方 vs 多模型 TUI(2026 实测选型)
Claude Code vs Crush 怎么选:Anthropic 官方 CLI(长任务最稳),对上 Charmbracelet 开源 TUI(多模型切换 + LSP)。按模型、长任务、价格对比。
Cursor vs Claude Code:什么时候用哪个?(2026 实测选型)
Cursor 和 Claude Code 到底怎么选?一句话结论 + 决策树 + 价格实测 + 国内可用性对比。GUI 派选 Cursor,终端长任务派选 Claude Code,最优解其实是共存。
Devin vs Claude Code:AI 编程 Agent 怎么选?异步自主 vs 终端同步对比
Devin vs Claude Code 2026 选型对比:Cognition 异步自主 Cloud Agent vs Anthropic 终端同步 CLI Agent,从形态、工作模式、长任务能力、并发、价格、中文支持和适合人群 8 个维度判断,帮你选对 AI 编程 Agent。