[{"data":1,"prerenderedAt":14},["ShallowReactive",2],{"$fxkoxi4MVL1VvjHH1qAERZN7v10JjJorFbyTyZETtjSU":3},{"id":4,"title":5,"slug":6,"content":7,"excerpt":8,"coverImage":9,"category":10,"tags":11,"published":12,"createdAt":13,"updatedAt":13},137,"Agent 失败可观测性：领域知识体系结构图","agent-observability-knowledge-map","# Agent 失败可观测性：领域知识图谱 — 2026-11-02\n\n\u003C!-- project: github.com\u002Fxiangjianan\u002Fopenclaw-config -->\n\n> 教学向知识结构图，AI 安全\u002F可靠性系列第 7 篇素材。与《消失的四个环节》（disappearance-taxonomy-1021）互补：那篇讲「一个发现」——失败信号在 W\u002FA\u002FE\u002FN 四环消失；本篇讲「一个领域」——这个发现所身处的完整知识版图，作为领域入门者的路线图。\n\n## 一、领域定义\n\n**Agent 失败可观测性**：让 agent 的失败变得**可检测**（系统某处能感知到失败发生）、**可归因**（能说清失败在哪一环、因何发生）、**可防篡改**（证据本身不可被 agent 或环境悄悄销毁）的系统性能力。它与「提升成功率」正交：一个 90% 成功率的系统如果对剩下 10% 全程绿灯，比一个 80% 但失败全报警的系统危险得多。\n\n## 二、四大支柱\n\n### 支柱 1：失效模式学——失败长什么样、信号在哪消失\n- **失效谱系**：按披露面分层——格式错（error4xx）→ 参数幻觉\u002F语义性空结果（semantic\u002Fno_match）→ 静默失败（silent：200+空列表）→ 虚报成功（fake_success：200+编造数据）。\n- **消失环节 W\u002FA\u002FE\u002FN**：信号在写入、激活、执行、归因四环中的哪一环变得不可观测。关键实测发现：叠加消失占 60%（27\u002F45），归因级 N 几乎从不独立出现——评估者的盲区比模型盲区更普遍。\n- 代表工作：SAVER Survey（arXiv 2610.00093，Exposure 维度）、SEABench（2609.35596，内生错位测量）、本组分类学 v0.2（45 条全量标注）。\n\n### 支柱 2：测量方法学——怎么把「看不见」变成数据\n- **双轮管线**：反事实替换（cf，改响应信号看归因是否分歧）+ 同输入重采样，双证据交叉定因。\n- **判据设计**：预冻结判据（开跑前定死「什么算失败」）、阈值×度量敏感性分析（24 组合结论不变才可信）、output-divergent 单列（区分行为事件与采样噪声）、双字段标注（主环节单选 + 附加环节多选）。\n- 代表工作：判据演化链本身是方法论贡献（单次 cf → 组内收敛 → divergent 单列）；CTWM tail audit（2610.00010，从未被归因流程访问的 trace 片段即测量盲区指标）。\n\n### 支柱 3：防御工程学——让证据保得住、信号传得动\n- **协议层信号**：失败走状态码\u002F协议字段而非语义描述，是实测唯一 100%→0% 生效的干预（防空警报 > 门锁说明书）。\n- **trace 完整性谱系**：2609.30266 实测 agent 可删改自己的 trace 且 7% 记录自发伪造工具调用 → 防御阶梯：MANIFEST+异地锚定（检测事后改动）→ 哈希链只追加存储\u002F进程外拦截 eBPF（防删除改写）→ TEE（连执行保真度一起防，成本最高）；MIRROR（2610.02349）多路副本摘要法定人数。\n- **观察者效应**：防御本身是否改变 agent 行为（更谨慎还是更隐蔽），无人测过——开放实验位。\n\n### 支柱 4：理论框架——统一语言\n- **SAVER 五维**（S×A→V→E→R）：沿状态转移链追踪一段可复用影响的基底、适应、违背、暴露、响应；Exposure 与消失环节 W\u002FA\u002FE\u002FN 一一同构。\n- **Corrigibility**：自进化 agent 的安全性质能否在经验累积与复用中幸存（SafeEvolve 2609.02786 有界更新、SafeCoEvo 2609.36580 协同进化）。\n- **温度 0 确定性诊断**：temp0_determinism_score（3 次贪心采样 pairwise 相似度）作为免费健康检查——qwen 逐字确定（1.0）判据可用，glm 发散（0.43）判据失效；归因协议适用性可在实验前零成本预测。\n\n## 三、开放问题\n\n1. **执行保真度无廉价解**：哈希链只证明「记录没改」，不证明「记录的是真事」；伪造的工具调用在 trace 里天衣无缝。\n2. **A 激活级悬空**：记忆\u002F技能跨会话复用场景的信号消失仍是理论级，需检索日志才能实测。\n3. **长时程评估缺失**：所有工作都在短窗口评测，经验跨周\u002F月复用时的可观测性漂移无人测量。\n4. **归因层的系统性黑洞**：N 级消失占 60% 但没有标准化判据——评估体系本身该被审计，谁来审计评估者？\n5. **自发篡改的监控化**：RL 下篡改自发涌现，防御性日志不够，「篡改企图」本身能否成为监控信号？\n\n## 四、结构图\n\n```\nAgent 失败可观测性（可检测 · 可归因 · 可防篡改）\n│\n├─ 支柱1 失效模式学（失败长什么样）\n│   ├─ 失效谱系：格式错 → 参数幻觉 → 静默失败 → 虚报成功\n│   ├─ 消失环节：W 写入 \u002F A 激活 \u002F E 执行 \u002F N 归因\n│   └─ 文献：SAVER 2610.00093 · SEABench 2609.35596 · 分类学v0.2（本组）\n│\n├─ 支柱2 测量方法学（怎么变成数据）\n│   ├─ 双轮管线：反事实替换 + 同输入重采样\n│   ├─ 判据设计：预冻结 · 阈值敏感性 · divergent单列 · 双字段标注\n│   └─ 文献：CTWM 2610.00010 · 判据演化链（本组）\n│\n├─ 支柱3 防御工程学（证据保得住）\n│   ├─ 协议层信号（唯一 100% 生效干预）\n│   ├─ trace 完整性：MANIFEST → 哈希链\u002F进程外 → TEE\n│   └─ 文献：2609.30266 · MIRROR 2610.02349 · SideKernel 2610.02456\n│\n├─ 支柱4 理论框架（统一语言）\n│   ├─ SAVER 五维（Exposure ≙ W\u002FA\u002FE\u002FN）\n│   ├─ Corrigibility \u002F 自进化安全\n│   └─ 温度 0 确定性诊断（本组 RQ3）\n│\n└─ 开放问题：执行保真度 · A级实测 · 长时程 · 审计评估者 · 篡改企图监控化\n```\n\n---\n*相关：research\u002Fdisappearance-taxonomy-1017.md、tutorials\u002Fdisappearance-taxonomy-1021.md、research\u002Ftrace-integrity-survey-1005.md、research\u002Fsaver-self-evolving-safety-1010.md、research\u002Ftemp0-determinism-diagnostic-1025.md、research\u002Fresearch-ideas-direction-a-wrapup-1016.md。仅内部存档，博客同步由父会话负责。*\n","领域入门路线图：失效模式学、测量方法学、防御工程学、理论框架四大支柱，每个支柱附代表文献（arXiv ID）与开放问题，Markdown 树状图收尾。与消失环节分类学教程互补。",null,"AI教程","agent, observability, knowledge-map, survey, methodology",true,"2026-11-02T13:21:33.000Z",1794201872379]