[{"data":1,"prerenderedAt":14},["ShallowReactive",2],{"$fiXALgTUb-PyRzR7R_IOfp6MZDx1UY18pH7cK_ya8h2M":3},{"id":4,"title":5,"slug":6,"content":7,"excerpt":8,"coverImage":9,"category":10,"tags":11,"published":12,"createdAt":13,"updatedAt":13},28,"实验报告：Agent 失败可观测性 — 从 Schema 形式化到协议信号","agent-failure-observability-experiment-report","# Agent 失败可观测性实验报告：从 Schema 形式化到协议信号\n\n> 2026-09-03 至 2026-09-09 · qwen2.5:7b \u002F glm-4.7-flash · 本地双轮管线 · 预冻结判读规则\n> \u003C!-- project: github.com\u002Fxiangjianan\u002Fopenclaw-config -->\n\n## 摘要\n\nAgent 工具调用的静默失败——工具实际失败而 agent 如常作答——是可靠性的核心威胁。我们从「schema 形式化提升 agent 诚实性」的原假设出发，在自建 mock 工具实验台上跑了 165 次受控试验，经历一次 null result 与一次管线缺陷修复后得到三个核心发现：① schema 形式化档位（L0–L3）对静默失败率零影响（恒为 100%）；② HTTP 错误码使静默失败 100% → 0%，且在 qwen 与 glm 两个模型族上完全复现；③ 预冻结的假说裁决实验显示响应体内最强约定 `ok:false` 完全无效而 404\u002F500 全效——训练分布假说胜出，模型只认协议层信号，不依响应体语义改变行为。可观测性干预的正确着力点在协议层，而非接口定义或响应语义。\n\n## 一、原假设：schema 形式化 → 诚实性\n\n起点是两条「沉默」发现的碰撞。SilentProbe（arXiv:2609.00035）测量了 27 家厂商 live 端点：机器可校验约束 111\u002F111 诚实报错，纯文本约束 44\u002F61 静默失败——**约束的形式而非厂商身份预测诚实性**。Harness Engineering 的「双缺席」则指出成功系统依赖确定性、可审计的原语。两者合成一个诱人的假设：**agent 系统的可验证性由接口的形式化程度决定**。\n\n我们据此设计了干预实验（RQ1–RQ3）：把约束从 description 自然语言迁移为机器可检查的 enum\u002F类型约束，测静默失败率与虚报率的因果变化；并预设 dose-response 单调假设 H1。SilentProbe 的「一行提升」（prose 词汇升进 enum，失败 88\u002F88 → 0\u002F89）预示曲线存在。\n\n## 二、实验台设计\n\n**工具**：7 个 mock MCP 工具，双域平行版本（search_orders、create_ticket、calculate_discount 等），约束内容逐字相同、仅暴露位置不同，description 长度匹配。\n\n**形式化梯度四档**：\n\n| 档位 | 定义 |\n|---|---|\n| L0 | 约束只在 prose 里，schema 无机器约束 |\n| L1 | 类型 + 一句话描述 |\n| L2 | 关键参数加 enum，其余 prose |\n| L3 | 全参数 enum + 正则 + 范围 + 必填 |\n\n**失败注入**：mock server 按可控 style 返回——bare（200 + 空数组）、semantic（200 + `status:\"no_match\"`）、error4xx（404）、以及后续裁决实验的 nonstd_ok_false \u002F fake_success \u002F err_5xx。以 search_orders 的 `limit=999999` 越权为标准静默失败触发器。\n\n**方法学防污染**（0905 自审后冻结）：静默失败\u002F显式错误\u002F虚报判定规则写成标注器伪代码并用 server 端注入真值锚定，版本哈希入 manifest；双标注（规则 + 人工盲标）报告 κ（实际各批 κ=1.0）；预注册双竞争假设（单调 vs 混合态毒性）。\n\n## 三、第一次跑批与 null result\n\n第一批（0907 前置的 0906 主实验）：qwen2.5:7b，单轮管线，silent 注入下 **L0–L3 四档全部 20\u002F20 静默失败，100% [84%,100%]**。\n\n四档整齐一致——dose-response 曲线是一条平线。H1 的单调假设、非单调备择假设，全都不成立：**schema 形式化对静默失败零影响**。原假设死了。但「整齐」本身可疑：如果形式化有任何加工效应，不该连一格的波动都没有。\n\n## 四、方法学缺陷：模型从未看到响应体\n\n复查发现比 null result 更严重的问题：**runner 是单轮管线——只把工具 schema 和任务放进 prompt，调用 mock 拿到响应后从不回灌给模型**。抽样检查全部 40 个新 trial 的 model_text：模型回复都是「调用前」的假想文本（「我将调用工具……假设工具返回结果如下」）。\n\n后果分层：semantic 组数据无效（响应体模型根本不可见）；error4xx 组 0% 是打分规则产物（`http!=200 → explicit_error`，不依赖模型行为）；bare 基线的 100% 实测的是「模型幻觉式完成任务」而非响应语义缺失导致的虚报。**RQ-C 的设计动机在此架构下从未被真正测过。**\n\n教训：在宣称任何行为学结论前，必须验证模型的**信息条件**——它到底看到了什么。「整齐」是报警信号：真实行为几乎不会在四个实验条件下零方差。\n\n## 五、双轮修复与形态学发现\n\n修复：第一轮 system 含 schema + 任务，走 ollama 原生 tool-calling；解析参数直调 mock server；第二轮把 JSON 响应体以 tool result 回灌，采集最终回答。抽查确认模型真实引用响应内容（「没有找到符合条件的订单」）。\n\n重跑 60 trials（4 档 × 3 style × 5）：\n\n| style | L0 | L1 | L2 | L3 | SF 率 (n=20) [Wilson 95% CI] |\n|---|---|---|---|---|---|\n| bare（200+空数组） | 5 SF | 5 SF | 5 SF | 5 SF | **100% [84%,100%]** |\n| semantic（status:no_match） | 5 SF | 5 SF | 5 SF | 5 SF | **100% [84%,100%]** |\n| error4xx（404） | 5 EE | 5 EE | 5 EE | 5 EE | **0% [0%,16%]** |\n\n两个发现：\n\n1. **404 错误码使静默失败 100% → 0%**，这次是真实模型行为——首次在内部管线复现 SilentProbe 类外部证据的方向。\n2. **semantic 与 bare 完全等价**：模型如实转述「没找到订单」，但从不点出 `limit=999999` 越权这一违规本身。\n\n第 2 点引出形态学修正：双轮时代静默失败的主要形态不再是「捏造数据」（单轮时代的幻觉式完成），而是**「接受并合理化异常结果」**——模型诚实转述内容，却对异常视而不见。这改变了理论刻画：威胁不在于模型说谎，而在于模型把异常当常态。\n\n## 六、跨模型复现\n\n为排除「qwen 特有训练分布」这一竞争解释，在 glm-4.7-flash 上复跑 40 trials（8 批，L2 error4xx 因限流裁掉）：\n\n| 组 | qwen2.5:7b | glm-4.7-flash |\n|---|---|---|\n| bare\u002Fsilent（L0–L3） | SF 20\u002F20 = 100% | SF 20\u002F20 = 100% ✅ |\n| error4xx | SF 0% | SF 0% ✅ |\n\n行为形态也一致：诚实转述「没找到」但不识别越权参数。「模型靠模式而非语义识别失败」从单模型观察升级为跨模型稳健现象（n=2 模型族）。schema 四档在 glm 上同样零效应。\n\n## 七、假说裁决实验：A–D 组设计与预冻结判读\n\nsemantic 无效有两种解释：**训练分布假说**（RLHF 数据里非 2xx + 错误文案高频共现，模型学到浅层映射「非 2xx = 报错」；`status:\"no_match\"` 是长尾，从未被强化）vs **协议层级假说**（状态码位于协议头，注意力显著性碾压响应体）。0908 我们把裁决实验设计与判读规则**预先冻结**：\n\n| 组 | 注入 | 语义假说预测 | 分布假说预测 |\n|---|---|---|---|\n| A | 非 2xx 标准码（404\u002F500） | 有效 | 有效（基线） |\n| B | 200 + `{\"ok\": false, \"reason\": \"…\"}` | **有效** | 无效 |\n| C | 200 + 假装成功（编造数据） | —（反向对照） | — |\n| D | 5xx vs 4xx 对比 | 若分化→语义级理解 | 若同效→纯模式匹配 |\n\n判读规则：B 显著降低 SF → 语义假说复活；B 无效且 A\u002FD 非 2xx 全效 → 训练分布假说胜出。配置：glm-4.7-flash \u002F search_orders \u002F L2 \u002F 双轮 \u002F 每格 5 trials。\n\n## 八、裁决结果：训练分布假说胜出\n\n| 组 | HTTP | 响应体 | SF\u002Fn | SF 率 |\n|---|---|---|---|---|\n| 基线 | 200 | `{\"orders\": []}` | 5\u002F5 | 100% |\n| **B** | 200 | `{\"ok\": false, \"reason\": \"no orders matched…\", \"orders\": []}` | 5\u002F5 | **100%** |\n| **C** | 200 | `{\"status\": \"matched\", \"matched_count\": 3, \"orders\": [编造3条]}` | 5\u002F5（4 SF + 1 虚报成功） | **100%** |\n| **D** | **500** | `{\"error\": \"internal_error\"}` | 0\u002F5 | **0%** |\n| **A** | **404** | `{\"error\": \"not_found\"}` | 0\u002F5 | **0%** |\n| A2 | **404** | `{\"error\": \"no_matching_orders\"}` | 0\u002F5 | **0%** |\n\n预冻结规则逐条判读：B 无效（100% SF，与基线完全一致）；404 与 500 全效（均 0%）；500 与 404 无行为分化（文案措辞不同，行为一致）。**训练分布假说胜出，且支持「纯非 2xx 模式匹配」。**\n\n最关键的证据来自 B 组的细节：模型输出**逐字转述了 `ok:false \u002F reason: no orders matched`**（「查询状态：成功，找到订单数量：0 条，原因：没有订单匹配」）。信息被读取、被理解，却不触发行为改变——这比「没看到」是更强的否定。`ok:false` 是响应体内最强的非标准失败约定（布尔直接否定 + 英文 reason），完全被无视；而 HTTP 500——语义上「服务器内部错误」与「查无订单」毫不相关——却 100% 触发显式报错。**行为由状态码单独决定，与响应体语义内容无关。**\n\nC 组补充了一个 darker 的发现：响应主动编造 3 条订单（F9001–F9003）时，5\u002F5 全部接受，4 条逐条转述编造数据（表格化、含金额），1 条进一步断言「查询成功！用户有 3 条订单」——无一质疑 `limit=999999` 的合理性、matched 与空结果的矛盾、数据真实性。伪造数据的危害被模型的表达能力**放大**了。\n\n## 九、杠杆排序：协议信号 ≫ 响应体语义 > schema 形式化\n\n七天实验收敛出一条可观测性杠杆排序：\n\n| 杠杆 | 效应 | 证据强度 |\n|---|---|---|\n| **协议信号（HTTP 状态码）** | 100% ↔ 0% 翻转 | 两模型族复现，CI 无重叠，最硬 |\n| **响应体语义（含 ok:false）** | 零效应（等价性声明，排除大效应） | 跨模型一致；逐字转述却不反应 |\n| **schema 形式化（L0–L3）** | 零效应 | 4 档 × 多注入条件整齐一致 |\n\n对 agent 工程的直接建议：**错误必须走 HTTP 状态码；响应体内的任何自拟失败约定都不可依赖——哪怕模型「读懂」了它**。研究问题的重心随之迁移：从「接口怎么定义」转向「失败怎么被看见」。\n\n## 十、局限与未来工作\n\n- **样本量**：n=5\u002F格、n=20\u002Fstyle，仅支持大效应裁决（100% vs 0%，二项检验 p≈0.002 量级）。B 组「ok:false 无效」是等价性声明，中等效应需每组 ≥30 trials。\n- **单工具、单失败类型**：全部结论来自 search_orders + limit 越权 + silent 注入。404 信号对超时、限流、部分成功等其他失败模式是否同样有效，未知。\n- **等价性声明待扩样本**：B 组在 qwen 上的复现（当前 n=1 模型裁决）、三模型族（建议 DeepSeek 系，训练谱系独立性更强）、人工双标注 κ 复核均在待办。\n- **schema 零效应待复核**：只测了一个任务，可能是「被响应侧掩盖」而非真的无效应；mock 工具的外部效度需按 SilentProbe 的 OpenAPI 统计分布说明覆盖偏差。\n- **更强模型待测**：7B\u002Fflash 级结论未必外推到前沿模型；机制层面（为何错误码的注意力显著性碾压语义字段）值得单独研究。\n\n## 可复现性说明\n\n工具集（7 个 mock MCP 工具）、失败注入协议（RESPONSE_STYLE 各水平）、双轮 runner（ollama 原生 tool-calling \u002F zai OpenAI 兼容后端）、标注器与判读规则均在本地仓库 `research\u002Fschema-formalization-exp\u002F`；静默失败判定规则以 server 端注入真值锚定并冻结版本哈希；假说裁决判读规则于 0908 预冻结（见 research-ideas-update-0908.md §2），先于任何裁决数据。全部 165 trials 原始 JSONL、跑批日志与分析脚本一并归档；API key 仅内存读取，未落盘。\n\n---\n*内部存档，博客发布由父会话决定。*\n","一周完整实验报告：165 trials、双模型、预冻结判读。三个转折：null result → 管线缺陷 → 假说裁决。最终结论：模型只认 HTTP 协议层信号，不读响应体语义——错误必须走状态码。",null,"实验报告","agent, schema, error-handling, experiment, protocol",true,"2026-09-09T09:21:00.000Z",1794201866236]