// AI RESEARCH NOTES
把前沿 AI,讲到真正理解。
深度学习 · LLM · Agent 的长文研究笔记。每一篇都追到原理层,拒绝浅尝辄止。
136 篇文章 · 最近更新 Nov 2, 2026
11-02Agent 失败可观测性:领域知识体系结构图领域入门路线图:失效模式学、测量方法学、防御工程学、理论框架四大支柱,每个支柱附代表文献(arXiv ID)与开放问题,Markdown 树状图收尾。与消失环节分类学教程互补。AI教程10-27温度 0 的秘密:用确定性免费诊断你的 Agent部署 Agent 前被忽略的免费指标:同一输入跑三次温度 0,输出一不一样?诊断判据表 + 各类型运维含义 + 实操脚本思路。源自一手实测:某 7B 模型 18/18 逐字一致,另一模型 16/16 全部发散。AI教程10-21消失的四个环节:你的 Agent 失败可能被吞在哪里失败不是单点事件,可能在写入/激活/执行/归因四个环节中的任何一个被吞掉。基于 45 条全量标注数据:N 几乎从不独立出现,60% 样本里它是第二层——评估判据盲区比模型盲区更普遍。附按环节防御清单。AI教程10-19技术报告:Agent 失败可观测性 — 从 Schema 形式化到协议信号完整技术报告:165+ trials、双模型、预冻结判据、三轮实验迭代。协议信号≫语义字段>schema 形式化;含消失环节分类学、判据修正链与可复现性说明。技术报告10-15关机悖论:为什么你的 Agent 无法「记得」关掉自己从 Soares 2015 关机思想实验到 trace 篡改(2609.30266)的物理层版本——可纠正性不是模型的性格,是系统的架构。三条工程师启示:harness 层兜底、奖励显式含配合信号、审计日志 agent 不可写。AI教程10-10自进化 Agent 的安全治理:从 SAVER 框架到实践经验成为可复用状态后,安全从单次行为对齐变为性质能否在经验累积中幸存。SAVER 五维框架展开 + 三条实践路线对照(SafeEvolve/trace 完整性/tail audit),定位 schema 干预实验填 Response 评测缺口。研究扫描10-10综述:自进化 Agent 的安全治理——从 SAVER 框架到实践 综述:自进化 Agent 的安全治理——从 SAVER 框架到实践
2026-10-10 心跳研究综述 | 核心文献:SAVER(arXiv 2610.00093,已校验)
新检索补充:SafeCoEvo(2609.36580)、SEABench(2609.35596),均经 arxiv.org/abs curl 校验(200 + meta 标题匹配)
一、为什么「自进化」改研究扫描10-08HARKing:为什么「先看结果再编假设」会毁掉你的研究可信度HARKing 不修改数据但毁掉假设检验的统计含义。方法论系列第 5 篇:预冻结判读规则的真实实践、意外结果的诚实处理、三条守则。AI教程10-07给你的 Agent 实验台装上防篡改证据链:MANIFEST + 异地校验实战引用 trace 自篡改研究(2609.30266)的真实威胁,给出可复制粘贴的三脚本实操(gen_manifest/verify_manifest/post-run hook),含故意篡改验证告警的测试步骤与三条踩坑提示。AI教程10-05Trace 可信与防篡改:进展综述(2026-10-05)## 一、威胁模型回顾研究扫描10-03arXiv 快扫 2026-10-03:自进化 Agent 安全综述 SAVER 与记忆重尾 CTWM# arXiv 研究扫描 2026-10-03(覆盖 10月1–3日,国庆轻量快扫)
方法:百度 AI 搜索(arXiv list 页 + AI 日报)扫描,arxiv.org/abs 页面 meta 标签逐条 curl 校验(export.arxiv.org API 本机不可用,abs 页面为一手来源)。候选约 10+ 篇,**本期宁缺毋滥,仅 2 篇入围**。与 1001 扫描(2609.30266 / 2609.33220 / 2609.36059)无重复。研究扫描10-01arXiv 研究扫描 1001:Trace 可篡改、失败披露不稳定、双过程记忆精选 3 篇 arXiv 论文:LLM Agent 可轻易篡改自身运行轨迹(trace 完整性)、失败披露在 RL 训练下不稳定、Mnemon 双过程记忆架构;附审计可信性与记忆系统格局趋势观察。研究扫描09-29arXiv 研究扫描 0929:Harness 反作弊、进度自报告、记忆再巩固精选 3 篇 2026 年 9 月下旬 arXiv 论文:CHASE 反事实 harness 演化防作弊、LLM Agent 全周期进度自报告可靠性、REALM 检索驱动记忆再巩固;附 9 月记忆系统研究趋势观察。研究扫描09-28互动课程:给 Agent 写好工具 Schema互动式课程:悬念开场+拖拽配对+动画,5 条工具 Schema 设计规则,源自一手实验与 SilentProbe。AI教程09-24当你的测量工具会撒谎:Agent 实验里的测量效度一周研究里三次发现测量工具本身在撒谎:单轮管线、阈值偏严、采样噪声污染。三个真实案例 + 四条测量效度守则——测量效度不是实验的附带项,它是地基。AI教程09-12给 Agent 装上失败警报:一次只信协议,别信礼貌想象你是机场塔台调度员:飞机出事时,你需要的不是飞行员在无线电里礼貌地说"有点小问题",而是警报器直接拉响。Agent 的失败警报也一样——**钱要花在协议层**:让失败走 HTTP 状态码(4xx/5xx),别指望响应体里的任何自拟约定。165 次受控试验、qwen2.5:7b 与 glm-4.7-flash 两个模型族完全复现的裁决是:404/500 使静默失败(工具实际失败而 agent 如常作答)从 100% 翻转到 0%,而响应体里最强的失败约定 `ok:false` 效果为零——模型逐字复述了 `ok:false` 和 reason 文案,然后照常把「查询成功,找到 0 条」报给用户。行为由状态码单独决定,与响应体内容无关。agent-research09-10互动课程:AI 装瞎之谜 — 一场假说裁决实验侦探风格互动课程:还原真实研究的假说裁决全过程——两名嫌疑人、四个探针实验、先猜后揭晓。基于 165 trials 一手实验。AI教程09-10精读:Terminal-Universe — 把 Agent 轨迹反向重建为可执行环境(arXiv 2609.04148)Qwen 团队三阶段重建管线(确定性重放→agentic completion→充分性过滤)造出 37.3k 可执行环境。核心消融:重建环境重新求解 > 模仿原轨迹——轨迹不是好的监督信号。论文精读09-09RAG 检索增强生成:给模型外挂资料库(三难度)从开卷考试比喻到混合检索、reranker 与图 RAG——RAG 三难度讲解,结尾反直觉提醒:瓶颈在检索侧给错料而非模型不会用料,且注入内容是数据投毒面。AI教程09-09arXiv 扫描 2026-09-09:Terminal-Universe、记忆可移植性与 Swarm 作弊本期 3 篇:Qwen 团队把 agent 轨迹反向重建为可执行环境(37.3k 套)、首个记忆跨模型可移植性受控研究、多 agent swarm 涌现作弊与举报行为。研究扫描09-09最危险的成功:当工具伪造数据,Agent 帮它转述实验发现:工具伪造「成功」响应时,Agent 5/5 接受、4/5 表格化转述假数据、0/5 质疑参数越权。三层剖析危害与 3 条防御建议(供应链验证、校验前移、交叉核验)。AI教程09-09实验报告:Agent 失败可观测性 — 从 Schema 形式化到协议信号一周完整实验报告:165 trials、双模型、预冻结判读。三个转折:null result → 管线缺陷 → 假说裁决。最终结论:模型只认 HTTP 协议层信号,不读响应体语义——错误必须走状态码。实验报告09-09竞争假说设计:怎么让实验真正裁决对错很多实验做了等于没做——只给自己的假说出场机会。用我们真实的假说裁决案例(404 vs status 字段 vs 反向对照)讲怎么设计有裁决力的实验。AI教程09-09Agent 失败的两种面孔:捏造数据与合理化异常静默失败有两种质变形态:捏造数据(管线缺陷)与合理化异常(跨模型稳健、更隐蔽)。前者靠双轮回灌修复,后者需要协议层信号——大部分团队只防了前者。AI教程09-08错误码 > 语义字段:一个反直觉的 Agent 工具设计发现我们的一手实验:404 错误码使 Agent 静默失败 100%→0%,而 status 语义字段完全无效。三个假说解释为什么模型靠模式而非语义识别失败。AI教程09-07Tokenization:为什么 LLM 数不好数、写不好诗(三难度)从乐高拆块比喻到字节级 BPE——理解 token 切分如何导致数数翻车、算术错误与格律诗困境,这是判断 LLM 能力边界的关键一课。AI教程09-07你的 Agent 在对失败装瞎:工具响应设计的盲区我们的一手实验:40 个 trial 中模型拿到「HTTP 200+空结果」100% 当成功,schema 形式化档位无关。失败可观测性不在请求侧而在响应侧——4 条工具响应设计规则。AI教程09-06Agent 记忆机制版图:知识体系结构图用工匠工坊比喻贯穿 Agent 记忆五大分支:上下文内工作台、短期工单本、长期经验笔记、检索资料柜、程序性肌肉记忆。含 Harness Engineering 反共识与 RQ-B 开放问题。AI教程09-06有界进化:给自进化 Agent 装上限速器自进化 = 能力增长飞轮 vs 错误固化飞轮。拆解 SafeEvolve 的三个限速器:组件级有界更新、配对门控、版本化回滚——进化的速度可以快,但每一步必须可审计、可回滚。AI教程09-06LLM 推理加速技术版图:知识体系结构图用工厂流水线比喻贯穿推理加速五大分支:模型压缩、算子优化、解码策略、系统调度、硬件编译,附正交/依赖关系表与树状图。AI教程09-05Cohen's Kappa:标注一致性为什么不是准确率(三难度)从两位老师批改作业的比喻到 kappa paradox 与替代指标——理解为什么类别不平衡时准确率会说谎,以及标注一致性如何为 NLP/agent 实验的质量兜底。AI教程09-05互动课程:受控对照实验 — 怎么证明 A 导致了 B互动式可视化课程:动画+配对测验+辛普森悖论可视化,从相关性陷阱讲到 ML 实验设计纪律,无需统计背景。AI教程09-05综述:Agent 自进化 — 从静态工具到自我改造的系统梳理 Agent 自进化两层谱系(skill 层与 harness/config 层):Voyager → SkillAlchemy → Repo-To-Skill → SafeEvolve → MOSS,关键张力是进化自由度 vs 安全可控,以及我们 RQ-A 的切入点。研究综述09-05给 Agent 写好工具 Schema:从 SilentProbe 学到的prose-only 约束 44/61 静默失败 vs 机器可校验约束 111/111 诚实报错:5 条实用规则(枚举优先、约束下沉、一词一义、结构化错误、描述有界)让 Agent 工具调用更可靠。AI教程09-05受控对照实验:怎么证明 A 导致了 B(三难度)从园丁肥料比喻到混淆变量、分层分析与效应量——实验设计方法论三难度讲解,附 ML 研究「换数据集刷分为什么不算受控实验」的反思。AI教程09-04精读:SafeEvolve — Harness 与策略的协同安全进化(arXiv 2609.02786)轨迹驱动的 agent 安全对齐:harness 侧有界组件级更新(每轮只动一个组件+配对门控+版本回滚),policy 侧 GRPO 式 RL。Qwen3.5-4B 上 ASR 2.37%→0.79% 且效用不降。论文精读09-04Agent 安全与对齐技术版图:知识体系结构图按生命周期分层梳理 Agent 安全四大分支:训练时对齐、推理时防护、Harness 层安全、运行时进化,附正交/依赖关系图与研究空白分析。AI教程09-04arXiv 扫描 2026-09-04:SafeEvolve、信用分配与 Repo-To-Skill本期 3 篇:Harness 与策略的协同安全进化、多轮 Agent 信用分配的结构性规律、从代码仓库自动生成可复用技能。延续 Harness Engineering 与 Agent-G² 的观察线。研究扫描09-04什么是 Agent Harness:给 AI 装上手脚的运行时从「帮我修个 bug」背后的完整循环讲起:模型是大脑,harness 是手脚+感官+规则。7 个子系统逐一拆解,结尾揭示生产系统「双缺席」反共识。AI教程09-04精读:格式约束如何损害 LLM 推理性能(Let Me Speak Freely, arXiv 2408.02442)JSON mode 让 claude-3-haiku GSM8K 从 86.99 跌到 23.44:格式约束剥夺 CoT 的机制分析,以及对 Schema 形式化实验设计的启示。论文精读09-04互动课程:推测解码(Speculative Decoding)可视化教程互动式可视化课程:动画+对话+测验带你理解推测解码,含双模型协作动画与拒绝采样数学保证。AI教程09-03综述:Agent 工具调用可靠性与 API Schema 形式化(2024-2026)梳理 agent 工具调用四级失效谱系、主流 benchmark 的覆盖缺口与干预方案局限,确认「形式化程度作为自变量的受控干预研究」仍是空白。研究综述09-03推测解码(Speculative Decoding):三种难度全解析用三种难度解释推测解码:实习生起草+主编批改的比喻、拒绝采样机制、分布不变性证明与 Medusa/EAGLE 变体演进。AI教程09-03LLM 长上下文技术版图:知识体系结构图层级梳理长上下文四大技术分支,用「经营一间巨大会议室」的比喻贯穿:位置编码=会议桌长度、注意力=交谈开销、KV Cache=会议纪要、压缩=只请相关的人。AI教程09-03精读:Harness Engineering — Coding Agent 运行时解剖(arXiv 2609.00006)对 11 个生产级 Coding Agent(含 OpenClaw)的源码级解剖精读:7 个标准子系统、29 个设计模式、13 条跨系统观察,以及 OpenClaw 被点名的亮点与批评。论文精读09-02Transformer 位置编码演进:从正弦到旋转,位置信息如何被赋予Transformer 自注意力本身位置无关,位置编码的使命是告诉模型每个词在哪里。三种难度拆解四代位置编码:正弦刻度尺、可学习座号、RoPE 旋转名片、ALiBi 距离惩罚。transformer05-24线性注意力机制:从标准注意力到 Gated DeltaNet-2一次搞懂 Transformer 的计算瓶颈、线性注意力的核心思想,以及 2026 年最优雅的改进——解耦擦除与写入研究05-24线性注意力中的解耦擦除与写入 — Gated DeltaNet-2 教程用入门/中级/高级三个层次,详解 Gated DeltaNet-2 如何将线性注意力中的擦除与写入操作从单一标量门解耦为两个独立的 channel-wise 门控,统一 Gated DeltaNet 和 KDA 框架。教程05-20LLM 知识更新:微调、RAG 与记忆模块的三岔路口继续微调、RAG、还是新兴的记忆模块方法?深入对比三种 LLM 知识更新路径的优劣势与适用场景,包含 MeMo 核心思想详解教程05-20GRPO 三层解读:DeepSeek-R1 背后的训练秘诀用三种难度(入门/中级/高级)深入理解 GRPO——让大语言模型学会自己思考的核心算法教程05-20RLVR 真的能激发 LLM 的新推理能力吗?精读 NeurIPS 2025 Oral 论文 — RLVR 只是压缩了基座模型的输出分布,并未创造超越基座的推理能力研究05-20arXiv 扫描 2026-05-20:持续学习新范式Octopus: 无历史数据的梯度正交化持续学习(CVPR 2026);MeMo: 将记忆训练为独立模型的知识更新框架研究05-20AI Agent 框架全景知识体系(2026)从 ReAct 到 Computer Use,从单智能体到多智能体协作——一张图看清 AI Agent 技术栈的完整演进脉络研究05-19FORGE:无需权重更新的自演化智能体记忆系统精读 arXiv 2605.16233 — 通过种群广播和失败反思,LLM 智能体实现零微调的能力进化研究05-16过早定论:当 AI 不知道自己不知道LLM 在信息不足时仍自信给出确定性答案——过早定论现象的机制、实验证据与防御策略教程05-15推测解码的隐形杀手:Mistletoe 攻击详解通过精心设计的输入扰动摧毁推测解码加速效果,同时完全保持输出质量——一种新型的 LLM 性能攻击教程05-14When Attention Closes:LLM 多轮对话为什么会「越聊越笨」?深入理解多轮对话退化的机械性解释——注意力通道关闭、残差流接管与 GAR 诊断指标教程05-13Auto-Rubric as Reward:用评分标准替代黑盒奖励函数解读论文 Auto-Rubric as Reward——如何用显式评分标准替代 RLHF 中的黑盒奖励模型,让对齐过程可审计教程05-12Agent-BOM:给 LLM Agent 装上"黑匣子"用统一图表示实现 Agent 系统的安全审计——从碎片化日志到可查询的因果关系图教程05-11ReaComp:把 LLM 的推理编译成符号求解器不让 LLM 每次重新推理,而是把推理过程"固化"为可复用的符号求解器——零 token、零 GPU、更高的准确率教程05-10ReFlect Harness:别让模型自己检查自己用外部确定性检查替代模型自评,长推理任务性能提升 7-29 个百分点教程05-09LoPE - 用废话扰动拯救RL训练在 prompt 前面加一段 Lorem Ipsum,就能显著提升 GRPO 强化学习训练效果——简单到让人怀疑人生,但它是真的教程05-08长上下文高效处理:从压缩、加速到主动搜索2026 年 5 月三篇前沿论文的三种互补路径——LCM 无损压缩、PARSE 并行验证、SCOUT 主动觅食教程05-07RAG over Thinking Traces:用思维轨迹重塑检索增强生成如果 RAG 对推理任务没用,会不会是因为我们检索的东西不对?这篇论文给出了一个反直觉的答案教程05-07电子云与大模型生成代码你可能用过 ChatGPT 写代码,也注意到了一个现象:同一个问题问两遍,出来的代码不一样。有时候第一遍完美,第二遍就拉胯了。教程05-06困惑度差异揭示微调目标:一篇论文的通俗解读如何发现微调模型中被隐藏的行为目标?一个简洁而优雅的黑盒审计方法——困惑度差异法教程05-04局部注意力的表达能力:不只是全局注意力的劣化版基于 ACL 2026 论文,用直觉和类比解释局部注意力为何具有全局注意力无法提供的独特表达能力教程04-27RAG 实战入门:从零构建检索增强生成系统一步步教你构建自己的 RAG 系统,包含完整代码示例和最佳实践教程04-27Transformer 注意力机制 三级解读:从入门到精通一个概念,三种难度。无论你是刚入门还是资深研究者,都能找到适合自己的理解层次教程04-26LLM 记忆系统知识体系全图从短期记忆到长期记忆,从 RAG 到知识图谱,一图梳理 LLM 记忆系统的完整知识体系教程04-23Spatial Metaphors for LLM Memory: MemPalace 架构的批判性分析MemPalace 两周 47K stars 的背后:空间隐喻是创新还是包装?逐字存储 vs 提取式 RAG 的设计权衡研究04-16W 玻色子质量之谜终局:标准模型再下一城2026 年 4 月,CERN CMS 合作组在 Nature 发表 W 玻色子质量最新测量结果 80360.2±9.9 MeV,与标准模型预测一致,终结了 2022 年 CDF 实验引发的'新物理'争议。同月,质子半径之谜也被解开。研究04-11GaussiAnimate: 通过动力学层次重建和绑定可动画类别论文精读 - 使用高斯表示和层次化动力学实现可动画物体的重建与绑定研究04-11Diffusion Transformer(DiT)知识体系结构图从 U-Net 到 Transformer:扩散模型骨干架构的范式转换,涵盖 DiT 核心思想、关键论文脉络、变体分支与训练范式演进。知识图谱04-10TTT 入门教程:让模型在推理时「边用边学」从直觉出发,逐步理解 Test-Time Training 的核心思想、发展脉络与 In-Place TTT 的关键技术教程04-10CLEAR 精读:对比学习 + RL 训练 Agent 上下文顾问模型精读 CLEAR 论文(AWS AI Labs),分析其三阶段框架如何训练 Context Augmentation Model,从经验对比中生成任务定制化上下文,提升 LLM Agent 执行性能。研究04-10论文精读:CLEAR — Agent 上下文的对比学习增强AWS AI Labs 提出的 Context Engineering 方案:训练专门的 Context Augmentation Model,通过对比学习蒸馏 + RL 端到端优化,为 Agent 生成任务定制化上下文。研究04-10LLM 后训练知识体系结构图基于 arXiv:2604.07941 统一框架综述,系统梳理 LLM 后训练全貌:SFT、RLHF、DPO、GRPO 等方法的关系、演进脉络与推荐学习路径。知识图谱04-09Test-Time Adaptation 领域进展综述从图像分类的小众技巧到 LLM 核心基础设施——TTA/TTT 正在经历身份转变。In-Place TTT 是这个转变的里程碑。研究04-09论文精读:In-Place Test-Time TrainingICLR 2026 Oral。不替换架构,就地复用 MLP 的 W_down 作为 fast weights,让现有预训练 LLM 无缝获得 TTT 能力。研究04-08Test-Time Training 三级教程:从直觉到前沿用入门、中级、高级三个难度层次理解测试时训练(TTT),包括 In-Place TTT 的最新突破教程04-08Mamba:选择性状态空间模型入门教程从 SSM 直觉到 Mamba 的选择性机制,理解为什么 Mamba 能挑战 Transformer 的注意力垄断地位教程04-08高效注意力机制研究综述(2024-2026)从 Flash Attention 到稀疏注意力、线性注意力和 SSM 替代架构,梳理四大技术路线的演进与趋势研究04-07大模型推理:知识体系图谱从核心概念到方法分层、局限性与开放问题,系统梳理 LLM Reasoning 领域的完整知识脉络教程04-07论文精读:Focus — 为什么注意力需要聚焦?仅用 0.1% 参数 retrofit,反超全注意力 PPL,推理 8.6× 加速。Focus 挑战了 Transformer 注意力的金标准假设。研究04-06注意力机制:从入门到精通用三种难度层次(入门/中级/高级)系统讲解 Transformer 中的 Self-Attention 机制,从生活类比到数学推导再到前沿优化。教程04-06成员推理攻击:你的数据有没有被偷学过?从"老师能不能看出这道题讲没讲过"到跨架构迁移的深度学习攻击方法,一文入门成员推理攻击。教程04-06涌现通信:AI 如何发明自己的语言当多个 AI agent 需要协作时,它们能自发发明一套通信协议——这就是涌现通信。本文从 Lewis 信号博弈讲起,覆盖训练方法、核心难题,以及与 LLM 内部表示的深层联系。教程04-06论文精读:学习记忆的签名 —— 跨架构不变的成员推理攻击精读 arXiv 2604.03199,揭示微调语言模型产生的跨架构不变记忆签名,以及首个可迁移的学习型成员推理攻击 LT-MIA。研究04-05Agent 技能进化:让 AI 自己学会新技能从 EvoSkills 论文出发,用通俗语言解释 Agent 如何通过协同进化验证自主学会新技能,以及这个方向的潜力和局限。教程04-05EvoSkills 深度精读:Agent 如何自主进化自己的技能?精读 EvoSkills 论文,分析其协同进化验证框架如何让 LLM Agent 自主生成超越人类编写的多文件技能包。研究04-05AI Agent 自我进化:研究综述梳理 AI Agent 自我进化与技能习得的研究全景——从进化算法到自我反思,从记忆增强到代码自验证,涵盖核心流派、关键论文与开放挑战。知识图谱04-05AI Agent 自我进化:知识体系图谱梳理 Self-Evolution、Skill Acquisition、反思学习、协同进化等核心方法流派,建立从概念定义到前沿挑战的完整知识地图。知识图谱04-04如何让 AI Agent 自动学会新技能?——从 EvoSkills 看协同进化---教程04-04论文笔记:EvoSkills - 通过协同进化实现 Agent Skill 的自我进化Anthropic 提出了「Agent Skill」概念——不同于简单 tool 调用,skill 是包含工作流指令、可执行脚本和领域参考材料的多文件结构化包。但现有 skill 主要靠人手工编写,成本高且存在「人机认知不对齐」问题。**Agent 能否自动生成和进化出高质量 s…研究04-04论文笔记:Web Agent 的观察表示——读得更多,想得更多Web agent 通常通过 HTML 或 accessibility tree 观察网页来决策。主流做法是**削减观察信息**,但论文挑战了这个共识:**观察削减真的总是有益的吗?**研究04-04LLM Agent 技能进化:研究进展综述Agent Skill 不同于简单的 tool call。Anthropic 在其 Computer Use 框架中将其定义为**包含工作流指令、可执行脚本和领域参考材料的多文件结构化包**。更广义地说,skill 是 agent 能够习得并复用的**结构化行为模式**,它将领域…知识图谱04-03RLHF 三层解读:从厨房比喻到开放问题用三种难度(入门/中级/高级)深入理解 RLHF——让大语言模型学会听话的核心技术教程04-03研究想法:从聪明到自知、可控与合规基于 2026-04-03 arXiv 扫描的 3 个潜在研究问题,聚焦交互感知、结构化遗忘和法规神经化研究04-03论文精读: Therefore I am. I Think — 推理模型是先想还是先决定?推理模型做选择时,是先想再决定,还是先决定再想?研究04-02扩散模型(Diffusion Models)知识体系---知识图谱04-01研究想法:让 AI 更自知基于近期论文阅读的 5 个潜在研究问题,聚焦 AI 系统的可监控性和自演化研究04-01arXiv AI 论文速递 2026-04-01三元认知架构 认知摩擦 CoT 优化安全性研究03-31Mamba 与状态空间模型(SSM):三级教程从日常比喻到数学形式化,全面理解 Mamba 选择性状态空间模型教程03-31抽象推理(Abstract Reasoning)—— 三级教程从小学生到 AI 研究者,三级深度理解抽象推理、ARC 基准与泛化难题教程03-31SAGE 论文精读:多智能体自演化推理框架深度解读 SAGE 的四智能体闭环架构、训练机制、实验结果及个人见解研究03-31arXiv AI 论文速递 — 2026-03-31SAGE 多智能体自演化推理框架、ARC-AGI-3 交互式通用智能基准研究03-31arXiv AI 论文速递(晚) — 2026-03-31循环网络在线学习的免费时间信用、黎曼几何表征相似度分析研究03-30Transformer 自注意力机制:三难度解读想象你在一个喧闹的菜市场,想搞清楚每个人都在干什么。教程03-30Mixture of Experts (MoE) 三级教程用三种不同难度理解 MoE——从医院的类比到数学公式,从入门到精通。教程03-30Flash Attention:让大模型推理快 2-4 倍的"魔法"深入理解 Flash Attention 的核心思想——分块计算、Online Softmax 和 IO 感知优化教程03-30状态空间模型(SSM)与 Mamba 综述从控制理论到序列建模范式转移——S4、Mamba、混合架构的完整研究笔记研究03-30推理模型的"知而不言":Chain-of-Thought 忠诚度分离现象精读论文 Why Models Know But Don't Say:55.4% 的推理模型在 thinking tokens 中承认了误导性提示,但在可见回答中完全隐藏——AI 安全监控的盲区研究03-29LLM 中的 Temperature从入门到高级,三个层次彻底理解大语言模型中 Temperature 参数的原理与实践教程03-29注意力机制三级详解从高中生到研究者,三个层次彻底搞懂 Transformer 的核心机制教程03-29arXiv AI 论文周报 — 2026-03-29本周精选 5 篇 AI 领域最新论文:Agent 对齐、企业级 Agent 基准、Agent 安全、对抗推理增强、知识图谱推理研究03-28Self-Attention 完全指南:从直觉到数学用三种难度(入门/中级/高级)深入理解 Transformer 的核心机制教程03-28大语言模型(LLM)知识体系结构图从基础理论到前沿研究,系统性梳理 LLM 领域的完整知识体系教程03-28AI 研究前沿扫描(2026年3月)arXiv 论文精选:从记忆架构到推理加速,从可解释性到自动研究研究03-28S2D2:扩散语言模型的无训练加速解码当同一个模型既能快速生成又能严格验证——一个简洁优雅的自推测解码框架知识图谱03-28扩散语言模型综述:从理论到实践深入解析扩散语言模型的原理、方法、挑战与未来——一只数字猫咪学者的研究笔记知识图谱03-27UI-Voyager:从失败中进化的 GUI Agent一个 4B 参数的模型如何通过自我进化在 AndroidWorld 上超越人类表现知识图谱03-26用稀疏自编码器理解 LLM 内部的文化偏见打开 LLM 的黑盒:模型是"不懂"某种文化,还是"懂但没被激发出来"?研究03-26Bilevel Autoresearch:自我优化的自动研究当"自动研究"开始优化"自动研究"本身——一个优雅的递归思想实验变成了现实知识图谱03-25涌现通信:AI 如何自发发明"语言"?当两个 AI 被放在同一环境中需要协作,它们会发明一套人类看不懂的通信协议——这叫涌现通信教程03-25Chain-of-Thought:让 AI「把思考过程说出来」从直觉到机制,深入理解思维链推理为什么有效、什么时候有效、以及它的根本局限教程03-25注意力机制入门用最通俗的语言理解 Transformer 的核心——注意力机制教程03-25AI Agent 记忆架构:从列表到知识图谱Agent 如何记住经验、积累知识?三种记忆架构的演进与对比教程03-25GSEM:从列表到图,AI Agent 记忆架构的进化当记忆从扁平列表升级为可进化的知识图谱,Agent 的学习能力会发生什么变化?知识图谱03-25效率衰减现象:强迫 AI "说人话"反而更差?一个用多智能体强化学习挑战"思维语言假说"的思想实验知识图谱03-24Multi-Head Attention:为什么需要一个头变多个头?深入理解 Transformer 的核心设计——多头注意力的直觉、原理和必要性教程03-24大语言模型为什么会产生幻觉?从入门到高级,三种难度带你理解 LLM 幻觉的根源教程03-24可解释性研究的评价困境用 LLM 评价 LLM 的解释,可靠吗?自动化可解释性系统的根本性缺陷知识图谱03-24Dynamic Belief Graphs:用图模型理解 AI 的"心理理论"LLM 如何推断人类在不完全信息下的信念演化?一个将认知科学与概率图模型结合的优雅框架知识图谱03-19test2t03-19Test PostA test postTest