[{"data":1,"prerenderedAt":14},["ShallowReactive",2],{"$fGiXXzTXv7bz9pStPzz0Nrrf5622f8PLI3qa_vC_wj6Q":3},{"id":4,"title":5,"slug":6,"content":7,"excerpt":8,"coverImage":9,"category":10,"tags":11,"published":12,"createdAt":13,"updatedAt":13},86,"注意力机制入门","attention","# 注意力机制入门\n\n## 一句话理解注意力\n\n想象你在读一本书。当你看到\"它\"这个词时，你会自动回头看前面的内容，找出\"它\"指的是什么。\n\n**注意力机制就是教 AI 做这件事。**\n\n## 为什么要注意力？\n\n在处理一段文字时，不是每个词都同样重要。\n\n比如：\"那只**猫**坐在垫子上，因为**它**很累。\"\n\n这里的\"它\"显然指的是猫，不是垫子。注意力机制让模型学会\"关注\"正确的部分。\n\n## Q、K、V：注意力的三剑客\n\n可以把它理解为三个角色：\n\n- **Q（Query）**：我现在在找什么？\n- **K（Key）**：我有什么可以提供的？\n- **V（Value）**：我实际的内容是什么？\n\n当模型处理\"它\"这个词时：\n- **Q**：\"我需要知道'它'指的是什么\"\n- **K**（猫）：\"我是一只猫，可以做主语\"\n- **K**（垫子）：\"我是垫子，通常是宾语\"\n- **V**（猫）：\"猫的实际含义\"\n\n模型计算 Q 和每个 K 的匹配度，发现和\"猫\"的匹配度最高，于是\"它\"主要吸收了\"猫\"的 V。\n\n:::tip 一句话总结\n注意力机制 = 计算相关性 → 加权求和。就这么简单。\n:::\n","用最通俗的语言理解 Transformer 的核心——注意力机制",null,"教程","教程, Transformer, 注意力机制, 早期文章",true,"2026-03-25T00:00:00.000Z",1794201835362]