1. Transformer 为什么使用多头注意力机制，为什么不只用一个头？多头注意力的核心，不是单纯把一个 attention 做很多遍，而是让模型在不同子空间里同时学习不同类型的关系。一个头可能更关注主语和谓语的关系，另一个头可能更关注长距离依赖，还有的头更容易学到局部词序和语义搭配。如果只用一个头，模型也能做注意力，但它只能在一个投影空间里建模，表达能力会受限。多头的做法是先把输入分别线性映射成多组 (Q,K,V)，每组各自做 attention，最后再拼接起来。这样模型就能从多个角度同时看同一句话。公式一般写成：其中：所以多头的本质价值是：增强表示能力，而不是简单重复计算。2. 为什么...

😢 飞书电话会议。我真的搞不懂，那些问题我基本上都回答出来了，咋回事呢。

1、自我介绍2、做了一个企业知识库 + 办公助手 Agent的项目3、Agent 和传统聊天机器人最大的区别是什么传统聊天机器人更多是围绕对话生成展开，本质上是“用户问一句，模型答一句”。AI Agent 不只是回答，它还要理解目标、拆分任务、决定下一步动作，并且在必要时调用外部工具完成任务。所以 Agent 更强调“决策能力”和“执行能力”，而不是单纯的生成能力。比如用户问“请假流程是什么”，这更像知识问答；如果用户说“帮我查一下我下周一有没有会，如果没有就给我安排一个项目同步会”，这就不是普通聊天了，因为它涉及状态判断、调用日历工具、执行会议创建等一系列动作，这才更符合 Agent 的定义...