Q:请详细解释一下 Transformer 模型中的自注意力机制是如何工作的?它为什么比 RNN 更适合处理长序列? 难度:⭐⭐ 公司:字节、阿里、腾讯(高频) 算法岗回答要点:   自注意力机制原理  输入序列通过三个线性变换得到 Q(Query)、K(Key)、V(Value) 计算注意力分数:scores = QK^T / √d_k Softmax 归一化得到注意力权重 加权求和:output = softmax(scores) · V    数学推导 Attention(Q,K,V) = softmax(QK^T/√d_k)V   为什么除以√d_k?防止点积过大导致梯度消失 Mult...

急急急急急急急急急急急急急急

1. 你最近在学哪些课程或技术方向？2. 你有没有使用过 AI 相关工具？有，用过 Cursor 和 ChatGPT。主要是辅助写一些重复性代码、补测试用例、解释报错、查 API 用法，也会用来做知识点对比，比如 synchronized 和 ReentrantLock 的区别，或者分析 SQL 为什么慢。一般我会把它当辅助工具，不会直接照搬结果。3. 你用 Cursor 的时候遇到过什么问题？最大的问题是上下文理解不一定完整，尤其是跨文件和跨模块的时候，生成的代码可能能跑，但不一定适合当前项目。还有就是它有时会忽略边界条件，比如空值、并发安全、事务失效这些问题，所以关键逻辑我还是会自己过一遍...