1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

主播一面时候抽到hot 100 原题当时高兴得不得了 脱口而出 hot 100原题主播准备开始滔滔不绝讲思路 面试官马上打断然后面试官坏笑原题是吧 有没有别的方法啊最后让我用三种方法都做一遍二面更是恐怖 防止撞原题也不从题库里抽了 直接手打了一道题再也不装了

最近参加了几场Agent专项面，有个非常刁钻的趋势：面试官开始反思“过度智能化”的问题。比起炫耀模型的能力，他们更想看你作为开发者，如何处理资源边界与业务对齐。核心考点一：Token 经济学与“长效记忆”的取舍面试官常会问：“如果任务链路极长，上下文爆了怎么办？”别只回答“滑动窗口”或“向量检索”。现在的深度考点是“记忆的结构化存储”。考点： 你是否设计了类似计算机操作系统的“缓存交换”机制？深度回答： 聊聊如何将非结构化的对话，实时提取并更新到结构化的知识图谱或数据库中。这样Agent下一次读取的是“属性值”，而不是翻看几万字的聊天记录。这考查的是你对信息压缩率的控制能力。核心考点二：如何定...