1. 在LLM推理里，我们经常听到一个词叫prefill，能解释一下它是什么意思吗？2. 我们来聊聊Transformer的基础吧。能先介绍一下Softmax函数吗？然后整体讲讲Transformer模型，特别是里面的QKV（Query, Key, Value）机制，能详细说说这个过程吗？3. Transformer的训练复杂度还挺高的，尤其是在处理长序列时。你了解哪些工作是致力于降低它训练时间复杂度的？4. 长上下文（long context）是现在LLM的一个研究热点，你都知道有哪些方法可以解决或者缓解长下文问题？5. GQA（Grouped-Query Attention）的原理是什么？...

一面，9.101.自我介绍2.手撕代码   leetcode 1283.八股介绍下vllm的技术点。介绍下KV Cache，GQA，MQA，MHAlora的原理，lora会不会更新原来的权重，如果对embedding层也配置了lora会不会更新。topK和topP采样方法，采样温度的数值有什么意义。自我感觉：手撕代码ac了，八股有三分之一答的有点糟糕，面试官似乎对我也没啥兴趣，项目也没问。微凉。

这一期也写到第四期了，我也算大模型老油条了hh，还是攒了点面经，把最近面到的美团啊，百度啊，字节啊之类的全发出来，说实话，我算半个从业者，我在5月份的时候我说过，大模型火不了多久，agent也是。这互联网的东西都是有潮汐的，有涨潮的时候自然有退潮的时候，搞金融的和币圈的估计尤其感受深刻，似那三角洲啊，哈基米音乐和Labubu一样，发了烧的人总会退烧的。偏执于发烧的人总会被烧死的，所以啊，保持清醒，保持冷静，在今后几十年里都是受用的。然后再打个广告吧，我的学习路线已经完成升级了，现在是3.0版本，大伙苦于没有学习资料可以来看看。好了，说说正事：美团：先问了问情况，比赛怎么打的，整体名次怎么样，然...

今天和同事吃饭的时候，了解到现在还有一种agent面试。提前把声音录进AI里面，直接让AI和面试官对线，然后面试的时候那些人就故意挡住嘴，或者是在灯光昏暗的地方面试。面试问什么都问不倒，各种场景题，系统设计题对答如流。真不敢想象以后会不会出现连摄像头里面的人都是AI的面试😂