虾皮怎么也要群面了啊

全程拷打简历，无手撕。面试官评价基础很好，实操也挺强的，但是这个岗位所匹配的知识比较薄弱，不能系统性的讲出自己所做，像流水账一样求好运吧

4月份成立的基础模型组，对标qwen deepseek等，一千张卡，20人用目前在做后训练，后面会做预训练手写一个MHA重点考察了qkv的维度转换输入维度 batchsize,sequence lenth, emb_dimreshape + permute后的维度，3，batchsize，num_head，sequence length，head_dim qkv = self.qkv(x).reshape(batchsize,sequence length,3,num_head,head_dim).permute(2,0,3,1,4) q,k,v=qkv[0],qkv[1],qkv[2]

9.26一面面完，流程到现在还是卡这不动，这是挂了吗，有没有hr捞捞，还挺想去的😭😭。

八股： 1，ffn层的作用2，norm层的变体(位置变化pre and post & 算法变化ln and rmsnorm)3，ffn的激活函数，SwiGlu的公式写题*2，约15min：1 计算sqrt(float)2 计算m^n，m为float，n为正整数，不考虑溢出写完题又问八股：1. q,k,v都有啥用，q变得和k一样行不行2. ffn的两层mlp先升维再降维，升到多少(4*hidden_size)？为啥？3. kvcache介绍一下，使用了kvcache之后时间复杂度能降低多少？