八股： 1，ffn层的作用2，norm层的变体(位置变化pre and post & 算法变化ln and rmsnorm)3，ffn的激活函数，SwiGlu的公式写题*2，约15min：1 计算sqrt(float)2 计算m^n，m为float，n为正整数，不考虑溢出写完题又问八股：1. q,k,v都有啥用，q变得和k一样行不行2. ffn的两层mlp先升维再降维，升到多少(4*hidden_size)？为啥？3. kvcache介绍一下，使用了kvcache之后时间复杂度能降低多少？

GPT使用：科研 代码 论文等场景下怎么使用GPT？？八股：假设空间relu激活函数-缺点 改进 导数突变点会导致什么问题训练集验证集作用，训练集测试集划分需要注意哪些点时间序列的训练集怎么划分实习：业务背景ecpm的计算为什么不选择双og或深og为什么引入的参数能缓解模型预估震荡的问题，预估不准的机制问题可以怎么解决，或通过其他环节补偿？双目标单目标效果如何对比，在样本量级较少的情况下如何分析验证手撕：循环链表

构造题，题目短短的，难度大大的

1. 看你简历上有两段搜广推相关的实习，能挑一段重点讲讲吗？2. 我们来聊聊Transformer吧。Self-Attention机制具体是怎么实现的？3. 在Self-Attention的计算公式里，为什么要除以一个根号d_k？4. AUC这个指标，具体是怎么计算的？5. 你之后比较想做什么样的业务方向？搜广推还会继续考虑吗？6. 来做个题吧：反转字符串。