奇富科技开奖

1、项目介绍2、字节实习3、序列建模是用的什么结构4、目前的baseline是什么，模型复杂化怎么做的5、接入的特征具体是什么6、gmv优化怎么做的，介绍一下几个损失函数7、美团实习8、具体工作介绍，最终评价指标是什么9、手撕最长回文子串10、反问

1．项目介绍，过实习，讲论文，根据表述实时跟进询问交流2．讲一下大模型训练和推理的流程， SFT 和 RLHF 的作用分别是什么3．为什么探索 MoE 架构， MoE 相比 Dense 有什么好处4．有没有全量微调过5．推导一下神经网络反向传播的过程6．在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式7．一道排列组合的概率题8．平常有用过 RLHF 吗，简单介绍一下9. 开放题：对目前大模型的发展有什么看法10.代码：多头自注意力

项目 介绍其中一段实习，没问啥问题其他1. 实习都是什么原因离职2. 你觉得大模型和之前AI比本质解决什么问题，大家期待如此高3. 自己用过哪些AI类的产品，coding类的有用吗4. cursor类的AI产品能解决什么问题5. 有驾照吗，对车有什么了解吗6. 能提前来实习吗7. 对base地有哪些要求8. 描述一下你想去的公司是什么样的反问1. 业务聚焦点2. 重头戏是toB还是toC

1.实习介绍2.介绍transformer架构3.transformer架构为什么要切分为多头？4.讲一下attention的具体计算步骤5.计算attention的softmax之前为什么要除根号d_k6.介绍一下transformer位置编码；还了解别的位置编码吗？7.如果在transformer中，把K去掉，变成Q*Q*V，这样会有什么问题吗？假如不考虑解码器，只考虑编码器内部的attention操作的话，这样会有什么问题？8.transformer是encoder-decoder架构，而GPT是decoder-only架构，为什么会演变成这样一种形式？为什么把encoder给舍弃掉了？9.为什么像GPT这种生成式任务，不同时利用encoder-decoder？10.transformer的FFN层为什么会逐渐演变成MOE层？11.moe层的负载均衡具体是怎么做的？偏置项b是怎么训练的？你怎么保证有一个机制让偏置项得到变换？照理来说，偏置项b应该放到损失函数中，这应该怎么设计？12.做agent有哪些框架？13.做agent的开发范式有哪些？14.lora微调的核心原理是什么？15.大模型幻觉了解吗，怎么缓解大模型幻觉？16.手撕，最长递增子序列