一面 50分钟 自我介绍你学过的大数据掌握的最好的是哪一个 hive里面排序一般怎么使用的 hive内部表和外部表的区别，外部表在什么场景下使用 hive视图用过吗 你对维度和事实的理解你说到了业务过程，谈谈对它的理解你刚刚描述的是一个业务过程还是 多个业务过程多个业务过程放到一张事实表的你举个例子 维度建模中 星型模型和雪花模型 之间的区别缓慢变化维表如何处理呢 全量表的数据保存多久 那你们订单表是全量还是增量，你觉得增量是什么意思，那你们这边的数据保存多久呢说一下订单表的设计过程 以及 表的分区含义你前面提到了会进行维度退化，那么说一下订单表中有哪些维度退化属性那你说一下你们数仓的一个全链...

1️⃣一面时间：9.12  时长：1hcode：统计岛屿数量、最大岛屿面积，DFS方法解了然后介绍实习项目，面试官非常耐心地听，没有打断八股1.bert和gpt的区别？（从模型架构、训练方式、使用场景方面回答的）2.训练/微调一个LLM的流程？3.实习时用的 megatron 框架吗，对分布式训练框架了解多少？（回答了deepspeed和megatron区别，以及几种并行方式，以及deepspeed的三种zero）4.了解强化学习吗，跟SFT有什么区别？5.反问：业务，对岗位的期望💣评价：有点紧张，算法题有一个小失误没注意到2️⃣二面时间：9.14  时长：1h八股1.写一下 attention 公式（代码实现了下）2.训练时为什么要mask，推理时也需要吗？两处有什么区别？推理时的sequence length和训练时一样吗3.transformer和传统seq2seq模型有什么区别？4.计算attention时为什么要除以d_k，这个d_k的含义是？5.attention计算时还有哪些scale处理？6.attention中softmax函数作用、公式、为什么有减去最大值的处理？换个函数还能这样处理吗？7.解释数值上溢、下溢问题8.讲一下prompt书写的经验，如何判断prompt是否达标，如何改进prompt9.讲一下SFT，会对哪部分计算loss？为什么？10.讲一下deepspeed11.训练用一个7b模型要占用多少显存？不同zero阶段能够节省多少显存？12.训练模型时用了几张卡，有遇到什么异常中断问题吗？反问： 在乎候选人什么能力？对面试表现有哪些改进意见？💣评价： 基础不够扎实，网上有的知识都能回答上来，在同龄人里算比较优秀，欠缺一些多机多卡实践经验。  

简述 Transformer 多头注意力机制理解词间关系的原理。​训练 Transformer 时，如何解决梯度消失或梯度爆炸问题？​GPT 等模型对 Transformer 结构做了哪些改进以提升生成效果？​如何优化 Transformer 模型预测速度？​说明 RAG 结合外部知识库与大语言模型提升回答准确性的机制。​用 RAG 构建问答系统时，如何处理检索内容不相关或不全的问题？​如何确定 RAG 系统中文档的合适切分粒度？​当 RAG 系统知识库数据量大、检索慢时，有哪些提速方法？​如何协同使用 Transformer 与 RAG 以发挥最佳效果？​用 RAG 优化模型回答，有哪些实用...

小凳来字节实习一个月，真心感觉字节landing几乎木有，边干边学这一个月主要是在看部门文档➕看代码部门项目是 go ➕ Java 。对于cpp选手的我来说有些吃力，尤其是配环境，蒙蒙的。landing期经常去请教前辈们，组内氛围很好。中间做了几个简单的需求，三天速成go，两天速成SQL，总结项目文档...也是有了产出，可以更新到简历里了我坐在mentor右手边 ，mentor很好，有问题随时call。不过我一开始的低级错误给mentor整破防了，我直接提交推送代码到master分支，幸好只有几行。这一个月，有种极强的割裂感。离开宁静的学校，来到小小的出租屋，有种难以诉说的痛感，女朋友和兄弟也不在身边，孤身一人，写第一个需求的时候头疼要死了ಥ_ಥ第一个月发工资，给兄弟们与家人准备礼物，虽然钱不多，也是一点心意这一个月也看到mentor面试其他人，看到很多优秀的简历。感觉能进入字节，纯是运气。mentor也和我讲也是一种缘分，没有找到实习的家人不要气馁，大家一定要加油，说不定下一次运气爆棚！这里祝大家都有光明的未来(„• ֊ •„)੭