有点想把字节近10次大模型面试整理成资料

面试问题：- （针对简历提问）你工作里主要关注哪些指标？解释一下AUC含义、计算和作用- 主流的开源大模型结构有哪些？（prefix decoder，casual decoder、encoder-decoder）- 介绍一下layernorm和batchnorm的区别？- 在机器学习里，怎么处理长尾数据和多峰数据？- 怎么解决模型的冷启动问题，你觉得LLM在冷启动方面能够起到什么作用？- 介绍一下常见的优化算法（SGD ->Adagrad ->RMSProp ->Adam -> AdamW）？优缺点- 为什么Adam不一定最优而SGD最优的？怎么理解分析？- （针对简历提问）你工作里的对比损失是怎么构造的，有什么作用？介绍常见的对比损失的公式。代码题：- 数组第K大。给定整数数组 nums 和整数 k，请返回数组中第 k 个最大的元素。（力扣215原题）- 手写对比损失的计算（结合项目），并简单说了一下原理。（大概写出来就好）二面我这个是交叉面，提问的有部分设计大模型，也当然我简历上有大模型，所以问了一些llm+搜推的内容，但这部分交叉问题比较浅，能说个大概就很好，同时也有很多经典的机器学习面经问题。因为项目里提到了对标学习，所以面试官在代码考核部分让我写个示例，所以写进简历的一定要准备好（包括流程步骤，代码实现大概要清楚）。面广告算法的岗位，机器学习面经暴率很高，建议熟背，就算是看过有印象，问到的时候也会基本很稳。

淘天-一面手撕：多线程打印 ABC请介绍一个你觉得复杂度较高或印象深刻的项目？在五六万 QPS 下，这个项目带来了什么问题？是因为资源本身有限吗？货拉拉的机器配置是怎么样的？理论上简单扩容能解决问题吗？数据是缓存到本地还是 Redis？活动数据会有资金损失（资损）相关的问题吗？缓存是怎么刷新的？如果流量都打到 Redis 上，有什么优化方法？你说的“get 加本地聚合代替 mget”具体是什么意思？本地聚合是指什么？【先用 size 做判定是否在本地缓存中已经缓存了，没有的部分再去单独 get】本地聚合加 mget 不好吗？【分散在各个 slot 上面，导致阻塞获取】如何保证本地和 Redis...

①淘天：base杭州，做视频增强和生成的，属于音视频团队，面向淘宝直播和短视频，是用生成模型来做增强，转正率应该比较高（但生成方向在秋招好像HC比较少？）②阿里控股：base杭州，做风控安全的，问过mentor实习生更多做多模态大模型和agent相关的工作，转正率暂时未知。③腾讯WXG：base广州，是公众号小程序微信小店团队，做平台内容治理的，这个岗位今年招了很多实习生，分给实习生的业务好像比较模糊，技术比较杂，hr有提到是nlp，图像视频内容理解和多模态相关，但具体的业务还要问下mentor。个人比较看重实习做的业务，觉得多模态/大模型方向更好一些。淘天的话转正率高，WXG背书更强一些，但转正很难，阿里控股title可能稍微弱一些，但方向感觉也挺不错。现在十分纠结，希望大佬们能够提供一些建议万分感谢

3.17 投递3.31 一面4.11 二面4.16 hr面 当晚意向