字节LLM算法一面

1.自我介绍2.critique mode 怎么训练的，会不会存在 bias3.介绍下 RLHF 流程4.BN和 LN 的区别， BN 在训练阶段和推理阶段有何不同5.如果让你用 llm 做一个商品类目识别的项目，你会如何设计6.介绍下 transformer , attention 的细节和 mlp 的作用7.deepspeed的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.在 nlu 任务上，你觉得 bert 和 llm 哪个效果会更好，为什么6.介绍下 RLHF 流程7. deepspeed 的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.如果让你用 llm 做一个商品类目识别的项目，你会如何设计10.快排的思想，时间复杂度11.代码题: code ：手写一个多分类的公式，并用代码实现📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

手撕1: 寻找有序数组中，target的出现次数，要求小于O(n)的时间复杂度 手撕2：查找数组第K小的元素 讨论实现思路 要求时间复杂度小于O(nlogn) 实习的LLM经历拷打 八股 如何增加模型泛化性？ 归一化方式，layernorm和batchnorm的区别和计算方式，为什么要有归一化 Transformer架构中，TOKEN 间交互和TOKEN 内交互分别在那些模块中？ 为什么基于attention的加权融合方式有效 反问：业务和模型使用情况，当前成熟度和存在难点，主要做搜广推，部分场景会用到大模型

offer选择计算机专业 算法本人bg 本硕双c9 计算机专业 大模型应用算法方向纠结的offer1.美团 base北京做面向商家的一个类似AI助手的 好像有自己独立的app（感觉可能算个新业务）主要是做agent、deepsearch相关2.百度 base北京百度大搜 主要做在传统搜索链路上用llm赋能 比如时效性等3.中电14所 base南京（贷款offer 还没发 先纠结一下中电14所的一个信息化基础部门 进去也是做人工智能llm相关的 加班和出差没有一部三部这么多，💰也没一部三部多。纠结点：1.美团和百度都是base北京 感觉北京的生活成本太高了2.美团和百度可能更倾向于美团 感觉技术栈啥的还比较新，但是美团这个貌似是个新业务（因为没在目前大家熟知的美团app里用过，姑且算个新业务吧 也可能是我没听说过哈哈哈）但是看offershow上往年美团的包可能没有百度的大，而且百度或许可能可以更养老一些（也是听说 不确定嗷）3.美团和阿里大战 不知道美团受的影响有多大 美团未来几年前景是否明朗（比如会不会裁员广进doge4.中电14这个公积金确实太香了 在南京基本不用考虑买房的问题了 可能也是相比互联网稳定一些 但是据说jg的强度比互联网有过之无不及 进去之后技术栈估计也一般 假设不想干了 也不好跳槽（感觉jg可能只是想对稳定？）希望大家可以在评论区多多发表建议和意见呀～

整体的沟通不是很顺畅，面试官一直在纠结项目背景，我说是技术预研，他一直问有没有业务背景自驾的强化学习和llm的不太一样他们是传统的RL，也不是多模态问了一些项目，面试官好像不太懂问了我几个问题GRPO的优化目标？KL散度的作用，为什么要KL散度？为什么有些论文移除了KL散度？这样会不会灾难性遗忘？GRPO比PPO的优势，我说移除了reward model，以及去掉了value model。但是面试官不是很满意，说这不是GRPO主要的改进。工作比较flexible考了一个leetcode.162（把这题理解为爬坡，当num[mid] <num[mid+1] 说明是往右的一个上坡，left=...