字节大模型数据与服务中心-模型基础能力

1.PPO 公式，是否可以没有 value model2.交叉熵公式？怎么计算的详细说下3.grpo 是什么，讲一下过程4.ppo 计算和 grpo 有什么不同，知道 gae 吗？5.grpo 有哪些变体？6.讲一下你对代码生成的看法，trae 中项目代码是怎么传进 llm 的知道吗？7.有直接试过 grpo 吗？有什么缺点？8.手撕：给定 n 行，每一行包括左指针、右指针和替换字符串，将指定字符串替换，如何优化？

TCP的三次握手与四次挥手？HTTP与HTTPS的区别？HTTP状态码？介绍一下Transformer架构的基本原理？Tranformer的Decoder与Encoder的区别？为什么现在大模型的发展更注重于Decoder？注意力机制的几个参数Q，K，V的含义以及公式？什么是检索增强生成技术（RAG）？开发Agent时工具流是怎么构建的？Java的集合介绍一下？ArrayList和LinkedList的区别？算法题：如何判断单向链表有环？

1.实习拷打2.项目拷打3.八股:1.GPRO 相比 PPO 的优缺点是什么?2.PPO 是如何计算优势的?GAE的原理?3.有了解过除了 GRPO 的其他强化学习训练方法么?4.DAPO 改进了什么地方?5.你觉得 VERL 框架如果用 DAPO 该改哪些地方?6.DPO的原理是什么?如何推导出来的?7.重要性采样的原理?8.SGD、Adam、AdamW 的区别和改进9.你平常使用什么编程语言?Python 精通么?10.Python 的**是干什么的，**kwargs 是干嘛的，@字符是干嘛的?装饰器的原理是什么?11.平时用什么 AI编程软件?有对比过 cursor里面不同模型的效果么?12.你觉得大模型未来会朝着哪里发展?13.你做的这些项目，如果回过头来，哪个最想迭代改善?代码:Leetcode718 最长重复子数组

前段时间面的阿里健康，感觉问的不是很难，基本上都答出来了，但是没有后续了，发下面经攒攒人品1.选一个项目进行介绍2.infoNCE loss是计算公式是什么?为什么使用这个损失函数?3.为什么模型结构要换成HSTU?4.Cross attention和普通的self attention有什么区别?5.Flash attention的原理是什么?6.Self attention的 self 体现在哪里?为什么要使用多头?这个多头是怎么实现的?7.为什么QK点积需要除以根号d k?8.什么是kv cache?9.介绍一下什么是因果掩码?10.SFT微调和预训练之间的区别?11.为什么现在的大模型都使用因果掩码?12.普通的推荐模型和大模型之间有什么关联?生成式推荐了解吗?