1.自我介绍和过项目2.知道 deepspeed 和 megatron 吗，分别介绍一下3.Decoder 文本生成有哪几种方法4.Attention 为什么要做scaled ，不做会怎么样，为什么用根号 d _ k5.说一下 Decoder 的因果注意力， QKV 分别来自哪6.深挖多模态大模型论文用的video - llama ，讲一下大模型的结构7.LoRA 初始化怎么做的，用的秩是多少，为什么不选其他的数8. 介绍一下 ALBEF 、 BLIP

如果训练出来的模型在某一类任务上表现比较差，如何解决这个问题？如果DPO训练的过程中发现loss不降，如何定位原因？从数据构造和训练参数两个角度分析。有没有尝试过动态prompt，训练数据如何构造，如何保证policy正确？如果想把判别式任务转化成生成式任务，学术界有哪些常用方法，哪一种效果比较好有对比过吗？数据的难度分层是如何做的，为什么没使用困惑度？如何确保分层的准确性，用大模型进行分层为什么没有尝试更大的模型？做CPT时的数据量级，数据处理的pipeline？CPT的数据配比是什么样的，有没有考虑CPT后通用能力的退化问题？如何检验CPT后模型的通用能力？手撕：1、寻找重复数（转化成环形链表找入口来求解）2、手撕对比学习的loss计算3、手撕多头注意力

一面 1. 自我介绍+介绍论文，根据论文问了一些拓展的问题2. 简单说一下AUC的定义、物理意义和如何计算，并且用python实现一下AUC的计算3. 手撕：lc199改编 二叉树的左视图  acm模式，要自己建树和序列转树二面1. 自我介绍+介绍论文2. attention的计算时间复杂度3. 推荐系统或者NLP领域 有什么方法可以加速attention计算4. 你了解哪些生成式推荐的论文5. 为什么要在推荐系统引入RQ-VAE6. 和VQ-VQE有什么不同7. RQ-VAE怎么解决坍塌问题8. Normalization有哪些，有什么作用9. 什么时候用batch norm什么时候用layer norm，为什么10. 训练和推理的时候的均值和方差都是怎么得到的手撕：lc331 验证二叉树的前序序列化  问复杂度，优化方法

- 自我介绍一下- 展开讲一下论文做了什么？具体实现机制的探讨- 简单介绍一下比赛干了什么？- 比赛的几路召回，GRU召回、YoutubeDNN召回等效果如何？为什么？为什么GRU行为序列建模召回比ItemCF效果更差？- Coding：（1）DP：零钱兑换，以及各类变体。

编程题秒完第一道就开摆了，还能参加下一次笔试吗