大模型算法面经分享-字节

发点面经攒攒人品～1.项目拷打2.你如何评估大模型的性能？有哪些常用的评估指标？3.请描述一下你如何对大模型进行优化，以提高其性能和效率。4.你是否有过使用或开发大模型的经验？请分享一个具体的案例。5.大模型中的注意力机制是如何工作的？它在大模型中起到了什么作用？6.大模型中的优化算法有哪些常见的选择？它们各有什么优缺点？7.如何处理大模型训练过程中的梯度消失或梯度爆炸问题？8.在大模型设计中，如何权衡模型的复杂度和性能？9.面对大模型训练和推理所需的庞大计算资源，你有什么解决建议？10.请简述你了解的大模型的主要结构特点。11.reward bench上的reward model分哪几类?12. reward model如何训练的，训练目标是什么?13.dp0训练的损失函数和训练目标，dpo如何改进怎么理解大模型安全，包含哪些方面的内容？14.指令跟随能力的评估集有什么，如何评估的?15.阿尔法狗强化学习策略是什么?提升推理能力和指令跟随能力哪个更难, 为什么, 提升指令跟随能力的优化方式和其他的比如推理有什么不一样的地方?16.dpo训完了一般输出长度会变化吗? 如何解决这个问题大模型训练过程学习率一般是怎么变化的, 退火阶段学习率如何变化的?

最近我在整理和复盘大量互联网公司技术面试题时，可以发现 Java 岗位中有一些问题几乎是每年都会被反复问到的。这些题目通常集中在 Java 基础、集合框架、多线程、JVM 以及常见框架原理 等几个核心模块。很多面试官会通过这些高频问题快速判断候选人的基础是否扎实。因此，这里整理了 25 道 Java 面试中比较常见的高频题目，适合在面试前进行系统复习。Java 常考面试题（25 题）Java 中 == 和 equals() 的区别是什么？String、StringBuilder、StringBuffer 有什么区别？Java 中 final 关键字有哪些作用？Java 中的 static 关键...

被横向挂了，希望发出来对大家有帮助！1.介绍 Lora 的思想，为什么有效2.DPO 的数据集来源3.PPO 和 GRPO 的区别（损失函数的 clip 作用）4.什么是大模型的幻觉，大模型解决幻觉的方式有哪些5.为什么降低温度能缓解幻觉6.你项目中 system prompt 和 user prompt 的区别7.DeepSpeed zero-3 有什么改进8.verl 和 vllm 你是怎么配合的，每个在项目中的作用9.手撕：LCR 076 数组中的第 K 个最大元素

免责声明：以下内容是我语音输入，让我的 ChatGPT 总结整理的题解思路，仅做简单复盘分享，可能存在理解偏差。下面先给出四道题 相对标准化的题干描述。如果你只是想练习，可以先只看题干部分，不要往下翻题解。题目一：主播排序给定 N 个直播片段，每个片段包含以下信息：uid：主播编号A：指标 A（越大越好）B：指标 B（越大越好）T：时间（越早越好）index：输入顺序（越早越好）排序规则如下：A 越大越好若 A 相同，则 B 越大越好若 A,B 相同，则 T 越早越好若 A,B,T 都相同，则 index 越小越好现在需要：对于每个主播，只保留其 最优的一个直播片段使用每个主播的最优片段对 主...