小红书凉经

1.请简述什么是大模型，以及它与传统模型的主要区别是什么？2.你如何评估大模型的性能？有哪些常用的评估指标？3.请描述一下你如何对大模型进行优化，以提高其性能和效率。4.你是否有过使用或开发大模型的经验？请分享一个具体的案例。5.大模型中的注意力机制是如何工作的？它在大模型中起到了什么作用？6.大模型中的优化算法有哪些常见的选择？它们各有什么优缺点？7.如何处理大模型训练过程中的梯度消失或梯度爆炸问题？8.在大模型设计中，如何权衡模型的复杂度和性能？9.面对大模型训练和推理所需的庞大计算资源，你有什么解决建议？10.请简述你了解的大模型的主要结构特点。11.reward bench上的reward model分哪几类?12. reward model如何训练的，训练目标是什么?13.dp0训练的损失函数和训练目标，dpo如何改进怎么理解大模型安全，包含哪些方面的内容？14.指令跟随能力的评估集有什么，如何评估的?15.阿尔法狗强化学习策略是什么?提升推理能力和指令跟随能力哪个更难, 为什么, 提升指令跟随能力的优化方式和其他的比如推理有什么不一样的地方?16.dpo训完了一般输出长度会变化吗? 如何解决这个问题大模型训练过程学习率一般是怎么变化的, 退火阶段学习率如何变化的?17.在开发大模型时，当你面临推理阶段的资源需求时，你如何确保模型的可解释性和公平性？18.谈谈你对Transformer模型的理解，以及它在自然语言处理中的应用。19.请简述Transformer的基本结构和工作原理？20.为什么Transformer使用位置编码(Positional Encoding)？21.如何优化 Transformer 模型的性能？22.Transformer在自然语言处理中有哪些应用？23.transformer里边norm的位置在哪里,norm如何计算的多头自注意力机制的作用是什么？24.注意力机制为什么除以根号dk, 为什么不是dk请解释什么是注意力机制，并举例说明其应用场景。25.注意力机制是如何工作的？请简述其计算过程。26.多头注意力机制是什么？它相比单头注意力有什么优势？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

想看看大家的暑假offer情况  

岗位：AI平台大模型部署系统研发工程师一面自我介绍（1min）项目拷打（30min）小哄书（就是黑马点评[捂脸R]）1.看你采用了Redis＋本地缓存，本地缓存具体用的什么？（答的Caffeine，其实只知道个名字），为什么叫本地缓存？（存在本地内存里？）。好像还问了什么几层缓存，没怎么答上来。为什么要用本地缓存？2.看你用到了布隆过滤器，它的参数（数组长度，哈希函数的个数）要如何设置？会误判吗？3.你这里用了Redis全局唯一id生成，如何生成的？听说过雪花算法吗，为什么不用？4.如何进行库存控制（防止超卖）？如何保持Redis和数据库数据一致？乐观锁原理？在CAS失败时如何处理？5.这里看你提到了Redission分布式锁，它里有哪些锁？6.为什么要用Lua防止超卖？Lua和Redission作用的关系是什么，替代还是互补？7.消息队列消息提交失败了怎么办？Redis stream和RocketMQ为什么选用后者？8.你用BitMap记录用户签到，它的容量大概是多少？能存一年的吗？知道它的扩容机制吗？校内外送平台（就是苍穹外卖[okR]）1.为什么JWT要用双签发？2.这里的RBAC权限系统什么意思？怎么实现的？3.Spring Task怎么处理超时订单的？如何防止重复推送？4.催单优先级队列按照什么依据排序的？5.阿里云OSS支持分片上传和断电重连吗？你上传的时候发生异常怎么办？重来吗？开发图片压缩过滤器，使传输带宽节省40%如何得出的？6.WebSocket心跳机制怎么实现？发送信号需要消耗带宽，如何权衡资源和连接可靠性？7.JMeter验证验证接口并发成功率99.2%，是在QPS为多少的情况下得出的？八股（25min）1.Redis有哪些基本数据结构？底层是什么？--学过哪些语言？（主要是C，Java），那来问问你Java吧。2.volatile关键字知道吗？它有什么作用？volatile和synchronized关键字有什么区别？volatile能保证线程安全吗（在类似i＋＋的情况下）？3.重写和重载的区别？4.Java面向对象有哪些特点？刚刚你提到了多态，重写和重载都算体现了多态吗？5.Java允许多继承吗？为什么不？知道C＋＋吗？C＋＋允许多继承吗？如果在Java里类A继承了两个类B和C会怎么样？当A调用B和C都有的一个方法后，会调用哪个方法？6.Java中的线程，操作系统中的线程和CPU中的线程有什么区别？7.Java中的锁知道哪些？为什么锁要可复进？8.为什么要使用线程池？构造线程池的参数有哪些？9.知道云原生（还有什么什么的，不是很了解）吗？你现在大二？学校是不是不教Spring这些？有接触过大模型相关的吗？平常用大模型写代码吗，哪种用得比较多？手撕（5～10min）直接上力扣做的，题号112（还是122？），一道easy，提交有bug只对了一半，说时间关系看了思路没问题先不debug了。反问（5min）1.我看这个岗跟AI有关，但是投的时候招聘要求只有Java，Spring这些，我投错了吗？答：内部主要用python，语言不重要，讲了他们做什么但是我没怎么听懂，反正就是什么训练，调用大模型的平台。2.一周要求到岗五天，可以周末去吗？答：只能周一到周五。（[哭惹R][哭惹R][哭惹R]）3.还有什么需要着重学的？答：目前业内Spring这种已经很成熟了（可能是说过时了什么的[捂脸R]），要多了解一下比较前沿的技术。（还夸了我一下大二知道这么多已经很不错了，隐隐感觉这句话不太好[哭惹R]）感觉面试官人不错，有时候不对的会告诉正确答案，不过大多数时候他都是说ok，好这种，不知道是不是对了的意思，我完全答不出来的都说的不了解。面试时间几乎精确1个小时。总之第一次面试就这样吧。星期天在boss上乱点投了几个，星期一突然来两个约面还都是小红书，另一个岗是写的很正常的后端开发，一开始我以为打电话来的是这个就答应面试了，结果过了一个小时左右又一个电话打过来约面才反应过来一开始约的是这个什么大模型系统的岗，普通后端岗知道情况就说让我先面这个了，他推迟（目前还没有再约）。第一次背八股，还要重新熟悉一下不到20天过完的两个项目，leetcode也是一个多月之前刷的，匆忙准备了三天不到面试了。不过比想象中的好，至少大部分都能讲一些出来，不知道是不是面试官看出来了照顾我[黄金薯R]。5月16日补充：还问到了k8s，但是我真的不了解。

暑期的时候什么都不会，就海投，结果算法太差挂了好多，淘天笔试挂了，而且看的淘天暑期成绩用到秋招，秋招直接挂了，好难受