大模型

攻略 🌈【大模型评估全攻略】！LLM七大核心评估维度保姆级拆解💯👉🏻预训练→SFT→RLHF→数据集→RAG→Agent→Prompt🔥一、预训练评估评估大型语言模型（LLM）的预训练效果需要从多个维度综合考量，涉及基础语言能力、下游任务表现、知识掌握、推理能力等。🔥二、SFT评估评估大型语言模型（LLM）在监督式微调（Supervised Fine-Tuning, SFT）后的效果，需要结合任务目标、领域特性和模型能力设计多维度的评估体系。🔥️三、RLHF评估评估大型语言模型（LLM）在通过RLHF（基于人类反馈的强化学习）后的效果需要从多个维度综合考量，包括生成质量、安全性、对齐性、任务完成度等。🔥四、数据集评估在评估数据集的质量时，可以从以下几个关键方面进行评估：1. 数据多样性2. 数据平衡性3. 数据完整性4. 数据一致性5. 数据与任务的适合性6. 标注准确性🔥五、RAG评估从召回、排序、生成、整体四个维度来评估RAG性能。使用了多种指标，如准确率（Correct）、错误率（Wrong）、失败率（Fail）、BERTScore、ROUGE Score等，以全面评估生成答案的质量。🔥六、Agent评估现如今Agent开发工具/框架不断出现，但如何全面地对Agent进行评估却很困难，本文就从介绍一些主流的Agent/LLM-as-Agent评估工作来看看是否能得到一些启发。🔥七、Prompt评估评估Prompt的好坏需要一个全面和多维度的方法，结合自动评估指标、人工评估和用户反馈等多种手段。选择合适的评估方法和技术，能够有效提升Prompt的质量和生成效果，进而提高模型的整体性能和应用体验。通过不断优化和改进Prompt设计，可以实现更自然、更准确、更有效的自然语言。

什么是MOE（混合专家模型）？其核心设计思想是什么？DeepSeek MOE是哪家公司的产品？其架构设计有哪些特色？门控网络（Gating Network）的作用是什么？如何解决MOE中专家负载不均衡问题？在分布式训练中，MOE如何实现专家参数的高效更新？DeepSeek MOE如何优化长序列场景下的推理效率？如何评估MOE模型的稀疏性效率？请列举至少2个指标。若设计多模态MOE模型，门控网络应如何融合图像/文本特征？若MOE推理时出现“专家选择震荡”，如何解决？

1️⃣一面 时间：9.12  时长：1hcode：统计岛屿数量、最大岛屿面积，DFS方法解了然后介绍实习项目，面试官非常耐心地听，没有打断八股1.bert和gpt的区别？（从模型架构、训练方式、使用场景方面回答的）2.训练/微调一个LLM的流程？3.实习时用的 megatron 框架吗，对分布式训练框架了解多少？（回答了deepspeed和megatron区别，以及几种并行方式，以及deepspeed的三种zero）4.了解强化学习吗，跟SFT有什么区别？5.反问：业务，对岗位的期望💣评价：有点紧张，算法题有一个小失误没注意到2️⃣二面时间：9.14  时长：1h八股1.写一下 attention 公式（代码实现了下）2.训练时为什么要mask，推理时也需要吗？两处有什么区别？推理时的sequence length和训练时一样吗3.transformer和传统seq2seq模型有什么区别？4.计算attention时为什么要除以d_k，这个d_k的含义是？5.attention计算时还有哪些scale处理？6.attention中softmax函数作用、公式、为什么有减去最大值的处理？换个函数还能这样处理吗？7.解释数值上溢、下溢问题8.讲一下prompt书写的经验，如何判断prompt是否达标，如何改进prompt9.讲一下SFT，会对哪部分计算loss？为什么？10.讲一下deepspeed11.训练用一个7b模型要占用多少显存？不同zero阶段能够节省多少显存？12.训练模型时用了几张卡，有遇到什么异常中断问题吗？反问： 在乎候选人什么能力？对面试表现有哪些改进意见？💣评价： 基础不够扎实，网上有的知识都能回答上来，在同龄人里算比较优秀，欠缺一些多机多卡实践经验。

#简历中的项目经历要怎么写# #大模型# #互联网大厂招聘# #算法岗面试# #大模型面经#

🔥 海量HC，先投先面，锁定未来！早投递=早上岸=更多机会！🌟 为什么选择我们？1️⃣ 站在AI最前沿，定义广告行业的未来参与全球广告行业唯一全机审大模型的建设，技术领先性无可匹敌亲手训练影响数亿流量的AI模型，你的代码直接优化千亿级广告生态2️⃣ 做真正有价值的事：让广告更智能、更可信你的工作直接影响数亿用户的广告体验，打击低质广告，守护生态健康用AI推动商业向善，让好产品找到对的人3️⃣ 商业认知的加速器：读懂万亿市场的底层逻辑立足广告中台，透视电商、游戏、金融等全行业商业模式比同龄人更早掌握AI+商业的黄金交叉点💡 我们寻找这样的你✔️ 对AI产品有狂热兴趣（技术背景加分，非必须）✔️ 逻辑怪/问题杀手，擅长把复杂需求变解决方案✔️ 拒绝躺平，渴望在行业灯塔团队快速成长🌍 工作地点北京 | 上海 | 深圳 （任选，租房补贴+三餐全包）⏳ 投递须知▸ 实习生：尽快入职者优先，可转正▸ 校招生：2026届毕业生📮 简历直达：1.扫码投递（标题：大模型产品-姓名-学校）2.加私聊楼主加微信简历直达✨ 用AI重新定义商业的边界，这个席位等你来占！

#大模型##产品##产品人求职现状##产品经理##求职##找工作##实习##面试##面试经验谈##应届生##实习生##面试问题记录#

目前在做 Java 后端，如果秋招想转大模型应用开发的话，请问该怎么准备呢？优先主攻大模型，还是先继续深入学习 Java（目前在实习，学大模型的时间也不多）？前景如何呢（主要薪资方面相比同体量公司的 Java 岗）？小白求教，谢谢各位佬。