芯原算法工程师面经

对标JDY京东科技-京东云事业部的算法工程师-计算机图形实习岗，有无大佬知道这个岗位主要面啥内容啊，目前准备一面中很慌

双非硕一年经验社招，之前只做CV1，4.10一面 简述下transformer,注意力机制公式，QKV cache ，闲聊提了一个场景如何用Yolov8检测，知道Lora 吗？简述lora 原理以及工作原理。有无大模型训练经验，怎么训练的，模型推理加速用的是什么。2，4月14二面，简述项目以及职则，说说CNN和tranformer 区别，项目中收获是什么，项目用的dify 还是langchain,了解lang graph吗，为什么用langchain ，说下rerank ，项目中用的什么检索策略，模型训练是否使用量化，数据管理用的什么，数据原因引起的大模型能力不足具体是数据的什么问题。说下梯度削减的训练策略3，4月17 HR面4，感谢信目前想起来的就这些，后续回想有的答的确实不好，毕竟经验不太够，下次吧    

今天老师给大家整理了部分搜索推荐算法工程师(实习)面经。供各位同学参考。✅一面1.自我介绍2.先问如果面试通过了，什么时候可以来实习，实习可以线下不3.问有实习过吗？4.简单了解下简历上的两个项目除了这个课程设计，对于推荐还了解哪些5.介绍下推荐系统的流程6.召回和排序比较大的差异点7.为啥排序会比召回的结果要准呢？8.项目中 DIN 模型里面的 attention 是怎么做的？score 是怎么得到的？知道原文里是怎么做的吗？9.现在主要研究是 NLP 吗？10.简历上的在投论文是一作吗？结果咋样？11.未来是希望做 NLP 还是 做推荐12.毕业论文开始写了吗？13.实验有做推荐的吗？14.大数据相关的技术了解如何？15.用户意图理解、用户兴趣、画像建模，应用到推荐上16.编程题:本科是计算系的，平时刷过 leetcode 吗？回答说：没有刻意刷过，不知道该如何回答。17.判断二叉树是否是镜像二叉树，就是判断是否对称。leetcode 原题回答说这个题可以用递归和迭代来做，写了递归实现。✅二面1.自我介绍2.先问了在投的论文，接受了吗？介绍下这篇 paper3.主观性很强的场景，如何做量化等等4.结果 f1 提升的 1% 怎么保证有效性，如何保证置信呢？5.固定随机种子后，多次实验结果相同吗？6.介绍下第二个项目，跟推荐系统相关的7.结合这个项目，说说自己对推荐系统的了解8.多目标混排算法有哪些9.召回主流的做法10.召回的目的是什么，推荐系统一定需要召回吗？11.介绍下 embedding 召回12.推荐系统冷启动问题，怎么解决13.怎么解决排序结果都是之前电影相似电影的结果14.编程题：最长无重复子数组，leetcode 原题，用滑动窗口来做。📳***************************************

结合最近辅助修改的简历及项目，老师总结了部分大模型微调简历的踩雷点。🙅‍♂️错误示范：在 x任务中，获取 xxx 条数据，通过规则 or 脚本清洗出 x 条数据，然后微调 y 大模型，在业务上提升 x 个点。✍🏻原因:大模型微调的平台是现成的，基模是现成的，体现不出核心能力。✅应该怎么写？首先介绍业务背景：业务是一个销售对话业务，机器人是销售，代替真人，直接面对用户。我们会给模型设定任务，任务是 prompt 。步骤1️⃣．提取训练数据问题：1.真人通话每通电话任务是未知的，我们训练数据是任务＋通话的 pair 对。2.真人通话很乱，与客户的对话是各种交叉的，导致 asr 后并不是一人一轮。解决方案：1.首先通过大模型 prompt 对该通电话提取任务，得到任务＋ pair 对。需要用到 cot + reflection ＋多 Ilm 一致性+ debating 的模式。2.使用大模型根据以上任务和真人对话，让大模型编写出通话内容。提问，为什么要编写而不是直接用？步骤2️⃣．制定训练数据集问题：1、正常的对话内容，前面几句和后面几句基本上一致的。都是问候和拜拜，但是也有一些差异。2、因为都是相似场景，虽然任务不同，但是很多场景语义很相似。解决方案：1、基于轮次的权重采样：通过轮次设定权重进行 weighting sample 。解决问候和拜拜的高占比问题。2、基于语义的采样：使用 bert 对对话内容进行 embedding ，然后使用层次聚类通过调节阈值聚类出相似语义的类。对一个类里的样本进行随机采样，提问，为什么要对重复语义的数据进行下采样？3、基于客户类型和产品的采样，因为很多产品是热品，导致对话内容有偏，用户类型一样，需按照类型调整整体比例采样。提问，为什么要这么采样？步骤3️⃣．制定训练数据集我们直接把输出当作 target 进行训练。使用的 lora 训练，但是 lora alpha 设定成为4倍的时候达到了比较好的效果，经验值不同任务不一样，提问，在各种情况下要怎么调？步骤4️⃣.dpo训练问题：v1版本训练时，很多输出内容是对的，但是输出的语气不太像真人，机器人味还是很严重。解决方案：由于训练本身是有 ground truth 的，因此使用v1训练的模型，预测训练集，使用大模型对比两者语气不符合训练集的拿出来，使用训练集的 ground truth 和模型的预测数据作为 dpo 训练对，对v1版本模型重新训练。📳这里老师只是简要进行概括解答，具体情况和详细解答可以咨询辅导，如果想了解项目辅导，提升面试能力，欢迎后台联系。