快手大模型算法面经

1.你这个xx实习的项目能展开讲讲吗?你主要负责哪块?为什么是你来做这块?
2.自动化评估体系这里能具体说说怎么评的吗?哪些维度
3. 多维度自动化评估体系,那每一个维度是怎么做的?比如你说的关键词匹配和问答对,这个流程怎么构建的
4.图表的准确性你怎么评估的?怎么从markdown和HTML 里提取对应图表并比对的?有没有一些异常case举个例子?
5.用了playwright去截图,那遇到报错或者渲染失败怎么办
6不同设备模块比如交换机、服务器,它们的字段特征都不一样,那你怎么做统一化训练
7.那你这个知识图谱底层是用什么数据结构存的
8.用的是PAI吗?那有没有对比过比如说 igraph或者图数据库像GraphScope这些之间有啥区别
9有没有用过一些大模型的推理?比如说用千问做辅助根因预测
10你们这套系统的准确率和召回率大概是多少,那比如说没有到90%,你们是认为这个指标是OK的吗
11所以它是系统推理出根因之后还需要人工check,然后才能执行故障预案,有没有哪一部分流程是完全自动化的
12你们平台现在接的主要是底层设备指标,那有没有接入一些业务指标,比如订单失败率转化率这类的业务数据
13我有个疑问就接入业务指标的话你需要知道整个平台的服务拓扑,那你们这个平台是怎么接入业务侧拓扑的?是自己做的吗?还是中台团队负责
15.那你既然用过图数据库,你知道它底层的存储结构是怎样的吗?比如它是怎么组织边和节点的
16.我们现在是两阶段推荐架构:第一阶段召回用的是embedding点积召回,第二阶段是MLP跟transformer做多目标打分。那你觉得在我们这么大规模的数据量下,如果要做real-time re-ranking,你会在架构上怎么做trade-off?怎么压低latency
17.我们现在在做embedding精度提升也试过加cross tower、attention pooling 甚至meta learning,但发现一旦模型重了,就难以部署到线上实时系统。那你觉得在embedding learning的这个模块里,有哪些方案能在不严重影响线上性能的情况下提升语义表示能力
18.我们现在二阶段模型训练的是watchtime、like、share、follow这些目标。但有些目标(比如 share、follow)非常稀疏,有的时候一个batch里面都没有。你要设计一个loss来处理这类多目标问题,既保证主目标收敛,又不能让稀疏目标完全失效,你会怎么设计
全部评论

相关推荐

11-02 06:10
门头沟学院 Java
1.详细说一下dns解析它是怎么解析的,过程咋样2.Transformer你给我讲讲它底层原理,讲一下它为啥能替代RNN,我们知道Transformer架构已经很成熟了,但你觉得它的Self-Attention机制在多模态对齐上会不会存在瓶颈?有没有实际场景里注意力权重完全偏掉的情况3.说下LoRA的原理吧,LoRA是不是只能在Linear层插?你有没有了解过为什么不能插在LayerNorm之后?这会对训练稳定性造成什么影响4.你刚才提到用过QLoRA,那你能具体说说QLoRA是怎么降低资源成本的吗?常见的量化方式有哪些,QLoRA为什么选的是NF4和FP16这组组合,而不是别的组合?你能说说NF4 的分布拟合逻辑吗5.我们做了一些multi-query attention优化,但发现decoder延迟还是高,你觉得是哪里的瓶颈vLLM 本身的KV cache 是不是反而是负担7. Embedding模型和Rerank模型分别是怎么处理文本语料的?用场景举一下例子8.看你做过RAG,讲讲从数据清洗到检索服务上线这整个链路是怎么搭的,你是怎么做chunk切分的10.你觉得当前RAG的最大瓶颈在哪?你做过哪些改进来提升 Recall11.你们在训练xx领域大模型的时候,SFT 数据怎么构造12.看你做过LoRA微调,那你是怎么选rank值的?合并adapter权重的时候有没有遇到梯度爆炸13.我看你这个特长里面也有写过使用这个模型部署是吧你也做过相关模型部署的工作,那咱们能简要的说一下,我们部署的参数量模型部署的参数量,然后还有它对应的硬件之间的需求关系,比如说我每个参数量的模型所需要的算力需求大概是什么?先给出一个题吧,我们部署一个MOE架构的千分三的235b的一个模型,他所需要的算力大概是多少?14. 比如rag知识库搭建就是比如说我们在搭建这个知识库的时候,需要对这个知识库的文件文档进行动态更新了,那么你之前是用的是全量嵌入还是增量处理?如果是用增量的话,那么怎么来避免新旧文档的文单的分布不一致导致的这种检索偏差的问题15.你那个机械臂的那个动作态这一块融合的这一块,然后你那个具体的数据是怎么进行一个融合的,然后这个对比协议是怎么做的16.在做多模态融合的时候,有没有做过过视觉跟文本之间的对齐任务,怎么做的
查看14道真题和解析
点赞 评论 收藏
分享
评论
2
4
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务