字节后端实习一面

跪求义诊

简直是夯爆了！！！1.实习项目相关问题2.详细介绍一下你做过的智能客服系统。3.你们这套系统主要的应用场景大概是怎么样的？能举个例子介绍一下。4.什么情况下需要用到你的那个 expert 相关技术？5.整套系统的主要难点是在于什么地方？6.中间的 Planner，它的规划机制是怎么样的？比如它底层需要调用哪些工具？是不是需要多轮规划？中间的一些详细设计是怎么设计的？7.你们怎么去评估客服对客户的输出是好还是坏？8.搜索功能是怎么实现的？9.你在中间起到的主要作用是什么？你做出了什么改进？10.你这个迭代的过程中，有 ground truth 吗？比如每一个 query 实际上最终最相关的商品是有哪些？11.你中间做了一些什么样的技术迭代？最终体现在人工评估指标上有什么样的提升？有做过对比吗？12.这个人工评估的指标是怎么设计的？最后它的指标结果怎么样？13.这个指标结果是内部人工评估的，还是线上的结果？14.中间优化的过程中，你们用的是一个什么样的模型？15.你的那个 expert 模型，怎么去训练的？样本从哪里来？16.导购场景的数据是真实的用户跟人工客服对话的场景数据吗？17.训练的样本量大概是多大？18.1000 条样本就足够训练你的这个模型了吗？19.你对比过训练之前跟训练之后，同样的问题模型学习后的能力提升大概有多少？20.你能做到比原始蒸馏出来的模型效果还强吗？21.训这个 8B 的模型用的是多大显存的？什么显卡？八股1.正常来说，1B 的模型在没有做任何量化的情况下，原始 FP 格式存储大概要占到多少显存？2.不考虑梯度的情况，单纯只考虑 Inference，把参数加载到显存里面大概要占多少显存？3.平时有用过一些量化加速的方法吗？4.常用的量化手段比如 INT4、INT8、BF，它们之间怎么做到加速的？你有了解过吗？5.FP 跟 BF 之间的区别，你了解吗？6.FP 和 BF 底层实现的区别主要在哪个地方？7.正常的 MP32 在底层数据存储上，小数是怎么表示的？手撕：有连续的 N 个正整数，随机抽出一个（不拿头尾），将其他数乱序放入 N-1 大小的数组中，找出被取出的数。要求时间复杂度 O (N)，空间复杂度 O (1)。

努力拥抱AI中…1.测试账号白名单配置优化，优化的目标和面临的问题2.除了Redis还考虑过其他方案吗3.为什么选择指数退避这种重试方式，还有其他方式吗4.Redis宕机的话对这个锁会有什么影响吗5.LocalLife里是怎么用到的Redis6.缓存穿透用的缓存空值解决方案，跟布隆过滤器比呢，或者说各自适用在什么场景下7.对于上面说的两种方案的缺点，有什么优化方法8.Redis做了一个排行榜，怎么实现的9.有量级约束吗10.在自己的项目或者实习中，使用Redis有遇到过什么问题吗11.在实际应用中，有没有踩了一个坑后面花大量时间去定位的这种问题12.最后定位到具体是因为什么导致数据可能查的是已经过期的数据13.AI知识库是如何搭建的14.用的是自研模型吗15.知识库存储的都是纯文本吗16.不涉及图片吗17.向量数据库用的是什么18.你是直接调的算法组提供的服务是吗19.现在的知识库是什么量级20.检索性能如何21.你这边能调优吗（针对检索性能）22.LocalLife中的SpringAI是具体怎么用的呢，用在哪些场景里呢23.双路精排这种优化方式，优化前的准确率和优化后的准确率24.实际在做AI相关的过程中，有没有踩过什么坑或者有没有具体案例可以分享的25.prompt提示词一般按照什么格式来写呢26.日常开发工作有用到AI做编程吗27.花钱使用AI吗

讨论了很多关于大模型和Agent相关的知识1. 拷打项目2. 项目端到端的流程介绍一下3. 数据重复消费的问题（怎么保证幂等性的）4. prompt是怎么设计的？5. 一个好的System Prompt应该是什么样的？6. 大模型幻觉是什么导致的？7. 除了Prompt还有什么更好的解决方案？8. Agent架构上还有什么优化？9. 怎么优化上下文过长？10. 压缩技术了解吗？11. RAG的混合检索12. Agent的核心组件有哪些？13. ReAct原理、执行流程14. RAG和微调的区别、优缺点