transformer架构介绍一下除根号下dk有什么用，还有什么其他scaling方法（还问了一个transformer啥的，也是经典题，忘了）问rag项目：如何确定召回数量？重排后最终选多少文章的数量？（上下文大小问题）有什么原因会导致rag的文章效果质量不好？有没有用ai coding，讲一下有什么优点和做的不够好的地方反问（12分钟结束。。感觉死在了transformer八股没答好）

1、自我介绍2、训练和推理的并行策略大模型训练和推理常见的并行策略主要有数据并行、张量并行、流水线并行和专家并行。数据并行是每张卡放一份完整模型，不同卡处理不同 batch，然后通过 All-Reduce 同步梯度。它实现简单，但模型太大时单卡放不下。张量并行是把同一层的权重按列或者按行切到多张卡上，每张卡只算一部分，再做通信聚合，适合单层参数特别大的场景。流水线并行是把不同层分配到不同 GPU 上，让不同 micro-batch 像流水线一样流动，能解决单卡放不下完整模型的问题，但会有流水线气泡。专家并行主要出现在 MoE 结构里，不同 token 路由到不同专家，参数量可以很大，但每次只激...

目前只会一些语言的基础语法，想要学习周期短的方向，在春招拿个保底工作，薪资大概在六千以上。简历是先随便做了下java开发方向，抄了两个项目，准备看文档过一下项目，了解大致是怎么实现的，细节和代码来不及深究，再背一背八股文，看看b站上的视频该如何糊弄面试，能混进面试的话就以面试推动学习，逐步完善。请问各位大佬有什么更好的思路吗？只想拿个保底的工作。

线上面试，约30分钟自我介绍HashMap的实现原理是什么？哈希查找平均是O(1)，链表的查找平均是多少？红黑树呢？假设最极端的情况，1024个元素都冲突到同一个节点，要查多少次？Map和Set有什么本质区别？TreeSet和HashSet有什么区别？如何将一个线程不安全的集合转换成线程安全的？自定义线程池的参数有哪些？这三个参数（核心线程数、最大线程数、等待队列）的生效顺序是什么？面向对象的三大特性是什么？多态是什么？如何实现的？抽象类和接口有什么区别？Java为什么选用字节码形式？字节码方式的弊端是什么？Java 8之后的垃圾回收器有哪些？G1相比CMS这种老年代的回收器，它的优化点在哪里...