大模型or后端

本人二本九硕，2027届开学研二。实验室项目太多，研一下就疯狂外派出差，一个项目出差了三个月，所以感觉以后实习也很悬，目前是写了一篇视觉的小论文，跟大模型没关系，感觉也没什么用。最近看大模型很火，所以就学了一个月，但是感觉大模型的论文好像不太好发，算法基本没希望，只能找一些大模型开发的，但如果后面不放实习的话，感觉也不好找。java还没开始学。请教各位牛友，如果真没有实习的话，选哪个all in可能会好一些呢😭😭

二面：40min1、自我介绍2、论文讲解（20min）3、transformer介绍一下4、transductive和inductive learning的区别。GCN和graphsage在message 传递上的原理。4、手撕：二叉树的右视图 三面：1h1、自我介绍2、字节实习拷打3、代码题：升序数组求平方数不同的个数4、闲聊：base，新人培养，为什么离职，项目code:给定一个升序数组，元素有重复的，对每个元素算一下平方后得到的新数组，新数组中不相同的元素共有多少个。

如标题所说，我是211本硕zzu，目前看组里师兄师姐走的大多数是开发，走java的多一些，也有走c++，大模型开发llm，前端，测试，也有直接考公上岸的，也有断断续续走算法方向的，去年有个师兄签的大疆的算法，但是他好像是有2篇ccfa，具体没办法进一步了解。目前组里不放实习，有偷偷实习被发现然后被抓去干横向提高毕业要求的😭所以组里百分之99师兄师姐都没有实习或者是包装的简历😭目前看网上好多人都在劝退java，我对java的了解也仅限于javaSE应付期末的程度，本科特别摆没学啥技术栈，全扑在学校课程还有一些数学建模等一些不想干的竞赛上（当然菜鸡打一年acm也没成绩），总之本科都是在以保研为导向，没想过就业的事。研一看到秋招形式才幡然醒悟，有无前辈给一下后辈就业建议，准备研一好好学学技术栈，在研一寒假或者研二寒暑假尽量找个本地实习（怕太远被逮到）。十分感谢！（对了我上学晚一年，高考又复读一年，入学已经24了😭）

先是自我介绍，聊了聊项目和之前的实习。八股：1. 大模型预测 token 的损失是怎么算的？有哪几种常见的损失函数？2. 讲讲大模型的思维链技术？3. 聊聊 Transformer？它有啥优势？位置编码是咋做的，有啥改进？ROPE 是啥？Transformer 是怎么把文本转成 token 的？4. Lora 微调八股：矩阵 A, B 怎么初始化？为啥 B 要初始化成 0，A 不行吗？啥是矩阵的秩？5. Bert 和 GPT 有啥区别？大模型时代，小模型还有用吗？6. MHA 是啥？有啥改进？讲讲 DeepSeek 的 MLA？7. MOE 一般加在哪？从训练和推理的角度看，MOE 有啥好处？...