字节大模型算法一面分享

整体面试还是不错的,但是没后续了...
1、项目介绍
2、Transformer结构理解
请详细说明Transformer的整体架构及其核心组成部分。
3、Attention机制问题
为什么Attention公式中要除以√dk?这个操作有什么作用?
Transformer训练过程中为什么容易出现梯度消失或爆炸问题?
4、SFT实践问题
在监督微调(SFT)过程中遇到过哪些典型问题?请分享您的解决方案和实践经验。
5、领域数据配比问题
在构建领域大模型时,如何确定不同领域数据的配比比例?有哪些考量因素?
6、Decoder-only架构问题
为什么当前主流LLM都采用Decoder-only架构?这种结构相比Encoder-Decoder有哪些优势?
7、优化器相关问题
ADAM优化器相比SGD有哪些改进?
请简要说明梯度下降的原理
ADAM是如何在SGD基础上进行优化的?
8、代码题
给定一个元素互不相同的整数数组nums,编写函数返回其所有可能的子集(幂集)。
示例:
输入:nums = [1,2,3]
输出:[[],[1],[2],[3],[1,2],[1,3],[2,3],[1,2,3]]
全部评论

相关推荐

03-25 19:43
湖北大学 C++
点赞 评论 收藏
分享
03-27 16:40
已编辑
门头沟学院 C++
26学院本太难了,很多公司机筛就给我刷了。机会都难拿到如果是简历存在问题也欢迎拷打————————————————————分割线——————————————————————2026.3.4更新:发完贴之后,时不时投递又收到了不少的笔试/面试邀请。主要是之前投递简历出去之后基本上都是沉默状态,年后好转了不少timeline:2026.01.21 文远知行笔试,半年多没刷算法题 ->挂 (后续HR说春招可以重新安排笔试)2026.2.4     小鹏汇天 技术一面,第二周收到结果 ->挂2026.2.12   大众Cariad代招 技术二面 ->Offer2026.2.28   多益网络技术面试,由于风评太差,一直在犹豫要不要接面试 ->推迟-----------分割线-----------2026.3 月前的某一天,临时去电网报名了二批计算机岗位的笔试2026.3.6 从上家公司实习离职,氛围最好的一家公司,leader 说可以帮忙转正,但是流程太长,而且我们部门据说只有一个 hc,更想要研究生,我很有可能是会被签外包公司在这里干活,就离职了。2026.3.9 入职新公司,大众Cariad 以外部公司的身份进组,项目组签了三年,后续三年应该都可以在这里呆,不知道有没有希望原地跳槽。2026.3.10 电网考试居然说我通过资格审查了,短信约我去参加资格审查,请假一天,买了 12 号晚上的机票回成都2026.3.15 参加国家电网计算机类笔试2026.3.17 电网出成绩了,感觉很低。觉得已经🈚️了2026.3.18 收到电网面试通知,通知 3.22-3.25 这个时间去面试,我的岗位只招 1 个人。据说面试只有 2-3 人,不知道能不能成功----------分割线-----------2026.3.21 电网面试结束,感觉回答的还勉勉强强,大概是2个岗位分别招1个人,一共11人面试,实际来了9人2026.3.27 出面试成绩,满分100分,早上10:20左右发现面试成绩46,我震惊了,没截图,后面过了十分钟重新看发现面试成绩给我改成58了。但同样震惊。朋友问我是不是把面试官打了,哈哈
点赞 评论 收藏
分享
评论
点赞
3
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务