招银科技 后端开发 线上二面

一般情况下，我们聊到“大模型的量化”，想到的大概率是“把FP16转成INT8或INT4，从而降低显存、加速推理”。其实我觉得工程上没毛病，因为很少有人会去探索啥玩意是量化，但你要是放在算法岗的面试上，这样通常是不够的。面试官往往会继续追问：精度明明降低了，模型为什么还能正常工作？什么时候量化会失效？如果这时答不上来，基本就已经失分了。（我的答案放在文末）要把这个问题讲透，可以换一种更有层次的表达方式，从“是什么”到“为什么”，再到“什么时候不行”和“怎么选方案”，逐步展开。首先，从本质上看，量化并不复杂，它做的事情就是用更少的比特去近似表达原本的高精度参数。原本一个FP16权重用16bit表示...

hr先为昨天的delay道歉了，态度很温柔也很专业。主要问一些压力的克服实习内容与成长，困难怎么克服到岗时间与实习时长为什么不考研先打了个mentor和leader比较忙的预防针反问：工作节奏，offer时间

学院本真的没希望了吗😭秋招0offer，投了也石沉大海，求各位佬指点一下😭

清明节前boss有个淘天的给我发内推，投递之后加了微信，直接拉进一个两百多人的群聊（群里大半类似于加州大学，武大，浙大的佬），双非鼠鼠进群瑟瑟发抖之后也是顺利做了ai研发向的笔试顺利进面，一面当天4月7日秒挂。8号早上一看，嘿被捞了，这时还在窃喜阿里居然爱我一次了，没想到晚上一看又挂了，过了一晚9号再看又被捞了（而且被捞的时间是前一天也就是8号，但是晚上十点半我明明看着挂了没捞的）。没想到就这么被捞被挂了好几轮今早上来看又被捞了是何意味啊，以下附上面经，但是也是感谢给了双非鼠鼠一次阿里淘天的面试机会，学到不少东西