最近在牛客看了太多咨询Offer的同学了，给一个普适的结论：1.选业务，脱离业务讨论公司没有任何意义，有鹅选鹅只是个梗。2.综合对比薪资、地域、业务、组内氛围，主要还是看组 不同组之间差距很大 另外考虑好自己想做什么业务，大家选offer的时候最好提前打听下组内的氛围。3.技术方面大家差距没有那么大，技术够用就行，能让你和别人拉开差距的主要还是对于业务的理解程度。4.很多同学被高薪吸引过去，从来没有问过组内是做什么的，结果去了之后landing非常痛苦，所以大家最好多做准备，考虑清楚再去 。 5.另外问下，对于校招生的培养体系和打听一下往届同学的离职率，他们的情况基本上就是这家公司近几年的写照...

一段实习经历+技术栈都符合，连实习岗位的offer都拿不到😭

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...