因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

麻木的一天,,,,一句多余的也不愿意说…………………………

分享下面经，市场 3月15日投递 3月17日收到测评邮件 3月27日再次收到测评邮件（前面收到忘记做了…后面再次收到才想起来做） 4月3日收到面试邀约 4月6日面试 初试过程： 我们组应该是安排了7个人，腾讯会议，不过有两个人没按时参加，所以一共是5人群面 一开始以为会自我介绍，但是测试了一下声音和画面后就直接进入读题思考环节了！具体是： 🚩小组讨论环节 3⃣min 读题+个人思考（我的题目是看图思考产品，包括产品定位、客户定位、产品特点优势、口号、代言人等等） 1⃣min 每个人分别发言（没有顺序，谁想说就说，但是1分钟时间到hr就会打断） 1⃣5⃣min 小组讨论 3⃣min 推选一名代...