👋个人背景：2本9硕，2实习无论文👏offer1：字节tt推荐大模型，base上海，主要是短视频推荐，主端信息流冷启动方向，面试官说主要在探索生成式推荐，强度早九点半晚九点半，toc业务;💯offer2：阿里云瓴羊，暑期实习转正，base杭州，岗位是大模型算法，主要方向是智能客服，RAG，agent等，但我应该是主做rag，强度早十晚九，tob业务;两家给的十分接近，字节业务貌似更好，但以前没接触过推荐，阿里云组内更熟悉，不用担心landing或者试用期不过，但是商业化团队技术感觉不强

虾皮等着排队oc，京东tet等着终面，阿里云马上开，薪资除掉base地的生活成本估计差不多，这里放一个个人的预判，主要看业务和发展前景。1.阿里云-瓴羊，智能客服，杭州，n * 16 + 签字费优点：实习转正，比较了解，容易晋升，业务核心，今年并回云谷了，可以狠狠抄底？缺点： 本科生有几率开P4 瓴羊认可度一般+超级累 和组里人年龄差距有点大，没有搭子有代沟 感觉技术一般2.虾皮 food部门，上海，（n + 6 ）* 15，优点：base高，团队氛围无敌好，技术不错缺点：边缘部门，裁应届严重3.京东TET（贷款），技术管培生，北京，50w优点：背书好，似乎挺有前景缺点：竞业，北京这个薪资是不...

1.京东科技 京东云 AI coding ide 产品测开 北京2.阿里云 瓴羊 智能客服 agent 产品测开 杭州都是 tob ai 方向业务月 base 差距不很大，京东年终奖 12➕2➕6 20 薪阿里云瓴羊年终奖 13➕3 16 薪阿里云瓴羊有交通补贴和杭州一些补贴和一点签字费，瓴羊是子公司，担心认可度问题想问问大家如何选

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...