在最近几年，大语言模型（LLM）和各类大模型推理技术正在快速发展。很多小伙伴对如何入门、学习路径很迷茫。今天，我就整理了一份系统的学习路线，帮助你高效掌握大模型推理。

1. 基础知识

1.1. 数学基础

线性代数与概率论矩阵运算、向量空间、特征值/特征向量概率分布、条件概率、贝叶斯思想。

这些大学课程里面都会有，如果已经忘了，先不要专门回去看，可以继续往下学。等遇到了，发现自己不理解，再回头看。

1.2. 编程基础

主要是python和C++。

python学习网站：https://www.liaoxuefeng.com/wiki/1016959663602400

C++建议看《C++ Primer》这本书

学习方法：

学习时把握住要点：快看多练，学习从速；

什么意思呢？学习时常备电脑，不论看网站还是看书，保持清醒的头脑，快速去看快速去学，然后立马开始动手写代码练习。

一定要多练习，一定要多练习

每天可以刷刷leetcode，为面试做准备。

1.3. 深度学习基础

做大模型推理的话，要先学学深度学习，以及pytorch的使用，对模型的训练需要有一个基本概念上的认知，深度学习基础推荐李沐的公开课。如果找不到 X信🔍季叶杂货铺，后台回复“公开课”获取。

学习方法：

跟上面一样，快看多练，学习从速；

二、大模型推理技术学习

这里放我总结的一个大模型推理技术学习图。

这里要搞清楚大模型推理的过程，根据推理的过程，去分析每一个优化手段是怎么回事，这样才能从根本上理解，而不是只知道浮在表面的一些东西。

三、实践项目建议

• 可以找个开源的大模型推理框架，去实现暂时还没有支持的功能，或者去适配还没有支持的模型~

四、关于如何学习

学习一定要快，慢工出细活，放在大多数人身上会变成由入门到放弃。

一定要多动脑筋，特别是大模型的这些优化feature，一定要去想明白，并且能够串起来。

心静：选择了这个方向就安心学习，不要想乱七八糟的，给自己情绪负担。

这是一个还不错的方向，值得一学，薪资还是很不错的

最后求个关注，X信🔍季叶杂货铺，我会定期分享大模型推理相关知识，大模型面试题目，面经，大模型推理项目~