【书籍归纳-AI数学基础】微积分
1.映射和函数
映射是构成函数的基本,通过已知量获取目标值是我们设计函数的初衷。
2.一元函数
导数的本质可以看做求极端长度线段的斜率。
因此会存在左导数和右导数,当两者相等我们就把它看作是一个连续的函数。
dy/dx 中的dy,dx我们叫做微分, 所以导数我们有时也叫微商。
3.多元函数
对于多元函数来说,某一点处的导数不是唯一的,只有当确定一个方向后,才能得到具体的导数值。所以多元函数的导数称为 方向导数。
如何获取最大梯度下降方向?
- 方向导数
- 柯西不等式
所以当获得最大值时,也就是等号的时候是,最大值为,此时取等条件为
4.微分
微分要研究的是当自变量变化一点点的时候,因变量将如何变化。它最核心的思想就是将函数给 局部线性化,通过最简单的 线性映射 来连接起自变量和因变量的变化关系。将复杂的问题用简单的模型进行近似,这种思想在机器学习中也是无处不在的。
对于一个多元函数,如果从某一个点开始,往函数值下降的方向走,应该选择负梯度方向。
5.泰勒一阶展开
我们可以通过导数和无穷小量的定义给出泰勒展开的定义,本质上说明了,一阶函数在任意一点都可以用一段直线拟合,但是也存在一定误差。