微商

单变量微商与微分

微商(difference)也就是我们熟知的导数，其来源于差商的极限，也可理解为函数微分与自变量微分的商。

$ \frac{\mathrm{d}y }{\mathrm{d}x} =f^{\prime}(x) = \lim_{\Delta x \to 0} \frac{f(x + \Delta x) - f(x)}{\Delta x} $

多变量微商与微分

当扩展到多变量情形时，微商变为偏微商，微分变为全微分，定义的思想与单变量相同。多元函数求导法则同样直接来自单变量函数的复合求导。

Jacobian矩阵

最简洁的视角上，使用多元函数求导法则规定子函数的导数即为Jacobian矩阵，但其不仅是一个方便计算、证明的trick，更是在微积分学里坐标系统变换的关键工具或观点，这种方便计算、分析的变换系统往往是领域内的绝对核心。

Jacobian矩阵核心是组织偏微分，而在机器学习等工程领域，其直接组织的是梯度。