矩阵微积分过目即忘的公式

luyuanhong

矩阵微积分过目即忘的公式

原创  Julique  JuliqueLand  2026 年 6 月5 日 13:40  美国

因为最近数理统计在学线性模型，优化课程中也有较多对向量求导的内容，但是每次遇到求导总是记不住公式，所以整理了一些常用的矩阵微积分公式。

总的来看，记不住还是因为用得少了，多用多查就会记住了。

本笔记整理向量与矩阵求导（矩阵微积分）的基本规则与常用公式，以及随机向量的期望、方差与协方差的核心结论。所有公式遵循 Jacobian 形式，这也是现代统计与机器学习文献中的主流约定。最后给出了一个练习题，可以把这些内容及时地应用复习一下。

● 标量对列向量求导 → 列向量（梯度向量）

● 向量对向量求导 → 矩阵（Jacobian）

符号约定



常用向量求导公式



乘积法则与链式法则



投影公式与投影矩阵



随机向量的期望、方差与协方差



练习



JuliqueLand