什么是正规方程组？

正规方程组是根据最小二乘法原理得到的关于参数估计值的线性方程组。

以一元线性回归为例：y=ax+b; 需要通过一堆数据求出a和b。

数据中每一个yi对应xi，那么我们得到方差就是∑（yi-(axi+b)）^2

要求出a和b就是要方差最小，即对a和b求分别偏导然后为0，求出此时的a和b，叫最小二乘法。

形如左边的方程组的叫正规方程组，对其求解即可。