图解机器学习/第四章 带有约束条件的最小二乘法
单纯的最小二乘法对于包含噪声的学习过程经常有过拟合的弱点
部分空间约束的最小二乘学习法
通过把参数空间限制在一定范围内，来防止过拟合现象。
$P$是满足$P^2=P$和$P^{\intercal}=P$的$b\times b$矩阵，表示的是矩阵$P$的值域$\mathcal{R}(P)$的正交投影矩阵。通过附加$P\theta=P$约束条件，参数$\theta$就不会偏移到值域$\mathcal{R}(P)$范围外了。
Read More
单纯的最小二乘法对于包含噪声的学习过程经常有过拟合的弱点
通过把参数空间限制在一定范围内，来防止过拟合现象。
$P$是满足$P^2=P$和$P^{\intercal}=P$的$b\times b$矩阵，表示的是矩阵$P$的值域$\mathcal{R}(P)$的正交投影矩阵。通过附加$P\theta=P$约束条件，参数$\theta$就不会偏移到值域$\mathcal{R}(P)$范围外了。