9-10(1.1 例:多项式曲线拟合)

  然而,就目前而言,继续使用当前的方法并考虑在实践中如何将其应用于我们可能希望使用相对复杂和灵活的模型有限规模的数据集是有指导意义的。在这种情况下,经常用于控制过拟合现象的一种技术是正则化,这涉及到在误差函数(1.2)中添加一个惩罚项,以组织系数达到较大的值。这类最简单的惩罚项对所有的系数取一个平方的形式,导致形式的修正函数

E~(w)=12n=1N{y(xn,w)tn}2+λ2w2(1.4)\widetilde{E}(w)=\frac{1}{2}\sum_{n=1}^{N}\{y(x_n,w)-t_n\}^2+\frac{\lambda}{2}||w||^2\tag{1.4}

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享