上QQ阅读APP看书,第一时间看更新
1.6 本章小结
线性回归模型在机器学习中是一个重要的回归模型。除了线性回归模型以外,后续的章节会详细讲解如何利用深度学习模型来解决回归问题,因此深入理解线性回归模型对后续算法的学习很有帮助。
本章从实际问题出发,讲解构建线性回归模型的应用场景,通过损失函数衡量模型对样本预测值与样本标签值之间的误差,还利用梯度下降算法找到使损失函数取最小值的参数的值,这样的参数值能够让模型有更好的预测能力。
本章展示构建了两个线性回归模型,分别为简单模型与复杂模型,并应用梯度下降算法对模型进行训练。在训练复杂模型的过程中出现了严重的过拟合现象,我们通过在损失函数中加入正则项对其进行了有效的缓解。在最后的项目实战中应用了L2正则项,除了L2正则项以外,还可以在损失函数中加入L1正则项防止过拟合,其中表示模型中权重的个数。