Python
岭回归 标签描述

最近在自学图灵教材《Python机器学习基础教程》,做些笔记。 对于回归问题,线性模型预测的一般公式如下: ŷ=w[0]x[0]+w[1]x[1]+…+w[p]x[p]+b 这里x[0]到x[p]表示单个数据点的特征(本例中特征个数为p+1),w和b是学习模型的参数,ŷ是模型的预测结果。  岭回归 岭回归也是一种用于回归的线性模型,因此它的预测公式与普通最小二乘法相同。但在岭回归中,对系数(w)的选择不仅要在训练数据上得到好的预测结果,而且还要拟合附加约束。我们还希望系数尽量小。换句话说,w的所有元素都应接近于0。直观上来看,这意味着每个特征对输出的影响应尽可能小(即斜率很小),...