KKT条件 当我们要求一个函数的极值，同时还有两种类型的约束条件，一种约束条件是等式约束，另外一种约束是不等式约束：   x是一个变量（n维，n个样本），我们想要找到使得f(x)最大的x，还要满足上面的约束。此时KKT条件就出来说话了，如果要想让x满足这个条件下的f(x)的最大值（极值点），那么需要满足KKT条件，条件如下：   我们来解释一下这个KKT条件，在极值点处f的梯度是一系列的不等式gi(x*)和等式hj(x*)的线性组合，其中不等式的约束ui≥0，而等式的λ

当变量之间存在非线性关系时，线性回归就不再适用，这时可以转而使用其他非线性模型。但是，线性回归毕竟是统计建模的基础，通过本篇的介绍，可以看到即使是非线性关系有时也可以通过变换然后使用线性回归进行建模。 1 多项式回归 多项式回归即是在模型中加入自变量的高次幂，如三次多项式回归： 虽然自变量与因变量之间存在着非线性关系，但是以上模型形式仍然可以使用线性回归进行拟合。 体重和身高的关系一般就可以通过三次函数来进行刻画。 model.1 <- lm(weight ~ height