两个例子告诉你:什么是“线性”回归模型?( 二 )


误差函数的第二个模型也是凸函数 , 因此可通过与前一示例完全相同的过程找到最佳参数 。

两个例子告诉你:什么是“线性”回归模型?

文章插图
 
通过求解上面的等式 , 得到a = 61/618、b = 331/206 。所以 , 第二个模型如下所示:
两个例子告诉你:什么是“线性”回归模型?

文章插图
 

两个例子告诉你:什么是“线性”回归模型?

文章插图
图6 第二个模型
 结论:线性回归模型的线性假设上述2个例子的求解过程完全相同(且非常简单) , 即使一个为输入变量x的线性函数 , 一个为x的非线性函数 。两个模型的共同特征是两个函数都与参数a、b成线性关系 。这是对线性回归模型的线性假设 , 也是线性回归模型数学单性的关键 。
上面2个模型非常简单 , 但一般而言 , 模型与其参数的线性假设 , 可保证RSS始终为凸函数 。通过求解简单偏微分方程 , 得到最优参数 , 这就是线性假设至关重要的原因 。

【两个例子告诉你:什么是“线性”回归模型?】


推荐阅读