趣投稿浅析机器学习中的自由度( 三 )

如我们所述，对于简单的分类模型，自由度等于模型中的参数数量。在深度网络中，自由度通常远小于模型中参数的数量，深度网络往往有较小的自由度。
---《深度神经网络的自由度》2016
因此，统计学家和机器学习从业人员开始倾向于不再使用自由度来表示模型复杂性，以及不用其并判断是否会过拟合。
对于大多数应用统计学家来说，拟合过程的自由度是其模型复杂度或对数据过拟合可能性的代名词。 […]而我们认为恰恰相反，模型的复杂性和自由度或许并没有很强的对应关系。
---《有效自由度：存在缺陷的指标》2013
总结
在本文中，你了解了统计和机器学习的自由度，要点如下：

自由度通常表示一个系统中的控制点数。
在统计中，自由度是用于计算统计量的样本个数。
在机器学习中，自由度是模型参数的数量。

编辑：于腾凯
校对：林亦霖
译者简介

本文插图

张若楠， UIUC统计研究生毕业，南加州传媒行业data scientist 。曾实习于国内外商业银行，互联网，零售行业以及食品公司，喜欢接触不同领域的数据分析与应用案例，对数据科学产品研发有很大热情。
—完—
【趣投稿浅析机器学习中的自由度】想要获得更多数据科学领域相关动态，诚邀关注清华-青岛数据科学研究院官方微信公众平台“数据派THU ” 。