最优化问题中,啥形式有闭式解

谢邀,题主是想问什么形式的目标函数有闭式解把?1. “什么形式的函数有闭式解以及闭式解的形式是什么样?”这完全看问题形式,常见的比如二次的凸的优化目标,以及个别凹的二次优化目标(比如PCA的优化目标)有闭式解。对于一般的可导的凸问题 最优化问题中,啥形式有闭式解
,一般只要你能够设法把 最优化问题中,啥形式有闭式解
中的最优化问题中,啥形式有闭式解
单独移到等式一边,就有闭式解,或者巧妙得构造一个解,证明其它解的函数值一定大于你构造的解也可以。然而,有闭式解并不意味着能够绕开优化算法降低计算的复杂度(比如PCA的优化目标)。2. “没有闭式解的问题,能精确证明没有的原因吗?"一般只是找不到闭式解,至于精确证明”没有闭式解“,不了解。
■网友
【最优化问题中,啥形式有闭式解】 这是一个好问题,暂时没太想明白,等想明白了,再来补充答案。一般机器学习中的问题经常转化为一个优化问题,且形式相对来说较为复杂。从数学的角度来看,一般来说,只有目标函数是自变量的凸函数,且目标函数可微,Heissen 矩阵正定等条件下,可以判定 目标函数在一点处达到最小值(极小值点),则可认为其具有闭式解并可直接求出此闭式解。例如,数值中常见的,线性最小二乘问题,PCA 问题。但若目标变量是 一个矩阵,则比较难以判断。对一般的问题,用一些优化算法,例如梯度下降等方法可以进行求解。


    推荐阅读