万微科技2016▲| 多核学习(Multiple Kernel Learning)中的优化问题，优化『运筹OR帷幄』原创作者：门泊东吴编者

『运筹OR帷幄』原创
作者：门泊东吴
编者按
介绍多核学习(multiplekernellearning)中的优化问题，主要是SemidefiniteProgram(SDP)和QuadraticallyConstrainedQuadraticProgram(QCQP) 。
优化领域小学生来报道，最近在看多核学习(multiplekernellearning) ，本文follow封面图中的paper[1] ，整理一下MKL中所涉及到的一些优化问题，主要是SemidefiniteProgram(SDP)和QuadraticallyConstrainedQuadraticProgram(QCQP)；学艺不精，一知半(不)解，欢迎大家批评指正。
1.KernelMethod
关于kernelmethod和一些kernel-basedlearningalgorithm ，科普介绍有很多了，更多详细内容也可以去仔细阅读那本黄皮书[2] ，我这里就简单铺一下。

文章图片
1.1.CriteriaUsedinKernelMethod
1.1.1.HardMargin

文章图片
如果对这个优化问题感到陌生的，不明白为什么它可以实现maximalmargin的，可以去看一下黄皮书[2]的4.5SeparatingHyperplanes ，这里不再赘述了。

文章图片
Thehardmarginsolutionexistsonlywhenthelabeledsampleislinearlyseparableinfeaturespace.
1.1.2.1-normSoftMargin

文章图片

文章图片
1.1.3.2-normSoftMargin

文章图片

文章图片
可以看到， (Dual_HM)、(Dual_SM1)、(Dual_SM2)都是convexQuadraticProgram(QP)问题。
KernelAlignment不讲了。。。
2.SDP和QCQP的等价关系
关于SDP的更多详细介绍，推荐本公众号的另一篇文章：《优化|半正定规划(SDP)的形象理解和基本原理》。

文章图片

文章图片

文章图片
3.AlgorithmsforLearningKernels

文章图片
3.1.ConvexSubsetofPSDmatrices

文章图片

文章图片
3.2.LinearCombinationofaSetofKernelMatrices

文章图片
3.3.LinearCombinationwithNon-negativeParameters

文章图片

文章图片
4.写在最后
我知道这是篇很老的paper了，而且现在大家可能更多focus在deeplearning上面，但可以的话，我还是想听听机器学习领域做相关研究的同学来讲讲这个方法目前的研究和应用，先谢过了~最后，感谢阅读这一堆枯燥的公式。

万微科技2016▲| 多核学习(Multiple Kernel Learning)中的优化问题，优化

推荐阅读

『环球科学猫』1000多张合成1张，NASA带你看18亿像素的火星景观，8天时间拍摄

「曼联」曼联开出5000万英镑的报价，以击败切尔西签下桑乔的搭档

火影未解之谜木叶丸他爹木叶丸的爸爸是谁

#Innovation#三星电子，第三款折叠屏生产倒计时，下月开始生产部件

长相一般，但是很会化妆的女生，回家卸妆后，心里会有落差吗

穿搭|硬糖少女花仙子造型曝光，怎么感觉还没有拍摄花絮时真实好看？

怎样让一台电脑，配置2个显示器，具体应该咋去设置

上海市知识产权局网站|法国驻华大使馆知识产权参赞魏玉立（Julie Herve）访问上海市知识产权局

纵相新闻|带血的翡翠与佛像的尘埃，置之死地而后生的缅甸脱贫梦

每天食量巨大咋办

「汉口」中国最“奇怪”的火车站，明明地名已经不存在，却仍执

有哪些找合租室友的好方法

灵动的鱼|屠杀80万汉人，36岁遭报应，全身溃烂而死，他是多尔衮亲兄弟

「一句神回复」难得看他这么用功了，男友最近老去舞蹈室练舞,

径山茶盖碗如何冲泡,径山茶冲泡方式茶艺先容

cue你一下什么意思啊 cue是什么意思

『马洛卡』今日赛事解析：西甲联赛马洛卡主场能否顺利拿下对手？

「睡服百万大菌」除了宅，好好睡觉也是为国做贡献 ‖ 良好睡眠，健康中国

面粉|“这兄弟钓鱼技术真厉害，但是好像一不小心掉到了一个危险动物”哈哈哈！

涉案冰毒84公斤！晋城中院一审宣判5人死刑