江苏龙网

  1. 首页 > 资讯 > 科技 > >

「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源( 二 )


本文插图

这就表明 ， 如果一个模型由更多的Split-Attention模块组成 ， 那么它的效果会更好 。
语义分割 在语义分割下游任务的转移学习中 ， 使用DeepLabV3的GluonCV实现作为基准方法 。
从下表中不难看出 ， ResNeSt将DeepLabV3模型实现的mIoU提升了约1% ， 同时保持了类似的整体模型复杂度 。
「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源
本文插图

【「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源】值得注意的是 ， 使用ResNeSt-50的DeepLabV3模型的性能 ， 比使用更大的ResNet-101的DeepLabV3更好 。
ResNeSt：注意力分割网络 性能如此卓越 ， 到底是对ResNet做了怎样的改良呢？
接下来 ， 我们就来揭开ResNeSt的神秘面纱 。
正如刚才我们提到的 ， ResNeSt是基于ResNet ， 引入了Split-Attention块 ， 可以跨不同的feature-map组实现feature-map注意力 。
Split-Attention块是一个计算单元 ， 由feature-map组和分割注意力操作组成 。 下2张图便描述了一个Split-Attention块 ， 以及cardinal group中的split-Attention 。
「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源
本文插图

「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源
本文插图

从上面的2张图中不难看出 ， 都有split的影子 。 比如 K(k) 和 R(r) 都是超参数 ， 也就是共计 G = K*R 组 。
除此之外 ， 也可以与SE-Net和SK-Net对比着来看 。
其中 ， SE-Net引入了通道注意力(channel-attention)机制；SK-Net则通过两个网络分支引入特征图注意力(feature-map attention) 。
ResNeSt和SE-Net、SK-Net的对应图示如下：
「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源
本文插图

研究人员介绍
「图像处理」李沐团队提出最强ResNet改进版，多项任务达到SOTA | 已开源
本文插图

李沐 ， 亚马逊首席科学家 ， 加州大学伯克利分校客座助理教授 ， 美国卡内基梅隆大学计算机系博士 。
专注于分布式系统和机器学习算法的研究 。 他是深度学习框架MXNet的作者之一 。
曾任机器学习创业公司Marianas Labs的CTO和百度深度学习研究院的主任研发架构师 。
李沐有着丰富的研究成果 ， 曾先后在国内外主流期刊上发表多篇学术论文 ， 其中《DiFacto — Distributed Factorization Machines 》在ACM国际网络搜索和数据挖掘（WSDM）大会上被评为最佳论文奖 。
传送门 论文地址：https://hangzhang.org/files/resnest.pdf
GitHub项目地址：https://github.com/zhanghang1989/ResNeSt
— 完 —
量子位 QbitAI · ***签约
关注我们 ， 第一时间获知前沿科技动态


推荐阅读


上一篇：iPhone■可全额折抵换购下一代iPhone！京东推出iPhone SE 2保值换新计划

下一篇：「我的第一部5G手机」52秒丨推进5G建设及应用，滨城区将这样做