江苏龙网

  1. 首页 > 人文 > >

王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明( 二 )


文章图片
实际上，有关视频抠图的算法如今已不鲜见，其中大多数采用的是将视频中的每一帧作为独立图像来实现抠图的方法 。
不同与此，在这篇论文中，研究人员构建了一个循环架构，利用上了视频的时间信息，在时间一致性和抠图质量上取得了明显改进 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
从上图中可以看出，RVM的网络架构包括3个部分：
特征提取编码器，用来提取单帧特征；
循环解码器，用于汇总时间信息；
深度引导滤波（DGF）模块，用于高分辨率上采样 。
其中，循环机制的引入使得AI能够在连续的视频流中自我学习，从而了解到哪些信息需要保留，哪些信息可以遗忘掉 。
具体而言，循环解码器采用了多尺度ConvGRU来聚合时间信息 。其定义如下：
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
在这个编码器-解码器网络中，AI会完成对高分辨率视频的下采样，然后再使用DGF对结果进行上采样 。
除此之外，研究人员还提出了一种新的训练策略：同时使用抠图和语义分割目标数据集来训练网络 。
这样做到好处在于：
首先，人像抠图与人像分割任务密切相关，AI必须学会从语义上理解场景，才能在定位人物主体方面具备鲁棒性 。
其次，现有的大部分抠图数据集只提供真实的alpha通道和前景信息，所以必须对背景图像进行合成 。但前景和背景的光照往往不同，这就影响了合成的效果 。语义分割数据集的引入可以有效防止过拟合 。
最后，语义分割数据集拥有更为丰富的训练数据 。
经过这一番调教之后，RVM和前辈们比起来，有怎样的改进？
从效果对比中就可以明显感受到了：
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
另外，与MODNet相比，RVM更轻更快 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
从下面这张表格中可以看出，在1080p视频上RVM的处理速度是最快的，在512 x 288上比BGMv2略慢，在4K视频上则比带FGF的MODNet慢一点 。研究人员分析，这是因为RVM除了alpha通道外还预判了前景 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
更直观的数据是，在英伟达GTX 1080Ti上，RVM能以76FPS的速度处理4K视频，以104FPS的速度处理HD视频 。
一作字节跳动实习生
这篇论文是一作林山川在字节跳动实习期间完成的 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
他本科、硕士均毕业于华盛顿大学，曾先后在Adobe、Facebook等大厂实习 。
2021年3月-6月，林山川在字节跳动实习 。8月刚刚入职微软 。
事实上，林山川此前就曾凭借AI抠图大法拿下CVPR 2021最佳学生论文荣誉奖 。
他以一作身份发表论文《Real-Time High-Resolution Background Matting》，提出了Background Matting V2方法 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
这一方法能够以30FPS的速度处理4K视频，以60FPS的速度处理HD视频 。
值得一提的是，Background Matting这一系列方法不止一次中了CVPR 。此前，第一代Background Matting就被CVPR 2020收录 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
两次论文的通讯作者都是华盛顿大学副教授Ira Kemelmacher-Shlizerman，她的研究方向为计算机视觉、计算机图形、AR/VR等 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
此外，本次论文的二作为Linjie Yang，他是字节跳动的研究科学家 。本科毕业于清华大学，在香港中文大学获得博士学位 。
王冰冰|完美抠图王冰冰！实现4K60帧视频实时抠图 连头发丝都根根分明
文章图片
对了，除了能在Colab上试用之外，你也可以在网页版上实时感受一下这只AI的效果，


推荐阅读


上一篇：教育未来|教育部要求不得设置重点班：67%中小学生睡眠不达标 取消周考月考单元考

下一篇：火星|最远几乎4亿公里！祝融号火星车将暂时“失联”