抖音|那么多短视频特效 凭什么抖音出的这么火

说到短视频特效 , 你或许第一时间会想到“抖音特效” 。
没错 , 抖音的特效似乎总是火到出圈 , 像用一段视频让你“重返三岁”:
抖音|那么多短视频特效 凭什么抖音出的这么火
文章图片
△视频来源@赖美云
又或是1个动作就打破次元壁 , PDD也变得眉清目秀:
抖音|那么多短视频特效 凭什么抖音出的这么火
文章图片
事实上 , 与AI相关的特效技术 , 国内外也有不少APP在做 , 但运行到手机上后 , 最出圈的往往还是抖音 。
同类特效 , 背后所用的AI技术其实是接近的 , 但抖音做出的特效 , 渲染真实、运行流畅、爆款也更多 。
抖音特效常青的秘诀 , 究竟是什么?
只要5M , 效果堪比虚幻引擎
一款特效的创意无法预测 , 但渲染效果和运算时间却能被打磨到极致 。
其中 , 渲染效果依靠CV(计算机视觉)+CG(计算机图形学)两类算法的提升 , 而运算时间则依靠模型的优化 。
对于计算机来说 , CV算法能让它精准地“看懂”一张照片中的内容 。小到特效的贴合度、实时跟踪的精度 , 大到整个图像的分辨率提升、风格改变 , 都属于CV算法的范畴 。
像合成大菠萝这种贴脸特效 , 或是高清修复老照片 , 又或是“重返三岁”、“漫画脸”这类整体画风的迁移 , 都属于CV算法的“职责”所在 。
抖音|那么多短视频特效 凭什么抖音出的这么火
文章图片
抖音所用的CV算法 , 基本靠自研 。仅CVPR 2021一场顶会 , 字节跳动合作入选的论文就有14篇 , 涵盖NAS、图像修复、行为识别等方向 , 同时在移动目标检测、细粒度图像识别、视频分类等细分领域竞赛中夺冠 。
再说CG算法 , 它能让计算机做出以假乱真的特效效果 , 结合CV算法贴合到图片或视频上 。
像常见的PBR算法 , 只是渲染“基操”;电影中常用的粒子系统 , 抖音同样也会用到手机特效上 , 此外还有透明材质、bloom效果……都更接近真实场景 , 而不仅仅是2D贴纸 。
抖音|那么多短视频特效 凭什么抖音出的这么火
文章图片
△3D渲染和2D程序火焰特效对比
然而 , 无论CV算法还是CG算法 , 往往都是模型越大 , 做出的渲染效果才会越好 。
影视业界甚至流传这样一个说法:“一个1秒钟的顶级特效 , 用专业渲染算法去实现的话 , 可能需要连续渲染上50天 。”
这样的特效模型 , 绝对无法符合用户的实时拍摄需求 , 更别提流畅度 。
但据火山引擎技术专家杨辉表示 , 抖音5MB的渲染特效 , 就能达到媲美虚幻引擎实现的效果 。
没错 , 为了确保特效运行流畅 , 抖音的特效模型严格限制在5MB以内 , 便于用户实时使用 。
这5MB , 包含模型、贴图、动画、特效和逻辑触发机制……在内的所有文件 。
抖音|那么多短视频特效 凭什么抖音出的这么火
文章图片
压缩到极致的运算时间背后 , 是自研渲染引擎+云渲染技术的结合 。
渲染工具上 , 抖音没有选择采用Unity或是虚幻引擎进行特效制作 , 而是针对短视频和AR , 自行研发了轻量级的渲染引擎 。
自研引擎着重对短视频拍摄所需的特效算法进行了增强 , 舍去了部分游戏专属、短视频不需要的特效 , 保证渲染的效果 。
同时 , 为了让特效用上更好的渲染算法 , 抖音自研了云渲染技术 , 将原本要用手机硬件计算的特效 , 放到服务器端进行计算 , 再将效果实时传输给用户 。
这样原本计算量在GPU级的渲染特效 , 现在也能在手机上实时完成 , 带来的效果提升也显而易见 。
例如 , 渲染算法中的粒子系统 , 只有用GPU计算 , 才能发挥出更好的效果(烟花特效);相比之下 , CPU计算的粒子系统效果要更为单薄(控雨特效):


推荐阅读