「」基于Open WebRTC Toolkit(OWT)的8K全景视频低延时直播系统( 四 )


End-to-end workflow
「」基于Open WebRTC Toolkit(OWT)的8K全景视频低延时直播系统
本文插图

360全景摄像头可以通过RTSP或者RTMP协议来接入到Media Server , 接入的原始8K视频码率是100Mbps 。 靠近内容产生端的Media Server进行HEVC Tile转码后 , 产生的原始分辨率和低分辨率两路流 , 通过内部节点间的QUIC或者TCP协议传输各个Edge节点 。 Edge Server会根据每一个用户的FoV反馈 , 对原始分辨率和低分辨率流进行拼接 , 产生Mix Resolution流 。 新产生的Mix Resolution流通过WebRTC协议连接对应的客户端 。 客户端通过单路HEVC解码 , 还原为符合用户当前视角的360全景视频 。
Future Work
「」基于Open WebRTC Toolkit(OWT)的8K全景视频低延时直播系统
本文插图

目前方案中Media Server在体育场边缘主要做HEVC Tile转码 , 并没有包括360全景图像拼接(360 Image Stitching) 。 需要在360全景摄像头和Media Server之间 , 部署额外的图像拼接服务器 , 这引入了拼接图像的转发延时 。 未来通过集成360全景图像拼接算法到Media Server , 可以进一步降低端到端延时以及服务器部署成本 。
其次 , 目前的方案中采用的原始分辨率和低分辨率两路流的方式中 , 不能很好的做的FoV的快速切换和Adaptive Bitrate 。 未来可以通过实现高、中、低多种分辨率和不同GOP的组合 , 优化FoV切换延时和Network Adaption 。
「」基于Open WebRTC Toolkit(OWT)的8K全景视频低延时直播系统
本文插图

【「」基于Open WebRTC Toolkit(OWT)的8K全景视频低延时直播系统】多数浏览器对于HEVC编码标准兼容性存在缺陷 。 随着AV1编码器的逐渐成熟 , 可以通过基于AV1的360全景视频实现达到与浏览器、WebRTC以及WebXR等技术的深度融合 。


推荐阅读