即使在移动AI时代，软件仍将主导业界( 五 )

第一个方向是扩展基于协同设计优化的领域。目前为止，压缩编译协同设计的原理主要聚焦于 DNN 模型。除了 DNN ，现实世界的 AI 应用通常包括很多其它的内容，比如数据收集，数据预处理，以及用 DNN 预测之后的操作等等。 DNN 在整个应用中扮演着一个很重要的角色，导致我们主要聚焦于 DNN 的优化，而缺乏对整个应用的优化，以至于难以满足用户的实际需求。所以一个很重要的方向就是如何将压缩编译协同设计的原理拓展到对整个 AI 应用的全面优化过程中。
第二个方向是扩展基于协同设计的优化的适用性。这一方向关联到隐私性与安全性，这是在很多 AI 模型构建和部署中很重要的两个因素。如何将它们有机地与压缩编译协同设计过程相结合，这是一个值得研究的问题。通常来说，模型剪枝需要访问模型和整个训练数据集。但是在某些场景下，由于隐私政策或者公司之间的人造边界，模型的优化者可能并不能够访问数据集。有效规避这些拦路石可以扩展协同优化方案的适用性。
压缩编译协同设计软件算法方案可以在数十亿的现有的移动设备以及数万亿的大有可为的物联网设备上，立即实现实时的深度学习应用，产生巨大的商业价值。比如说，这种方法可以极大地提升视频流应用（如 Netflix ， YouTube ，抖音，或者 Snap）的用户在低宽带场景下的用户体验。这些应用可以推送低分辨率的视频到用户的设备，然后我们可以实时地将之转化为高分辨率的视频。类似的，视频通信类应用，如 Zoom ， Skype ，和 WebEx ，可以利用压缩编译协同设计方法，达到最好的服务质量。此外，这种方法还能够解锁很多之前不可能的实时深度学习应用，例如用一个移动手机摄像头来获得实时的带有艺术风格的视频流。
请联系 info@cocopie.ai 以获得更多的信息。
更多的论据
本章为有兴趣的读者提供更多的细节，以理解压缩编译协同设计是如何运作的。利用压缩编译协同设计方案，我们可以方便的支持所有种类的 DNN ，包括 CNN ， RNN ， transformer ，语言模型等等。此外，这种方法实现了最快的 DNN 剪枝与加速的框架, 相较于现有的 DNN 加速方案如 TensorFlow-Lite ，它最高可以实现 180 倍的加速。总而言之，压缩编译协同设计方案可以使得 AI 应用在现有的移动设备上实时地运行，这在原来的观念中，被认为是只有专业的硬件设备支持才能够做到的。
如果读者想要挖掘更多的技术细节，可以参考下面的完整的压缩编译协同设计技术概览：https://arxiv.org/abs/2003.06700
我们在下面的网址中展示了利用压缩编译协同设计方案在现有的移动设备上实现实时地视频分辨率提升的视频：https://www.youtube.com/watch?v=UqaRtG5EVR4
关于基于卷积核模式化剪枝以及算法层优化的细节与结果，读者可以参考下面的研究论文：

[AAAI’2020] Xiaolong Ma, Fu-Ming Guo, Wei Niu, Xue Lin, Jian Tang, Kaisheng Ma, Bin Ren, and Yanzhi Wang, PCONV: The Missing but Desirable Sparsity in DNN Weight Pruning for Real-Time Execution on Mobile Device, The 34th AAAI Conference on Artificial Intelligence, February, 2020.

关于基本卷积核模式化剪枝的编译代码生成以及优化的框架，以及与算法层优化和系统层优化相结合的细节与结果，读者可以参考下面的研究论文