产业气象站|AI 全部实力，5G 时代，高通如何释放( 二 )
云端AI相辅 ， 侧终端AI“相成”
5G将引领我们进入一个万物互联的新时代 ， 我们日常生活中的手机、电视、汽车、冰箱、空调、灯、音箱等等智能终端设备 ， 在5G的联结下 ， 都将汇入同一网络 ， 海量终端设备彼此独立 ， 又互联互通 ， 让这些设备彼此通信连接 ， 就需要进行AI运算 。 那么这些AI运算是放在云端呢？还是在本地终端运行？高通给出的答案是终端侧AI 。
文章图片
终端侧AI ， 顾名思义 ， 它的意思就是数据的采集、计算、决策都在前端设备本地进行 。 与在云端运行的AI相比 ， 在终端侧运行人工智能算法具有诸多优势 ， 例如即时响应、可靠性提升、隐私保护增强 ， 以及高效利用网络带宽 。 而云端AI在这个过程中 ， 是作为终端侧处理的补充而存在 ， 比如在一些汇集大数据、训练神经网络模型以及运行很复杂或依赖终端外数据的一些推理上 ， 云端AI有着一定的作用 。 不过 ， 终端设备完全依靠云端AI处理并不现实 ， 目前全球已有数十亿的联网终端 ， 未来只会越来越多 ， 海量终端彼此互连并感知周围环境 ， 产生的海量数据全部传给云端进行处理和管理 ， 不容易 ， 更影响体验 。 因此 ， 终端侧AI是更适合的选择 。
在终端侧大规模运行推理 ， 就不得不引出另外一个关键词——能效 。 还是以智能手机为例 ， AI运算本身需要反复、高强度的运算环境 ， 智能手机的计算能力、电池、存储空间等方面都可能是个问题 ， 而高通给出的解决方法 ， 是在AIEngine中引入Hexagon张量加速器 。 Hexagon支持的是8位和16位的定点运算 ， 而定点运算有助于模型更快的运行 ， 同时能耗也更低 ， Hexagon张量处理器的加入 ， 可以大大提高AIEngine的整体运算效率 ， 降低功耗 。
文章图片
此外 ， 移动端很多AI用例都是并行用例 ， 在处理这些用例的时候 ， 往往有大量数据进入到终端 ， 处理这些海量数据 ， 一定会对手机的性能资源、功耗造成不小压力 。 针对这个问题 ， 高通在AIEngine中开发了一项全新的专用技术 ， 叫做深度学习带宽压缩 。 这项技术能够对这些海量数据进行高达50%的压缩 ， 从而将需要进入到芯片处理的数据压缩一半 ， 以节省电能、降低功耗 。
高通认为 ， 我们正处于机器学习发展征程的最初期 ， 深度学习也仅是具备改变计算潜力的多项机器学习技术之一 。 随着5G发展壮大并建立起统一的连接架构 ， AI将带来巨大的社会效益 ， 而高通 ， 正在持续推进这个过程 。
【来源：IT之家】
【产业气象站|AI 全部实力，5G 时代，高通如何释放】声明：转载此文是出于传递更多信息之目的 。 若有来源标注错误或侵犯了您的合法权益 ， 请作者持权属证明与本网联系 ， 我们将及时更正、删除 ， 谢谢 。 邮箱地址：newmedia@xxcb.cn
推荐阅读
- YY胡|8系列曝光：或全部采用联发科处理器！，华为nova
- 程序员|程序员：代码全部替换成中文，你能接受吗？
- 辉常观察|产业互联网：区块链与数字货币的分水岭，原创
- 精选热点资讯|服务江西产业发展，晏斌：围绕直播大赛
- 爱集微|投向智能制造/人工智能等领域，欣旺达子公司参与设立产业基金
- 产业气象站|华为新款移动路由双网双通在线，告别断网烦恼，手机一碰就能上网
- 中国蓝新闻|“薅羊毛”入刑越城法院一审宣判，坚决斩断灰色产业链
- 上游新闻|智博会上将签约GPP芯片生产项目，关注智博会｜30多家电子产业企业构建梁平电子信息产业链
- 安卓|9月10号！华为三大系统正式亮相，核心技术全部国产化
- 北京商报网|2020中国电信5G产业创新联盟北京站启动