江苏龙网

  1. 首页 > 资讯 > 科技 > >

|推动边缘端机器学习，NXP Glow神经网络编译器问市


恩智浦半导体NXP Semiconductors N.V.发布了eIQ机器学习（ML）软件对Glow神经网络（NN）编译器的支持功能 ， 针对恩智浦的i.MX RT跨界MCU ， 带来业界首个实现以较低存储器占用提供更高性能的神经网络编译器应用 。 Glow编译器由Facebook开发 ， 能够集成特定于目标的优化 ， 恩智浦利用这种能力 ， 使用适用于Arm Cortex-M内核和Cadence Tensilica HiFi 4 DSP的神经网络算子库 ， 最大程度地提升i.MX RT685以及i.MX RT1050和RT1060的推理性能 。 此外 ， 此功能已集成到恩智浦的eIQ机器学习软件开发环境中 ， 在恩智浦的MCUXpresso SDK中免费提供 。
|推动边缘端机器学习，NXP Glow神经网络编译器问市
本文插图
【|推动边缘端机器学习，NXP Glow神经网络编译器问市】

使用Glow充分发挥MCU架构特性的优势
2018年5月 ， 率先开发PyTorch的Facebook推出了开源社区项目Glow（Graph Lowering神经网络编译器） ， 其目的是提供优化 ， 提高一系列硬件平台上的神经网络性能 。 作为一种神经网络编译器 ， Glow基于未优化的神经网络生成高度优化的代码 。 这个特点有别于典型的神经网络模型处理 ， 后者采用即时编译 ， 因而需要更高的性能 ， 还会增加存储器开销 。 像Glow这样直接运行优化代码可以显著降低处理和存储器要求 。 恩智浦也在Glow开源社区中扮演着积极角色 ， 帮助推广和普及Glow的新功能 。
Facebook软件工程经理Dwarak Rajagopal表示：“GitHub中提供的标准版Glow可以直接在任何设备上运行 ， 让用户能够灵活地针对感兴趣的基础架构编译神经网络模型 ， 包括Arm Cortex-A和Cortex-M内核以及RISC-V架构 。 恩智浦使用充分利用MCU计算元件的专用软件库 ， 实现了2-3倍的性能提升 ， 展示了从基于云的高端机器到低成本的嵌入式平台的广泛范围内 ， 将Glow神经网络编译器用于机器学习应用的诸多优势 。 ”
优化机器学习框架以增强竞争优势
未来几年内 ， 对机器学习应用的需求预期将会大幅增加 。 据TIRIAS Research预测 ， 到2025年 ， 98%的边缘设备将使用某种形式的机器学习/人工智能 。 根据市场预测 ， 到2025年 ， 预计将有180亿至250亿部设备包含机器学习功能 ， 尽管它们可能并没有专用的机器学习加速器 。 消费型设备制造商和嵌入式物联网开发人员将需要优化机器学习框架 ， 以便实现使用MCU的低功耗边缘嵌入式应用 。
恩智浦半导体资深副总裁兼边缘处理业务总经理Ron Martino表示：“借助eIQ机器学习软件框架 ， 利用高度集成的i.MX应用处理器和高性能i.MX RT跨界MCU的强大功能 ， 恩智浦正在推动机器学习功能在边缘设备上的实现 。 随着i.MX RT系列跨界MCU增加对Glow的支持 ， 我们的客户能够编译深度神经网络模型 ， 为他们的应用带来竞争优势 。 ”
恩智浦的面向机器学习的边缘智能环境解决方案是一个全面的工具包 ， 提供开发人员需要的构建模块 ， 帮助他们高效地在边缘设备中实施机器学习 。 Glow整合到eIQ软件后 ， 机器学习开发人员将拥有全面的高性能框架 ， 可在包括i.MX RT跨界MCU和i.MX 8应用处理器的恩智浦边缘处理解决方案上进行扩展 。 客户拥有了更强大的工具 ， 能够在i.MX RT MCU和i.MX应用处理器上开发机器学习语音应用、对象识别、人脸识别等应用 。
利用恩智浦的Glow神经网络实施来提高性能
eIQ现在包含对Glow和TensorFlow Lite的推理支持 ， 对于这些实施 ， 恩智浦通常会执行基准测试以衡量其性能 。 MCU基准测试包括标准神经网络模型 ， 例如CIFAR-10 。 以CIFAR-10模型为例 ， 恩智浦采集的基准测试数据表明了如何利用i.MX RT1060器件（采用600MHz Arm Cortex-M7）、i.MX RT1170器件（采用1GHz Arm Cortex-M7）和i.MX RT685器件（采用600 MHz Cadence Tensilica HiFi 4 DSP）的性能优势 。


推荐阅读


上一篇：上观新闻|本月英仙座流星雨有点特别，与金星西大距同期“上映”

下一篇：新机发布|OPPO K7低调上架：骁龙765G处理器加持！