雷锋网直击 CPU、GPU 弱项!第三类 AI 处理器 IPU 正在崛起( 三 )


在5G网络切片和资源管理中需要用到的强化学习 , 用IPU训练吞吐量也能够提升最多13倍 。
雷锋网直击 CPU、GPU 弱项!第三类 AI 处理器 IPU 正在崛起
本文插图
在创新的客户体验的自然语言处理(NLP)方面 , 代表性的模型就是BERT 。 朱江介绍:"我们目前在BERT上训练的时间能够比GPU缩短25%以上 。 "
雷锋网直击 CPU、GPU 弱项!第三类 AI 处理器 IPU 正在崛起
本文插图
还有一个有意思的应用是IPU在机器人领域的应用 , 是Graphcore和伦敦帝国理工学院的合作 , 主要是用到一些空间的AI以及及时定位和地图构建技术 , 帮助机器人做比较复杂的动作和更高级的功能 。
对Graphcore更重要的是在IPU在云和数据中心中的应用 , 这是他们早期推广以及现在主要推广的领域 , 包括微软在Azure公有云上开放IPU的服务 , 以及欧洲搜索引擎公司Qwant使用IPU做搜图识别性能达到3.5倍以上的提升 。
如何抢占中国AI市场先机?
"在IPU的落地上 , 目前我们整个策略上还是与云服务商和服务器提供商合作 , 所有地区基本上是一样的做法 。 "卢涛坦言 , IPU在美国的落地速度比中国更快 , 包括Azure公有云上开放IPU的服务 , 以及与戴尔易安信合作推出了IPU服务器等 。
雷锋网直击 CPU、GPU 弱项!第三类 AI 处理器 IPU 正在崛起
本文插图
他解释 , "这是因为美国的用户可能是较为活跃的研究者社区 , 而中国很注重产品化落地 。 我们中国本地的一些合作伙伴、开发者可能会更加务实 。 可能前期导入会慢一点 , 但是后面真正开始加速了 , 整个开发过程速度是会非常快 。 "
涛也透露 , Graphcore在和金山云在合作 , 即将上线一个面向中国开发者和创新者的免费试用的开发者云 。
在本地化产品服务方面 , "长期来讲 , 我们很开放地希望针对中国市场的需求做产品的定制化演进 。 从服务的角度 , 我们有两支技术团队 , 工程技术团队承担两个方面的工作 , 一是根据中国本地的AI的应用的特点和应用的需求 , 把一些AI的算法模型用IPU去落地;二是根据中国本地用户对于AI的稳定性学习框架平台软件方面的需求 , 做功能性的一些开发加强的工作 。 现场应用团队则是帮助客户做一些更现场的技术支持的工作 。 "
当然 , Graphcore支持阿里巴巴为底层的架构抽象出来的统一接口APIODLA(OpenDeepLearningAPI)硬件标准 , 以及支持国内重要的深度学习框架百度飞桨也都有助于Graphcore的IPU在国内的落地 。
从AI发展的未来趋势看 , IPU也能发挥优势 。 卢涛说:"我们看到一个大的趋势 , 就是训练和推理有混步的需求 。 比如线上的推荐算法 , 以及预测汽车类应用 。 能够同时满足训练和推理需求的IPU就能够发挥优势 。 "
另外 , "分组卷积对算法设计者来说 , 最简单的一个表现就是设计出参数规模更小、精度更高的一个算法模型 。 我们认为这是未来一个大的趋势 。 "
雷锋网小结
作为一个全新的架构 , IPU获得了业界多位专家的高度评价 。 不过从创新的架构到芯片再到成为革命性的产品 , Graphcore从芯片到落地之间的距离 , 需要易用的软件和丰富的工具来支持 , 特别是对软件生态依赖程度比较到的云端芯片市场 。 从目前的情况看 , Graphcore在工具链、部署支持方面都已经有对应的产品 , 并且在金融、医疗、数据中心等领域都有落地案例 。 并且 , Graphcore下一代基于更先进7nm工艺的IPU也即将推出 。
接下来的问题就是标杆客户之后市场的接受度如何?以及Graphcore的市场策略是否和他们的产品一样优势明显?
不可忽视的是 , 全球范围内除了Graphcore还有其他公司也使用了IPU的理念设计出了AI芯片并且开始推广 。 我们正在见证IPU时代的到来 。


推荐阅读