机器学习谷歌提出AI训练提速新方法,榨干GPU空闲时间,最高提速3倍多( 二 )


机器学习谷歌提出AI训练提速新方法,榨干GPU空闲时间,最高提速3倍多
本文插图

可能有人会担心重复使用数据会损害模型的最终性能 , 但实验发现 , 测试的任何工作负载 , 数据回波都不会降低最终模型的质量 。
机器学习谷歌提出AI训练提速新方法,榨干GPU空闲时间,最高提速3倍多
本文插图

随着GPU和TPU性能的继续提升 , 和通用处理器的差距会越来越大 , Google期望数据回波和类似策略将成为神经网络培训工具包中越来越重要的一部分 。
怎么样 , 谷歌AI的这项最新研究 , 是不是也给你训练神经网络带来一些新启发?


推荐阅读