技术编程,AI人工智能|中国工程院院士陈左宁详述:人工智能模型和算法的七大发展趋势( 二 )


趋势六、分布式、分散式的需求越来越突出 。首先 , 大型、复杂模型 , 海量数据需要并行 , 分布式计算 。其次 , 联邦学习等分散场景需要分布式ML原生算法 。使多个参与者可以在不共享数据的情况下构建通用的 , 健壮的机器学习模型 , 从而解决关键问题 。不同节点上的数据集异构(分布不相同) , 大小可跨越几个数量级 。节点可能不可靠 , 节点之间的互联可能不稳定 。类别优集中式、分散式以及迭代式 。这一趋势对安全性、架构、提升效率和效用、健壮性有需求 。
趋势七 , 深度推理 。从计算到感知再到认知和意识 , 人工智能模型和算法的发展趋势七是认知理论的进一步突破 。这一趋势的需求有效应对多种形式的不确定性 。其中概率计算根据不同精度计算需求设计硬件 。根据数据和计算的稀疏分布设计 。另外 , 这一趋势的需求还有类脑、仿脑体系结构以及模拟计算 。
陈左宁总结说 , 总体来说 , AI趋势对算力的需求主要是对软件栈的需求 。从AI发展趋势的特点来看 , 关系、概率、近似计算更突出;不要求高精度、高容错;节点上计算简单;人在环路中需求明显 。因此 , 对软件栈的需求更加多样 , 比如复杂、动态、分布式和分散;支撑新场景以及架构创新 。目前AI算法仍在基本计算模式中 。
陈左宁坦言:“未来的复杂问题可能会超越此模式 , 目前的模型和算法主要是低精度张量计算 。”C114通信网 乐思


推荐阅读