江苏龙网

  1. 首页 > 资讯 > 科技 > >

数据|如何看待人工智能未来十年的发展？( 二 )


数据|如何看待人工智能未来十年的发展？
图片

当然 ， 半导体晶体管数量反映整体趋势可以 ， 但还不够准确地反映算力发展情况 。 对于AI系统来说 ， 浮点运算和内存是更直接的算力指标 ， 下面具体对比一下GPU和CPU这2方面的性能 ， 如图7所示 。 可以看出 ， GPU无论是在计算能力还是在内存访问速度上 ， 近10年发展远超CPU ， 很好的填补了CPU的性能发展瓶颈问题 。
数据|如何看待人工智能未来十年的发展？
图片

另一方面 ， 依照前瞻产业研究院梳理的数据 ， 就2019年的AI芯片收入规模来看 ， GPU芯片拥有27%左右的份额 ， CPU芯片仅占17%的份额 。 可以看到 ， GPU已成为由深度学习技术为代表的人工智能领域的硬件计算标准配置 ， 形成的原因也十分简单 ， 现有的AI算法 ， 尤其在模型训练阶段 ， 对算力的需求持续增加 ， 而GPU算力恰好比CPU要强很多 ， 同时是一种与AI算法模型本身耦合度很低的一种通用计算设备 。
除了GPU与CPU ， 其他计算设备如ASIC、FGPA等新兴AI芯片也在发展 ， 值得行业关注 。 鉴于未来数据大概率仍在云端存储的情况下 ， 这些芯片能否在提高性能效率的同时 ， 保证通用性 ， 且可以被云厂商规模性部署 ， 获得软件生态的支持 ， 有待进一步观察 。
三
算法
现在我们来分析算法 。 AI算法对于人工智能 ， 就是厨师与美味佳肴的关系 。 过去10年AI的发展 ， 数据和算力都起到了很好的辅助作用 ， 但是不可否认的是 ， 基于深度学习的算法结合其应用取得的性能突破 ， 是AI技术在2020年取得里程碑式发展阶段的重要原因 。
那么 ， AI算法在未来的发展趋势是什么呢？这个问题是学术界、工业界集中讨论的核心问题之一 ， 一个普遍的共识是 ， 延续过去10年AI技术的发展 ， 得益于深度学习 ， 但是此路径发展带来的算力问题 ， 较难持续 。 下面我们看一张图 ， 以及一组数据：
数据|如何看待人工智能未来十年的发展？
图片

1.  根据OpenAI最新的测算 ， 训练一个大型AI模型的算力 ， 从2012年开始计算已经翻了30万倍 ， 即年平均增长11.5倍 ， 而算力的硬件增长速率 ， 即摩尔定律 ， 只达到年平均增速1.4倍；另一方面 ， 算法效率的进步 ， 年平均节省约1.7倍的算力 。 这意味着 ， 随着我们继续追求算法性能的不断提升 ， 每年平均有约8.5倍的算力赤字 ， 令人担忧 。 一个实际的例子为今年最新发布的自然语义预训练模型GPT-3 ， 仅训练成本已达到约1300万美元 ， 这种方式是否可持续 ， 值得我们思考 。
2.  MIT最新研究表明 ， 对于一个过参数化（即参数数量比训练数据样本多）的AI模型 ， 满足一个理论上限公式：
数据|如何看待人工智能未来十年的发展？
图片

上述公式表明 ， 其算力需求在理想情况下 ， 大于等于性能需求的4次方 ， 从2012年至今的模型表现在ImageNet数据集上分析 ， 现实情况是在9次方的水平上下浮动 ， 意味着现有的算法研究和实现方法 ， 在效率上有很大的优化空间 。
3.  按以上数据测算 ， 人工智能算法在图像分类任务（ImageNet）达到1%的错误率预计要花费1亿万亿（10的20次方）美元 ， 成本不可承受 。
结合前文所述的数据和算力2个维度的分析 ， 相信读者可以发现 ， 未来标注数据成本、算力成本的代价之高 ， 意味着数据红利与算力红利正在逐渐消退 ， 人工智能技术发展的核心驱动力未来将主要依靠算法层面的突破与创新 。 就目前最新的学术与工业界研究成果来看 ， 笔者认为AI算法在未来的发展 ， 可能具有以下特点：
??
（1）先验知识表示与深度学习的结合
纵观70多年的人工智能发展史 ， 符号主义、连接主义、行为主义是人工智能发展初期形成的3个学术流派 。 如今 ， 以深度学习为典型代表的连接主义事实成为过去10年的发展主流 ， 行为主义则在强化学习领域获得重大突破 ， 围棋大脑AlphaGo的成就已家喻户晓 。


推荐阅读


上一篇：京东|京东开启“二次成长”激发“朋友圈”增长，带动就业人数超1800万

下一篇：特斯拉|特斯拉回应：未拉黑武汉车主 昨日交付车辆系7月在长沙下单