江苏龙网

  1. 首页 > 资讯 > 科技 > >

算法OpenAI最新论文：机器学习效率正在超越摩尔定律( 二 )


算法OpenAI最新论文：机器学习效率正在超越摩尔定律
图片

摩尔定律是在 1965 年提出的 ， 即当价格不变时 ， 集成电路上可容纳的元器件的数目 ， 约每隔 18-24 个月便会增加一倍 ， 性能也将提升一倍 。
当时集成电路只有 64 个晶体管 ， 之后出现了个人计算机和智能手机（iPhone11 拥有 85 亿个晶体管） 。 如果我们观察到数十年来 AI 算法效率的指数级提高 ， 它可能会带来什么？
出于这些原因 ， 研究人员开始公开跟踪效率的整体性能 ， 首先探索视觉和翻译效率基准 ， 包括 ImageNet 和 WMT14 ， 之后再考虑随着时间的推移将添加更多的基准 。 跟踪多种措施 ， 包括硬件的措施 ， 可以描绘出一幅更完整的进展情况 ， 并有助于确定未来的努力和投资在哪些方面最有效 。
人工智能的未来
【算法OpenAI最新论文：机器学习效率正在超越摩尔定律】值得注意的是 ， 这项研究的重点是深度学习算法 ， 这是目前占主导地位的人工智能方法 。 深度学习是否能继续取得如此巨大的进步 ， 是人工智能领域争论的焦点 。 该领域的一些顶级研究人员质疑深度学习解决该领域最大挑战的长期潜力 。
OpenAI 在较早的一篇论文中表明 ， 最新热门的人工智能需要相当惊人的计算能力来进行训练 ， 并且所需的资源正以惊人的速度增长 。 在 2012 年之前 ， 人工智能程序使用的计算能力的增长主要遵循摩尔定律 ， 而自 2012 年以来 ， 机器学习算法使用的计算能力的增长速度是摩尔定律的 7 倍 。
这也是 OpenAI 对跟踪进展感兴趣的原因 。 例如 ， 如果机器学习算法的培训成本越来越高 ， 那么增加对学术研究人员的资助就很重要；如果效率趋势被证明是一致的 ， 那么就更容易预测未来的成本并相应地计划投资 。
进步是否会持续不减 ， 摩尔定律式的理论在未来几年或即将碰壁 ， 仍有待观察 。
但正如作者们所写的那样 ， 如果这些趋势在未来继续下去 ， 人工智能将变得更加强大 ， 而且可能比我们想象的还要快 。
资料来源：
https://singularityhub.com/2020/05/17/openai-finds-machine-learning-efficiency-is-outpacing-moores-law/
https://openai.com/blog/ai-and-efficiency/
我的公司是否需要独立的数据团队?
我该何时、怎么样建设自己的数据团队?
数据团队的价值如何衡量?
疫情之下 ， 数据团队又受到哪些影响？
一起透析数据团队建设全景！
扫码填写问卷▼
算法OpenAI最新论文：机器学习效率正在超越摩尔定律
图片

实习/全职编辑采访人员招聘ing
加入我们 ， 亲身体验一家专业科技媒体采写的每个细节 ， 在最有前景的行业 ， 和一群遍布全球最优秀的人一起成长 。 坐标北京·清华东门 ， 在大数据文摘主页对话页回复“招聘”了解详情 。 简历请直接发送至zz@bigdatadigest.cn
本文首发于微信公众号：大数据文摘 。 文章内容属作者个人观点 ， 不代表和讯网立场 。 投资者据此操作 ， 风险请自担 。
（责任编辑：张洋 HN080）


推荐阅读


上一篇：业务滴滴，重踩油门

下一篇：亚马逊亚马逊下架新冠新书，马斯克为作者鸣不平，炮轰“老对头”贝佐斯：你是不是疯了？