澎湃新闻OpenAI与微软押注通用AI:自研超算,算力排世界前五

在人工智能领域里 , 是否存在通用人工智能(AGI) , 一直是研究人员、各大人工智能公司争论的焦点 。 科研领域里的几位大佬 , 包括图灵奖得主约书亚·本吉奥(Yoshua Bengio)和杨立昆(Yann LeCun)都认为 , 不存在通用人工智能 。
但就有科技公司愿意将自己的未来压在通用人工智能上 。 例如微软和人工智能非盈利机构OpenAI 。
一年前 , 微软向OpenAI投资了10亿美元 , 希望双方合作以微软Azure为平台 , 开发新技术 , 扩展大规模人工智能功能 , 从而实现通用人工智能(AGI) 。 作为交换 , OpenAI则统一向微软授予部分知识产权 , 并接受微软将其商业化出售给客户 。
澎湃新闻OpenAI与微软押注通用AI:自研超算,算力排世界前五
本文插图

双方交出了合作后的第一份成果——一台新型人工智能超级计算机
一年以后 , 在微软2020 Build大会上 , 双方交出了合作后的第一份成果——一台新型人工智能超级计算机 。 微软称 , 与世界TOP500的超级计算机相比 , 这台计算机是全球功能最强大的第五台计算机 。
算力排在世界前五
据介绍 , 这台超级计算机目前由微软Azure托管 , OpenAI设计 。 这款超级计算机拥有超过28.5万个CPU , 1万个GPU , 每个GPU服务器的网络连接能力为400Gb/s, 旨在训练单一的大规模分布式AI模型 。
微软声称 , 与世界 TOP500 超级计算机相比 , 自己研发的这台可比肩 Top 5 。 这就意味着它在中国国家超级计算机中心的天河2A后面 , 在德克萨斯高级计算机中心的Frontera之前 , 其算力峰值每秒可以执行23.5 到61.4个万亿浮点运算 。
澎湃新闻OpenAI与微软押注通用AI:自研超算,算力排世界前五
本文插图

微软自研超级计算机
从性能上来说 , 得益于在Azure上托管 , 这台超级计算机拥有现代云计算基础设施的各种优点 , 包括快速部署、可持续发展的数据中心、并可以访问所有Azure服务 。
超高的性能更意味着它可以用来训练超大规模的人工智能模型 , 并能提供超大型AI模型和训练这一模型所需的架构 。
从实验结果看 , 超级计算机的大型模型之所以表现出色 , 是因为它们可以吸收语言、语法、知识、概念和上下文的细微差别 , 从而能够做到: 总结冗长的演讲 , 调节实时游戏聊天中的内容 , 解析复杂的法律文档 , 甚至可以从搜寻GitHub中生成代码 。
微软称 , 已经使用了这台计算机中的Turing模型(即将在开放源代码中使用)来增强必应(Bing) , Office , Dynamics及其其他产品的语言理解能力 。 在必应中 , 这些模型能将问题和回答的生成速度提高125% 。 在office上 , 模型推动了Word的智能查找和关键见解工具的开发 。
从技术角度来看 , 大型模型具有自我监督的优势 , 这意味着它们可以通过数据各部分之间的关??系来生成标签 , 这对实现人类智能至关重要 。 这与监督式学习算法相反 , 后者是在人工标记的数据集上进行训练的 , 因此很难针对行业 , 公司或感兴趣的主题进行微调 。
“这是关于能够一次在自然语言处理、计算机视觉中完成一百项令人兴奋的事情 , 当你开始看到这些感知领域的组合时 , 你将拥有无法想象的新应用程序 。 ” 微软首席技术官凯文·斯科特(Kevin Scott)说 。
超算是通向AGI的希望之路?
在人工智能领域里 , 是否存在通用人工智能(AGI) , 一直是研究人员、各大人工智能公司争论的焦点 。
OpenAI是一家非盈利人工智能研究机构 。 自成立以来 , 这家公司就断言 , 巨大的计算能力是迈向AGI的必经之路 , 而AGI可以学习人类 , 并完成任何任务 。 OpenAI相信功能强大的计算机结合强化学习和其他技术可以实现人工智能技术的进步 。
不过 , 目前尚不清楚双方突出的新超级计算机是否具有足够的功能来实现接近AGI的功能 。 据《麻省理工科技评论》的报告 , 此前OpenAI内部有一个名为Foresight的团队就进行了一项实验 , 通过训练越来越多的数据和计算算法来测试他们可以将AI功能推到什么程度 。 另外 , OpenAI还正在开发一种使用图像、文本和其他数据进行训练的系统 , 该系统使用大量的计算资源 , OpenAI的领导层认为这是通向AGI最有希望的一条路径 。


推荐阅读