DPU碰撞ChatGPT,算力效率会擦出哪些火花?


在 CPU 与加速卡之间,以及加速卡之间形成的芯片互联技术被更多的采用,虽然 PCIe 有着非常通用的标准化设计,但带宽有限将会产生瓶颈 。以 CXL 和 Gen-Z 为代表的等下一代互联技术取得快速发展,DPU 作为各种高速互联协议融合的沙盒,最适合成为灵活的高速互联载体,通过采用和扩展“以内存为中心”的互联协议,将带来在单个机箱外部扩展亚微秒级延迟技术的机会,为下一代计算架构创新创造可能性 。?DPU 发展有望进入快车道 。DPU(数据处理芯片 Data Process Unit)被认为是继 CPU 和 GPU 之后的“第三颗主力芯片” 。得益于智能网卡方案的逐步成熟,叠加全球通用服务器出货量的稳定增长、L3 以上级别智能驾驶汽车的技术落地、工业控制领域的需求增加等原因,全球、国内 DPU 产业都有望实现快速发展 。
全球 DPU 市场高景气延续,国内 DPU 市场加速追赶 。据赛迪顾问《??中国DPU行业发展白皮书??》,2020 年全球 DPU 产业市场规模达 30.5 亿美元,预计到 2025 年全球 DPU 产业市场规模将超过 245.3 亿美元,复合增速达 51.73% 。
2020 年中国 DPU 产业市场规模达 3.9 亿元,预计到 2025 年中国 DPU 产业市场规模将超过 565.9 亿元,复合增速达 170.6% 。
DPU 产业链分析:
DPU 中游环节(DPU 芯片厂商):海外巨头暂时领先,国产厂商蓄势待发 。根据头豹研究院数据,2020 年国内 DPU 市场中,国际三大巨头英伟达,博通,Intel 份额分别达到 55%、36%、9% 。国内厂商中,华为,阿里,百度,腾讯也在近几年针对自身服务器进行自研与外购 DPU,针对的主要功能在于数据,存储与安全方面 。
DPU 上游环节:EDA、IP 等均为研发重要基础 。国内 EDA 市场长期由国际三大巨头占据,未来有望迎来突破 。供需合力孕育 IP 核产业,未来需求打开新增通道 。半导体国产化持续演进,国内 IP 供应商将占据稀缺性价值高地,包括寒武纪、芯原股份等 。
DPU 下游应用:多点开花,未来前景广阔 。DPU 核心市场围绕数据中心展开,以服务器为硬件载体,下游场景覆盖云计算,高性能计算,网络安全,边缘计算等多个领域 。从我国范围看,高新技术、数字化转型及终端消费等多样化算力需求场景不断涌现,算力赋能效应凸显 。
ChatGPT 等 AI 技术发展大趋势下,算力需求凸显,DPU 有望迎来黄金发展期,全球、国内 DPU 产业市场规模呈现逐年增长的趋势,核心企业有望受益于行业发展趋势 。

DPU碰撞ChatGPT,算力效率会擦出哪些火花?

文章插图
DPU 有望成为“第三颗主力芯片”DPU(数据处理芯片 Data Process Unit)被认为是继 CPU 和 GPU 之后的“第三颗主力芯片” 。DPU(Data Processing Unit)是新近发展起来的一种专用处理器 。2020 年 NVIDIA 公司发布的 DPU 产品战略中将其定位为数据中心继CPU 和 GPU 之后的“第三颗主力芯片” 。随着芯片业制造工艺的不断精进,以及数字化技术如 AI 的发展,芯片行业不断推陈出新 。DPU 作为新型芯片的一种,它的出现是异构计算的一个阶段性标志 。
1、算力提升与数据增幅呈现剪刀差,DPU 需求凸显
 
DPU碰撞ChatGPT,算力效率会擦出哪些火花?

文章插图
 
DPU 是以数据处理为核心的专用数据处理单元,是对传统计算资源的网络、安全和存储的卸载平台 。传统数据中心以 CPU 为主要数据处理单元,通常庞大的基础架构的运行已占据相当一部分 CPU 核,给数据处理任务带来非常大的挑战 。
DPU 其实在行业内已经孕育已久,从早期的网络协议处理卸载,到后续的网络、存储、虚拟化卸载 。
根据摩天轮数据,Amazon 的 AWS 早在 2013 年研发了 Nitro 产品,将数据中心开销(为虚机提供远程资源、加密解密、故障跟踪、安全策略等服务程序)全部放到专用加速器上执行 。Nitro 架构采用轻量化 Hypervisor 配合定制化的硬件,将虚拟机的计算(主要是 CPU 和内存)和 I/O(主要是网络和存储)子系统分离开来,通过 PCIe 总线连接,节省了 30%的 CPU 资源 。
2016-2017 年,阿里云就提出 X-Dragon 系统架构,其核心是 MOC 卡,且有比较丰富的对外接口,也包括了计算资源、存储资源和网络资源 。MOC 卡的核心 X-Dragon SOC,统一支持网络,I/O、存储和外设的虚拟化,为虚拟机、裸金属、容器云提供统一的资源池 。
根据网易、芯东西数据,2019 年,美国一家初创公司 Fungible 推出产品 F1DPU,第一次提出了 DPU 的概念 。2020 年 10 月,英伟达将基于 Mellanox 方案的 Smart NIC 命名为 DPU,重新定义了 DPU 的概念 。2020 年,英伟达公司发布的 DPU 产品战略中将其定位为继 CPU 和 GPU 之后数据中心的“第三颗主力芯片”,掀起了行业热潮 。


推荐阅读