人工智能|12nm媲美7nm！燧原科技发布带宽最大的云端AI推理卡
12月7日，AI创业公司燧原科技(Enflame)发布了第二代云端AI推理加速卡——“云燧i20” 。
这是继今年7月的云端AI训练加速卡“云燧T20”之后，燧原科技新一代针对云端推理场景的AI加速产品 。
云燧i20最大亮点就是拥有迄今最大的AI加速卡存储带宽，通过HBM2e内存达到了819GB/s，可为云端推理业务提供高吞吐、低延时的性能 。
目前，以语音识别、图片识别、视频内容分析为主的感知类应用，内容推荐、欺诈交易拦截等决策类应用，在云端大部分都是以实时在线的方式提供服务，同时神经网络的参数越来越多，数据带宽需求也越来越高，因此兼顾高带宽、低延迟变得至关重要 。
【人工智能|12nm媲美7nm！燧原科技发布带宽最大的云端AI推理卡】
文章图片
云燧i20搭载了新一代AI推理芯片“邃思”，基于第二代高性能计算核心和数据引擎，12nm工艺打造，通过架构升级大大提高了单位面积的晶体管效率，算力可媲美7nm GPU，而且成本更低 。
同时，全面支持FP32、TF32、FP16、BF16、INT8的计算精度，其中单精度FP32峰值算力32TFLOPS，单精度张量TF32峰值算力128TFLOPS，整型INT8峰值算力256TOPS，对比上代云燧i10浮点、整型算力分别提升到1.8倍、3.6倍 。
文章图片
搭配升级后的软件栈“驭算TopsRider”，性能、开发效率、模型覆盖面都得到大幅提升 。
通过引入通用高层图优化和大规模算子融合技术，释放大容量片内存储和高带宽存储的利用率，模型平均性能提升3.5倍，硬件算力利用率平均提升2倍 。
通过升级的编程模型以及算子自动分片、自动生成技术，自定义算子开发效率翻倍，模型迁移成本大大降低 。
此外，对动态性的支持也大大增强，在检测、语音识别、语义理解等场景更具竞争力 。
据介绍，燧原科技专注AI领域云端算力平台，提供自主知识产权的高算力、高能效比、可编程的通用AI训练和推理产品，可广泛应用于云数据中心、超算中心、互联网、金融、智慧城市等多个人工智能场景，已在互联网、金融、政务等多家客户的商业落地，并获得认可 。
文章图片
推荐阅读
- Steam|车机处理器媲美PS5主机！马斯克透露大计划 Steam玩家笑了
- 人工智能|中国式浪漫之外的北京冬奥：这位北京大妞最让人想不到
- 三星|三星试产4080圆柱形电池：媲美特斯拉4680、能量密度大增
- 马达|媲美iPhone！Redmi K50宇宙官宣：全球首发超宽频X轴马达
- Intel|表现出色！Intel双核奔腾G7400跑分成绩出炉：媲美四核锐龙R3 3200G
- 苹果|1.3万块！苹果新旗舰AR设备曝光：性能媲美M1 Pro、支持8K
- 赛扬|Intel赛扬G6900性能跑分曝光：单核媲美酷睿i9-10900K
- 固态硬盘|联芸发布12nm PCIe 4.0主控芯片：无需超频即可满血跑出7.4GB/s
- Intel|Intel酷睿i5-1250P跑分曝光：单核媲美锐龙7 5800X
- 优盘|台电推出飞豹固态U盘：速度达400MB/s 媲美SSD