华为发布新一代AI算力基础设施
新华社上海9月20日电(记者董雪、白瑜)近日于上海举办的华为全联接大会上,华为发布了新一代AI算力基础设施昇腾960超节点。这款算力设施最多搭载的算力卡数量从上一代的1024卡升级到4096卡,并且首次采用了一项名为“NPO”(也称为近封装光学)的关键技术,可用于匹配十万亿模型训练和推理的需求。
如果说数据是AI的燃料,那么算力就是AI的引擎。近年来,算力集群从万卡向十万卡、乃至更大规模迈进,卡与卡之间的通信代价越来越高,业界探索使用超节点解决这一瓶颈。据介绍,华为超节点的核心思路,是通过灵衢高速互联协议将成百上千张算力卡融为一体,实现“像一台计算机一样协同工作”的效果。
据华为副董事长、轮值董事长汪涛介绍,“NPO”是昇腾960超节点的一项关键技术。传统的大规模算力系统内部主要依赖铜缆进行电互联,近封装光学技术可在算力卡边缘几厘米的距离实现电转光,突破铜缆传输距离与带宽的物理极限,降低互联功耗与延迟,并解决高密度算力系统下的布线与散热难题。
截至目前,昇腾系列超节点已规模商用1000多套,应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。上一代的昇腾950超节点也已实现商用。
发布于:北京
相关推荐
华为发布新一代AI算力基础设施
武汉人工智能计算中心:算力基础设施 赋能千行百业
AI太空基础设施加速成型:“星算”计划02组星座发布
冲破AI算力瓶颈,华为开辟出一条“新中式”路径
AI潮涌数字经济,超算的几个大方向,算力再创新高
AI算力中心基础设施:各细分环节头部厂商汇总
华为昇腾“朋友圈”持续扩大,AI算力未来是星辰大海?
华为亮相2025中国算力大会
破解AI时代算力难题,中国看到了三个“关键”
华为推出新款AI加速卡:国内唯一支持FP4,算力是H20近三倍
网址: 华为发布新一代AI算力基础设施 https://www.xishuta.cn/newsview153572.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519
