00:00 / 00:48
连播
清屏
智能
倍速
点赞60
00:00 / 02:03
连播
清屏
智能
倍速
点赞NaN
00:00 / 05:30
连播
清屏
智能
倍速
点赞443
00:00 / 01:37
连播
清屏
智能
倍速
点赞0
00:00 / 01:50
连播
清屏
智能
倍速
点赞1
国产AI芯片崛起!阿里平头哥PPU,实力对标英伟达H20 家人们,最近国产AI芯片领域可谓是喜讯连连!央视《新闻联播》的一则报道,让阿里旗下平头哥半导体公司自主研发的PPU芯片走进大众视野,其重要参数与英伟达H20相当,一时间引发全网热议! 先来说说这两款芯片的参数对比,这可是最直观展现实力的地方。平头哥PPU采用96GB的HBM2e显存,虽说H20集成的是更先进一代的HBM3,但二者容量一致,在处理复杂AI任务时,都能为数据提供充足的“存储空间” 。片间互联带宽上,PPU达到700GB/s,高于英伟达A800的400GB/s,尽管略低于H20,不过也已十分接近,数据传输速度有保障 。接口方面,PPU和H20都支持PCIe 5.0 x 15,相较于A800的PCIe 4.0×16,在与服务器连接效率上更胜一筹 。功耗上,PPU控制在400W,低于H20的550W,能效比优势明显,长时间运行成本更低 。 从实际应用效果来看,据《投资研究》公众号“壹号讲狮”援引云栖大会实测数据,在主流大模型上,平头哥PPU和英伟达H20互有胜负 。当批尺寸为1时,首token延迟为82ms,优于H20的95ms ,响应速度更快;批尺寸扩展至64时,PPU吞吐达2800 tokens/s,较H20提升约18% ,处理大规模任务的能力更强;整机功耗仅350W,能效比领先30%以上,在保证性能的同时,更加节能环保 。更关键的是,得益于国内7nm工艺与2.5D封装,PPU单卡BOM成本较进口H20下降40%,这意味着企业使用成本大幅降低,推动阿里云公有云推理实例价格下降50% ,性价比超高! 一直以来,在AI芯片领域,国外品牌尤其是英伟达占据着重要地位,国内企业面临诸多限制与挑战 。美国的芯片限售令,让国内企业在获取先进芯片时困难重重 。如今,平头哥PPU芯片的出现,无疑是给国产AI芯片产业注入了一剂强心针 。它不仅打破了英伟达在某些关键技术指标上的垄断,比如在显存、带宽、能效等方面实现突破,也为国产大模型训练提供了更具性价比的替代方案 。就像阿里云、中科院等已签约项目,总计1747台设备、22832张算力卡,总算力达3479P;拟签约项目总算力也有2002P ,平头哥PPU正在逐步发挥作用,助力国内AI产业发展 。 阿里平头哥PPU芯片的诞生,是国产AI芯片产业发展的一个重要里程碑
00:00 / 00:17
连播
清屏
智能
倍速
点赞1
00:00 / 01:54
连播
清屏
智能
倍速
点赞75
00:00 / 07:29
连播
清屏
智能
倍速
点赞231
00:00 / 00:38
连播
清屏
智能
倍速
点赞888
00:00 / 00:23
连播
清屏
智能
倍速
点赞10