英伟达提出AI内存全栈协同设计方案 Vera Rubin平台每GPU内存容量仅增约3

· 家园资讯

首页 · 家园资讯 · 社区论坛 · 家园小说 · 游戏大厅

家园资讯频道收录本站公告、活动快报和玩家原创文章,按军事、时政、财经、体育等分类整理,每天更新,可顺着栏目继续阅读相关报道与实用攻略,也欢迎回社区聊聊当年熟悉的话题。

您尚未登录/注册
首页>数码
英伟达提出AI内存全栈协同设计方案 Vera Rubin平台每GPU内存容量仅增约3% 推理吞吐量…
财联社 2026-11-06 00:45:19
【英伟达提出AI内存全栈协同设计方案 Vera Rubin平台每GPU内存容量仅增约3% 推理吞吐量提升最高30倍】财联社11月6日电,英伟达11月5日发布文章称,随着AI模型规模扩大、上下文窗口延长以及智能体应用普及,GPU内存压力持续上升,HBM供应趋紧、价格上涨。英伟达提出通过GPU、CPU、网络、存储及软件协同设计,提高内存使用效率,而非单纯增加GPU内存容量。 具体来看,英伟达通过NVFP4低精度格式压缩模型权重和KV Cache,将暂时不活跃的上下文转移至成本更低的存储层,并利用多GPU分布式部署释放HBM空间。 英伟达披露,在SemiAnalysis AgentX测试中,GB300 NVL72在特定工作负载下的单位成本推理吞吐量最高达到H200平台的10倍;Vera Rubin NVL72相较GB300 NVL72,单位成本推理吞吐量最高提升30倍,而单GPU HBM容量仅增加约3%。

【版权声明】本文内容来源于财联社,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-06 00:07:04


(第1/1页/共760字/3阅)
首页>数码
相关数码:
曝MacBookNeo2出货预期翻倍
Android 16成最主流版本,系统碎片化难题依旧严峻
双11手机攻略 | 一千到一万,只留 14 台按预算对号入座
等了2年迎来残血版Apple AI,国行iPhone到底还能走多远?
骁龙8至尊+万级大电池,红米新机锁死2500元档位T1?
*所有区域禁止刷帖、刷回复
网友评论:
更多评论(0)
您的评论:

[热点数码]
一见·为何重申“长远之策、根本之策”
受权发布|中共中央关于持之以恒推进全面从严治党若干重大问题的决定
视频丨大事情!听说贷款定价要变啦?
来华“扫货”,入境游又添新“接口”——中国经济三季报亮点解析
视频丨航天员太空摸鼻子是什么实验?揭秘背后的科学原理
[精彩推荐]
视频丨大事情!听说贷款定价要变啦?
8000家幸运咖,向蜜雪总部喊话求援|深氪
BLG全年胜率最高英雄:Knight发条16胜2负,Bin武器6胜0负
外媒:中国新型“悍马式”防空车辆现身,导弹数量增至12枚,火力大幅提升
退役老兵周其兵因车祸失忆,但始终记得自己当过兵、站过岗,近日他重回老部队,找寻记忆,祝早日康复!