Deepseek R1 推理实测:4 块英伟达 GB300 能干 16 块 H100 的活
IT之家 8 月 27 日消息,科技媒体 WccfTech 昨日(8 月 26 日)发布博文,报道称 CoreWeave 最新测试显示,以 DeepSeek R1 推理模型实测,4 块英伟达 Blackwell 架构 GB300 芯片就能完成原需 16 块 H100 的任务,单卡吞吐量提升 6 倍。
IT之家援引博文介绍,CoreWeave 使用 Deepseek R1 推理模型,对比评估英伟达 Blackwell 架构 GB300 NVL72 和上一代 H100 GPU 的差别。归功于英伟达升级架构,增强内存和带宽,测试结果显示,GB300 在仅使用 4 块 GPU 的情况下,即可完成原本需要 16 块 H100 才能运行的任务。
GB300 NVL72 平台支持高达 37TB 的内存容量(最高可达 40TB),并配备每秒 130TB 的内存带宽。该平台为减少 GPU 间数据分割次数,采用 4 路并行设计,并通过 NVLink 和 NVSwitch 高速互连提升通信效率。
CoreWeave 指出,这不仅是 FLOPs 算力的提升,更是系统架构在实际业务场景下的效率跃迁。对于需要运行复杂模型的企业客户,GB300 NVL72 提供了更高的扩展性和更低的延迟,帮助他们更快、更经济地部署和运行 AI 服务。
延伸阅读:
存储科技新势力崛起:宏芯宇赴港上市背后的全栈创新之路
宏芯宇向港交所主板递交上市申请,中信建投国际为其独家保荐人。公司自2018年成立以来,深耕存储产品应用,提供嵌入式存储、...
宏芯宇启航港股:国产存储新势力的崛起之路
宏芯宇向港交所主板递交上市申请,中信建投国际为其独家保荐人。公司自2018年成立以来,深耕存储产品应用,提供嵌入式存储、...
突破性疗法获批:科伦药业TROP2靶向药联合免疫治疗肺癌迈出关键一步
人民财讯1月5日电,科伦药业(002422)1月5日早间公告,公司控股子公司科伦博泰靶向人滋养细胞表面抗原2(TROP2...
Vision Pro同款编织头带登陆Quest 3:极客改装掀起舒适革命
IT之家 1 月 5 日消息,尽管苹果旗下 M5 Vision Pro 市场表现平平,不过这款头显升级引入的双圈编织头带...
格力坚守品质承诺:家用空调价格稳定 无“铝代铜”替代计划
IT之家 1 月 5 日消息,今天上午,格力电器通过文化传媒中心官方公众号“格力文传”发文宣布,近期,公司陆续收到投资者...
