英伟达GH200超级芯片,每秒两百亿亿次flop,均价300万美元

JS滚动广告
✨ AI前沿 | 每日人工智能最新资讯 ✨

近两年来,英伟达不断在服务器和高性能计算领域布局,与AMD、英特尔等公司展开竞争。

尽管英伟达的GPU业务蒸蒸日上,已经赚得盆满钵满,几乎控制全部的AI GPU市场,但进军高性能计算也非常重要,因为给超算系统提供硬件和平台是一项规模巨大且利润丰厚的业务。

目前,世界各国都在不约而同地加大数据、基础设施等方面的投资,以建造更高效的超算系统,这些超算中心以及科技巨头都可以成为Grace Hopper硬件及其平台的潜在用户。

为此,英伟达基于Arm架构从头构建了Grace系列数据中心CPU,旨在创建高性能计算和AI超级芯片。

然而,在2月发布的HPCC基准测试中,Grace还是落后于英伟达最新的Sapphire Rapids CPU,在八项测试中仅有三项更快。

但也有文章指出,Grace在散热和成本方面存在优势,这也是构建数据中心需要考虑的关键因素。

最新一代的Grace Hopper超级芯片于去年8月推出,是世界上第一个配备HBM3e内存的处理器,容量达到141GB,旨在处理「世界上最复杂的生成式人工智能工作负载,涵盖大型语言模型、推荐系统和矢量数据库」。

英伟达CEO黄仁勋穿着他标志性的皮夹克,在世界顶级计算机图形学会议SIGGRAPH 2023的讲台上发布了这款产品。

HBM(高带宽内存)各代之间的区别主要在于传输速度而非容量。相比AMD所使用的HBM3内存,HBM3e提速约50%,将Grace Hopper中的数据传输速率从原来的4TB/s提升到5TB/s。

除了Grace Hopper系列,英伟达也在雄心勃勃地扩展更多的产品线,以满足不同层次、不同场景的计算需求。

比如老黄在今年3月的GTC大会上展示的下一代Blackwell系列芯片属于英伟达,其中的GB200型号结合了一个Grace CPU和两个B200 GPU,实现5 petaflops(每秒千万亿次浮点计算)的处理能力,相比之下,H200 GPU的原始计算能力只有1 petaflops。

《巴伦周刊》分析师Tae Kim在推特中写道,据汇丰银行分析师估算,一颗GB200芯片的成本可能高达7万美元,而且英伟达更倾向于为客户提供集成了多个芯片的服务器,而不是直接出售芯片,会进一步抬高芯片的平均价格。

比如GB200 NVL36服务器配备36个GB200芯片,平均售价约为180万美元,搭载72个芯片的NVL72服务器售价可能达到300万美元。

发表评论