NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
发布时间:2024-08-26 11:00:00 阅读量:841
此前有消息称,NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU+CPU超级芯片的服务器系统,展示了一番。
GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。
其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8TB/s),性能达到9PFlops(每秒9千万亿次),功耗首次达到1000W。
NVIDIA展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。
NVIDIA没有透露具体配置,只说分为有无NVSwitch两种版本,其总带宽高达14.4TB/s。
性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。
散热怎么办?NVIDIA透露正在开发热水散热系统,可以将耗电量减少28%。
不过,NVIDIA仍然没有给出Blackwell GPU服务器的出货时间,估计在今年第四季度。
即将到来的Hot Chip 2024大会上,NVIDIA会详细讲解Blackwell GPU,还会进一步披露未来Vera CPU、Rubin GPU的消息。
相关文章阅读
英特尔85亿美元《芯片法案》补贴或将被推迟发放
印度半导体展开幕 莫迪放豪言:印度将成芯片制造强国!
台积电美国工厂4nm试产成功!真成了“美积电”
对标英伟达B200!马斯克:特斯拉2025年末批量装备Dojo 2 AI训练芯片
-
中国芯的新机遇,京企发布多款芯片
2024-09-11
-
AI超级周期才刚刚开启!AMD苏姿丰:将加速推出AI芯片
2024-09-11
-
AI需求太强劲!半导体封测巨头日月光:生意好到根本没法交货
2024-09-10
-
AI性能大幅提升!曝苹果A18芯片基于Arm最新V9架构
2024-09-10
-
苹果三款Mac新品十月登场:标配M4系列芯片
2024-09-09
-
曝高通计划收购Intel部分芯片设计业务!对PC业务极有兴趣
2024-09-09
-
英特尔计划携手AIST:在日本建立先进芯片研发中心
2024-09-06
-
壁仞科技实现中国首个三种异构GPU混训技术!壁仞+英伟达+其他国产芯片
2024-09-06