- 亿玖动态
- 行业资讯
Blackwell平台正式投入运行,NVLINK带宽提升至1.4TB/s!
发布时间:2024-08-26
据IT之家8月24日报道,英伟达(NVIDIA)在数据中心领域取得了显著进展,其Blackwell平台已经正式投入运行。在8月24日举行的吹风会上,英伟达首次向科技记者展示了这一平台,并计划在Hot Chips 2024活动中进一步展示Blackwell在数据中心的应用情况。
Blackwell平台是一个综合性的解决方案,包括Blackwell GPU、Grace CPU、NVLINK Switch Chip等多种芯片,旨在满足现代人工智能的需求。其中,NVLINK技术的升级尤为引人注目,带宽提升至1.4TB/s,显著提高了数据中心的处理能力和效率。
英伟达还分享了Blackwell系列产品中各种桥架的全新图片,展示了设计下一代数据中心平台所需的专业工程技术。Blackwell平台的目标是服务于万亿参数的AI模型,如Meta的405B Llama-3.1,这些模型的规模不断扩大,对数据中心的计算能力和延迟提出了更高要求。
在多GPU推理方法中,Blackwell平台通过其NVLINK交换机提供了高带宽的GPU对GPU通信能力,支持低延迟和高吞吐量的计算。此外,英伟达采用了水冷散热技术,以提升性能和效率,预计可以将数据中心设施的电力成本降低最多28%。
特别引人注目的是,英伟达还展示了全球首张使用FP4计算生成的人工智能图像。这张图像证明了FP4量化模型在保持与FP16模型相似图像质量的同时,能够实现更快的处理速度。这一成果是在MLPerf的稳定扩散项目中使用Blackwell平台制作的。
总的来说,英伟达Blackwell平台的启动,不仅展示了公司在数据中心技术领域的最新进展,也为未来的人工智能应用提供了强大的支持。随着NVLINK技术的升级和FP4 GenAI图像的公布,英伟达再次证明了其在高性能计算和人工智能领域的领导地位。