亿玖资讯

Enine information
  • 亿玖动态
  • 行业资讯

英伟达GB300 AI服务器新一代产品线即将发布!

发布时间:2024-12-24

近日,英伟达 GB300 AI 服务器成为科技领域焦点。该服务器凭借诸多突出特性,彰显出其在人工智能计算领域的强大竞争力。

 

在性能表现方面,GB300 取得显著突破。其内存配置依托前沿的 12Hi HBM3E 技术,内存容量从 GB200 的 192GB 大幅提升至 288GB,这一升级使服务器在处理大规模数据以及运行复杂 AI 模型时游刃有余,为深度学习、自然语言处理等关键任务提供了稳固的数据支撑基础。同时,基于全新 Ultra 架构构建的计算核心,让单卡 FP4 性能相较于前代 B200 提升 1.5 倍,任务处理效率得到显著增强。不过,性能提升也伴随着功耗变化,单卡功耗从 B200 的 1000W/1.2kW 增加至 1400W,达到初代 B100 的两倍,但综合考量,性能的提升幅度远超功耗增长带来的成本。

 

在技术创新层面,英伟达 GB300 AI 服务器亮点显著。该服务器开创性地于其架构体系内引入新一代 ConnectX - 8 SuperNIC 网络接口卡,与此同时,配备了传输速率达 1.6Tbps 的光模块,此光模块的理论带宽较之前同类产品实现倍增。凭借这一先进配置组合,数据于网络中的传输效率得以大幅跃升,为妥善应对未来 5G 与云计算深度融合场景下复杂的数据交互任务奠定坚实基础。

 

在内存方面,引入 LPCAMM 内存条逐步替换现有 LPDDR5 内存,此举拓宽了内存带宽并大幅降低延迟,进而缩短 AI 模型训练时间,提升应用程序响应速度。此外,服务器采用插槽式设计,极大便利了后续组件更换与升级流程,同时大量运用 UQD 数据中心通用水冷快接头,通过精细优化的散热方案确保服务器在高负载、长时间运行状态下维持稳定,保障业务运行无中断。

 

从市场与应用领域来看,英伟达 GB300 AI 服务器精准定位高端市场,主要面向大型科技公司、金融机构以及学术研究前沿阵地等对高性能计算有迫切需求的客户群体。在实际应用场景覆盖上,深度学习、自然语言处理、图像识别、视频云服务、在线游戏以及科学计算等领域,GB300 都凭借卓越算力为 AI 算法的大规模应用提供坚实支撑。

 

在保障电力供应稳定性方面,GB300 NVL72 机柜配备了标准化超级电容 UPS,同时还贴心提供可选的 BBU 系统。机柜内大量运用性能可靠的超级电容,单个 NVL72 机架所配备的超级电容数量超过 300 个,这些超级电容凭借自身特性,能够在供电出现异常情况时,确保服务器依旧可以平稳运行,为数据处理作业的持续、顺利推进保驾护航。

 

目前,英伟达计划在 2025 年 3 月的 GTC 大会上正式向市场推出 GB300 新一代产品线。现阶段,鸿海等一众主要供应商已然积极投身到相关研发设计工作当中,全力以赴为新品的顺利发布做足准备。

 

关键词:

相关推荐