NVIDIA Grace CPU

旨在解决世界上最大的计算问题。

下一代数据中心的引擎

随着模型的复杂性激增,加速计算和能源效率对于满足人工智能的需求变得至关重要。NVIDIA Grace™CPU是一款突破性的Arm®CPU,具有无与伦比的性能和效率。它可以与GPU紧密结合以增强加速计算能力,也可以部署为强大、高效的独立CPU。NVIDIA Grace CPU是下一代数据中心的基础,可用于不同的配置,以满足不同的数据中心需求。

英伟达GB200 NVL2

NVIDIA GB200 NVL2平台为每个数据中心带来了新的计算时代,为主流大型语言模型(LLM)推理、矢量数据库搜索和数据处理提供了无与伦比的性能。

看看格雷斯的阵容

英伟达GB200 NVL72

NVIDIA GB200 Grace™Blackwell Superchip结合了两个NVIDIA-Blackwell-Tensor核心GPU和一个Grace CPU。它可以扩展到GB200 NVL72-一个由NVIDIA®NVLink®连接的大型72-GPU系统,为大型语言模型(LLM)提供30倍更快的实时推理。

NVIDIA Grace Hopper超级芯片

NVIDIA Grace Hopper™超级芯片结合了Grace和Hopper架构,使用NVLink-C2C为加速AI和高性能计算(HPC)应用程序提供CPU+GPU一致性内存模型。

NVIDIA Grace CPU超级芯片

NVIDIA Grace CPU Superchip使用NVLink-C2C技术提供144个Arm Neoverse V2内核和每秒1 TB(TB/s)的内存带宽。

获取NVIDIA超级芯片的最新消息

了解Grace CPU如何为最新的大型超级计算机供电。

计算机行业加入NVIDIA,为下一次工业革命建造人工智能工厂和数据中心

在2024年国际计算机展上,世界顶级计算机制造商与NVIDIA共同推出了最新的NVIDIA Blackwell动力系统,包括GB200 NVL2,以引领下一次工业革命。

NVIDIA GB200 NVL72用于实时万亿参数推断

GB200 NVL72是下一代人工智能的体系结构,它增强了实时万亿参数语言模型。

NVIDIA推出下一代GH200 Grace Hopper超级芯片平台

世界上第一款HBM3e处理器为加速计算和生成人工智能时代提供了突破性的内存和带宽。

下一波高能效超级计算机

探索由NVIDIA Grace CPU驱动的最新节能Arm超级计算机,用于气候科学、医学研究等。

使用NVIDIA MGX更快地创建加速数据中心

了解QCT和Supermicro如何采用模块化设计,快速、经济高效地构建多个数据中心配置,用于广泛的AI、高性能计算(HPC)和5G应用程序。

NVIDIA Grace Hopper点燃人工智能超级计算新纪元

从气候和天气到科学探索,瑞士的阿尔卑斯山超级计算机、法国的EXA1-HE超级计算机和其他计算机将交付200 Exaflop人工智能,用于使用节能型Grace-Based系统的开创性研究

了解有关最新技术创新的更多信息

使用NVLink-C2C加速CPU-GPU连接

解决最大的AI和HPC问题需要高容量和高带宽内存(HBM)。NVIDIA NVLink-C2C在NVIDIA-Grace CPU和NVIDIA GPU之间提供900GB/s的双向带宽。该连接提供了一个统一的缓存相干内存地址空间,它将系统和HBM GPU内存结合起来,以简化编程。CPU和GPU之间的这种一致、高带宽连接是加速明天最复杂问题的关键。

使用LPDDR5X进入高带宽CPU内存

NVIDIA Grace是第一个通过纠错码(ECC)等机制使用具有服务器级可靠性的LPDDR5X内存的服务器CPU。这使它能够满足数据中心的需求,同时提供高内存带宽,与当今的服务器内存相比,能效高达10倍。LPDDR5X设计为大规模AI、HPC和云工作负载实现了带宽、能效、容量和成本的最佳平衡。

使用Arm Neoverse V2内核提升性能和效率

随着GPU的并行计算能力不断提高,CPU上运行的串行任务仍然可以控制工作负载。快速高效的CPU是系统设计的关键组件,可以实现最大的工作负载加速。NVIDIA Grace CPU将Arm Neoverse V2内核与NVIDIA Scalable Coherency Fabric集成在一起,在节能设计中提供高性能,使科学家和研究人员更容易完成他们一生的工作。

使用HBM GPU内存的增压生成AI

生成性人工智能是内存和计算密集型的。NVIDIA GB200 Superchip使用380GB的HBM内存,提供超过NVIDIAH100 Tensor Core GPU的4.5倍的GPU内存带宽。Grace Blackwell中的高带宽内存通过NVLink-C2C连接到CPU内存,为GPU提供近860GB的快速访问内存。这提供了处理世界上最复杂的生成性人工智能和加速计算工作负载所需的内存容量和带宽。

探索更多资源

宽限期特色内容

NVIDIA通过性能调整指南、开发人员工具和库为NVIDIA-Grace提供深入支持。