网络安全

宣布NVIDIA H100 Tensor核心GPU上的机密计算通用访问

NVIDIA发布了机密计算(CC)2023年7月通过NVIDIA LaunchPad提前访问的私有预览解决方案。机密计算可以在虚拟化环境中使用,并提供了当今业界最高级别的安全性和最佳性能。NVIDIA H100 Tensor核心GPU是第一个引入对CC支持的GPU

由于该版本的巨大成功,CUDA 12.4现在普遍支持使用CC的单GPU直通。有关访问权限,请参阅免费的动手实验室,使用NVIDIA H100机密计算开发机密虚拟机应用程序

新的保密计算功能现已推出

NVIDIA继续走在机密计算的前沿,与CPU合作伙伴、云提供商和独立软件供应商(ISV)合作,以确保从传统的加速工作负载到机密的加速工作负荷的转变是平稳和透明的。 

NVIDIA H100 Tensor Core GPU上最新发布的机密计算包括:

  • 性能优化
  • 机密计算驱动程序的安全强化

安全的重要性

在当今相互关联的世界中,安全至关重要。大量生成的数据对企业具有巨大的潜力,并可能影响每个行业的整个未来。多年来,跨越安全领域的各种供应商都提供了数据移动保护(如通过互联网传输数据)和数据存储保护(如加密存储的数据)。 

然而,这些供应商中的许多人并不知道正在使用的数据可能是透明的,仍然暴露在外,并且容易受到攻击。CC解决了保护使用中数据的需要,并防止未经授权的用户访问或修改数据。 

随着许多客户转向对其数据进行人工智能训练或推理,数据和代码需要得到保护,尤其是在运行时大型语言模型。由于数据的敏感性,许多客户不能冒险将其数据放入云中。此类数据可能包含个人识别信息(PII)或公司专有信息,并且经过培训的模型具有宝贵的知识产权(IP)。 

机密计算是保护AI模型和数据的最佳解决方案。使用NVIDIA,客户无需在性能和安全性之间进行权衡。  

NVIDIA H100 GPU的硬件和软件安全

查看NVIDIA H100 Tensor Core GPU上开始机密计算所需的硬件和软件。

硬件

NVIDIA H100 GPU上CC的基础设施要求包括支持基于VM的可信执行环境(TEE)的CPU。 

CPU CC技术

  • AMD SEV-SNP公司
  • Intel TDX CPU

支持的CPU

  • AMD米兰(EPYC 7XX3)或AMD热那亚(EPYC9XX4)
  • 英特尔Emerald Rapids

支持的GPU

  • NVIDIA Hopper架构上启用的所有GPU保护和防火墙,包括NVIDIAH100 Tensor Core GPU;H100 PCle和H100 NVL外形尺寸

软件

  • NVIDIA驱动程序:CUDA 12.4数据中心驱动程序(r550)或更高版本
  • 支持的虚拟机监控程序:Azure Hyper-V、KVM
  • 支持的操作系统
    • AMD:Ubuntu22.04,内核5.19(供应商分叉)
    • Intel:Ubuntu 22.04 with Kernel 6.2(供应商分支)

Linux发行版

  • Linux 6.9内核(应支持主机和来宾)

总结

CUDA 12.4现在普遍支持带CC的单GPU直通。有关访问权限,请参阅免费的动手实验室,使用NVIDIA H100机密计算开发机密虚拟机应用程序。在最新版本中,NVIDIA除了加强机密计算专用驱动程序的安全性之外,还增加了性能优化。有关部署指南和相关文档,请参阅NVIDIA可信计算解决方案

要了解更多信息并开始使用,请访问NVIDIA机密计算

讨论(0)

标签