CUDA(Compute Unified Device Architecture)是显卡厂商 NVIDIA 推出的运算平台。作为一种通用并行计算架构,CUDA 使 GPU 能够解决复杂的计算问题。 它包含了 CUDA 指令集架构(ISA)以及 GPU 内部的并行计算引擎。
目前,NVIDIA CUDA 12.2 发布了,CUDA 12.2 带来了许多变化,其中最重要的当数支持 Linux 内核的异构内存管理 (HMM) 功能。
HMM 允许在主机内存和加速器设备之间无缝共享数据, NVIDIA CUDA 12.2 的 HMM 支持依赖于 Linux 6.1.24+ 或 Linux 6.2.11+ 版本。此外,此 HMM 支持需要使用 NVIDIA GPU 开放内核模块驱动程序,而不是专有的内核驱动程序。
注意: NVIDIA HMM 支持还无法在 Arm/AArch64 上运行
NVIDIA CUDA 12.2 版本的其他改进包括:
- 在使用 NVIDIA 535+ 内核驱动程序时,默认启用延迟加载支持
- 主机 NUMA 内存分配支持
- CUDA 多进程服务运行时的每个客户端优先级映射
- 各种修复和其他改进
更详细的更新项可查看 Release Notes
下载地址