CUDA（Compute Unified Device Architecture），是显卡厂商 NVIDIA 推出的运算平台。作为一种通用并行计算架构，CUDA 使 GPU 能够解决复杂的计算问题。 它包含了 CUDA 指令集架构（ISA）以及 GPU 内部的并行计算引擎。
目前，NVIDIA CUDA 12.0 发布了，CUDA 12.0 带来了许多变化，包括最新 Hopper 和 Ada Lovelace GPU 的新功能、更新 C++ 方言、使 JIT LTO 支持官方、新的和改进的 API，以及各种其他功能。
-
CUDA 12.0 为 NVIDIA 的 Hopper 和 Ada Lovelace 架构的许多特性公开了可编程功能。
-
支持将虚拟内存管理 API 与标记为 CUDA_VISIBLE_DEVICES 的 GPU 一起使用。
-
应用程序和库开发人员可以通过编程方式更新 CUDA 流的优先级。
-
改进了 CUDA 动态并行 API，与之前的 API 相比具有“实质性”的性能改进。
-
现在通过 nvJitLink 库正式支持即时链接时间优化 (JIT LTO)。
-
GCC 12.1 主机编译器支持。
-
NVCC 和 NVRTC 支持 C++20 方言。
-
NVRTC 将其默认 C++ 方言从 C++14 更新为 C++17。
有关 CUDA 12 的更多详细信息，可查看发行说明 。