Usuários NVIDIA podem baixar e instalar o CUDA 12.2 em seu computador. A nova versão finalmente traz suporte à administração de Memória Heterogênea (HMM), que permite que o perfeito compartilhamento de dados entre a memória principal e dispositivo de aceleração computacional, neste caso, a placa de vídeo. Para que o CUDA 12.2 utilize o HMM corretamente, é necessário utilizar o kernel Linux 6.1.24+ ou o Linux 6.2.11+.
A funcionalidade ainda não está disponível para processadores ARM e não é compatível com certas operações específicas, o que deverá ser aprimorado nas próximas versões. Ademais, por enquanto, o suporte ao HMM requer o módulo NVIDIA GPU Open Kernel.
Por fim, o CUDA 12.2 tem suporte ao carregamento lento, a alocação de memória NUMA no host, além de corrigir diversos bugs.