CUDA是NVIDIA的并行计算平台,允许C++程序通过核函数在GPU上执行并行计算,需使用nvcc编译.cu文件;示例中实现向量加法,主机分配内存并初始化数据,cudaMalloc在设备分配内存,cudaMemcpy传输数据,通过gridSize和blockSize配置核函数并发执行,每个线程用全局索引处理元素,最后将结果传回主机验证并释放资源。

CUDA 是 NVIDIA 推出的并行计算平台和编程模型,允许开发者使用 C++ 编写程序,在 GPU 上执行大规模并行计算。通过 CUDA,C++ 程序可以将计算密集型任务 offload 到 GPU,显著提升性能。下面介绍如何在 C++ 中使用 CUDA 实现 GPU 并行计算,并给出一个完整的示例。
环境准备与编译工具
要使用 CUDA 进行 GPU 编程,需满足以下条件:
- 一台支持 CUDA 的 NVIDIA 显卡
- 安装 NVIDIA 驱动
- 安装 CUDA Toolkit(包含 nvcc 编译器)
- 开发环境如 Visual Studio(Windows)或 GCC(Linux)
代码文件应保存为 .cu 后缀,用 nvcc 编译,例如:
nvcc -o vector_add vector_add.cuCUDA 核函数与内存管理
CUDA 程序由主机(CPU)代码和设备(GPU)代码组成。核心是核函数(kernel),使用 __global__ 修饰,从主机调用但在设备上并行执行。
立即学习“C++免费学习笔记(深入)”;
数据需从主机内存复制到设备内存,步骤如下:
- cudaMalloc:在 GPU 上分配内存
- cudaMemcpy:在主机与设备间复制数据
- cudaFree:释放 GPU 内存
完整示例:向量加法
以下是一个使用 CUDA 实现两个数组相加的 C++ 示例:
#include#include // 核函数:每个线程处理一个数组元素 global void vectorAdd(float a, float b, float c, int n) { int idx = blockIdx.x blockDim.x + threadIdx.x; if (idx < n) { c[idx] = a[idx] + b[idx]; } }
int main() { const int N = 1<<20; // 1M elements const int size = N * sizeof(float);
// 主机内存分配 float *h_a = (float*)malloc(size); float *h_b = (float*)malloc(size); float *h_c = (float*)malloc(size); // 初始化数据 for (int i = 0; i zuojiankuohaophpcn N; i++) { h_a[i] = i; h_b[i] = i * 2.0f; } // 设备内存分配 float *d_a, *d_b, *d_c; cudaMalloc(&d_a, size); cudaMalloc(&d_b, size); cudaMalloc(&d_c, size); // 数据从主机复制到设备 cudaMemcpy(d_a, h_a, size, cudaMemcpyHostToDevice); cudaMemcpy(d_b, h_b, size, cudaMemcpyHostToDevice); // 配置执行配置:每块 256 线程,共 (N + 255)/256 块 int blockSize = 256; int gridSize = (N + blockSize - 1) / blockSize; vectorAddzuojiankuohaophpcnzuojiankuohaophpcnzuojiankuohaophpcngridSize, blockSizeyoujiankuohaophpcnyoujiankuohaophpcnyoujiankuohaophpcn(d_a, d_b, d_c, N); // 等待 GPU 执行完成 cudaDeviceSynchronize(); // 将结果复制回主机 cudaMemcpy(h_c, d_c, size, cudaMemcpyDeviceToHost); // 验证结果(前几个) for (int i = 0; i zuojiankuohaophpcn 5; i++) { std::cout zuojiankuohaophpcnzuojiankuohaophpcn h_a[i] zuojiankuohaophpcnzuojiankuohaophpcn " + " zuojiankuohaophpcnzuojiankuohaophpcn h_b[i] zuojiankuohaophpcnzuojiankuohaophpcn " = " zuojiankuohaophpcnzuojiankuohaophpcn h_c[i] zuojiankuohaophpcnzuojiankuohaophpcn std::endl; } // 释放内存 free(h_a); free(h_b); free(h_c); cudaFree(d_a); cudaFree(d_b); cudaFree(d_c); return 0;}
关键概念说明
上述代码中涉及的核心概念包括:
- threadIdx.x:线程在线程块内的索引
- blockIdx.x:当前线程块的索引
- blockDim.x:每个线程块的线程数
- gridDim.x:线程块的数量
- idx = blockIdx.x * blockDim.x + threadIdx.x:全局线程索引,用于映射数据元素
核函数调用语法 >> 指定执行配置,决定并行粒度。
基本上就这些。掌握内存管理、核函数编写和执行配置,就能用 C++ 结合 CUDA 实现高效的 GPU 并行计算。不复杂但容易忽略细节,比如边界检查和错误处理。实际项目中建议加入 cudaError_t 检查返回值以调试问题。











