Python可通过CuPy和Numba高效调用GPU：CuPy兼容NumPy接口，自动GPU运算；Numba用@cuda.jit写kernel或@vectorize自动分发；需注意显存管理、dtype指定及调试技巧。
Python本身是解释型语言，执行效率受限，但通过CUDA和Numba，可以调用GPU进行并行计算，显著加速数值密集型任务。关键不在于“会不会写CUDA C”，而在于如何用Python生态自然、安全、高效地接入GPU算力。
CUDA Python：用CuPy或Numba直接操作GPU显存
CuPy是NumPy的GPU加速替代品，接口几乎完全兼容。安装后只需把red">numpy换成cupy，数组自动在GPU上分配和运算：
- import cupy as cp，后续cp.array()创建GPU数组，cp.sum()、cp.dot()等函数自动在GPU执行
- 支持CUDA流（stream）控制异步执行，适合多阶段流水计算
- 注意：CPU与GPU内存不共享，cp.asnumpy()或arr.get()才能把结果拷回主机内存
Numba CUDA：用Python函数+装饰器写GPU核函数
Numba的@cuda.jit让你用纯Python语法定义CUDA kernel，无需写.cu文件：
- 函数参数必须是基本类型（如float32、int32）或device数组（cuda.to_device()生成）
- 需手动配置线程网格（blockspergrid, threadsperblock），典型值如(128, 128)或(256,)
- 支持共享内存（cuda.shared.array）和同步（cuda.syncthreads()），适合优化访存密集型算法
自动加速：Numba的@jit(nopython=True)也能悄悄用上GPU？
严格来说，@jit默认只做CPU加速。但配合numba.cuda环境，可将部分函数自动映射到GPU——更实用的是用@vectorize或@guvectorize声明通用函数，Numba会根据输入设备类型自动选择CPU或GPU后端：
立即学习“Python免费学习笔记（深入）”；
- @vectorize(['float32(float32, float32)'], target='cuda')可让标量函数在GPU上批量执行
- 适用于element-wise运算（如sin、log、自定义公式），无需管理线程索引
- 输入需为CuPy或Numba device数组，否则退化为CPU执行
避坑要点：内存、类型与调试
GPU加速失效往往不是代码写错，而是隐式数据搬运或类型不匹配：
- 避免频繁host → device → host拷贝，尽量让数据在GPU上完成整条计算链
- 所有数组dtype必须显式指定（如np.float32），64位浮点在GPU上可能慢3–5倍
- kernel报错时不会显示行号，用cuda.gpus[0].reset()清空状态，再加cuda.synchronize()定位崩溃位置
- 小数组（
