在国庆节期间，nvidia在其开发者博客上发布了一篇文章，宣布从cuda 11.8开始，jetson设备也可以像pc一样安装新版本的cuda开发包。这是开发者们期待已久的好消息。
为什么这是一件好事呢？让我们详细探讨一下。
Jetson设备上有两种系统：一种是NVIDIA打包好的JetPack，普通开发者们已经非常熟悉；另一种是基于NVIDIA的BSP包，由第三方厂商在NVIDIA的组件（包括内核源代码）基础上构建的系统。
然而，无论使用哪种系统，内置的CUDA开发包/运行时/驱动都是固定的，例如11.x或10.x，无法更改。一旦选择了某个版本的JetPack，CUDA版本就与之固定了。
但许多用户希望能够像在PC上那样，直接下载并安装新的CUDA版本。因此，NVIDIA在文章中宣布，从CUDA 11.8开始，无论使用JetPack还是第三方系统，都可以像安装软件一样安装CUDA开发包。
Jetson上CUDA可升级包以前不提供的原因是，Jetson上的CUDA与普通系统上的CUDA不同，它的基本系统（JetPack或BSP的二次开发）中已经包含了CUDA驱动，不能轻易更改。Jetson系统通常是经过时间检验的稳定系统，如果用户可以随意更新，会对系统稳定性造成困扰，厂商需要重新测试和验证稳定性。然而，开发者确实需要每三个月发布的最新CUDA开发包的新功能，这就产生了一个矛盾。
NVIDIA决定从JetPack 5.0和CUDA 11.8开始，对基本系统进行简单修改：
从CUDA 11.8开始，CUDA引入了升级路径，允许Jetson开发者更新CUDA驱动程序和工具包到最新版本。
图1. Jetson上的CUDA升级路径
通过引入CUDA驱动程序升级（也称为CUDA兼容性包），这些升级成为可能，如图2所示。
图2. 引入新的CUDA升级包
这个升级包主要包含CUDA驱动程序（libcuda.so.*）及其依赖项，使您能够访问每个季度CUDA版本附带的最新和最强大的CUDA功能。
如果没有此软件包，您只能使用Jetson Linux BSP中打包的默认CUDA驱动程序提供的功能，没有升级到最新CUDA驱动程序和工具包的机制。
有了这个软件包，Jetson用户可以在现有的Jetson Linux BSP上升级到最新的CUDA版本，保持系统不变。
说白了，就是引入了一个中间兼容层（cuCompat）。引入这个层的原因是，之前追求稳定的内置驱动直接与NVMAP/NVHOST/EGL/NVGPU等更底层的组件交互，因此不能轻易更改。从JetPack 5.0开始，驱动与cuCompat交互，而cuCompat再与底层组件交互，这样就多了一个中间层次。可以简单理解为，多了一个抽象层，从原本的驱动中抽离，这个抽象层本身可以得到测试，可以稳定。而新版本的驱动变成了它上面的一个更高层次的软件。
两层分离后，NVIDIA认为，现在可以随意更新驱动（*），于是就有了现在的新功能：
我们可以直接在原版的基础上安装新的CUDA开发包（包含驱动和开发工具/运行时等）。安装完毕后，用户就能直接在Jetson上使用新版本的，也就是每三个月发布的最新CUDA版本。NVIDIA认为引入的cuCompat层次，消除了Jetson上驱动直接与底层交互的弊端，我们可以同时享受稳定性和最新特性。
如何在Jetson上升级CUDA？在CUDA 11.8中，CUDA下载页面现在显示一个新的架构aarch64-Jetson，如图3所示，以及相关的aarch64-Jetson CUDA安装程序，并提供有关如何下载和使用本地安装程序的分步说明，或CUDA网络存储库，以安装最新的CUDA版本。
图3. 带有aarch64-Jetson安装程序下载选项的CUDA 11.8下载页面
新的aarch64-JetsonCUDA安装程序将CUDA工具包和升级包打包在一起。提供的分步安装说明可确保下载并安装CUDA升级包以及适用于Jetson设备的相应CUDA工具包。
图4. Jetson设备的aarch64-Jetson CUDA安装程序
注意：NVIDIA强调，目前只能支持两个版本的CUDA存在，不像PC上能支持任意多个。这两个版本是：JetPack（或基于BSP延伸出来的其他Jetson系统）自带的那个版本，外加用户安装的这个版本。如果用户试图安装11.8和11.9（还没有），则后者会覆盖前者，也就是变成自带版本+11.9，而不是自带版本+11.8+11.9，与PC不同。
总之，这是一个非常好的特性，通过引入新的兼容层次，让Jetson系统无需频繁更新，可以保持稳定性；同时又能享受到最新的CUDA开发包红利。
更多：
CUDA Toolkit 11.8新功能揭晓
NVIDIA出了这么多Jetson模组，到底兼容不？
