GPU 虚拟化提供三种模式：直通分配（SR-IOV），通过 PCIe 虚拟功能提供完全的 GPU 资源访问和隔离；基于 hypervisor 的虚拟化，由 hypervisor 充当 GPU 和虚拟机之间的管理层；容器内虚拟化，允许在容器内使用 vGPU。选择模式取决于应用程序和工作负载的需求：SR-IOV 性能最高，基于 hypervisor 的虚拟化兼容性和安全性最佳，容器内虚拟化最具敏捷性和可移植性。
GPU 虚拟化的三种模式
GPU 虚拟化通过将单个 GPU 划分为多个虚拟 GPU（vGPU），允许多个虚拟机访问和使用 GPU 资源。这提供了更好的资源利用率、更高的性能和卓越的安全性。以下三种主要的 GPU 虚拟化模式：
1. 直通分配（SR-IOV）
SR-IOV 直接将 PCIe 虚拟功能（VF）分配给虚拟机。每个 VF 都拥有其专用的 PCI 地址空间和中断线，从而实现完全的 GPU 资源访问和隔离。SR-IOV 提供最低的开销和最高的性能，但依赖于 PCIe 标准的支持。
2. 基于 hypervisor 的虚拟化
通过基于 hypervisor 的虚拟化，hypervisor 充当 GPU 和虚拟机之间的中间层。hypervisor 管理 GPU 资源分配，并向虚拟机公开虚拟化的 GPU。这种模式提供较好的兼容性和安全性，但开销略高于 SR-IOV。
3. 容器内虚拟化
容器内虚拟化允许在容器内使用 vGPU。容器运行时管理 GPU 资源分配，并在容器之间提供隔离。这种模式非常适合于云原生应用程序和微服务，提供敏捷性和可移植性。
比较
三种模式在性能、开销和安全性方面存在差异。SR-IOV 提供最高的性能，但需要 PCIe 支持。基于 hypervisor 的虚拟化提供良好的兼容性和安全性，而容器内虚拟化提供了敏捷性和可移植性。
选择模式
最佳 GPU 虚拟化模式取决于应用程序和工作负载的要求。对于需要低延迟和最高性能的应用程序，SR-IOV 是理想的选择。对于更重视兼容性和安全性的应用程序，基于 hypervisor 的虚拟化是更好的选择。对于容器化的应用程序，容器内虚拟化提供了灵活性。
