作者：puneet kumar，rivos 公司联合创始人兼首席执行官
人工智能正在重塑软硬件设计的基本逻辑。过去需耗时 18 至 24 个月的传统服务器硬件开发流程，如今已被压缩至仅 12 个月；与此同时，软件层面通过改进 Attention 机制等技术，在两年内实现了性能提升十倍的飞跃——这迫使硬件架构必须向“软件定义硬件（SDH）”转型。客户的需求也从单一追求高性能，演变为对多框架兼容和多种模型支持的灵活性要求：不仅要高效运行当前主流模型，还需快速适配未来可能出现的新模型与新框架。为此，行业应借鉴 GPGPU 架构理念，融合开源生态与开放标准，借助协作式创新打破厂商壁垒，增强硬件可编程能力并实现可持续扩展，从而降低能耗、延长设备寿命，并提升整体投资回报率。
图一、AI 对软硬件设计范式的颠覆性冲击
硬件迭代显著提速：传统服务器硬件研发周期长达 18–24 个月，而在 AI 驱动下现已缩短至一年内，开发、验证与迭代节奏全面加快。
软件性能指数级跃升：以 Attention 技术为例，Flash Attention 系列在 2022 到 2024 年间完成三次重大优化，每次带来 2–3 倍性能增益，累计实现两年十倍的突破。
典型实例佐证趋势：vLLM 的 Paged Attention 技术使吞吐量提升 3–5 倍；Mamba 模型正逐步取代 Transformer 成为新兴架构选择。
二、客户需求重心转移：由静态性能转向动态适应力
| 需求维度 | 传统硬件满足度 | AI 时代新诉求 | 实现路径 |
|---|---|---|---|
| 现有模型效率 | ✅ | 需持续精进 | 针对核心算法进行硬件专项加速 |
| 未来模型支持 | ❌ | 敏捷响应新模型（如 Mamba） | 采用可编程架构 + 开源生态支撑 |
| 多框架兼容性 | ❌ | 无缝运行 PyTorch/TensorFlow/JAX 等多种框架 | 依托开放标准 + 统一编程接口 |
AI 服务器用户的关注点发生了哪些根本变化？
答案是从单一性能指标转向多维灵活性：既要保障现有模型（如 Transformer）的高效率执行，也要具备快速接纳未来模型（如 Mamba）的能力，同时还需兼容主流深度学习框架（PyTorch/TensorFlow 等）。传统专用加速器只能满足第一项，唯有结合可编程硬件与开源生态，方能兼顾后两项关键需求。
三、软件定义硬件（SDH）与 GPGPU 架构的融合之道
SDH 的核心设计理念
保持原有编程模型不变，最大限度减少软件迁移成本（例如兼容现有代码库）；
在硬件层面聚焦核心任务优化（如矩阵乘法），剥离冗余模块以节省功耗和芯片面积。
GPGPU 的天然契合性
其高并行、多线程特性完美匹配 AI 工作负载特征，目前约 90% 的前沿 AI 模型均基于 GPGPU 进行训练与部署。
四、开源生态的战略杠杆价值
开源带来的三大核心优势
成本控制：借助社区协作共享成果，避免重复造轮子，显著缩短产品上市时间（如 vLLM 就是依托开源社区快速演进的典范）；
灵活定制：代码透明化允许深度个性化调整，规避对单一供应商的依赖，开放标准让多厂商技术混搭成为可能；
协同进化：跨机构合作加速技术迭代（vLLM、Flash Attention 等突破皆源于开源社区合力）。
开放标准的关键作用：实现软硬件组件解耦，允许独立升级（如软件更新无需更换硬件），构建可持续演进的技术体系。
五、面向未来的硬件战略方向
设计目标明确：打造支持开源生态的可编程 GPGPU 架构，在当前性能与未来适应性之间取得最优平衡。
优选参与开源项目的供应商，可带来三重收益：
投资回报最大化：硬件生命周期随软件演进而延长；
部署敏捷性增强：基于开放标准自由切换技术方案；
绿色低碳转型：通过架构精简降低功耗（如剔除无用功能单元）。
