在nvidia gtc大会上，发布了一系列软件堆栈和库的更新，其中tensorrt 8.6备受瞩目。这款深度学习模型优化工具的最新版本带来了多个新功能，包括增强的硬件和版本兼容性、性能提升以及优化级别构建器标志的引入。
硬件和版本兼容性是此次更新的重点之一。过去，升级硬件或TensorRT版本时需要重新构建，这不仅耗时还可能成本高昂。但现在，新的功能使得在升级过程中无需重新构建，实现了硬件和版本的兼容性。
性能方面也进行了优化，包括对fMHA的改进和对长seqlen的支持，类似于flash attention的效果。FasterDynamicShape功能现已默认启用，同时H100的性能也得到了提升。
新引入的优化级别构建器标志让用户可以在构建时间和性能之间进行权衡。这项功能赋予用户对模型优化更多的控制权，使得在性能和时间限制之间找到平衡变得更加容易。
此外，TensorRT 8.6还支持CUDA 12.X和细粒度多流控制。这让用户可以根据具体需求调整网络中的流数量，从而优化性能。
MediPro城市美食门户网站系统
下载
具有餐馆发布、菜式发布、信息发布、FB活动聚会和会员交流等互动功能和强大的文章发布、图片展示、下载、广告管理等网站内容管理功能。具有灵活的会员权限控制和会员管理系统；灵活的可视化模版引擎可满足个性化的美食门户建站需求；支持HTML静态页面生成和多语言支持；适于创建城市美食门户网站。v5.1版本增加了多项功能,支持了PHP5+MYSQL5环境,前台网站插件开放源码,更利于个性化的美食网站开发。
NVIDIA持续致力于TensorRT的改进，为用户提供优化深度学习模型的最新工具和功能。通过新的硬件和版本兼容性功能以及其他改进，TensorRT 8.6无疑将成为人工智能领域开发人员和研究人员的重要工具。
