NVIDIA TAO 工具套件提供了一个低代码 AI 框架，无论是新手还是数据科学专家都可以使用这个平台加速视觉 AI 模型开发。有了 TAO 工具套件，开发人员可以进行迁移学习，通过适应和优化，在短时间内达到最先进的精度和生产级吞吐量。

NVIDIA 发布了 NVIDIA TAO 套件 5.0 ，带来了 AI 模型开发方面的突破性功能提升。新功能包括开源架构、基于 Transformer 的预训练模型、AI 辅助的数据标注，以及在任何平台上部署模型的能力。

NVIDIA TAO 工具套件 5.0 支持 ONNX 模型导出。无论是 GPU 、CPU 、MCU 、DLA 还是 FPGA 的边缘或云上的任何计算平台，都可以部署使用 NVIDIA TAO 工具套件训练的模型。NVIDIA TAO 工具套件简化了模型训练过程，优化了模型的推理吞吐量，为数千亿台设备的 AI 提供了动力。

(资料图片)

用于构建、完善和部署机器学习模型和算法的平台 Edge Impulse 将 TAO 工具套件集成到其边缘 AI 平台中。通过整合，Edge Impulse 现在可以提供先进的视觉 AI 功能和模型，并对其现有产品进行补充。开发者可以利用 TAO，使用该平台为任何边缘设备构建生产型 AI。

全球领先的嵌入式微控制器制造商意法半导体，将 TAO 集成到其 STM32Cube AI 开发者工作流程中。借助 TAO，该公司能够在 STM32 微控制器驱动的各种物联网和边缘用例中，根据它们的最大算力和内存运行各种复杂 AI 功能。

虽然 TAO 工具套件模型可以在任何平台上运行，但这些模型在使用TensorRT进行推理的NVIDIA GPU上才能实现最高吞吐量。在 CPU 上，这些模型使用 ONNX-RT 进行推理。一旦软件可用，将提供复制这些数字的脚本和配方。

FAN 系列支持四个主干，如表 2 所示。

如表 3 所示，GC-ViT 家族包含六个主干，从 GC-ViT-xxTiny （计算效率高）到 GC-ViT-Large （非常准确）。GC-ViT 大型模型在 ImageNet-1K 数据集上可以实现 85.6 的 Top-1 精度，用于图像分类任务。该体系结构还可以用作其他 CV 任务的主干，如对象检测、语义和实例分割。

TAO 工具套件中的 DINO 是灵活的，可以与传统的 CNNs 主干（如 ResNets ）和基于 Transformer 的主干（如 FAN 和 GC-ViT）相结合。表 4 显示了在各种版本的 DINO 和常用的 YOLOv7 上 COCO 数据集的准确性。有关更多详细信息，请参见 YOLOv7: 为实时物体检测器设置了新的先进技术的可训练的免费套件（https://arxiv.org/pdf/2207.02696.pdf）。

视频 3. NVIDIA DRIVE 实验室片段，

关于提升自动驾驶汽车安全的 AI 分割模型

TAO 工具套件是模块化和云原生的，这意味着它可以作为容器使用，并且可以使用 Kubernetes 进行部署和管理。TAO 工具套件可以作为自管理服务部署在任何公共或私有云、DGX 或工作站上。此外 TAO 工具套件提供定义完善的 REST API，使其易于集成到您的开发工作流程中。开发人员可以调用 API 端点来执行所有训练和优化任务。这些 API 端点可以从任何应用程序或用户界面调用，然后通过远程触发进行训练作业。

为了简化产品化并提高推理吞吐量，TAO 工具套件提供了多种交钥匙性能优化技术。其中包括模型修剪、低精度量化和 TensorRT 优化，与公共模型库的同类模型相比，这些技术加起来可以提供一个 4 到 8 倍的性能提升。

NVIDIA TAO 工具套件可以集成到您使用的各种 AI 服务中，如 Google Vertex AI、AzureML、Azure Kubernetes 服务、Google GKE 和 Amazon EKS。

TAO 工具套件提供了一个平台，任何开发者在任何服务、任何设备上都可以使用，可以轻松地迁移学习他们的自定义模型，执行量化和修剪，管理复杂的训练工作流程，并在无需编码的情况下执行人工智能辅助注释。

*为提供 TAO 工具套件 5.0 版本的准确信息，本文已在原版基础上进行了修订。