NVIDIA扩展Metropolis微服务解决方案,适用于Jetson平台

Docker容器用于模块化和可部署系统

NVIDIA的Metropolis微服务被打包为一组Docker容器,使开发人员能够构建模块化和易于部署的系统。开发人员可以灵活选择他们解决方案所需的特定微服务或组件,并忽略其他部分。这种方法增强了开发AI应用程序的灵活性和定制性。

视频存储、分析和AI感知

Jetson平台的新扩展包括视频存储和媒体管理、跟踪算法、系统监控、用于边缘到云连接的物联网服务,以及用于登录、认证、安全访问设备API和分析的微服务。视频存储工具包提供硬件加速的视频解码和编码,支持使用RTSP和WebRTC等标准协议的H264和H265流媒体。分析服务实现了对实时或录制视频中对象的实时跟踪。AI感知基于NVIDIA的DeepStream SDK,这是一个用于多传感器处理、视频、音频和图像理解的流媒体分析工具包。

预构建的参考应用程序和Jetson平台功能

NVIDIA还开发了两个预构建的参考应用程序,以展示Metropolis微服务解决方案在Jetson平台上的能力。AI动力网络视频记录器(AI-NVR)演示了所有可用微服务的集成,并提供了完整的视频摄入、AI推理、分析和监控流程。零样本检测参考应用程序展示了在边缘运行生成式AI应用程序的创建。NVIDIA Jetson是边缘AI和机器人应用程序的平台,具有高性能能力,支持每秒高达275万亿次(TOPS)的操作,并提供在Jetson生成式AI实验室中优化的开源模型。