DeepStream的多平台支持为您开发视觉AI应用程序和服务提供了更快、更简单的方法。只需单击一个按钮,您甚至可以在本地、边缘和云中部署它们。
快速入门在Launchpad上试用
NVIDIA的DeepStream SDK是一个基于GStreamer的完整流分析工具包,用于基于AI的多传感器处理、视频、音频和图像理解。它是构建IVA应用程序和服务的vision AI开发人员、软件合作伙伴、初创公司和OEM的理想选择。现在,您可以创建流处理管道,将神经网络和其他复杂的处理任务(如跟踪、视频编码/解码和视频渲染)结合起来。这些管道支持对视频、图像和传感器数据进行实时分析。
DeepStream SDK是跨广泛行业的广泛用例的理想选择。
使用C/C++、Python或Graph Composer简单直观的UI创建功能强大的视觉AI应用程序。
了解边缘丰富的多模态实时传感器数据。
在云本地容器中部署AI服务,并使用Kubernetes对其进行编排。
通过使用TAO工具包训练、调整和优化模型以及使用DeepStream部署模型来增加流密度。
DeepStream为基于AI的视频、音频和图像分析构建无缝流管道提供了一种更快、更简单的方法。它提供了40多个硬件加速插件和扩展,以优化前后处理、推理、多对象跟踪、消息代理等。此外,它还提供了一些世界上性能最好的实时多对象跟踪器。使用DeepStream的off-shelf容器轻松构建云本地应用程序,这些应用程序可以部署在公共云和私有云、配备NVIDIA GPU的工作站或NVIDIA-Jetson上。它的“一次开发,随时随地部署”方法简化了代码管理,并提供了很好的可伸缩性。DeepStream Container Builder工具还可以使用NVIDIA NGC容器轻松构建高性能的云计算AI应用程序,这些容器易于大规模部署并使用Kubernetes和Helm Charts进行管理。DeepStream REST-API允许您在运行时管理多个参数,从而简化SaaS解决方案的创建。使用标准REST-API接口,您可以构建用于控制和配置的web门户,或集成到现有应用程序中。
通过与NVIDIA Metropolis构建端到端视觉AI系统,加快整体开发工作并释放更高的实时性能。从生产质量愿景AI模型开始,使用TAO Toolkit对其进行调整和优化,并使用DeepStream进行部署。获得难以置信的灵活性——从快速原型设计到完整的生产级解决方案——并选择推理路径。通过本机集成到NVIDIA Triton™推理服务r、 您可以在本地框架(如PyTorch和TensorFlow)中部署模型以进行推理。使用NVIDIA TensorRT™公司对于具有多GPU、多流和批处理支持选项的高吞吐量推理,还可以帮助您实现最佳性能。PipeTuner 1.0是一种新的开发工具,现在可以轻松地调整各种参数,以优化用于推理和跟踪的人工智能管道
DeepStream SDK与30多个示例应用程序捆绑在一起,旨在帮助您启动开发工作。大多数示例都有C/C++、Python和Graph Composer版本,并在NVIDIA Jetson和dGPU平台上运行。通过支持Windows Subsystem for Linux(WSL2),您现在可以在Windows环境中进行开发,而无需访问远程Linux系统。DeepStream服务制造商通过抽象GStreamer的复杂性来简化开发过程,从而轻松构建C++面向对象的应用程序。使用Service Maker用几行代码构建完整的DeepStream管道DeepStream库由CV-CUDA、NvImageCodec和PyNvVideoCodec提供支持,提供低级GPU加速操作,以优化视觉AI管道的前后阶段。图形生成器为DeepStream开发人员提供了一个强大的低代码开发选项,可以创建复杂的管道并使用Container Builder快速部署它们。
严格的调度控制、自定义调度程序和高效的资源管理对于与确定性系统(如机械臂和自动化质量控制线)集成至关重要。随着Graph eXecution Format(GXF)的引入,很容易与控制信号集成,这些信号与DeepStream管道处理的视频流传感器在不同的时域上运行。新的参考应用程序可以帮助您快速启动Generative AI应用程序的开发。传感器融合的新支持BEVFusion增加了激光雷达和雷达输入,可以与相机输入融合,为开发人员带来了一系列新的用例。
DeepStream是NVIDIA AI Enterprise的一部分,这是一个端到端、安全、云计算的人工智能软件平台,经过优化,可以加速企业发展成为人工智能的前沿。NVIDIA AI Enterprise为NVIDIA AI开源软件提供验证和集成,访问AI解决方案工作流以加快生产时间,认证以在各地部署AI,以及企业级支持、安全性和API稳定性以减轻开源软件的潜在风险。
在C/C++中创建应用程序,直接与GStreamer和DeepStream插件交互,并使用参考应用程序和模板。
可以使用GStreamer框架的Python绑定Gst-Python构建DeepStream管道。GitHub上提供了绑定和Python示例应用程序的源代码。
Graph Composer是一种低代码开发工具,可增强DeepStream用户体验。使用简单直观的UI,处理管道是通过拖放操作构建的。
工业。AI使用包括DeepStream在内的NVIDIA Metropolis堆栈来提高机场的安全性和效率。使用视觉人工智能,它能够追踪被遗弃的行李,标记长长的乘客队列,并提醒安全团队潜在的问题。
KoiReader使用NVIDIA开发工具开发了一个AI驱动的机器视觉解决方案,其中包括DeepStream SDK,以帮助百事可乐在动态分发环境中实现精度和效率。
FYMA使用NVIDIA DeepStream和NVIDIA-Triton™来改进AI支持的空间分析,帧速率比以前的基准高出10倍,精确度高出3倍。
DeepStream是一个封闭源代码SDK。请注意,所有参考应用程序和几个插件的源代码都可用。
DeepStream SDK可用于构建端到端人工智能应用程序,以分析视频和传感器数据。一些流行的用例包括零售分析、停车管理、物流管理、光学检查、机器人和运动分析。
请参阅平台和操作系统兼容性表.
是的,现在可以通过集成Triton®声波风廓线仪推断服务器实现这一点。此外,使用DeepStream 6.1.1,应用程序可以使用gPRC与Triton Inference Server的独立/远程实例通信。
DeepStream开箱即用地支持几个流行的网络。例如,DeepStream支持MaskRCNN。此外,DeepStream还提供了一个运行流行的YOLO模型、FasterRCNN、SSD和RetinaNet的示例。
是的,DS 6.0或更高版本支持安培架构
是的,DeepStream SDK 6.1.1支持音频。要开始使用,请下载软件并查看参考音频和自动语音识别(ASR)应用程序。通过阅读了解更多信息ASR DeepStream插件
使用DeepStream SDK构建高性能视觉AI应用程序和服务。
快速入门