AI最前沿 88Z.ai 11 月 15 日消息，NVIDIA 推出基于 cuDLA 的 Python 接口，允许开发者在 Jetson AGX Orin 平台上直接调用深度学习加速器（DLA）进行原生推理。该方案旨在解决边缘 AI 应用在有限算力和功耗预算下运行多个神经网络的挑战，通过卸载 GPU 负载提升系统效率。
消息要点
- NVIDIA 推出 cuDLA Python 接口，简化 Jetson AGX Orin 上的 DLA 调用流程
- 该方案有助于在有限功耗和算力下高效运行多个神经网络，减轻 GPU 负担
技术背景与挑战
边缘人工智能应用通常需要在严格的计算资源和功耗限制下同时运行多个神经网络。传统的处理方式可能占用宝贵的
cuDLA Python 接口发布
NVIDIA 最新发布的 cuDLA Python 接口使得开发者能够在 Jetson AGX Orin 上更便捷地利用 DLA 硬件。通过该接口，用户可以直接在 Python 环境中调用原生 DLA 推理功能，无需复杂的底层配置。这一更新简化了开发流程，有助于开发者构建更高效、低功耗的边缘 AI 解决方案，优化多模型并行处理的性能表现。
资料来源与整理说明
本文由 AI最前沿通过 AI 辅助整理公开资料。产品能力与开放范围按发布方说明转述，未将其视为本站实测或独家采访结论。
- developer.nvidia.com原始资料发布于
以上日期为原始资料发布日期；标题下方日期为本文在 AI最前沿的发布时间。