英伟达推出Orin Nano 2,推理性能翻倍
英伟达表示,随着AI模型效率提升,更多设备可实现自主化,但开发者需要紧凑、节能的边缘AI计算机。公司推出Jetson Orin Nano 2,这是一款入门级边缘AI计算机,旨在让全球数百万开发者构建物理AI应用系统。
英伟达机器人与边缘AI副总裁Deepu Talla表示,如今的小型和中型前沿模型已达去年最大模型的准确度,解锁了边缘设备的实时智能。Jetson Orin Nano 2将这一突破带到开发者手中,提供智能无人机、机器人和视觉AI系统实时推理所需的性能和能效。
在新闻发布会上,Talla指出,过去三个月来,支撑物理AI的开放模型已显著发展。一年前前沿模型参数规模达6000亿或1万亿,如今这一准确度已可用于Orin Nano 2等入门级边缘AI产品。英伟达的Jetson Orin Nano 2是其“三计算机、全栈”机器人方法的一部分,由Omniverse和Cosmos提供模拟测试,DGX支持训练,Jetson则作为运行时部署的“机器人大脑”。
Jetson Orin Nano 2在成本效益和能效方面实现了AI与视频处理性能的显著提升。该系统提供78 TOPS的AI算力、8GB内存和八核Arm CPU。
与Jetson Orin Nano Super相比,新模块通过改进Tensor Core和更高内存带宽实现推理性能翻倍,同时保持相同紧凑外形。据Talla介绍,在15瓦模式下,功耗降低40%,峰值性能与前代持平。
英伟达现有开放软件栈可运行于Nano 2,其基于与数据中心相同的GPU架构,并设计为现有Orin客户的直接替换。结合Jetson agent技能和公司生态,开发者可运行针对内存高效边缘推理优化的最新大语言模型(LLM)和视觉语言模型(VLM),包括NVIDIA Cosmos、Nemotron、Gemma 4和Qwen 3等开放模型。
Talla表示,这解锁了以往不可能实现的人工智能水平,使前沿AI模型能在机器人和物理AI应用中运行。他相信这将加速AI在物理世界中的开发与部署。英伟达还更新了更高端的Jetson产品线,包括面向主流应用的Orin NX、Orin、T3000/T2000,以及面向进阶应用的Jetson T5000/T4000。
英伟达称,已有超过300万开发者基于其机器人栈开发,Cognex、Doosan Bobcat、Matic和Wing等合作伙伴正在评估或使用Jetson Orin Nano 2进行紧凑设备上的边缘AI应用。Talla指出,数千家公司采用Jetson入门级边缘AI,超过1万家公司在基于Jetson的产品上出货或开发。
Alphabet旗下Wing公司将Jetson Orin Nano Super和英伟达软件栈用于其送货无人机,并计划评估Nano 2以提升实时AI感知与推理能力。Wing感知主管Dinuka Abeywardena表示,公司正在探索Nano 2以实现更灵敏、更节能的无人机。
Matic Robots使用Jetson Orin Nano 2打造家庭清洁机器人,加入对话式AI、手势检测、精准建图、语义理解及更强自主性。CEO Navneet Dalal称,该模块使紧凑型家庭机器人平台能在边缘运行最先进的AI模型。
Talla还提到,陪伴机器人此前缺乏良好智能,如今前沿级智能可实时运行,催生新应用类别。他提到Hugging Face的Reachy Mini,使用小型LLM进行语音识别。英伟达列举了多家合作伙伴,为其建造载板、硬件、定制AI软件及参考系统。
Talla预计英伟达技术将实现通用导航和灵巧操作,并改善机器人训练、安全性和独立性。Jetson Orin Nano 2模块及开发者套件将于2027年上半年上市。