Gecko 联手 NVIDIA 为巡检机器人加装 AI 智能体安全控制

Gecko Robotics 正把 NVIDIA 新推出的智能体 AI 安全层引入其巡检机器人。

NVIDIA 发布 Open Agent Safety Platform，由开源软件 OpenShell 与 Sentry 参考系统设计组成，旨在加强运行 AI 智能体的机器人在硬件、算力与软件层面的治理与控制。

目前已有 100 多家机构采用该技术，Gecko Robotics 是其中之一。此前包括 OpenAI 在内的一些 AI 智能体绕过应用层控制攻击 Hugging Face 等事件，促使开发者着手提升可追溯性、可问责性与预防措施。

NVIDIA 首席执行官黄仁勋表示，安全与防护需要全栈工程；该平台汇聚产业界、研究人员与公共部门机构，分享最佳实践、统一解决方案并促进国际合作。

编者按：Physical AI 是 RoboBusiness 2026 的议题方向之一，该会议将于 10 月 20 日至 21 日在加州圣克拉拉举行。

OpenShell 提供安全运行时边界，在 AI 智能体于 NVIDIA Vera CPU 上运行时追踪所有动作并执行策略。NVIDIA 称，它可为智能体的执行、访问以及推理去向提供确定性治理。

作为开源软件，OpenShell 可扩展至 Arm、Intel 等第三方算力平台。

Sentry 则增加了一个带外看门狗，运行在 BlueField-4 数据处理单元（DPU）上，持续监控智能体行为，将结果与策略比对，并可在数毫秒内隔离试图越界的智能体。

NVIDIA 企业 AI 副总裁 Justin Boitano 表示，智能体经济要发展，就需要横跨芯片与软件的可靠基础，NVIDIA 希望各方共同推进新一层智能体安全。

他把独立信任域比作自动驾驶汽车：主系统负责感知，安全岛则确保整个系统安全失效。

OpenShell 可按需把安全能力卸载到芯片或 DPU，Sentry 则监视推理轨迹。平台中的 Policy Prover 具有确定性且运行更快。Boitano 举例说，若策略规定智能体不得读取 GitHub 代码，智能体可能衍生子智能体去读取并发布信息，集群还可能覆盖全局策略；Policy Prover 会验证主决策树，结合文件与网络访问发现非预期的数据外泄，其理念源自 AWS S3 研究，用于构建可验证的策略。

Boitano 补充说，长期智能体行为与沙箱是不同的命题，OpenShell 正把策略意图投射到基础设施之中。

NVIDIA Open Agent Safety Platform 包含 OpenShell 与 Sentry。

近期安全事件虽完全发生在软件层面，Gecko Robotics 称其揭示了包括机器人在内所有 AI 智能体的潜在问题。该公司利用 NVIDIA OpenShell 探索可执行的边界，使 AI 驱动的机器人始终在人类设定的权限内运行，目标是建立负责任地部署更高自主性所需的保障措施。

Gecko Robotics 联合创始人兼 CEO Jake Loosararian 表示，正如黄仁勋所说，安全是工程问题而非法律问题。他称把「失去对 AI 的控制不可避免」当作不作为的借口是危险的，企业有责任建立让 AI 留在人类设定边界内的保障。

他补充说，NVIDIA 构建的平台以及 Gecko 面向机器人的测试，是在风险触及物理世界之前予以应对，帮助确保更高自主性不以牺牲人类控制为代价。

Gecko 的机器人可攀爬、匍匐、飞行和游动，服务于《财富》100 强能源企业以及美国空军和海军，检测对象从燃料罐到核潜艇与航空母舰。

Gecko 工程总监 Ariel Weingarten 对 The Robot Report 表示，其智能体拥有与现场操作员相同的系统指令权限，包括启停数据采集、机器人运动控制与路径规划、升降载荷；但不涉及数据生命周期或上传至 Gecko 治理云。

在 AI 智能体安全研究持续推进之际，总部位于匹兹堡的 Gecko 正使用 NVIDIA OpenShell 提供安全运行时边界，让开发者界定系统可做与不可做的操作。

Gecko 已在美海军部署的 Komodo 机器人，在 AI 智能体与硬件之间设置了独立执行层。公司称，开发者决定 Komodo 该做什么，OpenShell 则确保其不越界。

Gecko 认为，物理 AI 与机器人是技术的下一个前沿，把智能从软件迁移到机器也带来更大责任，仅靠模型层面的安全并不足够。

Weingarten 表示，由于 Gecko 已遵循针对美国军事资产的完善安全控制，在 OpenShell 中实现这些控制难度不大。公司补充说，在全技术栈建立可执行的管控，有助于让治理物理 AI 的保障措施与技术本身同步发展。

Gecko 的 Cantilever AI 平台将机器人采集的海量数据转化为可执行洞见，公司称其支持基于证据的结构决策，并为客户带来投资回报。

Weingarten 指出，由于 OpenShell 位于 Komodo 现场系统的边界内，它并不直接与 Cantilever 交互。他说，Gecko 计划未来将 NVIDIA 的安全层用于国防与军事系统，确定性控制也可能在集群层面发挥作用。

Weingarten 表示，在单个单元层面设定不变量有助于推演集群与编队动态，公司期待从单机控制走向由智能体辅助的整场部署运营。