Agility 机器人安全高级总监 Kevin Reese 称,安全虽只是一个词,却因此常被低估。要在人形机器人上实现安全,是机器人领域最难的难题之一。
机器人专家 Aaron Ames 表示,人形机器人要在社会中发挥更大作用,安全是当前最关键却缺失的一环。他警告,跳跃、跳舞和搏击等炫目演示不应掩盖对严格安全设计的需要。
美国副总统万斯表示,许多美国人想到AI或“SI”时第一反应是联想到“天网”,但他认为终结者式机器人接管核武器并屠杀人类的担忧不可能发生。
NVIDIA 发布 Open Agent Safety Platform,由开源运行时 OpenShell 与看门狗 Sentry 组成,用于治理运行 AI 智能体的机器人。Gecko Robotics 是 100 多家参与测试的机构之一,把可执行的权限边界应用到其攀爬、匍匐、飞行与游动式巡检机器人上,包括美海军使用的 Komodo。
科技领袖和立法者担心阿西莫夫三定律不足以应对现代AI风险。随着专家警告可能对社会造成危害,要求放缓AI开发和新立法的呼声日益高涨。
Agility CTO Pras Velagapudi 称,人形机器人进入真实场所会接触到人脸、地址标签、专有知识产权等敏感数据,数据安全不能事后才考虑。
优必选发布《人形机器人科技伦理治理白皮书》,提出覆盖伦理风险识别、评估、控制、测试与审查的全流程治理框架。白皮书首次提出行动可控、拟人适当、交互有度三项专项保护目标,并构建七步风险管理框架与全生命周期动态治理机制。
联合国秘书长古特雷斯在最后一次联大演讲中警告,快速发展的AI可能使权力从政府转移到少数私企和个人手中,并呼吁国际社会就新的AI安全防护达成协议。
Agility 在 X 上感谢《MarketWatch》越过炒作看问题,并推荐其报道:工厂机器人长期被视为对人工作业的安全威胁,已有一家公司称解决了该问题。
EPFL 的研究人员提出了一门名为“可持续性机器人学”的新学科,该学科根据机器人对可持续发展目标的总体贡献来评估机器人。他们认为机器人必须具有微创性、可及性和共生性,并且可持续性应成为关键的性能指标。
NEURA Robotics 发布一篇关于数据主权的文章,并邀请读者阅读。
NEURA Robotics 发文讨论认知机器人领域的数据主权问题。
物理 AI 带来超越部件故障的新型机器人安全风险,攻击者可操纵其感知、决策与动作。模型后门、系统漏洞和运行时操纵研究共同表明,网络安全必须与功能安全一起贯穿机器人生命周期。
Agility Robotics新发布的Digit 5人形机器人被编程为遇人退缩,避免妨碍人类。凭借分级安全运动系统、65000小时运营数据和OSHA背书,它瞄准了人形机器人进厂所需的安全信任。
Agility首席商务官Daniel Diez表示,人形机器人进入家庭的前提是协同安全能力,即机器人能与人近距离协同作业;通往家庭的路径要先经过工业场景。
东哈萨克斯坦警方在Nomad Alemi游牧文化节上实际部署机器狗执行巡逻任务,这是该地区首次将机器人系统用于维持公共秩序。这些机器狗具备移动视频监控、人脸识别和语音警告能力,但其数据留存和使用边界仍不明确。
《商业内幕》让四款AI分析人类灭绝路径,它们一致认为杀手机器人可能性最低,真正危险的是人类用AI制造生物武器和发动网络攻击。AI安全焦点已从机器觉醒转向工具滥用,而基因合成筛查等防线正被AI穿透。
Agility 发文梳理 Digit 人形机器人安全系统随代际迭代的演进过程,并分享在工业环境部署中积累的经验。
9月7日,约30台机器人在波兰华沙举行“抗议”,由Democratism组织,旨在讨论AI对劳动力市场的影响。然而,该活动实为机器人公司CIO的公关噱头,凸显了AI造成损害时责任归属的紧迫问题。
宇树G1展示了全自主人形机器人格斗,但独立分析发现AI处理可能运行在外部计算机上,而非完全本体自主。更紧迫的问题在于,当机器人物理能力增强时,安全保障体系与监管框架明显滞后——此前一台G1在游乐场踢中男童就是例证。
2026年4月的安全演示中,一台商用机器狗被远程劫持并攻击假人模型,360创始人周鸿祎称具身智能安全已从「数据安全」升级为「生命安全」。DARKNAVY白皮书披露主流机器人可在8小时内被完整攻破,宇树G1的「UniBLEed」漏洞链更可能「蠕虫化」,而产业安全投入与标准建设正在加速补位。
在2026年IFA展会上,格斗机器人引发关注,CNET撰稿人凯蒂·柯林斯质疑这是否美化了暴力。她指出安全漏洞,并呼吁停止美化机器人间的战斗。
360集团创始人周鸿祎在论坛上呼吁,网安行业需尽快形成AI漏洞发现、自动化防御和智能体安全体系,以应对AI带来的新挑战。
机器人越来越多地用于环境任务,但其自身的环境足迹仍未得到充分审视。新项目和新工具旨在量化并改善机器人全生命周期的可持续性。
Agility Robotics CEO Peggy Johnson在TechCrunch文章中称,机器人安全不能事后补救,那是重新设计。她强调了实验室演示与真实部署之间的安全门槛。该公司即将IPO,但CEO表示家用机器人短期内难以实现。