因时机器人联合高校开源 HandEdit,构建超 2 亿图像编辑样本
近日,因时机器人联合复旦大学、上海交通大学等高校及科研机构,正式开源 HandEdit 数据集与评测基准。
该数据集聚焦第一视角下"人类手到机器人灵巧手"的图像编辑,为灵巧操作学习提供规模化数据资源与标准化评价依据。
抓取、旋转、按压、装配等精细操作,对灵巧手的抓握、感知能力和控制精度提出更高要求,但机器人操作数据的积累明显落后于硬件能力的迭代速度。
传统采集依赖遥操作、动作捕捉或真机反复执行,成本高、周期长;不同灵巧手在手指数量、关节结构、尺寸与运动范围上差异明显,同一套数据难以跨平台迁移。
另一方面,互联网上已积累大量人手操作视频,但人手与灵巧手在结构和自由度上的差异,使这些信息难以直接转化为灵巧手可学习、可执行的数据。
如何完成这一"数据适配",成为灵巧操作学习继续推进的关键问题,HandEdit 正是针对该问题展开探索。
HandEdit 研究第一视角人类到机器人灵巧手的图像编辑:在保持原始场景与动作意图的前提下,将画面中的人手或手臂替换为指定机器人构型。
这并非简单的"换手"特效——既要完整移除原人手,又要保持物体状态、接触关系与背景不变,新生成的机器人还需符合目标 URDF 规定的结构、材质与关节形态。
因此该任务需同时处理场景理解、动作保持、机器人构型一致性与手物交互关系;因时机器人 DFX、G2 系列灵巧手作为重要构型被纳入这一数据转换链路。
在咖啡机操作场景中,因时 DFX 系列灵巧手以 HandEdit 为桥梁,完成了从人类演示到机器人执行的转化。
该案例展示了数据转译链路在真实操作任务中的应用方式。
HandEdit 生成框架在保留原始场景与动作意图的同时,可将人手轨迹自动映射为 DFX 灵巧手的原生关节运动。
在搅拌机抓取等测试中,DFX 依据自身关节限位与参数,实时输出适配的旋转角度、接触位置和手指弯曲姿态,确保每帧动作均处于目标机器人的物理可达范围内。
目前 HandEdit 已构建超过 2 亿个图像编辑样本,覆盖 26 种 URDF 构型,其中包括 13 种独立灵巧手和 13 种手臂一体结构。
数据集涵盖 600 多个场景、1100 余种物体和 400 多类任务,并配套统一评测体系,为人手操作数据向机器人操作数据的转化提供了新的技术路径。