从真实空间到机器人现场:Real2Sim 与 Sim2Real 如何形成闭环
机器人如何在目标现场训练、评测并回到真实环境运行?本文从场景采集、数字孪生、仿真评测到现场反馈,说明 R2S2R 的完整路径。
机器人最后面对的不是一间理想实验室,而是有真实尺度、材质、光照、障碍和持续变化的工厂、仓库与公共空间。R2S2R 的出发点,是先把目标现场带入训练环境,再把经过评测的策略带回现场,并用运行数据继续修正场景与任务。
从 YUANQEE 自有 Demo 看 R2S2R 工作流
以下视频展示 YUANQEE 当前在空间训练工作台和 ROS2 / NVIDIA Isaac Sim 接入方向的阶段性 Demo,用于说明技术路径,不代表已经覆盖所有机器人、传感器和现场条件。
Spatial Training Studio:场景、机器人与任务编排
将重建场景、机器人模型、传感器和任务目标放在同一空间参照中,用于训练场景搭建与任务检查。
ROS2 / Isaac Sim:仿真链路验证
围绕 ROS2 与 NVIDIA Isaac Sim 验证场景接入、机器人运行和任务反馈链路,为后续真实现场适配提供基础。
为什么要从目标现场开始
通用合成场景适合验证算法,但很难完整表达机器人真正要去的地方。通道宽度、地面反光、玻璃、细杆、临时堆放物、照明变化和传感器视角,都会改变定位、感知和导航的结果。
因此,训练环境不应只追求画面逼真,更要保留与任务有关的尺度、几何、材质、障碍关系和空间参照。目标现场的数字化,是部署验证的一部分,而不是最后用于展示的效果图。
Real2Sim:把真实环境带进仿真
Real2Sim 从照片、视频、360°相机、LiDAR 或其他多模态数据开始,重建机器人将要工作的真实环境。输出不仅包括可浏览的视觉场景,还需要根据任务生成尺度一致、重力对齐、可碰撞的几何表达。
视觉层服务相机感知、定位和场景理解,碰撞层服务路径规划、接触判断和物理仿真。两者如果来自同一份空间重建与坐标体系,可以减少人工搭场造成的错位,也便于后续回看输入、版本和处理过程。
同一份空间资产,服务训练、定位与复盘
机器人训练不只是把场景导入仿真器。团队还需要在空间中放置机器人、传感器、目标位姿、任务对象和安全边界,并为每次运行保留场景版本、参数和结果。
当训练、定位、运行复盘和场景更新共享同一空间参照时,问题才能被准确还原:机器人在哪里失效、当时看到了什么、环境发生了什么变化,以及下一轮应该修改场景、策略还是任务约束。
Sim2Real:把经过评测的策略带回现场
Sim2Real 的关键不是一次性把策略复制到机器人,而是先在目标现场的数字场景中反复运行、比较和筛选,再进入真实环境完成小范围验证。部署后产生的轨迹、图像、告警和失败记录,需要继续回流到场景和评测流程。
这种闭环把一次部署变成持续迭代:真实现场提供约束,仿真环境承担高频试错,机器人运行结果再修正下一轮训练。
RGB、深度与空间语义各自解决什么问题
RGB 保留丰富的纹理、颜色和光照信息,适合视觉策略与语义理解;深度和几何数据更直接地表达距离、表面与可通行空间。玻璃、反光表面、低纹理区域、细杆和线缆等对象,可能对不同传感器形成不同挑战。
稳健的训练环境通常不会把某一种数据当作唯一真相,而是把 RGB、深度、点云、碰撞几何和对象语义放到统一空间中,根据任务选择输入,并清楚记录每一层数据的来源与边界。
YUANQEE 的 R2S2R:连接空间重建与物理 AI
YUANQEE 将 R2S2R 定义为 Reality to Simulation to Reality:采集目标现场,生成可训练的空间场景,在 Spatial Training Studio 与仿真工具中编排和评测任务,再把结果带回机器人与业务系统。
现阶段重点是打通真实场景采集、3DGS 空间表达、几何与坐标处理、ROS2 / Isaac Sim 接入和任务验证链路。4DGS、开放词汇语义、场景变化建模与长时任务评测属于持续研发方向,会按实际验证进度逐步开放。
如何开始一个可验证的项目
第一步不是重建整个园区,而是选择一处有代表性的目标空间、一台机器人和一个明确任务。双方先确认采集范围、机器人与传感器配置、任务成功条件、仿真接口和现场限制,再完成小范围链路验证。
验证结果应回答三个问题:场景是否足以支持目标任务,仿真结果是否能够解释现场表现,运行数据是否可以回到同一空间中复盘。只有这三个问题得到证据支持,才适合扩大场景、机器人类型和任务规模。
参考与延伸阅读
本文参考了 Niantic Spatial 与 Flexion 公开发布的 Real2Sim / Sim2Real 方法与实验说明。相关实验数据、视频和成果归原作者及机构所有,YUANQEE 在此仅作行业方法解读。
Niantic Spatial, Flexion, and NVIDIA: Closing the Sim2Real Gap for Humanoids
Niantic Spatial 与 Flexion 公开介绍了从真实办公室重建、Isaac Sim 训练到真实机器人部署的完整方法。