RLWRLD 表示，现实世界的交互需要识别要做什么、随着时间的推移保持相关状态，并根据物理上有意义的信号做出决策。 |来源：RLWRLD
RLWRLD 上周推出了 RLDX-1，这是一种新的灵巧度优先的基础模型。该公司构建的模型是为了使用高自由度 (DoF) 机械手来处理现实行业中的复杂任务。
根据 RLWRLD 的说法，现有的基础模型通常缺乏无缝现实世界部署所需的基本功能，例如上下文记忆或力感应。为了解决这个问题，RLDX-1 涵盖了完整的机器人生命周期。它集成了可扩展的数据收集管道、多功能架构设计、强大的训练方法和优化的部署策略。RLWRLD 声称，因此，RLDX-1 实现了最先进的性能。该模型展示了模拟环境和物理工业应用的精度和通用性。
RLWLRD 为灵巧的机器人手从头开始设计了 RLDX-1 基础模型。每个组件的存在都是因为实际任务的特定故障模式需要它们。结果是一个可以看到、感觉、记忆和适应的单一模型，可在单臂、双臂和具有高自由度手的人形实施例中部署。
RLWRLD 确定了五种灵活性模式
最后一英里工业自动化就是灵巧。总部位于韩国首尔的 RLWRLD 指出，如今的机器人仍然无法可靠地倒咖啡，因为咖啡壶越来越轻，无法从传送带上拾取移动物体，或者用指尖旋转六角螺母。
RLWRLD 将这些反复出现的客户需求提炼到 DexBe 中nch，一个基准，将它们按照五个灵巧度体系进行组织，其中每个灵巧度体系都是当今机器人的特定故障模式。
这五个体系是：
- 掌握多样性：五指手是以下每个体系假设的先决条件。 RLWLRD 已在内部运行其中 10 多个。它使用两条数据管道来实现多样化的抓取。合成机器人数据增强了小型远程操作集的数据集，而人类数据则涵盖了远程操作无法达到的高自由度手部灵活性。
- 空间精度：策略必须捕获足够的场景结构，以便在接触之前正确放置接触。 RLDX-1 通过针对机器人视觉问答 (VQA) 进行微调的机器人专用视觉语言模型 (VLM) 增强了这一功能，其中问题明确针对机器人末端执行器和目标物体之间的几何关系。此训练鼓励 VLM 更好地处理地面对象位置和空间关系对于精确接触放置至关重要。
- 时间精度：单帧策略致力于对象所在的位置；当手到达时，传送带物体已经移动。为了解决这个问题，运动模块从时空视觉对应中提取运动特征，并将多帧上下文分摊为紧凑的表示。它让策略能够了解物体的运动方向和速度。
- 接触精度：逐渐变轻的咖啡壶在视觉上是不变的；该信号是手腕扭矩。物理模块为触觉和扭矩提供自己的流，并预测未来的接触状态和动作，因此该策略可以在接触转换发生之前对其进行预测。
- 上下文感知：这是围绕三种精度的任务级推理。 RLWRLD 表示，如果没有它，即使是完美执行的动作也会陷入计划中的单一步骤。这策略需要记忆、恢复和进度意识。
RLDX 构建在多流操作转换器上
完整的 RLDX 架构。 |来源：RLWRLD
每种状态都以根本不同的方式进入模型：扭矩是高速连续流，视频是稀疏的高维帧，内存是有状态的。在单个传统变压器中，无论哪种形式主导梯度都会吸收所有容量，而其余容量则成为装饰性的。
架构答案是多流动作变压器（MSAT）。每种模态都有自己的处理流，认知标记将 VLM 输出压缩到固定大小的接口中。接下来将逐层展开。将这些模式结合在一起的架构，即数据引擎训练它，以及使其可部署的后训练。
RLDX 基于 MSAT 构建，在该架构中，每种模态都有自己的处理流，并且联合自注意力让它们进行交互。
现有的视觉-语言-动作模型 (VLA) 将模态融合在单个变压器流内，其中主导梯度的模态会吸收所有容量。 MSAT 为每种模态提供其自己的专用处理流，然后让这些流通过联合自注意力进行通信，而不会过早被迫进入共享表示。
早期的块将模态保留在并行流中； RLWRLD 解释说，后面的块会融合它们以进行动作解码。
RLDX-1 使用机器人专用 VLM
RLWRLD 声称，通用 VLM 擅长视觉推理，但它们不会自动理解对机器人控制重要的内容。为了缩小这一差距，RLDX-1 微调了 Qwen3-VL 8B 在机器人轨迹 VQA 数据集上，针对三种动作相关能力。
首先，它的目标是对末端执行器和目标物体之间的几何关系进行空间推理。其次是任务理解，它识别当前观察所隐含的中间子任务。第三是动作基础，对与当前帧相关的低级动作进行推理。
经过微调的模型 RLDX-1-VLM 作为动作生成的视觉推理支柱：比 RoboCasa 上的普通 VLM 提高了 3.42%p。
RLWRLD 指出，单帧策略总是落后一步。当手到达时，传送带物体已经移动。运动模块有两个互补的部分。
视频令牌压缩层通过 VLM 提供多帧观察，通过平均池将过去的帧压缩为运动令牌，因此模型可以有效地了解事情的进展情况。视觉编码器中的运动学习层 m模型时空自相似性 (STSS)，直接从视觉特征捕获旋转、速度和交互动态。
合计：在传送带上执行拾放任务时，比 GR00T N1.6 和 π₀.₅ +37.5%p。
RLDX-1 的物理模块提供两个关键功能
物理模块将触觉和扭矩反馈作为原生模式集成到 RLDX 中。这些物理信号对于需要大量接触物体操作的任务至关重要，主要服务于两个关键功能：重量估计和接触检测。
对于重量估计，当机器人倒咖啡时，该模块会捕获双手的重量变化，以准确通知 RLDX 何时停止。对于接触检测，机器人需要识别准确的接触时刻，以从接近过渡到拾取。虽然关节角度提供了有关接触时间的模糊信息，但que 信号在接触点提供明显、急剧的变化。
为了充分利用这一点，RLDX 采用专用流，不仅可以处理这些信号，还可以预测未来的扭矩状态，从而使策略能够拥有信息丰富的物理嵌入。此外，当此类传感器不可用时，感觉流会自动停用，以优雅地降级为仅视觉，从而允许单个模型支持各种硬件设置。
RLDX-1 的认知接口和内存模块内部
VLM 生成RLWRLD 表示，它具有丰富的场景理解能力，但将其所有标记传递给动作模型可能既缓慢又浪费。
认知接口将 64 个可学习的认知标记附加到 VLM 的输入中。通过注意力，他们将完整序列压缩为固定大小的表示，该表示准确地携带了动作模型所需的信息。速度获胜：+35%p 推理加速（16.3→22.1 Hz）。
但是这些令牌具有双重作用。同样的 64 个 token 表示成为长视野内存的单位。 FIFO 滑动缓存在整个部署过程中存储过去的认知功能，内存模块负责管理此缓存以跟踪任务进度。
打包一个盒子、组装一个产品，或将 10 个苹果数到一个不透明的袋子中。 RLWRLD 表示，每一步都取决于对已经发生的事情的了解。压缩和内存是相同的机制，可重复使用，它说。
RLWRLD 使用合成数据来生成它无法收集的数据
仅靠真正的远程操作无法填充五指手必须覆盖的空间。 RLWLRD 的合成数据管道使用视频生成模型（例如 Cosmos-Predict2）放大了一小部分真实演示的种子。
经过微调的视频模型通过不同的场景因素大规模合成新的轨迹。这些包括光然后，逆动态模型用动作标签对生成的视频进行注释，然后是视频质量和运动一致性过滤器，仅保留遵循指令和物理上合理的合成数据。
最终，RLWRLD 表示，这会产生视频动作一致的合成数据，有利于 VLA 训练，而不仅仅是看起来看似合理的输出，数据量增加了大约五倍规模，导致 GR-1 Tabletop 基准测试的平均成功率提高了 9.2%。
RLWRLD 还向人手学习
RLWRLD 表示，对于灵巧的机器人手来说，没有比人手更好的老师了。对于五指操作来说，远程操作通常太慢且不精确，因为传统控制器无法捕捉捕捉或快速重新抓取等动态任务所需的高速反应。
最常用的替代方案 UMI 将机器人末端执行器安装到人形机器人上，但仅y 用于夹具，RLWRLD 声称。它引用了 DexUMI 的说法，称该方法将配方移植到五指手上，但在实践中并未得到支持：人体工程学不佳、手部运动受限，并且必须为每只新机器人手重新设计设备。
RLDX 采取相反的路线：从裸露的人手进行记录，并通过为五指灵活性构建的重定向框架来缩小软件中的运动学和形态学差距。
- 该管道有四个RLWRLD 表示：
- 跟踪人手和物体
- 使用 3D 高斯喷射重建工作空间
- 重新定位到机器人手上
该公司表示，用户可以在模拟中推出它以生成 VLA 训练数据。据称，每小时可进行 200 多次演示，并可通过自动增强进一步扩展。
RLWRLD 提供训练管道
RLDX 通过三阶段管道进行训练ine，每个阶段都建立在前一个检查点的基础上。首先是一般操作的预训练。该模型通过带有每个实施例编码器/解码器的共享 MSAT 核心来学习单臂、双臂和类人实施例（许多配备灵巧的五指手）的一般操作知识。
预训练组合包含来自不同现实世界数据集和我们的合成机器人数据的轨迹。 RLWRLD 随机丢弃实施例标签，以便模型在单个主干中学习实施例条件策略和实施例不可知策略。
接下来，它对目标实施例使用中期训练。从预先训练的检查点开始，添加内存模块和物理模块，从头开始初始化，并保留现有权重。特定于实施例的灵活性数据构建了时间和感觉能力。预训练数据被部分重用，以防止灾难性遗忘；数据稀缺实施例的合成机器人数据填充s.
最后，它使用训练后进行部署。仅模仿学习就为提高成功率和最佳动作留下了改进的空间。
两种机制弥补了这一差距，对应于上下文感知的其余两个方面：
- DAgger（恢复）将训练数据集中在模型实际发生的失败上。当模型不再分布时，就会对其进行部署和修正，这些修正将成为新的训练数据。每次迭代都会缩小失败分布，直到错误模式消失。
- 进度感知 RL（进度感知）是一个单独的 VLM，经过后期训练作为学习进度估计器。给定轨迹，它可以预测政策距离完成任务有多近。这为强化学习（RL）提供了密集的、基于视觉的奖励信号，推动策略朝着任务进展的方向发展，而无需手工设计、特定于任务的目标。通过重用批量政策数据，每次部署在多次更新中得到充分利用，使真实的机器人强化学习更加易于处理和负担得起。
RLWRLD 表示，其最终策略可以比单独的模仿学习快三倍左右完成任务。
RLDX-1 在常见基准测试中的表现如何？
RLDX 提供三个检查点：RLDX-1-PT（预训练检查点）、RLDX-1-MT-ALLEX 和RLDX-1-MT-DROID（每个 8.1B，针对其目标平台进行了中期训练）。
在真实机器人控制循环中实时服务 8.1B 策略是一个图形和内存问题，而不是 FLOP 问题。 RLWRLD 在模拟中针对 GR00T N1.5/N1.6 和 π₀ [4] / π₀.₅ / π₀-FAST 对 RLDX-1-PT 进行基准测试，并在 OpenArm 真实世界基准上对其进行评估，无需任何特定于平台的中期训练。
中期训练检查点 — RLDX-1-MT-ALLEX， RLDX-1-MT-DROID — 然后在其目标平台上进行评估。每个基准测试任务都旨在隔离特定的灵活性轴。 RLWRLD 将 RLDX-1 与强基线 VLA m 进行比较模型，包括 π₀.₅ 和 GR00T N1.6。
在 OpenArm + Inspire 6-DoF 手平台上，RLWRLD 评估了 RLDX-1-PT（没有 OpenArm 特定的中间训练），以探究与实施例无关的预训练策略泛化到它不专门针对的平台的效果。该基准测试针对多功能智能，包括对象基础、指令理解和对未见环境的泛化。
RLDX-1 始终优于 OpenArm 多功能智能基准测试的基准。 RLWRLD 指出，π₀.₅ 在域内任务上的性能优于 GR00T N1.6，但在域外任务上其性能低于 GR00T N1.6，这表明对未见设置的泛化能力有限。
GR00T N1.6 显示了不同的限制。据该公司报道，它在对象识别任务上完全失败，这表明它在细粒度实例级对象接地方面遇到了困难。相比之下，RLDX-1 在不同任务之间保持平衡的性能RLWRLD 声称，这些结果表明 RLDX-1 不仅在平均成功率方面更强，而且在现实世界人形操纵所需的各种能力方面也更加可靠。
用人形机器人测试 RLDX-1
使用 ALLEX 人形机器人，RLWLRD 构建了专注于运动感知、历史感知和物理信号感知的任务，并使用RLDX-1-MT-ALLEX 专门用于该平台。
结果显示 RLDX-1 与现有 VLA 之间存在很大的性能差距。在需要专门功能能力的任务上，主要基线的成功率低于 30%，而 RLDX-1 达到近 90%。
这表明，当任务需要的不仅仅是通用视觉语言理解（例如跟踪运动、使用历史记录或解释物理信号）时，现有的 VLA 模型仍然很困难。相比之下，RLDX-1 可以更有效地应对这些特定于功能的挑战可靠。
RLDX-1-MT-DROID 将预训练检查点专门用于具有 AnySkin 触觉和关节扭矩传感功能的单臂 Franka Research 3 平台。 RLWRLD 评估两项依赖于记忆的任务（交换杯子、贝壳游戏）和两项依赖于感官的任务（插头插入、鸡蛋拾取和放置），这些任务在非人形实施例上锻炼记忆模块和物理模块。
RLWRLD 的下一步
RLWRLD 观察到，每个任务的数据要求各不相同。有些任务只需很少的演示即可快速收敛；
当谈到公司的长期规划能力时，RLWRLD 目前的实验证明了在中短期交互范围内依赖于记忆的决策。将这种能力扩展到更长的时间环境，例如长达一小时的交互，仍然是未来工作的一个重要方向。
公司的目标也是零射击能力。与其他前沿 VLA 相比，RLDX-1 在我们当前的训练和适应设置下实现了强大的指令理解，但其作为预训练策略的零样本泛化仍然是一个开放的方向。
RLWRLD 还表示希望将 RLDX-1 扩展到视频/世界模型。 RLDX-1 可以扩展到视频/世界建模，其中模型学习根据语言指令和动作预测未来的视觉观察。该公司表示，这种扩展可以为具体环境中的长期规划和行动条件想象提供更强有力的基础，并且代表了未来工作的一个有希望的方向。