机器人与政策学习：视觉运动策略，由粗到细的多尺度策略预测
CARP: Visuomotor Policy Learning via Coarse-to-Fine Autoregressive Prediction
2024-12-09｜Westlake U, ZJU, BAIC|🔺3
http://arxiv.org/abs/2412.06782v1
https://huggingface.co/papers/2412.06782
https://carp-robot.github.io
研究背景与意义
在机器人视觉运动策略学习中，传统的自回归模型（AM）虽然在多个任务中表现出色，但在处理长程依赖和全局结构时却存在显著局限。尤其是，在复杂场景下，AM往往难以捕捉到动作之间的全局关联性，导致生成的动作不够流畅和连贯。此外，基于扩散的模型（DM）虽然在精度上有所提升，但其多步骤去噪的过程使得实时推理变得低效。为了解决这些问题，CARP（粗到细自回归策略）应运而生。其核心在于将动作生成过程重定义为一种粗到细的多尺度预测策略，旨在提高生成的效率和准确性。
研究方法与创新
CARP的创新之处在于其独特的两阶段生成机制。首先，通过一个动作自编码器，CARP学习整个动作序列的多尺度表示。这一过程不仅保留了动作的全局结构，还能有效捕捉时间上的局部性。其次，采用GPT风格的变换器，CARP在潜在空间中进行粗到细的自回归预测。这种方法使得模型在保持高效性的同时，能够生成高质量、流畅的动作序列。
多尺度动作标记化：通过引入多尺度标记化方法，CARP能够有效捕捉动作序列的全局结构与时间局部性，从而克服传统AM的短视限制。 粗到细的自回归预测：这一机制允许模型在潜在空间中逐步细化动作序列，显著减少了生成高质量动作所需的步骤。 综合的仿真与现实实验：CARP在多种仿真环境及真实世界任务中经过广泛评估，验证了其在效率和性能上的优势。
实验设计与结果分析
CARP在多个基准测试中表现突出，包括单任务和多任务场景的评估。实验结果显示，CARP在成功率上比现有的最先进策略提高了10%，同时推理速度提升了10倍。具体来说，在状态基础的任务中，CARP在复杂任务（如Lift、Can、Square）中均表现出色，成功率达到100%。此外，在多任务环境下，CARP也展现了其灵活性和高效性，成功率高达85%。
成功率：在所有测试任务中，CARP的成功率显著高于其他基准模型，尤其是在复杂的操作中表现尤为突出。 推理效率：与现有的扩散模型相比，CARP在推理速度上具备明显优势，能够在计算资源有限的情况下实现实时操作。 多场景表现：CARP在各种场景下的表现稳定，展现出良好的通用性和适应性。
结论与展望
CARP通过结合自回归模型的高效性与扩散模型的高性能，成功建立了一个高效、灵活且高性能的机器人动作生成框架。未来的研究可以进一步探索CARP在更复杂任务和动态环境中的应用潜力，同时优化其模型架构以提升整体性能。我们希望CARP能激励更多研究者在下一代策略学习中探索基于GPT风格的自回归模型，推动更统一的生成建模技术的发展。
