HuDOR: Bridging the Human to Robot Dexterity Gap through Object-Oriented Rewards
项目网址
https://object-rewards.github.io/
从人类视频中直接训练机器人是机器人学和计算机视觉领域的新兴研究方向。尽管在两指夹持器方面已有显著进展，但对于多指机械手，在没有遥操作的情况下学习自主任务仍然是一个困难的问题。导致这一问题的关键原因在于，基于人类手部训练的策略可能无法直接迁移到具有不同形态的机器人手部上。
在这项工作中，我们提出了HUDOR（一种技术），通过从人类视频构建奖励函数，实现策略的在线微调。重要的是，这种奖励函数是基于现成的点跟踪器提取的面向对象的奖励构建的，即使机器人手部出现在视觉观测中，这种方法仍能提供有意义的学习信号，而奖励的构建则是基于人类手部的操作。给定一个人类完成任务的视频，例如轻轻打开音乐盒，HUDOR能够使我们的四指Allegro机械手在仅仅一个小时的在线交互中学会完成该任务。我们在四个任务上的实验表明，HUDOR相比其他方法平均性能提升了4倍。
