DeepMind提出基于视觉的强化学习模型,十八般兵器对机器人不在话下
人类是擅于模仿的,我们和其他动物通过观察行为来模仿,理解它对环境状态的感知影响,并找出我们的身体可以采取什么行动来达到类似的结果。
对于机器人De学习任务来说,模仿学习是一个强大的工具。但在这类环境感知任务中,使用强化学习来指定一个回报函数却是很困难的。
DeepMind最新论文主要探索ep了仅从第三人称视觉模仿操作轨迹的可能性,而不依赖action状态,团队的灵感来自于一个机器人机械手模仿视觉上演示的复杂的行为。
DeepMind提出Mi的方法主要分为两个阶段:
1、提出一种操作器无关的表示(MIR, Manipulation-Independent Representations),即不管nd是机械手、人手或是其他设备,保证这种表示都能够用于后续任务的学习
2、使用强化学习来学习action策略
与操作器无关的表示
领域适应性问题是机器人模拟现提出实中最关键的问题,即解决视觉仿真和现实之间的差别。
1、 随机使用各种类型操作器,各种仿真环境用来模拟现实世界
2、加入去除操作臂后的观察
3、时序平滑对抗基于网络(TSCN, Temporally-Smooth Contrastive Networks),相比TCN来说,在softmax交叉熵目标函数中视觉增加了一个分布系数p,使得学习过程更加平滑,尤其是在cross-domain的情况。
使用强化学习
MIR表示空间的需求是actionable的,即可的强用于强化学习,表示为具体的action。
一个解决方案是使用goal-conditioned来训练策略,输入为当前状态o和目标状态g。这篇文章提出一种扩化学展方式,cross-domain goal-conditional policies,输入当前状态o和跨域的目标状态o',最小化到达目标的行动次数。
数据习模和实验
研究小组在8个环境和场景(规范模拟、隐形手臂、随机手臂、随机域、Jaco Hand、真机器人、手杖和人手)上进行了实验,以评估通过未知机械手模拟型,无约束操作轨迹的性能。
他们还用了一些基线方法,如朴素的goal conditioned plicies (GCP)和temporal distance十八。
MIR 在所有测试领域都取得了最好的性能。它在叠加成功率方面的表现显著提高,并且以100% 的分数很好地模仿了模拟的 Jaco Hand 和 Invi般兵sible Arm。
这项研究论证了视觉模仿表征在视觉模仿中的重要性,并验证了操作无关表征在视觉模仿中的成功应用。
未来工厂中的机器人将拥有更强大的学习器对能力,并不局限于一种特定工具,一种特定任务。
相关文章
云梦级11月25日云梦级消息,涂鸦智能-W(02391.HK)发布公告,2025年第三季度的总收入同比增加1.1%至8250万美元。2025年第三季度的PaaS收入同比增加2.4%至5920万美元,主2026-11-12
2月24日,蜀道集团联合阿里云、高德、四川数字交通科技股份有限公司发布蜀道·高德行业版APP,这是国内首个将智慧高速车路协同技术与车机导航融合的应用,目前用户可在157公里的成宜高速体验,未来将向全国2026-11-12
大数据市场如今正在快速增长,预计在未来两年内,全球大数据的市场规模将达到2740亿美元。 对于大数据需求的不断增长并不令人惊讶。人们生活的这个时代非常依赖大数据,而大数据通常来自网络信息。为了获得网络2026-11-12
特斯拉 CEO 埃隆・马斯克最近在一次播客中引发了热议,他对未来的技术趋势进行了大胆的预测。马斯克表示,未来的五到六年内,人工智能将完全主导人类的生活,传统的手机和应用程序将被淘汰。 图源备注:图片由2026-11-12
Hello,大家早上好,又是元气满满的一天,先来浏览新鲜的早报吧~ 【比亚迪二代刀片电池发布】 比亚迪第二代刀片电池不仅实现“闪充”,从 10% 充到 70% 仅需 5 分钟,更在-20℃ 极寒环境下2026-11-12
如果企业希望在云支出上节省资金,那么需要在成本管理方面投入更多的时间和资源。 公有云采取按使用付费的模式,但很多企业很难分析和预测云成本。云成本管理战略和工具只能解决一部分问题,因为只知道云成本是多少2026-11-12

最新评论