【新智元导读】AI研究实验室DeepMind收购并开源了MuJoCo,多关节动力学(MuJoCo)可以为DeepMind的机器人研究提供新的动力。这篇文章将追溯DeepMind是如何一直在机器人领域努力突破极限的。

DeepMind 终于逆袭了!

这家总部位于伦敦的AI研究公司在过去几年亏损数亿美元后,有史以来第一次实现了盈利!

DeepMind收购MuJoCo

在2020年,DeepMind实现了5960万美元的利润。

而仅在一年前的2019年,DeepMind交出的还是一份高达6.49亿美元(约42亿人民币)的亏损账单。

作为一家人工智能初创公司,DeepMind成立十几年来,研发了不少明星产品,比如AlphaGo,AlphaFold2,不断光环加身。但光环背后,它的商业化之路一直走得有点艰辛。

近期,DeepMind在宣布史上首次实现盈利之后,第一次开始出手收购。

10月19号,DeepMind宣布,将机器人模拟器平台MuJoCo收购,并准备将其作为一个预编译的开源库发布,免费提供给研究人员。

DeepMind表示,预计将在2022年发布MuJoCo的代码库,并在Apache 2.0许可下将其作为开源软件「继续改进」。

「我们的机器人团队一直在使用MuJoCo作为各种项目的模拟平台。我们致力于开发和维护MuJoCo。MuJoCo作为一个免费的、开源的、社区驱动的项目,具有一流的能力。我们目前正在努力为MuJoCo的全面开源做准备。」DeepMind表示。

DeepMind创始人Demis Hassabis表示,公司的初衷就是用人工智能推动科学发展,造福于人类。

DeepMind在机器人领域的进展

此次收购MuJoCo,并将其作为开源平台开放给所有研究人员,并不是DeepMind第一次在机器人领域作出贡献。

所以,DeepMind是如何一直在机器人领域努力突破极限的呢?

深度强化学习训练机器人

2016年,DeepMind的研究人员展示了深度强化学习如何训练真正的物理机器人。

研究表明,基于deep Q-functions的强化学习算法可以扩展到复杂的三维操作任务,并有效地学习深度神经网络策略。

DeepMind进一步表明,通过在异步共享策略更新的多个机器人之间进行算法并行化,可以进一步减少训练机器人的时间。

所提出的方法可以在模拟中学习各种3D操作技能和开门技能(通常被认为是在机器人训练中比较复杂的任务),而无需手动设计行为表示。

产生灵活的行为

2018年,DeepMind发表了三篇主要论文,展示了机器人可以实现灵活自然的行为,来适应和解决任务。

科学家用各种模拟身体训练agent,让他们在不同的地形上跳跃、转身和蹲伏。结果表明,agent在没有收到具体指示的情况下学会了这些技能。

另一篇论文展示了一种训练策略网络的方法,该网络模拟人类行为的动作捕捉数据,以预先学习诸如行走、从地面起身、转弯和跑步等技能。

然后,这些行为经过调整,可以改变用途,并解决其他任务,如爬楼梯和通过有墙壁的走廊。

第三篇论文提出了一个基于最先进的生成模型的神经网络体系结构。

这项研究展示了这种架构如何能够学习不同行为之间的关系,并模仿向agent展示的特定动作。

经过训练后,这些系统可以编码一个观察到的动作,并创造一个新的动作。

扩展数据驱动的机器人技术

DeepMind研究了一个数据驱动的机器人框架,该框架使用大量的机器人体验数据集,然后使用学习奖励函数将其扩展到几个任务。

该框架可用于在真实机器人平台上完成三种不同的物体操纵任务。

科学家们使用人类注释作为监督,让agent学习奖励功能,并用任务不可知(task-agnostic)的记录经验来演示任务。这有助于agent处理现实世界中无法直接获得奖励信号的任务。

基于学习到的奖励和从不同任务中获得的大量经验数据集,使用批量强化学习离线学习机器人策略,这种方法可以训练agent执行具有挑战性的操作任务,如堆叠刚性物体。

堆叠的新基准

最近,DeepMind推出了RGB堆叠,作为基于视觉的机器人操作任务的新基准。

在这里,机器人必须学会如何抓住不同的物体,并使它们相互平衡。这不同于以前的工作,因为所用物体非常多样,为验证结果的准确性也需要进行各种经验评估。

结果表明,使用模拟和真实世界数据的组合可以学习复杂的多对象操作。

这个实验为新物体的概括提出一个强有力的基线,也被认为是DeepMind在制造通用机器人方面的一个重大进步。

DeepMind现在将致力于让机器人更好地理解不同几何形状物体间的相互作用。RGB堆叠基准已经与构建真实机器人的RGB堆叠环境、RGB对象的模型和3D打印信息的设计一起开源。

MuJoCo

最后,来聊聊这次DeepMind收购的MuJoCo。

MuJoCo(Multi-Joint Dynamics with Contact)是一款物理引擎模拟器,可促进机器人学、生物力学、图形、动画等需要快速准确模拟的领域的研发。

MuJoCo由Emo Todorov为Roboti LLC开发,是第一批全功能模拟器之一,从零开始设计,通过触点进行基于模型的优化。

在DeepMind被收购之前,2015年至2021年间,MuJoCo一直是一款商业产品,也就意味着需要收费,而且并不便宜。

MuJoCo有助于提升计算密集型技术,如最佳控制、系统识别、物理一致状态估计和自动化机构设计,然后将其应用于具有丰富接触行为的复杂动态系统。

MuJoCo还有一些应用,比如,在物理机器人、游戏和交互式科学部署之前,经常会在MuJoCo上测试和验证控制方案。

机器人研究的未来

今年,DeepMind的竞争对手OpenAI,在机器人领域投入多年的研究、资源和努力后,最终决定解散其机器人研究团队,将重点转移到数据更容易获得的领域。

在机器人研发行业,也有几家基于机器人技术的公司已经关门或者正在严重亏损。在这种情况下,机器人尽管是一个看似利润丰厚的行业,但却没有买家。

不过,有谷歌的真金白银的支持,再加上从不让人失望的DeepMind的研发实力和研究机器人的决心,机器人领域的未来还是非常值得期待的。