Aspire开源,机器人可发现并调用新技能
科极网Nvidia研究员Jim Fan、加利福尼亚大学伯克利分校教授Ken Goldberg及其他参与者,本周开源机器人智能体框架Aspire,让机器人能够发现自己尚未掌握的技能,并在执行任务的过程中学习如何调用。在其中一个演示里,GPT-6 Astra调用1对机器人手臂,完成了还原魔方的任务。
Fan描述,机器人起初拿起魔方尝试转动,但所用角度不对;模型随后进行了很长时间的推理,随着操作逐渐学会技能,最终解决了任务。Fan认为,这种机器人控制方式与软件智能体的工作方式相似:大语言模型可以调用视觉语言动作模型(VLA),如同访问电脑上的不同软件。视觉语言动作模型是经过训练、用于控制物理动作的模型。
在本周于得克萨斯州奥斯汀举行的机器人学习会议(CoRL)上,Fan还展示了另一个操作实例。Astra控制机器人手臂,利用附近的颜料与画笔,按要求画出金门大桥。
从真实视频生成训练场景
OpenAI在9月发布Astra后,Goldberg及学生看到模型渲染3D图像的能力,他们由此想到,是否也能让模型参与不同种类机器人的训练模拟,而不是仅把这种渲染能力用于生成图像。人形机器人的舞蹈动作、机器人手的抓取行为,都需要详细且准确的模拟,让那些经过训练的复杂行为在真实环境中也能按模拟方式执行。
Goldberg实验室的一名成员向Astra开放Nvidia工具Newton的访问权限,提供真实机器人运行的视频片段,要求生成对应场景。Goldberg表示,在1小时内,模型便完成了整个3D模拟,相机位置、光照、背景和全部材料参数均已设置。
Goldberg称,Astra还可以运行实验、检查结果,自动处理在模拟环境中训练机器人所涉及的大量重复工作。一些工业机器人及自动化企业已经对这种方法表现出兴趣。
虚拟Microduck完成行走与识别实验
另一个实验使用OpenAI的GPT-6 Sol,为Pollen Robotics和Hugging Face的Microduck建立虚拟版本,训练它在房间中行走,并识别附近的孟加拉猫。演示画面中,虚拟机器人朝目标猫走去,画面的右上角同时显示机器人的观察视角。
实验还使用了Nous Research的Hermes智能体框架,以及配备AI芯片的Nvidia DGX Spark个人电脑。GPT-6 Sol通过Nvidia的Isaac Sim软件向控制虚拟机器人的模型传入指令,查看运行视频来判断效果,再针对训练方案提出调整建议。
代码编写和虚拟机器人训练耗时数小时,完成的行为包括四处行走而不摔倒。此前,这类配置、编程和调试工作需要相当多的专业知识,实验实施者认为自己过去可能要花数周才能摸清类似任务;此次模型参与的工作也超出了单纯编写代码。实验实施者此前曾用智能体与编码模型配置、编程和调试实体机器人,但这次还让模型操作物理世界的3D表征,并把这种表征转化为代码、智能体行为及训练操作。
实验最初还试过训练太空步,输入材料是一段Michael Jackson在舞台上滑行的GIF。模型尝试模仿,但经过数小时的训练,机器人最终只做出了倒退慢跑的动作。
实体迁移和视觉能力仍待验证
实验实施者计划让实体Microduck为自己的宠物孟加拉猫Leona分发零食。拟议方案是在机器人头部加装3D打印储存舱,低头时释放食物,这部分目前仍属计划。实施者认为模拟中的行为相对简单,应该可以迁移到真实机器人,但仍在等待设备发货,尚不能检验零食分发方案。
让机器人可靠且高效地运行,依然需要大量工程专业知识。此次机器鸭的视觉系统还不足以用于真实产品。
对于训练方式的变化,实验实施者认为,AI在理解和操作物理世界的3D表征方面取得的能力,已经让虚拟机器人训练变得更容易、更快捷。这种变化可能对制造业与电子商务产生影响,但机器人在真实环境中的可靠运行仍需要工程工作。
实验实施者还把这种方式与几年前的vibe coding作比较,预期爱好者和工程师发现机器人可以如此编程和训练后,可能会出现“vibe robotics”的突破。对他而言,更具体的设想是完善机器人助手,让Leona不再缺少零食。