量子位 | "大众号 QbitAI

超逼真的机器人小镇来了！

在这里，机器人可以像人一样在超市里购物：

买菜回家做饭：

在办公室里接咖啡（阁下还有人类同事）：

不但有人形机器人，机器狗、臂式机器人也在这个“城市”里穿梭自若。

这便是由上海AI实验室最新提出的首个仿照交互式3D天下：GRUtopia（中文名：桃源）。

在这里，由多达100k个交互式、带风雅注释的场景自由组合成逼真城市环境。

包含室闺阁外，餐厅、超市、办公室、家庭等89个不同场景种别。

由大模型驱动的NPC，可以在这个天下里和机器人对话交互。

这样一来，各种机器人能在虚拟小镇里完成各种行为仿照，也便是最近盛行的Sim2Real路线，能大幅降落具身智能现实天下数据网络难度和本钱。

该项目操持开源，现阶段在GitHub上已供应demo安装指南。

安装成功后，就能在demo里掌握一个人形机器人在房间内活动，并支持调度不同视角。

机器人的虚拟桃源

其核心事情共有三项：

个中，GRScenes是一个包含大规模场景数据的数据集。

它极大程度上扩展了机器人可以活动和操作的环境范围，此前的事情更聚焦于家庭场景。

该研究表示，他们的目标是将通用机器人的能力扩展到各种做事场景，比如超市、医院等。
同时覆盖室闺阁外环境，包括游乐园、博物馆、展览馆等。

对付各个场景，他们都进行了风雅高质量建模，100 个场景包含 96 个类别的 2956 个交互式物体和 22001 个非交互式物体。

GRResidents是一个NPC系统。

它由大模型驱动，同时对仿照环境中的场景信息非常理解。
因此NPC可以推断物体之间的空间关系，参与动态对话和任务分配。

借助于这个别系，GRUtopia可以天生海量场景任务供机器人完成。

通过与人类进行交叉验证，NPC系统在描述和定位工具上的准确率都不错。

在描述实验中，让NPC系统随机选择一个物体进行描述，人类能找到对应物体就算成功。

在定位实验中则反过来，如果NPC系统能根据人类给出的描述找到对应物体就算成功。

调用不同大模型的成功率不尽相同，综合来看GPT-4o的表现最好。

GRBench是一个评估具身智能表现的benchmark。

它包含3个基准，涉及目标定位导航（Object Loco-Navigation）、社交定位导航（Social Loco-Navigation）和定位操作（Loco-Manipulation），这三种评估的难度逐渐递增。

为了剖析NPC和掌握API的性能，研究提出了基于LLM和VLM的基线，以验证基准设计的合理性。

实验结果表明，与随机策略比较，在所有基准测试中，利用大型模型作为后端代理的表现都更好。

而且Qwen-VL在对话上的表现超过了GPT-4o。

末了整体比拟来看，GRUtopia其他平台在各个维度上都更强大。

该研究事情由上海人工智能实验室OpenRobot Lab领衔。

该实验室聚焦研究具身通用人工智能，致力于构建软硬虚实一体化的通用机器人算法体系。

今年5月，该团队还发布了具身多模态大模型Grounded 3D-LLM，能够自动化天生物体到局部区域的场景描述与具身对话数据，有效缓解了目前三维场景理解的局限性。

论文地址：https://arxiv.org/abs/2407.10943

GitHub地址：https://github.com/openrobotlab/grutopia?tab=readme-ov-file

— 完 —

量子位 QbitAI · 号

关注我们，第一韶光获知前沿科技动态