SpatialScout:评估VLM智能体主动构建3D物体地图
原始标题 / SpatialScout: Can VLM Agents Actively Explore and Map 3D Scenes?
新在提出一个主动物体级3D建图基准,要求视觉语言模型智能体在有限交互预算下自主探索室内场景并估计目标物体中心,弥补空间问答无法检验度量地图构建能力的不足。
01 摘要
SpatialScout 是一个评估视觉语言模型(VLM)智能体主动构建物体级3D地图的新基准,包含 80 个室内场景和 3,140 个目标物体。给定物体清单、RGB 观测、相机标定和位姿,智能体需控制相机探索并估计物体中心,评测同时衡量定位精度与目标覆盖率。实验显示前沿 VLM 仍有明显局限,最强模型 Claude Opus 5.5 的平均重叠分数为 41.71%,在 IoU>0.5 和 IoU>0.9 上的目标比例分别为 47.23% 和 3.25%。
02 关键点
- 任务要求智能体协调视角选择、跨视图关联、几何估计和地图修正,并在有限交互预算内完成。
- 评测使用物体尺度重叠分数,同时惩罚遗漏预测,联合衡量定位准确性与目标覆盖。
- 最强评估模型 Claude Opus 5.5 平均重叠分数为 41.71%,仅 3.25% 目标在 IoU>0.9 上达标。
回到一手来源
阅读原文 ↗AI GENERATED SUMMARY / DISCOVERED BY ARXIV CS.CL