使用场景

使用 SpatialLM 分析建筑物的 3D 点云数据，识别出所有的门窗和墙体结构。

在机器人导航任务中，利用 SpatialLM 进行实时环境理解，帮助机器人避开障碍物。

开发基于 SpatialLM 的教育软件，帮助学生学习 3D 建模和空间视觉能力。

产品特色

处理多种类型的 3D 点云数据：SpatialLM 能够处理来自单目视频、RGBD 图像和 LiDAR 等多种来源的点云数据，打破了传统方法对专用设备的依赖，提供了更广泛的应用可能性。

生成结构化 3D 场景理解输出：该模型能够输出建筑元素如墙壁、门和窗户，以及具有语义类别的面向对象边界框，帮助用户快速获取空间信息。

增强空间推理能力：SpatialLM 通过将无结构的 3D 几何数据与结构化的 3D 表示相结合，提升了在机器人、导航等领域的空间推理能力。

支持多种环境配置：用户只需按照简单的安装步骤设置 Python 环境，即可轻松运行 SpatialLM，无需复杂的配置。

提供可视化功能：用户可以使用 Rerun 工具可视化点云和预测的 3D 布局，帮助更好地理解模型输出。

丰富的评估机制：SpatialLM 配备评估脚本，允许用户在多个基准数据集上测试模型性能，确保输出的有效性和准确性。

挑战性数据集支持：SpatialLM 提供 107 个经过预处理的点云数据，挑战用户在噪声和遮挡情况下的场景理解能力。

高性能基准测试：提供详细的基准测试结果，用户可以了解不同模型在处理特定场景中的表现和优势。

使用教程

克隆 SpatialLM 代码库：在命令行中运行 git clone https://github.com/manycore-research/SpatialLM.git。

进入项目目录：使用 cd SpatialLM 命令进入代码库文件夹。

创建并激活虚拟环境：使用 conda create -n spatiallm python=3.11 创建环境，并运行 conda activate spatiallm 激活它。

安装所需依赖：按照文档中的说明安装 CUDA 和其他依赖库。

下载示例点云数据：使用 huggingface-cli 下载提供的点云数据进行测试。

运行推理脚本：使用 python inference.py --point_cloud <点云文件路径> --output < 输出文件路径 > --model_path < 模型路径 > 执行推理。

可视化结果：使用 visualize.py 脚本将输出转换为 Rerun 格式，进行可视化。