File size: 38,832 Bytes
4c427dc
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
<!doctype html><html lang="zh-CN"><head><meta charset="utf-8"><meta name="viewport" content="width=device-width,initial-scale=1"><title>AWSM:智能体世界仿真与建图 — Phygital AI</title><meta name="description" content="把真实空间,变成虚实融合智能体可以使用的世界。"><meta property="og:type" content="article"><meta property="og:locale" content="zh_CN"><meta property="og:title" content="AWSM:智能体世界仿真与建图"><meta property="og:description" content="把真实空间,变成虚实融合智能体可以使用的世界。"><meta property="og:image" content="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/assets/teaser_originals.png"><meta property="og:url" content="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/zh.html"><meta name="twitter:card" content="summary_large_image"><meta name="twitter:title" content="AWSM:智能体世界仿真与建图"><meta name="twitter:description" content="把真实空间,变成虚实融合智能体可以使用的世界。"><meta name="twitter:image" content="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/assets/teaser_originals.png"><link rel="canonical" href="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/zh.html"><link rel="alternate" hreflang="zh-CN" href="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/zh.html"><link rel="alternate" hreflang="en" href="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/"><link rel="stylesheet" href="style.css?v=cbba47743ba2"><link rel="stylesheet" href="editorial.css?v=462f0ffc2b51"><script type="importmap">{"imports":{"three":"./vendor/three/three.module.js"}}</script><script src="app.js?v=d70db3a6816b" defer></script><script type="module" src="scene-compare.js?v=bd749465e05d"></script><link rel="stylesheet" href="office.css?v=2e8c4a2f0718"><link rel="alternate" hreflang="x-default" href="https://phygital-ai.github.io/agentic-world-simulation-and-mapping/"><meta property="article:published_time" content="2026-10-01"></head>
<body data-lang="zh"><a class="skip" href="#main">跳到正文</a><nav><a class="brand" href="index.html">PHYGITAL AI / AWSM</a><div><a href="zh.html" aria-current='page'>中文</a><a href="index.html" >EN</a><a href="https://github.com/wentingw/AWSM" target="_blank" rel="noopener noreferrer">GitHub ↗</a></div></nav><header><p class="title-name">智能体世界仿真与建图</p><div class="title-lockup"><h1 aria-label="AWSM: 智能体世界仿真与建图">AWSM</h1><p class="pronunciation">读作 “awesome”</p></div><p class="lead">把真实空间,变成<strong class="tagline-emphasis">虚实融合智能体可以使用的世界。</strong></p><p class="brand-note">Phygital = physical(物理)+ digital(数字),即虚实融合。</p><p class="publication-date">发布于 <time datetime="2026-10-01">2026年10月1日</time></p></header>
<div class="hero" id="overview-video"><video controls playsinline preload="metadata" poster="assets/awsm-promo-v5-poster.jpg" aria-label="AWSM 介绍视频"><source src="assets/awsm-promo-v5.mp4" type="video/mp4"><a href="assets/awsm-promo-v5.mp4">AWSM 介绍视频</a></video><div class="project-links" role="group" aria-label="AWSM 项目资源"><a class="project-resource" href="https://github.com/wentingw/AWSM" target="_blank" rel="noopener noreferrer" aria-label="GitHub(在新窗口打开)" title="GitHub(在新窗口打开)"><img src="assets/icons/github.svg" width="24" height="24" alt="">GitHub<svg class="project-external-arrow" viewBox="0 0 16 16" width="12" height="12" fill="none" stroke="currentColor" stroke-width="1.6" stroke-linecap="round" stroke-linejoin="round" aria-hidden="true"><path d="M4 12 12 4M4 4h8v8"/></svg></a><span class="project-resource"><img src="assets/icons/huggingface.svg" width="24" height="24" alt="">Hugging Face (Coming soon)</span></div></div><div class="layout"><aside class="toc"><p>ON THIS PAGE</p><a href="#results">概览</a><a href="#motivation">研究动机</a><a href="#workflow">工作流</a><a href="#more-results">结果与分析</a><a href="#embodied-demo">具身演示</a><a href="#related-work">相关工作</a><a href="#limitations">局限性</a><a href="#citation">引用</a><a href="#references">参考文献</a></aside><main id="main">
<section id="results"><p class="section-tag">01 / OVERVIEW</p><aside class="tldr"><strong>TL;DR</strong><p>AWSM 让大模型智能体将视觉观测转化为可编辑的 3D 场景,并以估计的相机位姿与深度进行几何锚定,其中包括融合 IMU 的视觉惯性约束,将几何与真实物理尺度绑定。在一个受控的 Isaac Sim 场景中,四条重建路线检验的不只是视觉合理性,更是空间忠实度:经配准的纯 RGB 路线 M1 与真值位姿条件路线 M4 对比,双向表面误差降低约 81%,180 个评估视角上的模型深度绝对相对误差(AbsRel)降低约 54%。多机器人 demo 进一步展示基于重建地图的目标导航与任务执行:沿预设路线前往地图上已标记的前台,并在那里排队。下一步是提升效率与精度、形成可复用的仿真就绪资产,并进一步与虚实融合智能体(phygital agents)集成,支持持久空间记忆、寻物与交互。</p></aside><h2>一个场景可以看起来合理,却在空间上是错的。</h2><p class="standfirst">Agentic 重建由大模型检查观测、调用建模工具,并迭代构建和验证可编辑场景。挑战不只是生成一个令人信服的房间,还在于保留尺度、形状与空间关系,让结果在渲染之外仍然有用。AWSM 研究如何用几何证据约束这一过程,让输出成为下游智能体更忠实的空间参照。</p><p>我们对 NVIDIA Isaac Sim 中的 World Lobby 仿真场景,沿四条完整工程路径进行重建:从纯 RGB 建模,逐步加入估计位姿、深度与真实相机位姿。每条路径交付的是冻结的 Blender 场景,而不只是点云或新视角渲染器。实验关注的不是谁生成了最漂亮的单帧,而是几何证据究竟带来了什么、没有解决什么,以及哪些误差会穿过对象化建模继续存在。</p><div class="insight-strip"><div><strong>0.376 → 0.072 m</strong><span>双向表面误差</span><small class="metric-reduction">相对降低约 81% · M1 → M4</small></div><div><strong>16.44% → 7.60%</strong><span>模型深度绝对相对误差(AbsRel)· 180 个评估视角</span><small class="metric-reduction">相对降低约 54% · M1 → M4</small></div></div><p class="metric-caveat">单场景 M1 → M4 诊断性对比:M1 使用真值辅助的 Sim(3) 配准,M4 使用真值相机位姿。相对降幅比较的是完整管线,而非 IMU 的独立贡献。</p></section>
<section id="motivation"><p class="section-tag">02 / MOTIVATION</p><h2>从看起来合理的重建,到可以使用的空间参照</h2><p>负责重建的智能体可以搭建一个看似合理的房间,却重建错转角、距离或通道。对具身智能体而言,这些不只是视觉缺陷,还会改变目标的位置与身体可以通过的路线。几何锚定,是在信息可用时以位姿、深度与米制证据约束建模过程,而非仅依赖视觉合理性。关键问题是:这些约束如何在观测转化为可编辑对象的过程中得到保留?</p><p>前台任务让这种联系变得具体:在重建地图中标记目标、设定路线,再由机器人控制器执行。本文用“场景表示”指可编辑的对象与几何,用“地图”描述它在导航中的作用,用“仿真资产”描述它与仿真器的集成。AWSM 中的“世界”指这种可复用的空间环境,而非学习得到的动力学预测模型。连接导航、记忆、交互与仿真的持久空间基础是长期目标;当前实验和 demo 分别研究其几何基础,并展示一种下游用途。</p><aside class="claim"><strong>研究问题</strong><p>逐步增强的几何证据,如何改变一个对象化可编辑世界的忠实度,以及它仍然保留的失败模式?</p></aside><h3>本文贡献</h3><ol class="contributions"><li>对几何锚定的 agentic 重建开展四路线研究:固定场景、同一组 180 帧 RGB 输入、建模目标与可编辑输出格式,比较具有不同几何证据的完整管线。</li><li>将轨迹误差、原生深度、最终场景深度、表面几何和渲染外观分开评测,并提供冻结 Blend/GLB 资产、可复现评测子集、公开哈希与交互式对照。</li><li>通过基于地图的多机器人仿真示例,将重建场景连接到目标标记、预设路线和控制器执行;它展示下游用途,而非不同重建路线之间的受控导航对比。</li></ol><div id="scale-and-sensors" class="analysis-block grounding-block"><h3>几何锚定:真实尺度是必要约束,但不是全部答案</h3>
<p>纯单目投影几何存在全局尺度歧义;学习型米制深度提供有用先验,却不是对每个真实尺寸的独立测量。标定 RGB-D、已知基线或长度,以及视觉惯性估计,都可以提供米制约束。IMU 融合能在运动激励充分、初始化、偏置估计、时间同步与标定可靠时恢复米制运动;IMU 不是直接测距传感器,“带 IMU”不等于“尺度一定准确”。</p>
<p>尺度、局部形状、相机位姿和可通行连通性需要分别检查。弯曲转角被简化成直角,不能只靠缩放修复。位姿条件可以改善深度重建,但 DA3 消融和本文 M2/M3 的结果都不支持“所有深度指标必然同步改善”;下文四条路线是完整系统比较,而非只切换 IMU 的单变量实验。</p>
<p class="inline-sources"><a href="https://arxiv.org/abs/1708.03852" target="_blank" rel="noopener">VINS-Mono</a> · <a href="https://arxiv.org/html/2511.10647v1#S7.SS2.SSS3" target="_blank" rel="noopener">DA3 位姿条件消融</a></p></div></section>
<section id="workflow"><p class="section-tag">03 / WORKFLOW</p><h2>一个 agentic 工作流,四条重建路线</h2><p>负责重建的智能体遵循共同的“观察—构建—验证”循环:检查可用证据,编写 Blender Python 构建对象,渲染检查视图,并在冻结评测前迭代修改。这里的 agentic 指这种工具驱动的建模过程;下游机器人控制器承担另一种角色。</p><p>四条路径使用相同的 180 张 RGB 身份和相同的 Astra–Blender 建模目标。M1 检验没有米制测量时视觉先验能走多远;M2 加入 RGB-only ViPE 位姿与 pose-conditioned DA3 深度;M3 使用 ORB-SLAM3 单目惯性位姿与同类 DA3 观测;M4 提供 GT 相机位姿,用于诊断剩余建模误差,但建模时不读取 GT 网格或 GT 深度。</p><figure class="table-figure" id="table-1" data-table-key="table1"><figcaption><span>Table 1.</span> <span class="table-title"></span></figcaption><div class="table-scroll table-mount" role="region" tabindex="0" aria-label="Table 1"></div></figure><h3>Agentic 重建闭环</h3><div class="workflow-strip"><div><strong>01 · 观察</strong><span>检查全部 180 张 RGB;在允许的方法中读取位姿条件下的 DA3 几何。</span></div><div><strong>02 · 建模</strong><span>编写 Blender Python,将房间拆解为命名对象、材质、相机与碰撞代理。</span></div><div><strong>03 · 验证</strong><span>在固定修订相机上比较成对 RGB 与 optical-Z 渲染,并在固定版本预算内修改。</span></div><div><strong>04 · 冻结</strong><span>在作者看到任何 GT 评分前,导出 Blend/GLB、manifest、语义 ID 与哈希。</span></div><div><strong>05 · 评测</strong><span>在同一冻结协议下分别测量位姿、原生深度、模型深度、表面距离与外观。</span></div></div><p>所有场景冻结后才引入真值。M2/M3 只使用一次全局 SE(3) 配准,尺度固定为 1;不进行 mesh ICP 或逐视角拟合。M1 没有原生米制轨迹,其模型空间指标使用由 5 个手工相机关联得到、冻结不变的 GT-assisted Sim(3),因此只能解释形状与显示误差,不能视为米制恢复。</p><aside class="notice"><strong>M1 diagnostic limitation.</strong> 其 Sim(3) 配准后的几何与深度数值描述 GT-assisted 显示配准后的形状,不代表原生米制恢复。</aside></section>
<section id="more-results"><p class="section-tag">04 / RESULTS AND ANALYSIS</p><h2>比排行榜更重要的三个发现</h2><article class="finding"><p class="finding-kicker">FINDING 01</p><h3>1. 更好的位姿不会机械地带来更好的原生深度</h3><p>M3 的轨迹优于 M2:ATE 从 0.167 m 降至 0.121 m,旋转误差从 0.31° 降至 0.19°;但 M3 的原生 DA3 AbsRel 反而略差(20.38% 对 19.06%)。经过建模后,排序再次反转:M3 的模型深度 AbsRel 为 8.37%,优于 M2 的 9.29%。上游指标与最终场景忠实度相关,却不能彼此替代。</p></article><figure class="table-figure" id="table-2" data-table-key="table2"><figcaption><span>Table 2.</span> <span class="table-title"></span></figcaption><div class="table-scroll table-mount" role="region" tabindex="0" aria-label="Table 2"></div></figure><figure id="figure-1"><img loading="lazy" src="assets/figure14_abc.png" alt="Trajectory, native depth, and model depth"><figcaption><span>Figure 1.</span> 上游轨迹与原生深度的排序,并不会一一映射为冻结场景的深度排序。</figcaption></figure><article class="finding"><p class="finding-kicker">FINDING 02</p><h3>2. 几何证据把“合理布局”约束成更忠实的空间</h3><p>在声明配准且不使用 mesh ICP 的条件下,双向表面误差从纯 RGB 诊断基线的 0.376 m,依次降至 ViPE 的 0.118 m、ORB-SLAM3 的 0.082 m 与 GT 位姿的 0.072 m。M4 在本案例中拥有最强几何,而 M3 依靠估计轨迹已经缩小了大部分差距。</p></article><figure class="table-figure" id="table-3" data-table-key="table3"><figcaption><span>Table 3.</span> <span class="table-title"></span></figcaption><div class="table-scroll table-mount" role="region" tabindex="0" aria-label="Table 3"></div></figure><article class="finding finding-comparison"><p class="finding-kicker">FINDING 03</p><h3>3. 定性比较</h3></article><div class="analysis-block"><h3>不只看汇总指标,也检查重建场景</h3><p>在共享相机中将每个重建与 GT 对照:先从 M1 观察语义上合理的房间如何偏离米制布局;再比较 M2/M3,寻找几何改善但 RGB 相似度未同步提升的区域;最后检查 M4,把相机位姿不再是瓶颈后仍然存在的建模与材质误差分离出来。</p><figure id="figure-2"><img loading="lazy" src="assets/fixed_five_view_comparison_m1_m4.jpg" alt="M1 to M4 and input GT across five fixed views"><figcaption><span>Figure 2.</span> M1–M4 与输入 GT 在五个固定视角下的并排比较。</figcaption></figure><figure class="scene-comparison" id="figure-3" data-state="idle"><h3>旋转、缩放,检查冻结场景</h3>
<div class="scene-toolbar"><label class="method-control">重建方法 / GT<select id="model-select"><option value="M1">M1</option><option value="M2">M2</option><option value="M3">M3</option><option value="M4" selected>M4</option><option value="GT">GT</option></select></label><label>显示方式<select id="scene-mode"><option value="compare">中轴线对比 GT</option><option value="single">单独查看所选场景</option></select></label><button id="scene-reset" type="button">重置视角</button></div>
<div class="scene-stage"><span class="scene-label scene-label-left">M4</span><span class="scene-label scene-label-right">GT</span><button class="scene-divider" type="button" role="slider" aria-label="Comparison divider" aria-valuemin="2" aria-valuemax="98" aria-valuenow="50"></button><input id="scene-split" class="scene-split" type="range" min="2" max="98" value="50" aria-label="Comparison split"><p class="scene-status">滚动到此处加载三维对比。</p></div><button id="scene-retry" class="scene-retry" type="button">重试</button>
<figcaption><span>Figure 3.</span> 所选冻结模型与 GT 共用同一相机和完整 viewport;网页运行时隐藏顶棚与四周墙体,以相同剖视方式检查,源模型文件保持不变。</figcaption></figure><figure class="fixed-comparison" id="figure-4"><div class="controlrow"><label>方法<select id="compare-method" disabled><option value="M1">M1</option><option value="M2">M2</option><option value="M3">M3</option><option value="M4">M4</option></select></label><label>固定视角<select id="compare-frame" disabled><option value="0">0</option><option value="36">36</option><option value="72">72</option><option value="108">108</option><option value="144">144</option></select></label></div><div class="compare-pair"><div><img id="compare-pred" src="assets/fixed_views/M1/000.png" alt="Selected frozen model rendering"><p id="compare-label" class="compare-subcaption">M1 / 视角 0</p></div><div><img id="compare-gt" src="assets/fixed_views/GT/000.png" alt="Input GT RGB"><p class="compare-subcaption">INPUT / GT RGB</p></div></div><figcaption><span>Figure 4.</span> 同一所选视角下的冻结模型渲染与输入 GT RGB。</figcaption></figure><p>网页只在运行时隐藏顶棚与四周墙体,以便剖视检查;运行时配准与显示选择不会修改可下载的冻结 GLB 或 Blend 文件。</p></div><div class="analysis-block"><h3>几何锚定改变了什么,又没有解决什么</h3><h4>建模像一种结构化、同时有损的正则化</h4><p>在共享的 180 视角协议下,M2–M4 的最终场景深度都显著接近 GT:相较原生 DA3,AbsRel 约下降 51–60%。一种可能解释是,对象级聚合抑制了局部不一致预测;但这仍是假说,而非受控因果结论。同一种抽象也可能删除真实表面与细节。</p><h4>测量约束生成,却不会自动解决外观</h4><p>几何最强的路径并未统治 PSNR 或 SSIM。位姿消除了一类不确定性,外观仍受材质估计、照明、物体细节与渲染器差异支配。只评 RGB 会漏掉空间进步,只评几何也会漏掉感知失败。</p><h4>100 视角检查衡量一致性,而不是未见视角泛化</h4><p>Table 7 使用一组固定随机种子的 100 个相机,它们从固定 5 帧之外的 175 张建模帧中抽取。这些视角相对固定检查是额外视角,但其 RGB 在建模阶段可见。在该集合上,M4 的深度 AbsRel 最低(7.47%),M3 的 RMSE 最低(1.090 m)。</p><figure id="figure-5"><img loading="lazy" src="assets/model_depth_error_five_views_m1_m4.png" alt="Model-depth error at five fixed evaluation views"><figcaption><span>Figure 5.</span> 固定 5 视角检查中的模型深度误差;青绿色表示缺失或无效预测。</figcaption></figure><figure class="table-figure" id="table-6" data-table-key="table6"><figcaption><span>Table 6.</span> <span class="table-title"></span></figcaption><div class="table-scroll table-mount" role="region" tabindex="0" aria-label="Table 6"></div></figure><figure class="table-figure" id="table-7" data-table-key="table7"><figcaption><span>Table 7.</span> <span class="table-title"></span></figcaption><div class="table-scroll table-mount" role="region" tabindex="0" aria-label="Table 7"></div></figure></div><div id="office-cafe" class="analysis-block external-case"><h3>走出仿真大厅:手机采集空间中还剩下什么?</h3><p>Office Café 不是 World Lobby 基准的第二次运行,也不构成同协议的定量验证。它是一个真实采集的外部案例,用于展示对象化场景、求解后的原视频相机轨迹、视频—模型对照与物理回放如何组合成一个可检查的空间产物。作者观察到的一类失败是:真实的弯曲转角被简化成方正结构。它提醒我们区分局部形状与全局尺度——尺度正确并不能自动修复形状错误;这里将其作为定性观察,而非另一组定量结果。</p><p class="office-links"><a href="https://office-cafe-vipe.hiwtishere.chatgpt.site/?lang=en" target="_blank" rel="noopener">全屏打开模型 ↗</a><a href="https://office-cafe-vipe.hiwtishere.chatgpt.site/shake?lang=en" target="_blank" rel="noopener">打开摇晃实验 ↗</a></p><div class="office-external"><h4>打开原始交互网页</h4><div class="office-external-grid"><figure class="office-external-card"><a href="https://office-cafe-vipe.hiwtishere.chatgpt.site/?lang=en" target="_blank" rel="noopener noreferrer"><img loading="lazy" src="assets/office-cafe/office-pmodel-poster.jpg" alt="交互模型: 来自已发布模型渲染视频的本地预览。"></a><figcaption><strong>交互模型</strong><p>来自已发布模型渲染视频的本地预览。</p><button type="button" data-office-external="https://office-cafe-vipe.hiwtishere.chatgpt.site/?lang=en" aria-controls="office-external-slot">加载外部网页 · 请求英文版</button></figcaption></figure><figure class="office-external-card"><a href="https://office-cafe-vipe.hiwtishere.chatgpt.site/shake?lang=en" target="_blank" rel="noopener noreferrer"><img loading="lazy" src="assets/office-cafe/office-shake-heavy-poster.jpg" alt="摇晃实验: 来自已发布较强摇晃回放的本地预览。"></a><figcaption><strong>摇晃实验</strong><p>来自已发布较强摇晃回放的本地预览。</p><button type="button" data-office-external="https://office-cafe-vipe.hiwtishere.chatgpt.site/shake?lang=en" aria-controls="office-external-slot">加载外部网页 · 请求英文版</button></figcaption></figure></div><p class="office-external-note">链接通过 lang=en 请求英文,实际语言与可用性由外站控制。这里展示的是本地内容预览,并非外站页面截图。若嵌入不可用,可使用全屏外链,或查看下方本地模型与视频。</p><div id="office-external-slot" class="office-external-slot" hidden></div></div><div class="office-model-grid"><figure class="office-model-card"><div class="office-model-stage" data-src="assets/office-cafe/scene.glb" aria-label="可旋转查看的 Office Café 原有模型"></div><figcaption><strong>原有模型</strong><span>输入为视频与估计深度;拖动旋转、右键平移、滚轮缩放。</span></figcaption></figure><figure class="office-model-card"><div class="office-model-stage" data-src="assets/office-cafe/atlas-scene.glb" aria-label="可旋转查看的 Office Café 旧模型"></div><figcaption><strong>旧模型</strong><span>输入仅为视频;该旧版布局未按 ViPE 扫描重新标定。</span></figcaption></figure></div><p class="office-model-note">两个模型默认采用俯视剖切视图,仅在显示时裁去上部遮挡,以展示室内布局;点击“剖切视图”可切换完整模型,“重置视角”可恢复总览。原始坐标、材质和模型文件保持不变。联动旋转用于观察布局,不代表几何配准。</p><div class="office-video-grid office-video-sync"><figure class="office-video-card"><video data-synced-video muted preload="metadata" playsinline poster="assets/office-cafe/office-input-poster.jpg" src="assets/office-cafe/office-input-web.mp4?v=4915b934b5f9" aria-label="输入视频"></video><figcaption><strong>输入视频</strong><span>原始手机拍摄视频。</span></figcaption></figure><figure class="office-video-card"><video data-synced-video muted preload="metadata" playsinline poster="assets/office-cafe/office-pmodel-poster.jpg" src="assets/office-cafe/office-pmodel-web.mp4?v=3b03fe58a192" aria-label="程序化模型"></video><figcaption><strong>程序化模型</strong><span>沿原视频相机轨迹渲染的模型。</span></figcaption></figure><figure class="office-video-card"><video data-synced-video muted preload="metadata" playsinline poster="assets/office-cafe/office-scan-poster.jpg" src="assets/office-cafe/office-scan-web.mp4?v=861a074637b4" aria-label="点云"></video><figcaption><strong>点云</strong><span>沿相同轨迹渲染的扫描点云。</span></figcaption></figure></div>
<div class="office-video-controls"><button class="office-video-play" type="button" aria-label="播放全部三个视频" aria-pressed="false">▶</button><input class="office-video-progress" type="range" min="0" max="1000" value="0" aria-label="三个视频的共同播放进度"><output class="office-video-time">00:00 / 01:10</output><p class="office-video-status" role="status" aria-live="polite">同步播放 · 70.1 秒 · 30 fps</p></div><div class="office-video-grid"><figure class="office-video-card office-video-card-wide"><video controls preload="metadata" playsinline poster="assets/office-cafe/office-shake-heavy-poster.jpg" src="assets/office-cafe/office-shake-heavy.mp4"></video><figcaption><strong>较强地震效果</strong><span>场景中的物体均可交互,柜门可以打开;此段展示较强摇晃下的物理响应。</span></figcaption></figure></div><script type="module" src="office-models.js?v=8752a7cc4f64"></script></div></section>
<section id="embodied-demo" class="embodied-demo">
<p class="section-tag">DEMO / MAP-BASED EMBODIED EXECUTION</p><h2>一张重建地图,一个目标,一次具身执行。</h2><p>这个 demo 在 NVIDIA Isaac Sim 中将重建连接到下游使用:在导航地图中标出前台,设定路线,再让无人机、人形、四足和轮式机器人执行任务。同一个空间参照连接目标、路径约束与运动控制:从可以查看的重建场景,走向可以用于行动的地图。</p>
<blockquote class="mission-command"><span>任务意图:</span>让机器人前往前台,并在那里排成一列。</blockquote>
<ol class="mission-flow" aria-label="任务流程"><li><span>01</span>任务指令</li><li><span>02</span>地图上定位前台</li><li><span>03</span>设定导航路线</li><li><span>04</span>控制器执行</li></ol>
<figure class="demo-film"><video controls playsinline preload="none" poster="assets/embodied-demo/navigation-214924-poster.png" width="1280" height="720" aria-label="四机器人地图导航演示"><source src="assets/embodied-demo/four-robots-214924-156s-phone.mp4" type="video/mp4">浏览器无法播放此视频,请使用下方下载链接。</video><figcaption>基于重建地图的仿真导航 · 预设路线 · 仿真器位姿反馈。作者确认,本演示已完成人工审阅。</figcaption></figure>
<div class="demo-links"><a href="assets/embodied-demo/four-robots-214924-156s-phone.mp4" download>下载手机版 · 11.65 MB · 2:36</a><a href="assets/embodied-demo/four-robots-214924-156s-hd.mp4" download>下载高清版 · 49.69 MB · 2:36</a><a href="data/embodied_demo.json">运行与视频记录 ↗</a></div>
<figure class="demo-map" id="demo-route-map"><a href="assets/embodied-demo/planned-route-156s.png" target="_blank" rel="noopener"><img loading="lazy" src="assets/embodied-demo/planned-route-156s.png" width="1920" height="1080" alt="标出前台与航点的四机器人路线设计图;静态设计,非执行轨迹"></a><figcaption><span>导航地图。</span> 在重建场景中标出前台与规划路线。这是静态设计图,而非实跑轨迹;点击查看原尺寸地图。</figcaption></figure>
<details class="demo-protocol"><summary>演示条件与范围</summary><p>上方指令说明任务意图,不代表本次演示实现了语言到计划的自动解析。路线人工设定,并同时参考 M4 重建地图和原始几何筛选;这不是只依赖重建图的规划 benchmark。</p><p>成片为 156 秒、1× 原速:场景(0–6秒)、重建(6–12秒)、路线设计(12–18秒)、导航(18–156秒)。导航来自新运行 <code>20260930-214924</code>,略去开头等待的 12.32 秒,后续终点保持过程不在本剪辑中。地图是静态路线设计图,不是实测执行轨迹。</p><p>本 demo 不评测在线视觉定位、学习型指令理解、记忆检索或真实机器人迁移。这些是独立能力,不改变本演示所表达的“利用重建地图执行导航任务”。</p><p>人工展示审阅与下方保留的历史自动检查属于不同验证层次,不改变其原始判定。</p><p><a href="evidence/embodied-demo-audit.json">历史自动检查记录 ↗</a></p></details>
</section>
<section id="related-work"><p class="section-tag">05 / RELATED WORK</p><h2>从几何测量到可编辑 Real2Sim</h2><p>AWSM 连接两类角色:负责构建可编辑场景的智能体,以及将它作为空间参照使用的下游智能体。SLAM 与视觉惯性估计提供位姿和米制约束,ViPE 与 Depth Anything 3 提供几何观测。同期工作 AHa-3D 探索视频驱动、工具辅助的 Real2Sim,包括从视频估计相机与三维参照。我们的重点是几何锚定:将额外的物理测量,尤其是融合 IMU 的视觉惯性位姿与米制约束,引入智能体场景构建,而不只依赖视频推断的证据。四路线对比评估的是重建系统,并非 IMU 独立作用的消融实验;demo 展示的是地图应用,而不是完整的自主具身系统。</p><p>因此,我们的评测同时覆盖接口两端:上游系统作为测量管线接受检验,Blender 输出则作为持久化空间产物接受检验;这不同于孤立地评估位姿、深度或新视角合成。</p><span class="inline-sources"><a href="https://research.nvidia.com/labs/toronto-ai/vipe/" target="_blank" rel="noopener">ViPE</a> · <a href="https://arxiv.org/abs/2007.11898" target="_blank" rel="noopener">ORB-SLAM3</a> · <a href="https://arxiv.org/abs/2511.10647" target="_blank" rel="noopener">Depth Anything 3</a> · <a href="https://kevinxu02.github.io/real2sim-indoor-site/" target="_blank" rel="noopener">AHa-3D</a></span><div id="spatial-foundation" class="analysis-block spatial-foundation"><p class="section-tag">研究方向</p><h3>走向虚实融合智能体可持续使用的空间</h3><p>当前输出是可编辑的场景快照,demo 展示了针对特定场景的仿真集成。长期目标是把几何锚定的 agentic 重建发展为可复用流程,构建并维护虚实融合智能体能够使用的空间。保存可编辑资产是起点,不等于已经验证长期地图维护;以下方向是在当前证据基础上的延伸。</p><div class="capability-grid"><div><h4>导航</h4><p>在同一几何坐标中表达目标、自由空间与不同机器人的通行净空。更忠实的重建可以减少地图失配,可靠导航还需要定位与实时观测。</p></div><div><h4>记忆与多模态检索</h4><p>将对象身份、位置和源视图关联,让语言、图像与过去的观察指向同一个地点。检索到对象与安全到达对象,需要分别评测。</p></div><div><h4>交互与长期维护</h4><p>编辑对象属性与关系,重访变化区域,保留证据和版本。持久记忆应区分实际观察、推断补全和未知空间,而非把所有生成内容都当作事实。</p></div><div><h4>仿真与学习</h4><p>从当前特定场景的集成,走向可复用的仿真就绪导出流程,检查尺度、碰撞几何与物理参数。它可支持任务预演、场景变体和训练;是否降低策略 sim-to-real 差距,仍需单独检验。</p></div></div><p>并非每次寻物都需要完整网格:Memory Over Maps 用带位姿 RGB-D 关键帧按需定位,3D-Mem 与任务相关场景图也探索了不同记忆和表示方式。我们主张混合路线:保留视觉证据,细化任务相关几何,在有价值的地方构建可编辑仿真资产。下一步的关键问题是:什么时候证据已经足够支持行动,什么时候 agent 应重新观察并更新地图?</p><p>近期重点是提升重建效率与精度、形成可复用的仿真就绪场景生成流程,以及进一步与虚实融合智能体集成,让重建智能体的建模与修正循环连接到下游智能体的导航、记忆和交互需求。</p><p class="inline-sources"><a href="https://arxiv.org/abs/2603.20530" target="_blank" rel="noopener">Memory Over Maps</a> · <a href="https://arxiv.org/abs/2411.17735" target="_blank" rel="noopener">3D-Mem</a> · <a href="https://arxiv.org/abs/2404.13696" target="_blank" rel="noopener">Clio</a> · <a href="https://arxiv.org/abs/2404.06609" target="_blank" rel="noopener">GOAT-Bench</a></p></div></section>
<section id="limitations"><p class="section-tag">06 / LIMITATIONS</p><h2>边界本身也是结果的一部分</h2><ul class="limits-list"><li>一个合成场景、每条路径一次工程运行,不能建立一般优越性或统计显著性。</li><li>四条路径是完整系统,而非严格的单变量消融;M2 与 M3 的差异不能只归因于 IMU。</li><li>M4 使用 GT 相机位姿,是诊断路线,不是可部署基线,也不是理论上界。</li><li>M1 模型空间指标依赖 GT-assisted Sim(3),不能与原生米制恢复混为一谈。</li><li>100 视角外观与深度集合包含建模 RGB 输入,不是 held-out novel-view benchmark。</li><li>外观指标混合了几何、材质、照明与渲染误差;M4 revision 4 尚未完成完整独立视觉复审。</li><li>前台 demo 展示基于地图的仿真执行,不是 M1–M4 的受控导航对比。路线预先设定,定位使用仿真器位姿;具体范围见演示条件。</li><li>多模态空间记忆、长期地图维护与策略 sim-to-real 差距的降低是研究目标,不是这段四机器人视频已量化的结果。本页也没有 Office Café 拐角的同视角 GT 定量测量。</li><li>历史下游文档对同一 M4 Blend 哈希使用了不同的深度前端描述。本页冻结表格与资产保持不变;将旧任务收益归因于 DA3 之前,需要核对上游方法命名,详见来源说明。</li></ul><p>所有表格都由冻结资产生成;公开 manifest 提供模型哈希、配准、固定视角与固定随机评测索引。</p><div class="asset-downloads"><p><strong>M1</strong> <a href="models/M1/scene.blend" download>scene.blend ↓</a> · <a href="models/M1/scene.glb" download>scene.glb ↓</a> · <a href="evidence/M1/manifest.json">manifest ↗</a></p><p><strong>M2</strong> <a href="models/M2/scene.blend" download>scene.blend ↓</a> · <a href="models/M2/scene.glb" download>scene.glb ↓</a> · <a href="evidence/M2/manifest.json">manifest ↗</a></p><p><strong>M3</strong> <a href="models/M3/scene.blend" download>scene.blend ↓</a> · <a href="models/M3/scene.glb" download>scene.glb ↓</a> · <a href="evidence/M3/manifest.json">manifest ↗</a></p><p><strong>M4</strong> <a href="models/M4/scene.blend" download>scene.blend ↓</a> · <a href="models/M4/scene.glb" download>scene.glb ↓</a> · <a href="evidence/M4/manifest.json">manifest ↗</a></p></div><p class="evidence-links"><a href="data/tables_1_7.json">Tables JSON</a> · <a href="data/scene_comparison.json">Scene manifest</a> · <a href="data/fixed_views.json">Fixed views</a> · <a href="evidence/publication_manifest.json">Publication manifest</a> · <a href="evidence/SHA256SUMS">SHA256</a></p><p><a href="evidence/provenance-note.md">版本与资产来源说明 ↗</a></p></section>
<section id="citation"><p class="section-tag">07 / CITATION</p><h2>引用本文</h2><p>如果本研究的受控实验、冻结资产或评测协议对你的工作有帮助,请引用下面的交互式研究文章。</p><pre class="citation-block"><code>@misc{awsm_2026,
  title        = {{AWSM}: Agentic World Simulation and Mapping},
  author       = {{Phygital AI}},
  year         = {2026},
  howpublished = {Interactive research article},
  url          = {https://phygital-ai.github.io/agentic-world-simulation-and-mapping/},
  note         = {Reconstruction benchmarks, editable scene assets, and map-based embodied demonstration}
}</code></pre><a class="citation-download" href="data/awsm.bib" download="awsm.bib">下载 BibTeX 引用 <span aria-hidden="true">↓</span></a></section>
<section id="references"><p class="section-tag">08 / REFERENCES</p><h2>参考文献</h2><ol class="references-list"><li><a href="https://kevinxu02.github.io/real2sim-indoor-site/" target="_blank" rel="noopener">AHa-3D: Agentic Tool Use for Real2Sim with GPT-6 Astra.</a></li><li><a href="https://arxiv.org/abs/2508.10934" target="_blank" rel="noopener">ViPE: Video Pose Engine for camera motion and near-metric geometry.</a></li><li><a href="https://arxiv.org/abs/2007.11898" target="_blank" rel="noopener">Campos et al. ORB-SLAM3: An Accurate Open-Source Library for Visual, Visual–Inertial, and Multimap SLAM. IEEE Transactions on Robotics, 2021.</a></li><li><a href="https://arxiv.org/abs/2511.10647" target="_blank" rel="noopener">Depth Anything 3: Recovering the Visual Space from Any Views.</a></li><li><a href="https://doi.org/10.1109/TIP.2003.819861" target="_blank" rel="noopener">Wang et al. Image Quality Assessment: From Error Visibility to Structural Similarity. IEEE Transactions on Image Processing, 2004.</a></li><li><a href="https://arxiv.org/abs/1801.03924" target="_blank" rel="noopener">Zhang et al. The Unreasonable Effectiveness of Deep Features as a Perceptual Metric. CVPR, 2018.</a></li><li><a href="https://www.blender.org/" target="_blank" rel="noopener">Blender Foundation. Blender: Free and Open Source 3D Creation Suite.</a></li><li><a href="https://arxiv.org/abs/1708.03852" target="_blank" rel="noopener">Qin et al. VINS-Mono: A Robust and Versatile Monocular Visual-Inertial State Estimator. TRO, 2018.</a></li><li><a href="https://arxiv.org/abs/2509.13414" target="_blank" rel="noopener">Keetha et al. MapAnything: Universal Feed-Forward Metric 3D Reconstruction. 2025.</a></li><li><a href="https://arxiv.org/abs/2603.20530" target="_blank" rel="noopener">Zhou et al. Memory Over Maps: 3D Object Localization Without Reconstruction. 2026.</a></li><li><a href="https://arxiv.org/abs/2411.17735" target="_blank" rel="noopener">Yang et al. 3D-Mem: 3D Scene Memory for Embodied Exploration and Reasoning. 2024.</a></li><li><a href="https://arxiv.org/abs/2404.06609" target="_blank" rel="noopener">Khanna et al. GOAT-Bench: A Benchmark for Multi-Modal Lifelong Navigation. CVPR, 2024.</a></li><li><a href="https://arxiv.org/abs/2309.16650" target="_blank" rel="noopener">ConceptGraphs: Open-Vocabulary 3D Scene Graphs for Perception and Planning. ICRA, 2024.</a></li><li><a href="https://arxiv.org/abs/2404.13696" target="_blank" rel="noopener">Clio: Real-time Task-Driven Open-Set 3D Scene Graphs. RA-L, 2024.</a></li></ol></section><noscript>JavaScript is required for tables and interactive figures.</noscript></main></div><footer>Phygital AI · AWSM · frozen evidence, editable outputs · <a href="index.html">English</a></footer></body></html>