RobustSplat: 解耦致密化与动态的抗瞬态3DGS三维重建(解耦控制的原理)

RobustSplat: 解耦致密化与动态的抗瞬态3DGS三维重建(解耦控制的原理)

3DGS (3D Gaussian Splatting) 技术凭借在新视角合成与 3D 重建中实现的实时照片级真实感渲染,已成为研究热点。然而,现有方法在建模含动态物体的场景时精度不足,常导致渲染图像出现伪影。

在最近的一项研究中,来自中山大学、深圳市未来智联网络研究院、港中深的研究者提出鲁棒性解决方案 RobustSplat,其核心设计包含两点🕑️:一是首创延迟高斯生长策略,在允许高斯分裂 / 克隆前优先优化静态场景结构,从而减少优化初期对动态物体的过拟合;二是设计尺度级联掩码引导方法,先利用低分辨率特征相似度监督进行可靠的初始动态掩码估计(借助其更强的语义一致性与抗噪声特性),再逐步过渡到高分辨率监督,以实现更精准的掩码预测。

论文标题:RobustSplat: Decoupling Densification and Dynamics for Transient-Free 3DGS论文链接https://arxiv.org/abs/2506.02751论文主页https://fcyycf.github.io/RobustSplat代码链接https://github.com/fcyycf/RobustSplat

研究动机

我们通过分析揭示了高斯致密化 (densification) 在 3D Gaussian Splatting 中的双重作用机制。具体来说,致密化过程在增强场景细节表达方面具有显著优势,但同时也会促使模型过早拟合动态区域,导致伪影和场景失真。这一发现表明,传统的致密化策略在存在有动态物体的场景建模中存在依赖性风险,即其所带来的细节提升可能以牺牲静态区域的重建质量和引入伪影为代价。

因此,本文的研究动机源于对该分析的深入理解,意在通过调节致密化过程的引入时机,有效平衡场景的静态结构表达与动态干扰的抑制。致密化既是优化细节的关键因素,也是动态干扰的放大器,为此提出「延迟高斯生长」策略,通过延后致密化过程实现静态部分的准确重建,同时结合多尺度掩码引导,系统抑制动态伪影,推动在复杂场景中实现鲁棒、细节丰富的 3D 场景重建。

方法

瞬态掩码估计

网络架构:采用含两层线性层的 MLP (Mask MLP),以图像特征为输入,通过 Sigmoid 函数输出逐像素的瞬态掩码Mt(取值范围 [0, 1],0 表示瞬态区域,1 表示静态区域)。

特征选择:选用 DINOv2 特征作为输入,原因是其在语义一致性、抗噪性和计算效率间取得很好的平衡。对比之下,Stable Diffusion 特征语义信息更强但计算成本高,SAM 特征边界精度高却易漏检瞬态物体的阴影区域,而 DINOv2 特征能稳定支撑掩码预测。

监督设计:掩码 MLP 的优化结合了图像残差损失和特征余弦相似度损失:使用基于渲染图像与真实图像的光度差异,捕捉像素级动态干扰,作为基础监督信号。在此基础上,将渲染图像与真实图像的 DINOv2 特征余弦相似度映射至 [0, 1] 范围作为特征监督,以增强语义级动态区域识别。

延迟高斯生增长策略

延迟高斯生长是 RobustSplat 针对 3DGS 优化中瞬态物体过拟合问题设计的核心策略,其核心思想是推迟高斯致密化过程(分裂 / 克隆操作),优先完成静态场景结构的优化,为掩码学习提供更稳定的基础。

掩码正则化:掩码正则化是针对早期优化阶段掩码估计不准确问题设计的关键策略,核心目标是减少静态区域被误分类为瞬态区域的风险,确保 3DGS 优先优化静态场景结构。

掩码学习的总损失

尺度级联掩码引导

先利用低分辨率特征相似性监督进行初始瞬态掩码估计,借助其强语义一致性和抗噪性;再过渡到高分辨率监督,实现更精确的掩码预测,降低静态区域误分类。

实验

下图分别展示了在 NeRF On-the-go 和 RobustNeRF 数据集上的实验结果。与 3DGS、SpotLessSplats、WildGaussians 等基线方法相比,RobustSplat 在 PSNR、SSIM、LPIPS 等指标上全面领先。

总结

通过实验分析发现,高斯致密化过程虽然提升了场景细节的捕捉能力,但也会生成额外的高斯来建模瞬态干扰,从而无意中导致了渲染伪影的产生。

RobustSplat 通过延迟高斯生长策略和尺度级联掩码引导方法,优化 3DGS 以减少瞬态物体导致的渲染伪影。

实验表明该方法在 NeRF On-the-go 和 RobustNeRF 数据集上,相比现有基线方法在各项指标上全面领先,能处理含多样瞬态物体的复杂场景并保留细节。

特别声明:[RobustSplat: 解耦致密化与动态的抗瞬态3DGS三维重建(解耦控制的原理)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

郭士强2次带队进亚洲杯决赛均获亚军 再战决赛夜(郭士强带谁走)

中国男篮在亚洲杯半决赛中以98-84战胜新西兰男篮,成功晋级决赛。这是郭士强第二次带领球队闯入亚洲杯决赛。中国男篮将在今晚0点迎战澳大利亚男篮与伊朗男篮之间的胜者,争夺冠军

郭士强2次带队进亚洲杯决赛均获亚军 再战决赛夜(郭士强带谁走)

媒体梳理主旋律电影叙事策略转变 从宏大叙事到平民视角(媒体梳理主旋律有哪些)

2025年暑期档,主旋律题材影片迎来了一次现象级的爆发。申奥执导的《南京照相馆》凭借强劲的票房走势脱颖而出,成为这个夏天电影市场的最大亮点

媒体梳理主旋律电影叙事策略转变 从宏大叙事到平民视角(媒体梳理主旋律有哪些)

娱乐圈️“最渣”女演员🎭️,私生活极其混乱,无缝衔接17个男人

1997年,林熙蕾的感情生活也开始引起公众关注,她和香港演员🎭️吴大维的恋情曝光。 林熙蕾的故事告诉我们,娱乐圈️充满了复杂的情感和纷繁的纷争,但她凭借自己的独立与坚持,不仅在事业上取得了成就,还在生活中找到了平…

<strong>娱乐圈</strong>️“最渣”女演员🎭️,私生活极其混乱,无缝衔接17个男人

磐智电气取得智能电力主板输出用输出结构专利,通过二次螺纹连接的方式对外壳体进行固定(磐电科技股份有限公司)

金融界2025年8月19日消息,国家知识产权局信息显示,北京磐智电气有限公司取得一项名为“一种智能电力主板输出用输出结构”的专利,授权公告号CN223246843U,申请日期为2024年09月。 专利摘要显示…

磐智电气取得智能电力主板输出用输出结构专利,通过二次螺纹连接的方式对外壳体进行固定(磐电科技股份有限公司)

壮阳春胶囊所包含的成分具体有哪些(壮阳春胶囊能壮阳吗)

壮阳春胶囊主要由肉苁蓉、锁阳、菟丝子(盐)、枸杞子、何首乌(制)、车前子(盐)以及野玫瑰果等药材组成。该药具有补肾壮阳的作用,并能帮助改善因年龄增长导致的身体虚弱状况。壮阳春胶囊应按如下方式服用:每次一粒,每日两次。

壮阳春胶囊所包含的成分具体有哪些(壮阳春胶囊能壮阳吗)