3D Gaussian Splatting 学习笔记

news/2024/10/4 14:12:51/

目录

突破3DGS泛化和实用壁垒!GS-Net:首个具有跨场景泛化能力的即插即用3DGS模块

升级版 SGD

一问读懂3D Gaussian Splatting

3DGS高斯泼溅技术

系统首先对 SfM 点云进行初始化

代码概要


突破3DGS泛化和实用壁垒!GS-Net:首个具有跨场景泛化能力的即插即用3DGS模块

突破3DGS泛化和实用壁垒!GS-Net:首个具有跨场景泛化能力的即插即用3DGS模块

升级版 SGD

Street View Synthesis with GaussianSplatting and Diffusion Prior

GitHub - Leeiieeo/AG-Pose: CVPR2024: Instance-Adaptive and Geometric-Aware Keypoint Learning for Category-Level 6D Object Pose Estimation

一问读懂3D Gaussian Splatting

https://zhuanlan.zhihu.com/p/680669616

3DGS高斯泼溅技术

https://zhuanlan.zhihu.com/p/704286968

系统首先对 SfM 点云进行初始化

得到 3D 高斯球们,然后借助相机外参将点投影到图像平面上(即Splatting),接着用可微光栅化,渲染得到图像。得到渲染图像Image后,将其与Ground Truth图像比较求loss,并沿蓝色箭头反向传播。蓝色箭头向上,更新3D高斯中的参数,向下送入自适应密度控制中,更新点云。

我们从与以前类似nerf的方法相同的输入开始,即使用运动结构(SfM)校准的相机,并使用作为SfM过程的一部分免费生成的稀疏点云初始化3D高斯集。与大多数需要多视图立体(MVS)数据的基于点的解决方案相反,我们仅使用SfM点作为输入就获得了高质量的结果。请注意,对于nerf合成数据集,我们的方法即使在随机初始化的情况下也能达到高质量。我们证明了3D高斯图像是一个很好的选择,因为它们是一个可微的体积表示,但它们也可以通过将它们投影到2D并应用标准𝛼-blending来非常有效地栅格化,使用等效的图像形成模型作为NeRF。

我们方法的第二个组成部分是优化3D高斯函数的属性- 3D位置,不透明度,各向异性协方差和球面谐波(SH)系数-与自适应密度控制步骤交错,我们在优化过程中添加和偶尔删除3D高斯函数。优化过程产生了一个相当紧凑、非结构化和精确的场景表示(所有测试场景的1-5百万高斯)。

我们方法的第三个也是最后一个元素是我们的实时渲染解决方案,它使用快速GPU排序算法,并受到基于瓷砖的光栅化 tile-based rasterization的启发,遵循最近的工作。然而,由于我们的3D高斯表示,我们可以执行尊重可见性排序的各向异性飞溅(多亏了排序和𝛼blending),并通过跟踪尽可能多的排序飞溅的遍历来实现快速准确的向后传递。

综上所述,我们提供了以下贡献:
•引入各向异性3D高斯作为高质量,非结构化的辐射场表示。

•3D高斯属性的优化方法,与自适应密度控制交错,为捕获的场景创建高质量的表示。

•GPU的快速、可微分渲染方法,具有可视性感知,允许各向异性飞溅和快速反向传播,以实现高质量的新视图合成。

                        
原文链接:https://blog.csdn.net/weixin_47228643/article/details/140638010

代码概要

https://zhuanlan.zhihu.com/p/704286968


http://www.ppmy.cn/news/1534452.html

相关文章

Android-Handle消息传递和线程通信

本文为作者学习笔记,如有误,请各位大佬指点 目录 一、同步异步 二、Java多线程通信 三、Handler是什么 四、Handler相关的类 五、Handler常用方法 1. 发送消息 2. 接收处理消息 3. 切换线程 六、使用Handler 使用Handler更新UI 使用Handler延…

【Android 源码分析】Activity短暂的一生 -- 目录篇 (持续更新)

1. 前言 忽然有一天,我想要做一件事:去代码中去验证那些曾经被“灌输”的理论。                                                                                  …

C(九)while循环 --- 军训匕首操情景

匕首操,oi~oi~oi~~~~~ 接下来的几篇推文,杰哥记录的是三大循环结构的运行流程及其变式。 本篇的主角是while循环。👉 目录: while循环 的组成、运行流程及其变式关键字break 和 continue 在while 循环中的作用while 循环的嵌套题目…

滚雪球学Oracle[3.5讲]:Oracle特有的SQL功能

全文目录: 前言一、分析函数的高级应用1.1 常见的分析函数1.2 案例演示:使用分析函数排名员工薪资解释: 1.3 案例演示:计算累积求和解释: 二、模型子句的使用2.1 模型子句的基本结构2.2 案例演示:简单的模型…

Redis: 集群架构,优缺点和数据分区方式和算法

集群 集群指的就是一组计算机作为一个整体向用户提供一组网络资源 我就举一个简单的例子,比如百度,在北京和你在上海访问的百度是同一个服务器吗?答案肯定是不是的,每一个应用可以部署在不同的地方,但是我们提供的服务…

OpenGL ES 顶点缓冲区和布局(3)

OpenGL ES 顶点缓冲区和布局(3) 简述 顶点缓冲区的本质就是一段GPU上的显存,我们通过绑定顶点缓冲区的方式来将数据从CPU传到GPU。 我们之前在绘制三角形的例子中,我们往顶点缓冲区只传入了坐标,但是其实顶点是可以包含很多数据的&#xff…

python三局两胜游戏

分为以下步骤实现这个功能 1、猜拳 2、机器产生数值 3、人去猜数字,定义剪刀石头布 4、控制机器产生,123程序运行的时候可能会出现一点玄学问题,就是,提示n1这一行不符合pep8然后报错,不用管,运行就可以&am…

平安养老险深圳分公司积极开展“金融教育宣传月”活动,展现金融为民新风尚

2024年9月,平安养老险深圳分公司以“金融为民谱新篇,守护权益防风险”为主题,正式启动2024年“金融教育宣传月”活动,通过多样化开展进乡村、进商圈、进企业等宣传教育活动,将金融消保知识送达广大消费者身边&#xff…