INCOMING TRANSMISSION

基于文章《Elucidating the Design Space of DiffusionBased Generative Models》来统一扩散模型框架 💡 统一扩散模型框架： 通用扩散模型框架推导 加噪公式 Flow Matching的一步加噪公式 Score Matching的一步加噪公式 DDPM/DDIM的一步加噪公式 其中， [Math] 都是原始图像， [Math] 通用加噪公式形式探索 发现这三者存在一定的规律，写成一个通用形式： 那这个形式一定对应一个随机微分方程，这个方程的解可以描述 x_t 分布的变化： 根据DDPM和SMLD的推导结果，实际上 我们通常将漂移项简化为线性形式： [公式] 简化后的SDE形式为： [公式] 均值 SDE均值定义： m(t) = E[x...

Diffusion Models from SDE 连续扩散模型 (Continuous Diffusion Models) 将传统的离散时间扩散过程扩展到连续时间域,可以被视为一个随机过程，使用随机微分方程(SDE)来描述。其前向过程可以写成如下形式： [公式] 其中， f(x,t) 可以看成偏移系数， g(t) 可以看成是扩散系数， dw 是标准布朗运动。这个SDE 描述了数据在连续时间域内如何被噪声逐渐破坏。 这个随机过程的逆向过程存在（更准确的描述：下面的逆向时间SDE具有与正向过程SDE相同的联合分布）为 [公式] 前面我们得到了扩散过程的逆向过程可以用一个SDE描述(逆向随机过程),事实上，存在一个确定性过程 (用ODE描述)也是它的逆向过程 (更准确的描述：这个ODE过程的在任...

💡 Score based generative model SMLD的关键点： 正式开始介绍之前首先解答一下这个问题：scorebased 模型是什么东西，微分方程在这个模型里到底有什么用？我们知道生成模型基本都是从某个现有的分布中进行采样得到生成的样本，为此模型需要完成对分布的建模。根据建模方式的不同可以分为隐式建模（例如 GAN、diffusion models）和显式建模（例如 VAE、normalizing flows）。和上述的模型相同，scorebased 模型也是用一定方式对分布进行了建模。具体而言，这类模型建模的对象是概率分布函数 log 的梯度，也就是 score function，而为了对这个建模对象进行学习，需要使用一种叫做 score matching 的技术，这也...