A.1 Liouville 方程#

连续性方程

连续性方程是概率质量守恒的微分形式，描述了概率密度函数随时间的变化。设 $p_t(x)$ 是在时间 $t$ 时刻位置 $x$ 处的概率密度，$u_t(x)$ 是位置 $x$ 处的速度场，则连续性方程为

其中 $J_t(x) = u_t(x) p_t(x)$ 是概率流函数。连续性方程也就是 Liouville 方程。

推导

设 $V$ 是空间中的一个体积区域，$\partial V$ 是其边界。$P_V(t) = \int_V p_t(x) dx$ 是该体积区域内的概率质量。根据概率质量守恒 (流出的是负的流入的)，有

其中 $n$ 是边界的外侧法向量，代入

和散度定理

得到

交换微分和积分 (假设 $p_t(x)$ 足够光滑)，有

由于 $V$ 是任意的，得到 Liouville 方程

性质

• 偏微分方程解的唯一性：当 $u_t(x)$ 和初值条件 $p_0(x)$ 是确定的时候，方程的解 $p_t(x)$ 是唯一的。
• $p_t(x)$ 确定，$u_t(x)$ 不唯一：给定一族中间分布 $\{p_t(x)\}_{t\in[0,1]}$，可以有无数个不同的速度场 $u_t(x)$ 满足 Liouville 方程。因为方程只给出了速度场的散度约束，而没有给出完整的速度场信息。

A.2 边缘性定理#

定理内容

边缘性定理 (Marginalization Theorem) 的数学形式为

它表明边缘速度场 $u^{target}(x_t, t)$ 可以通过条件速度场 $u^{target}(x_t, t | z)$ 的加权平均来表示。

推导

(i) 边缘分布与 Liouville 方程

设 $z \sim p_{data}(z)$ 是一个真实样本，根据

对时间 $t$ 求偏导 (这里假设 $p_t(x_t | z)$ 连续可导)，得到

将条件分布的 Liouville 方程

和边缘分布的 Liouville 方程

代入到上式中，得到

(ii) 交换 $\int_z$ 与 $\nabla_x\cdot$

由于是对 $z$ 求积分而对 $x$ 取散度，且假设 $p_t(x_t|z)$ 与 $u^{target}(x_t,t|z)$ 对 $x_t$ 连续可导，根据 Leibniz 积分微分交换定理，可以交换积分与散度算子

现在，得到了散度相同的等式。

(iii) 去掉 $\nabla_x \cdot$

令

现在形式转换为

根据 Helmholtz 分解定理，任何足够光滑且衰减足够快的向量场都可以唯一地分解为无旋场（梯度场）和无散场之和。因为 $\nabla \cdot A(x) = \nabla \cdot B(x)$，所以它们的差 $A(x) - B(x)$ 是一个无散场，即

其中 $\nabla \times F(x)$ 是无散场，$C$ 是常数场。

假设

1. 边界条件：当 $\|x\| \to \infty$ 时，$p_t(x) \to 0$，且 $u^{target}(x, t)$ 有界。
2. 概率流的物理意义：$p_t(x)u^{target}(x, t)$ 表示概率流密度，在无穷远处应为零。

在这些假设下，由于 $p_t(x) \to 0$，我们有 $A(x) \to 0$，$B(x) \to 0$，当 $\|x\| \to \infty$。因此常数项 $C = 0$。对于无散项 $\nabla \times F(x)$，如果它在无穷远处不为零，会导致非零的概率流穿过无穷远边界，这违反概率守恒。因此 $\nabla \times F(x) = 0$。

于是我们得到

即

(iv) 贝叶斯定理

由贝叶斯定理，得到

A.3 概率流等价定理#

定理内容

设 $\{p_t(x)\}_{t\in[0, 1]}$ 是一族连续可微的概率分布，且 $p_0(x) = p_{prior}(x)$，$p_1(x) = p_{data}(x)$。假设存在一个光滑的速度场 $u_t(x)$ 满足 Liouville 方程

其中，速度场对应有一个常微分方程 (ODE)

则存在一个随机微分方程 (SDE)

其边缘分布 $\{p_t(x)\}_{t\in[0, 1]}$ 与 Liouville 方程给出的一致。

证明

(i) 符号表示

设 $x_t$ 满足服从概率路径 $\{p_t(x_t)\}_{t\in[0, 1]}$，假设同时有 ODE

和 SDE

对应这条概率路径。

(ii) Liouville 方程与 Fokker-Planck 方程联立

根据 Liouville 方程 和 Fokker-Planck 方程，分别有

其中 $\nabla_x^2 :\ \ = \sum_{i=1}^{d}\sum_{j=1}^{d} \frac{\partial^2}{\partial x_i \partial x_j}$ 表示对矩阵的双重散度操作, $D_t = \sigma_t\sigma_t^\top \in \mathbb{R}^{d \times d}$ 是扩散张量。联立方程，得到

整理得到

(iii) 计算 $\nabla_x^2 : (D_t p_t(x))$

展开

得到

其中，矩阵的一阶散度

是一个 $d$ 维列向量。推导中用到了矩阵数乘形式的散度展开公式 $\nabla \cdot \left(Ap\right) = (\nabla \cdot A) p + A \nabla p$。

(iv) 代入并取特殊情况

将上式代入，得到

很显然，当我们直接取

时，上面的散度等式成立。由此化简，得到

如果 $D_t$ 是关于 $x$ 的变量，则 $\nabla_x \cdot D_t$ 是一个 $d$ 维列向量。否则，$\nabla_x \cdot D_t = 0$，也即

这是更常见的一种形式。特别地，当 $D_t = \sigma_t^2 I_d$ 时，得到

另一种表达形式

概率流等价定理还有另一种公式形式。设有 SDE

其等价的 ODE 为

B.1 定义#

伊藤积分是对随机过程进行的积分，定义为

其中 $X_s$ 是一个适应过程 (即 $X_s$ 的值仅仅依赖于 $W_s$ 在时间 $s$ 之前的值)，$W_s$ 则是标准的维纳过程。

伊藤积分不是普通的黎曼积分或勒贝格积分，因为布朗运动 $W_t$ 的路径几乎处处不可微，且具有无限变差，因此需要特殊的构造方法。

B.2 性质#

1. 零均值: 因为维纳过程的增量是独立的，且均值为零，因此伊藤积分的期望值为零。

   $$\mathbb{E}\left[\int_0^t X_s dW_s\right] = 0$$

2. 伊藤等距: 可用于计算方差。

B.3 伊藤公式#

设 $X_t$ 是一个伊藤过程，即满足以下 SDE 方程

其中 $\mu_t$ 是漂移项，$\sigma_t$ 是扩散系数， $W_t$ 是标准维纳过程。

若 $f(t, X_t)$ 是一个关于 $t$ 和 $X_t$ 的二次可微函数，则

根据维纳过程的性质，有

这是因为

• $dW_t^2 = dt$，即维纳过程的增量平方等于时间增量。
• $dW_t dt = 0$，即维纳过程的增量与时间增量的乘积为零。
• $dW_t^2 = 0$

因此，最终的伊藤公式为

B.4 伊藤公式的例子#

C.1 条件速度场的解析形式#

我们直接从已知方程出发

齐次方程分析

考虑对应的齐次方程

令 $y = x_t - \mu_t(z)$，方程变为

在加权 Sobolev 空间 $L^2(\mathbb{R}^d, p_t(y)dy)$ 中分析，其中 $p_t(y) = \frac{1}{(2\pi\sigma_t^2)^{d/2}} \exp\left(-\frac{\|y\|^2}{2\sigma_t^2}\right)$。

正交分解论证

将 $u_h(y)$ 分解为径向部分和切向部分

其中 $u_h^{\parallel}(y)$ 与 $y$ 平行，$u_h^{\perp}(y)$ 与 $y$ 垂直。

径向部分分析

设 $u_h^{\parallel}(y) = f(\|y\|) \frac{y}{\|y\|}$，代入齐次方程

第一项

散度项

齐次方程变为

整理得

解此一阶线性ODE，得到

但在 $L^2(\mathbb{R}^d, p_t(y)dy)$ 空间中，该解不满足可积性条件

因此 $f(\|y\|) \equiv 0$，即 $u_h^{\parallel}(y) \equiv 0$。

切向部分分析

现在考虑 $u_h^{\perp}(y)$，满足 $y^\top u_h^{\perp}(y) = 0$。

齐次方程简化为

考虑任意光滑紧支撑标量函数 $\phi(y)$，由散度定理

这意味着 $u_h^{\perp}$ 在分布意义下无散度。但在 $L^2(\mathbb{R}^d, p_t(y)dy)$ 空间中，满足 $y^\top u_h^{\perp} = 0$ 且 $\nabla_y \cdot u_h^{\perp} = 0$ 的非零向量场必须具有特定的调和形式。通过傅里叶分析或考虑加权空间中的Hodge分解，可以证明在合理的边界条件下（在无穷远处衰减足够快），唯一的解是 $u_h^{\perp}(y) \equiv 0$。

唯一性结论

因此，在加权 $L^2$ 空间中，齐次方程只有零解。根据线性微分方程理论，原非齐次方程如果有解，则解是唯一的。

构造特解

既然解唯一，我们通过待定系数法构造特解。假设解具有形式

计算散度项

代入方程左边

与右边比较系数

• $\|x_t-\mu_t(z)\|^2$ 系数：$\frac{A(t)}{\sigma_t^2} = \frac{\dot{\sigma_t}}{\sigma_t^3} \Rightarrow A(t) = \frac{\dot{\sigma_t}}{\sigma_t}$
• $(x_t-\mu_t(z))$ 系数：$\frac{b(t)}{\sigma_t^2} = \frac{\dot{\mu_t}(z)}{\sigma_t^2} \Rightarrow b(t) = \dot{\mu_t}(z)$
• 常数项验证：$-A(t)d = -\frac{\dot{\sigma_t} d}{\sigma_t}$ 成立

因此得到唯一解

C.2 Langevin 动力学的稳态分布#

直接从稳态 Fokker-Planck 方程开始

我们可以将其重写为

这表明括号内的概率流向量场 $J(x)$ 是无散度的。在热力学平衡状态下，我们有更强的条件，即细致平衡 (detailed balance)，这意味着净概率流在每一点都为零

整理上式，得到

利用 $\nabla_x \log f(x) = \frac{\nabla_x f(x)}{f(x)}$，我们有

对 $x$ 积分，得到

其中 $C'$ 是积分常数。两边取指数，得到

这是一个未归一化的概率分布。为了使其成为一个有效的概率密度函数，我们需要对其进行归一化，即 $\int p_{ss}(x) dx = 1$。

令配分函数 $Z = \int e^{-\frac{U(x)}{kT}} dx$，则 $e^{C'} = \frac{1}{Z}$。

因此，Langevin 动力学的稳态分布是玻尔兹曼分布