附录 C9 随机过程：平稳过程、马尔可夫过程、关联函数与功率谱

第五部分与第32章处理随时间涨落的量：布朗粒子的速度、电阻两端的噪声电压、蒙特卡罗模拟中的磁化强度。描述它们的数学是随机过程。正文用到本节的地方：时间关联函数（§22.4）、功率谱与维纳–辛钦定理（§22.5）、朗之万方程与白噪声（§23.3）、福克–普朗克方程（§23.4）、主方程（§23.6）、马尔可夫链蒙特卡罗（§32.3）。

§C9.1随机过程

随机过程 $X(t)$ 是一族以时间为指标的随机变量。一次实验（或一次模拟）得到的是一条具体的曲线 $x(t)$ ，称为一个实现（样本轨道）；随机过程描述的是所有可能实现的统计规律。完整的描述需要任意多个时刻的联合分布 $P(x_1,t_1;\ x_2,t_2;\ \dots)$ ，实际中最常用的是平均值 $\langle X(t)\rangle$ 与关联函数

C(t_1,t_2) = \langle\delta X(t_1)\,\delta X(t_2)\rangle,\qquad\delta X = X - \langle X\rangle \tag{C9.1}

§C9.2平稳性与遍历性

若所有联合分布在时间平移下不变，过程称为平稳的。于是 $\langle X\rangle$ 是常数， $C(t_1,t_2) = C(t_2 - t_1)$ 只依赖于时间差。平衡态中的涨落都是平稳过程。 §22.4 列出了平稳关联函数的性质： $C(0) = \mathrm{Var}(X)$ ， $\lvert C(\tau)\rvert\le C(0)$ ， $C(-\tau) = C(\tau)$ ，以及关联时间 $\tau_{\mathrm c} = \int_0^\infty C(\tau)\,d\tau/C(0)$ 。

遍历性（各态历经）：沿一条足够长的轨道的时间平均等于系综平均。对平稳过程，用 §C3.5 的连续版本可以看出它何时成立：时间平均 $\bar X_T = \frac1T\int_0^TX(t)\,dt$ 的方差为

\mathrm{Var}(\bar X_T) = \frac{1}{T^2}\int_0^T\!\!\int_0^TC(t - t')\,dt\,dt' = \frac{2}{T^2}\int_0^T(T - \tau)C(\tau)\,d\tau\approx\frac{2C(0)\tau_{\mathrm c}}{T}\qquad(T\gg\tau_{\mathrm c}) \tag{C9.2}

只要关联随时间衰减（ $\tau_{\mathrm c}$ 有限）， $T\to\infty$ 时方差趋于零，时间平均收敛到系综平均 $\langle X\rangle$ （大数定律的时间版本）。观测时间 $T$ 内相当于有约 $T/(2\tau_{\mathrm c})$ 个独立样本——这与 §32.5 中马尔可夫链蒙特卡罗的有效样本数是同一个公式。反之，若系统被困在相空间的一部分（玻璃、对称性破缺的有序相），时间平均就不等于系综平均：遍历性破缺。

§C9.3功率谱

平稳过程的功率谱是关联函数的傅里叶变换（维纳–辛钦定理 (22.15)）：

S(\omega) = \int_{-\infty}^\infty C(\tau)\,e^{i\omega\tau}\,d\tau,\qquad C(0) = \int_{-\infty}^\infty S(\omega)\frac{d\omega}{2\pi} \tag{C9.3}

$S(\omega)\ge0$ （由它的定义 (22.14) 是模方的平均）。关联时间短 ⟺ 频谱宽；指数关联 ⟺ 洛伦兹谱（(22.16)、(A14.10)）。

线性滤波。若 $Y = h\ast X$ （线性、平移不变的系统，频率响应为 $\hat h(\omega)$ ），则 $\hat Y(\omega) = \hat h(\omega)\hat X(\omega)$ ，取模方再平均：

S_Y(\omega) = \lvert\hat h(\omega)\rvert^2S_X(\omega) \tag{C9.4}

输出谱 = 响应函数的模方 × 输入谱。§P3.6 中 $RC$ 电路对热噪声的"过滤" $\frac{S_V}{1 + (\omega RC)^2}$ 就是 (C9.4)。

§C9.4白噪声与维纳过程

白噪声 $\xi(t)$ ： $\langle\xi(t)\rangle = 0$ ， $\langle\xi(t)\xi(t')\rangle = \Gamma\,\delta(t - t')$ ，功率谱为常数 $\Gamma$ （各频率"一样白"）。它是"关联时间远短于所关心的一切时间尺度"的噪声的理想化：布朗粒子受到的分子碰撞力关联时间约 $10^{-13}$ s（§23.3），而我们关心的时间是 $10^{-8}$ s 以上。

白噪声的积分 $W(t) = \int_0^t\xi(s)\,ds$ 称为维纳过程（数学上的布朗运动）。由 (C3.5) 的连续版本：

\langle W(t)^2\rangle = \int_0^t\!\!\int_0^t\Gamma\,\delta(s - s')\,ds\,ds' = \Gamma t,\qquad \langle W(t)W(s)\rangle = \Gamma\min(t,s) \tag{C9.5}

（第二式：只有两个积分区间的公共部分 $[0,\min(t,s)]$ 有贡献。）不相重叠的时间段上的增量互不相关（若 $\xi$ 是高斯的，则相互独立）。方差随时间线性增长，正是扩散的标志（ $\langle x^2\rangle = 2Dt$ 对应 $\Gamma = 2D$ ）。维纳过程的轨道连续但处处不可导：在 $dt$ 内的位移约为 $\sqrt{\Gamma dt}$ ，它与 $dt$ 之比 $\sqrt{\Gamma/dt}$ 在 $dt\to0$ 时发散，所以 $dW/dt$ 没有有限的值——这正是白噪声"无穷剧烈"的另一面。

§C9.5高斯过程与奥恩斯坦–乌伦贝克过程

若任意多个时刻的联合分布都是高斯的，过程称为高斯过程；由维克定理（§C5.5），它完全由均值和关联函数确定。高斯白噪声经过线性系统后仍是高斯过程（§C5.3）。

奥恩斯坦–乌伦贝克过程：朗之万方程 (23.3) $m\dot v = -\zeta v + F(t)$ ， $F$ 为高斯白噪声（强度 $\Gamma$ ）， $\gamma = \zeta/m$ 。长时间后（初值已被遗忘），由 (A13.6)

v(t) = \frac1m\int_{-\infty}^te^{-\gamma(t-s)}F(s)\,ds

于是（ $\tau\ge0$ ）

\langle v(t)v(t+\tau)\rangle = \frac{\Gamma}{m^2}\int_{-\infty}^te^{-\gamma(t-s)}e^{-\gamma(t+\tau-s)}\,ds = \frac{\Gamma}{m^2}\cdot\frac{e^{-\gamma\tau}}{2\gamma} = \frac{\Gamma}{2m\zeta}e^{-\gamma\tau}

（两个积分中的 $\delta(s - s')$ 消去了一个积分；最后用了 $m\gamma = \zeta$ 。）要求它在 $\tau = 0$ 时等于均分定理的 $k_{\mathrm B}T/m$ ，得 $\Gamma = 2\zeta k_{\mathrm B}T$ ——这就是 (23.6)、(23.7)，涨落–耗散关系的最简单形式。在频域中， $\hat v = \hat F/[m(\gamma - i\omega)]$ ，由 (C9.4)， $S_v(\omega) = \frac{\Gamma}{m^2(\gamma^2 + \omega^2)}$ ，正是 (23.7) 的傅里叶变换（洛伦兹谱）。

奥恩斯坦–乌伦贝克过程同时是平稳的、高斯的、马尔可夫的（杜布定理：除平凡情形外，同时具有这三种性质的过程只有它）。

§C9.6马尔可夫过程

定义：已知现在，未来与过去无关。即对 $t_1<t_2<\cdots<t_n$ ，

P(x_n,t_n\,\vert\,x_{n-1},t_{n-1};\ \dots;\ x_1,t_1) = P(x_n,t_n\,\vert\,x_{n-1},t_{n-1}) \tag{C9.6}

于是联合分布由初始分布与转移概率 $P(x,t\vert x',t')$ 完全确定（反复使用乘法规则 (C3.2)）。转移概率满足查普曼–科尔莫戈罗夫方程：

P(x_3,t_3\vert x_1,t_1) = \sum_{x_2}P(x_3,t_3\vert x_2,t_2)\,P(x_2,t_2\vert x_1,t_1)\qquad(t_1<t_2<t_3) \tag{C9.7}

（从 $x_1$ 到 $x_3$ 必须在 $t_2$ 时刻经过某个 $x_2$ ；由马尔可夫性，后半段与前半段的具体经过无关。）

离散时间：马尔可夫链。 $P_j(n+1) = \sum_iT_{ij}P_i(n)$ ， $T_{ij}$ 是一步从 $i$ 到 $j$ 的概率（ $\sum_jT_{ij} = 1$ ）。梅特罗波利斯算法（§32.3）构造的就是这样一条链，使其平稳分布为玻尔兹曼分布。

连续时间：主方程。设在短时间 $dt$ 内从 $i$ 跳到 $j\ne i$ 的概率为 $W_{ij}\,dt$ 。用 (C9.7) 把 $P_i(t + dt)$ 写成" $t$ 时在 $j$ 、在 $dt$ 内跳到 $i$ "与" $t$ 时在 $i$ 、在 $dt$ 内没有跳走"两部分之和：

P_i(t + dt) = \sum_{j\ne i}W_{ji}\,dt\,P_j(t) + \Big(1 - \sum_{j\ne i}W_{ij}\,dt\Big)P_i(t)

移项、除以 $dt$ ，即得主方程 (23.16)。若跳跃很小而频繁（状态近似连续），把主方程对跳跃的大小展开到二阶，得到福克–普朗克方程 (23.11)（克拉默斯–莫亚尔展开），它是一个连续性方程，概率流包含漂移与扩散两部分（§A11.3）。

例：随机电报过程。两态系统， $1\to2$ 的速率为 $a$ ， $2\to1$ 的速率为 $b$ 。由 (A13.9)，平稳分布为 $\pi_1 = \frac{b}{a+b}$ 、 $\pi_2 = \frac{a}{a+b}$ ，任何偏离都以速率 $a + b$ 指数衰减。若 $X$ 在态 1 取 $+1$ 、在态 2 取 $-1$ ，则平稳关联函数为 $C(\tau) = C(0)e^{-(a+b)\lvert\tau\rvert}$ ，功率谱为洛伦兹型。小器件中的"随机电报噪声"、单分子在两种构象之间的跳变都是这种过程。

§C9.7非马尔可夫过程与"马尔可夫化"

只看一部分变量时，过程往往不是马尔可夫的。例：布朗粒子的位置 $x(t)$ 单独来看不是马尔可夫过程——下一刻的位置还依赖于当前的速度，而速度携带着过去的信息；但 $(x,v)$ 合起来是马尔可夫的。在比速度弛豫时间 $1/\gamma$ 长得多的时间尺度上，速度的记忆已经消失， $x$ 本身近似为马尔可夫过程，这就是过阻尼的朗之万方程与 (23.11)（§A13.5）。一般地，对快变量求平均（粗粒化）会产生记忆效应；马尔可夫近似的根据是时间尺度的分离——所关心的慢变量的变化远慢于被略去的快变量的关联时间。

自测题

对随机电报过程（ $X = \pm1$ ，速率 $a$ 、 $b$ ），求 $\langle X\rangle$ 与平稳关联函数 $C(\tau)$ 。［答： $\langle X\rangle = \frac{b - a}{a+b}$ ； $C(0) = 1 - \langle X\rangle^2 = \frac{4ab}{(a+b)^2}$ ， $C(\tau) = C(0)e^{-(a+b)\lvert\tau\rvert}$ 。］
证明维纳过程满足 $\langle[W(t) - W(s)]^2\rangle = \Gamma\lvert t - s\rvert$ 。
对奥恩斯坦–乌伦贝克过程，由 $S_v(\omega)$ 与 (C9.3) 重新求出 $\langle v^2\rangle = k_{\mathrm B}T/m$ 。［提示： $\int\frac{d\omega}{2\pi}\frac{1}{\gamma^2 + \omega^2} = \frac{1}{2\gamma}$ 。］
对 $C(\tau) = \sigma^2e^{-\lvert\tau\rvert/\tau_{\mathrm c}}$ ，严格计算 (C9.2) 中的积分，并验证 $T\gg\tau_{\mathrm c}$ 时的近似。［答： $\mathrm{Var} = \frac{2\sigma^2\tau_{\mathrm c}}{T}\left[1 - \frac{\tau_{\mathrm c}}{T}\left(1 - e^{-T/\tau_{\mathrm c}}\right)\right]$ 。］
两态马尔可夫链的一步转移矩阵为 $T_{11} = 1 - a$ ， $T_{12} = a$ ， $T_{21} = b$ ， $T_{22} = 1 - b$ 。求平稳分布。［答： $(b,a)/(a+b)$ ；它满足细致平衡 $\pi_1T_{12} = \pi_2T_{21}$ 。］