Skip to main content

特征函数

特征函数是概率论中处理独立和的强大工具——它把卷积化为乘积,把求矩化为求导。它是证明大数定律和中心极限定理的核心技术。

定义​

随机变量 XX 的特征函数(Characteristic Function)为:

φX(t)=E(eitX)=∫−∞∞eitx dF(x),t∈R\varphi_X(t) = E(e^{itX}) = \int_{-\infty}^{\infty} e^{itx}\,dF(x), \quad t \in \mathbb{R}

其中 i=−1i = \sqrt{-1} 是虚数单位。

  • 离散型:φ(t)=∑keitxkpk\varphi(t) = \sum_k e^{itx_k} p_k
  • 连续型:φ(t)=∫−∞∞eitxf(x) dx\varphi(t) = \int_{-\infty}^{\infty} e^{itx} f(x)\,dx

特征函数本质上是密度函数(或分布列)的傅里叶变换。

基本性质​

性质公式
有界性$
共轭对称φ(−t)=φ(t)‾\varphi(-t) = \overline{\varphi(t)}
一致连续φ\varphi 在 R\mathbb{R} 上一致连续
线性变换φaX+b(t)=eitb⋅φX(at)\varphi_{aX+b}(t) = e^{itb} \cdot \varphi_X(at)
独立和φX+Y(t)=φX(t)⋅φY(t)\varphi_{X+Y}(t) = \varphi_X(t) \cdot \varphi_Y(t)(X⊥ ⁣ ⁣ ⁣⊥YX \perp\!\!\!\perp Y)

独立和的特征函数 = 特征函数的乘积。这使卷积化为乘积,是特征函数最重要的性质。

特征函数与矩的关系​

若 E(∣X∣k)<∞E(|X|^k) < \infty,则 φ\varphi 是 kk 阶可导的,且:

φ(k)(0)=ik⋅E(Xk)\varphi^{(k)}(0) = i^k \cdot E(X^k)

由此可从特征函数反求各阶矩。特别地:

E(X)=−i⋅φ′(0),E(X2)=−φ′′(0)E(X) = -i \cdot \varphi'(0), \quad E(X^2) = -\varphi''(0)

反演公式(唯一性定理)​

若 φX(t)=φY(t)\varphi_X(t) = \varphi_Y(t) 对所有 tt 成立,则 XX 与 YY 有相同的分布函数。

特征函数唯一决定分布函数——这是它的根本重要性所在。

Lévy 连续性定理​

Xn→dXX_n \xrightarrow{d} X 当且仅当 φXn(t)→φX(t)\varphi_{X_n}(t) \to \varphi_X(t) 对每个 tt 成立,且 φX\varphi_X 在 t=0t = 0 处连续。

此定理将"按分布收敛"转化为"特征函数的逐点收敛",是证明中心极限定理的核心桥梁。

常见分布的特征函数​

分布特征函数
0-1 分布 B(1,p)B(1, p)1−p+peit1 - p + p e^{it}
二项分布 B(n,p)B(n, p)(1−p+peit)n(1 - p + p e^{it})^n
泊松分布 P(λ)P(\lambda)exp⁡(λ(eit−1))\exp(\lambda(e^{it} - 1))
均匀分布 U(a,b)U(a, b)eitb−eitait(b−a)\dfrac{e^{itb} - e^{ita}}{it(b-a)}
正态分布 N(μ,σ2)N(\mu, \sigma^2)exp⁡(iμt−12σ2t2)\exp(i\mu t - \frac{1}{2}\sigma^2 t^2)
指数分布 Exp⁡(λ)\operatorname{Exp}(\lambda)λλ−it\dfrac{\lambda}{\lambda - it}
伽马分布 Γ(α,λ)\Gamma(\alpha, \lambda)(λλ−it)α\left(\dfrac{\lambda}{\lambda - it}\right)^{\alpha}

特征函数在极限定理中的角色​

在证明中心极限定理时:

  1. 将 XiX_i 标准化:Yi=Xi−μσY_i = \dfrac{X_i - \mu}{\sigma}
  2. 求部分和 Sn=1n∑YiS_n = \frac{1}{\sqrt{n}}\sum Y_i 的特征函数
  3. 利用独立和的性质:φSn(t)=[φY1(t/n)]n\varphi_{S_n}(t) = [\varphi_{Y_1}(t/\sqrt{n})]^n
  4. 泰勒展开:φY1(t)=1−t22+o(t2)\varphi_{Y_1}(t) = 1 - \frac{t^2}{2} + o(t^2)
  5. 取极限:φSn(t)→e−t2/2\varphi_{S_n}(t) \to e^{-t^2/2},即标准正态的特征函数
  6. 由 Lévy 连续性定理得 →dN(0,1)\xrightarrow{d} N(0, 1)