随机变量线性变换的分布

随机变量线性变换的分布 (Distribution of a Linear Transformation of a Random Variable)

在概率论和统计学中，分析现有随机变量 (Random Variable) 的函数所形成的新的随机变量的分布是一个基本问题。其中，最简单也最重要的一类变换是线性变换。理解线性变换如何影响随机变量的分布、期望和方差，是许多统计推断和建模技术的基础。

一个随机变量 $X$ 的线性变换可以表示为：

Y = aX + b

其中 $a$ 和 $b$ 是常数，且 $a \neq 0$ 。这个变换本质上是对原始随机变量 $X$ 进行缩放（由系数 $a$ 控制）和位移（由常数 $b$ 控制）。我们的目标是，在已知 $X$ 的概率分布 (Probability Distribution) 的情况下，求出新随机变量 $Y$ 的概率分布。

我们将分别讨论离散和连续两种情况。

离散随机变量的线性变换

设 $X$ 是一个离散随机变量，其概率质量函数 (Probability Mass Function, PMF) 为 $P(X=x_i) = p_i$ ，其中 $x_1, x_2, \dots$ 是 $X$ 可能取到的值。

对于线性变换 $Y = aX + b$ ，新随机变量 $Y$ 的取值集合为 $\{y_i | y_i = ax_i + b, i=1, 2, \dots\}$ 。

$Y$ 的概率质量函数 $P(Y=y_i)$ 可以通过以下逻辑推导：

P(Y=y_i) = P(aX+b = ax_i+b) = P(aX = ax_i) = P(X=x_i)

因此，对于每一个 $y_i$ ，其概率与对应的 $x_i$ 的概率完全相同。

结论：如果 $Y=aX+b$ ，则 $Y$ 的 PMF 为：

P(Y=ax_i+b) = P(X=x_i)

这个变换仅仅改变了随机变量的取值，而没有改变每个值出现的概率。

连续随机变量的线性变换

设 $X$ 是一个连续随机变量，其概率密度函数 (Probability Density Function, PDF) 为 $f_X(x)$ ，累积分布函数 (Cumulative Distribution Function, CDF) 为 $F_X(x) = P(X \le x)$ 。我们的目标是求出 $Y=aX+b$ 的 PDF $f_Y(y)$ 和 CDF $F_Y(y)$ 。

推导 $Y$ 的分布通常有两种方法：CDF法和变量替换法。

方法一：累积分布函数法 (CDF Method)

这是最基本、最直观的方法。我们从 $Y$ 的CDF定义出发：

F_Y(y) = P(Y \le y) = P(aX+b \le y) = P(aX \le y-b)

接下来，需要根据系数 $a$ 的符号分情况讨论。

情况 1: $a > 0$ 当 $a$ 为正数时，不等式两边同除以 $a$ ，不等号方向不变：

F_Y(y) = P(X \le \frac{y-b}{a})

根据 $X$ 的CDF定义，这正是 $F_X(\frac{y-b}{a})$ 。

F_Y(y) = F_X\left(\frac{y-b}{a}\right)

为了求得 PDF $f_Y(y)$ ，我们对 CDF $F_Y(y)$ 关于 $y$ 求导。根据微积分中的链式法则 (Chain Rule)：

f_Y(y) = \frac{d}{dy}F_Y(y) = \frac{d}{dy}F_X\left(\frac{y-b}{a}\right) = f_X\left(\frac{y-b}{a}\right) \cdot \frac{d}{dy}\left(\frac{y-b}{a}\right) = f_X\left(\frac{y-b}{a}\right) \cdot \frac{1}{a}

情况 2: $a < 0$ 当 $a$ 为负数时，不等式两边同除以 $a$ ，不等号方向需要反转：

F_Y(y) = P(X \ge \frac{y-b}{a})

利用互补事件的概率，我们可以将其与 $X$ 的CDF联系起来：

F_Y(y) = 1 - P\left(X < \frac{y-b}{a}\right)

因为 $X$ 是连续随机变量， $P(X < c) = P(X \le c)$ ，所以：

F_Y(y) = 1 - F_X\left(\frac{y-b}{a}\right)

同样，对 $y$ 求导得到 PDF：

f_Y(y) = \frac{d}{dy}F_Y(y) = \frac{d}{dy}\left[1 - F_X\left(\frac{y-b}{a}\right)\right] = -f_X\left(\frac{y-b}{a}\right) \cdot \frac{1}{a}

由于 $a < 0$ ，所以 $-1/a$ 是一个正数。我们可以用绝对值 $|a|$ 来统一表示，因为当 $a<0$ 时， $|a| = -a$ ，所以 $-1/a = 1/|a|$ 。

统一公式 综合以上两种情况，我们可以得到一个统一的公式：

f_Y(y) = f_X\left(\frac{y-b}{a}\right) \cdot \frac{1}{|a|}

这个公式是随机变量函数分布理论中一个非常重要的结果。

方法二：变量替换法 (Change of Variable Method)

这是一种更具普适性的方法，对于更复杂的非线性变换也适用。它基于微积分中的变量替换规则。对于单变量变换 $y=g(x)$ ，其反函数为 $x=g^{-1}(y)$ ，新变量的PDF为：

f_Y(y) = f_X(g^{-1}(y)) \left| \frac{d}{dy}g^{-1}(y) \right|

这里的 $\left| \frac{d}{dy}g^{-1}(y) \right|$ 是变换的雅可比行列式 (Jacobian) 的绝对值在单变量情况下的形式。

对于线性变换 $y = ax+b$ ：

反函数： $x = \frac{y-b}{a}$ 。
反函数对 $y$ 求导： $\frac{dx}{dy} = \frac{d}{dy}\left(\frac{y-b}{a}\right) = \frac{1}{a}$ 。
取绝对值： $\left| \frac{dx}{dy} \right| = \left| \frac{1}{a} \right| = \frac{1}{|a|}$ 。
代入公式：

f_Y(y) = f_X\left(\frac{y-b}{a}\right) \cdot \frac{1}{|a|}

这与使用CDF法得到的结果完全一致。

对期望和方差的影响

线性变换对随机变量的期望 (Expectation) 和方差 (Variance) 有着简单而明确的影响。设 $E[X]=\mu$ 且 $Var(X)=\sigma^2$ 。

期望的线性性质

对于 $Y = aX + b$ ，其期望为：

E[Y] = E[aX + b]

根据期望的线性性质，我们可以得到：

E[Y] = aE[X] + b = a\mu + b

证明 (连续情况):

E[Y] = \int_{-\infty}^{\infty} y f_Y(y) dy

将 $y=ax+b$ 代入积分（这里使用变量替换进行证明更为直观）：

E[Y] = \int_{-\infty}^{\infty} (ax+b) f_X(x) dx = \int_{-\infty}^{\infty} ax f_X(x) dx + \int_{-\infty}^{\infty} b f_X(x) dx

E[Y] = a \int_{-\infty}^{\infty} x f_X(x) dx + b \int_{-\infty}^{\infty} f_X(x) dx

由于 $\int x f_X(x) dx = E[X]$ 且 $\int f_X(x) dx = 1$ ，我们得到：

E[Y] = aE[X] + b

方差的变化规律

对于 $Y = aX + b$ ，其方差为：

Var(Y) = Var(aX+b)

根据方差的定义 $Var(Z) = E[(Z - E[Z])^2]$ ：

Var(Y) = E[(Y - E[Y])^2] = E[((aX+b) - (a\mu+b))^2] = E[(aX-a\mu)^2]

Var(Y) = E[a^2(X-\mu)^2] = a^2 E[(X-\mu)^2] = a^2 Var(X) = a^2 \sigma^2

重要观察：

方差只受乘法系数 $a$ 的平方影响。
加法常数 $b$ 仅改变分布的位置（均值），不改变其离散程度（方差）。

相应地，标准差 (Standard Deviation) 的变化为：

SD(Y) = \sqrt{Var(Y)} = \sqrt{a^2 \sigma^2} = |a| \sqrt{\sigma^2} = |a| \sigma

重要应用与范例

1. 标准化 (Standardization) 与 Z-score

标准化是将一个随机变量转换为均值为0、方差为1的新变量的过程，这是统计学中最常见的线性变换。对于一个随机变量 $X$ （均值为 $\mu$ ，方差为 $\sigma^2$ ），其标准化随机变量（或称Z-score）定义为：

Z = \frac{X - \mu}{\sigma} = \frac{1}{\sigma}X - \frac{\mu}{\sigma}

这是一个线性变换，其中 $a = 1/\sigma$ ， $b = -\mu/\sigma$ 。

Z的期望：

E[Z] = \frac{1}{\sigma}E[X] - \frac{\mu}{\sigma} = \frac{1}{\sigma}\mu - \frac{\mu}{\sigma} = 0

Z的方差：

Var(Z) = \left(\frac{1}{\sigma}\right)^2 Var(X) = \frac{1}{\sigma^2} \cdot \sigma^2 = 1

标准化使得不同尺度和位置的随机变量具有可比性，是假设检验、置信区间估计以及中心极限定理应用中的关键步骤。

2. 正态分布的线性变换

正态分布 (Normal Distribution) 族在线性变换下是封闭的。这意味着对一个正态随机变量进行线性变换，其结果仍然是正态随机变量。

如果 $X \sim N(\mu, \sigma^2)$ ，并且 $Y = aX+b$ ，则 $Y$ 的分布为：

均值: $E[Y] = a\mu + b$
方差: $Var(Y) = a^2\sigma^2$

因此，

Y \sim N(a\mu + b, a^2\sigma^2)

例如，如果 $X \sim N(10, 4)$ ，则 $Y = 2X - 5$ 的分布为 $Y \sim N(2 \cdot 10 - 5, 2^2 \cdot 4) = N(15, 16)$ 。

3. 均匀分布的线性变换

如果 $X$ 服从区间 $[c, d]$ 上的均匀分布 (Uniform Distribution)，即 $X \sim U(c, d)$ ，其PDF为：

f_X(x) = \frac{1}{d-c}, \quad c \le x \le d

设 $Y = aX+b$ 且 $a>0$ 。新变量 $Y$ 的取值范围是 $[ac+b, ad+b]$ 。

根据PDF变换公式：

f_Y(y) = f_X\left(\frac{y-b}{a}\right) \frac{1}{|a|} = \frac{1}{d-c} \cdot \frac{1}{a} = \frac{1}{a(d-c)}

由于 $a(d-c)$ 是新区间的长度 $(ad+b)-(ac+b)$ ，这表明 $Y$ 的PDF在新区间上也是一个常数。因此， $Y$ 仍然服从均匀分布：

Y \sim U(ac+b, ad+b)

返回百科索引