联合分布

联合分布 (Joint Distribution)

联合分布 (Joint Distribution) 是概率论与数理统计中的核心概念，描述两个或多个随机变量同时取值的概率规律。形式上，设 $X$ 和 $Y$ 为定义在同一概率空间上的两个随机变量，二者的联合分布完全刻画了它们之间的概率依赖关系，包括独立性、相关性以及各种协同变化模式。

联合分布函数

对于随机变量 $X$ 和 $Y$，联合累积分布函数定义为：

该函数满足四条基本性质：对每个自变量单调非减；当任一自变量趋于 $-\infty$ 时函数趋于零；当两个自变量均趋于 $+\infty$ 时函数趋于1；$F$ 对每个自变量右连续。

从联合CDF可推导出边缘分布：$F_X(x) = \lim_{y \to \infty} F_{X,Y}(x, y)$ 以及 $F_Y(y) = \lim_{x \to \infty} F_{X,Y}(x, y)$。

离散型与连续型联合分布

对于离散型随机变量，联合概率质量函数为：

满足非负性和归一性 $\sum_x \sum_y p_{X,Y}(x, y) = 1$。边缘PMF通过对另一方求和得到：$p_X(x) = \sum_y p_{X,Y}(x, y)$。

对于连续型随机变量，联合概率密度函数 $f_{X,Y}(x, y)$ 满足：

且在全空间上的二重积分等于1。边缘PDF为 $f_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x, y) \, dy$。

独立性与条件分布

两个随机变量独立当且仅当联合分布可分解为边缘分布的乘积：

独立意味着知道 $X$ 的取值不能提供关于 $Y$ 的任何信息。

条件分布刻画了在已知一个变量取值下另一个变量的分布。离散情形下条件PMF为 $p_{Y|X}(y|x) = p_{X,Y}(x, y) / p_X(x)$。连续情形下条件PDF为 $f_{Y|X}(y|x) = f_{X,Y}(x, y) / f_X(x)$。由条件分布可进一步定义条件期望和条件方差。

协方差与相关系数

联合分布包含了变量间线性相关程度的信息。协方差定义为：

将协方差标准化即得相关系数 $\rho_{X,Y} = \operatorname{Cov}(X, Y) / (\sigma_X \sigma_Y)$，取值范围为 $[-1, 1]$。

多元推广

对于 $n$ 个随机变量，联合分布推广为多元联合分布函数。最重要的特例是多元正态分布，其联合PDF由均值向量 $\boldsymbol{\mu}$ 和协方差矩阵 $\boldsymbol{\Sigma}$ 完全确定：

联合分布在计量经济学（联合假设检验）、贝叶斯统计（联合后验分布）、金融风险管理（资产收益的联合尾部行为）以及机器学习领域均有广泛应用。