向量代数

向量代数 (Vector Algebra)

向量代数是线性代数的基石，研究向量的定义、运算及其在空间中的几何意义。向量（vector）是兼具大小与方向的数学对象，与之相对的是仅含大小的标量（scalar）。在经济学、金融学与统计学中，向量是描述多维数据的自然语言——每一笔观测可视为一个向量，每个变量对应一个维度。

向量的定义与表示

向量通常记为粗体小写字母 $\mathbf{v}$ 或带箭头的 $\vec{v}$。在 $n$ 维欧几里得空间 $\mathbb{R}^n$ 中，向量可表示为有序数组：

其中每个分量 $v_i$ 为实数。几何上，二维向量 $(x, y)$ 对应从原点指向点 $(x, y)$ 的有向线段。

基本运算

向量加法：$\mathbf{u} + \mathbf{v} = (u_1+v_1, \dots, u_n+v_n)$，满足交换律与结合律。几何上遵循平行四边形法则。

标量乘法：$c\mathbf{v} = (c v_1, \dots, c v_n)$，用于缩放向量的长度与方向。当 $c<0$ 时方向反转。

内积（点积）：$\mathbf{u} \cdot \mathbf{v} = \sum_{i=1}^n u_i v_i = \|\mathbf{u}\|\|\mathbf{v}\|\cos\theta$，其中 $\theta$ 为两向量夹角。内积为零则向量正交。在计量经济学中，内积是回归残差正交性条件的基础。

范数（长度）：$\|\mathbf{v}\| = \sqrt{\mathbf{v} \cdot \mathbf{v}} = \sqrt{\sum v_i^2}$，即欧几里得距离。

线性组合与线性无关

一组向量 $\mathbf{v}_1, \dots, \mathbf{v}_k$ 的线性组合形如 $c_1\mathbf{v}_1 + \cdots + c_k\mathbf{v}_k$。若只有零系数才能得到零向量，则称这些向量线性无关，否则线性相关。线性无关的向量构成基（basis），基的向量个数即为空间的维度。

Span（张成空间）：所有线性组合的集合，即生成子空间。

向量空间

向量空间（线性空间）是满足加法封闭、标量乘法封闭及八条公理的集合。$\mathbb{R}^n$ 是最典型的向量空间，多项式空间、函数空间也是向量空间的例子。向量代数提供了从几何直观到抽象代数结构的统一框架。

在经济学与统计学中的应用

数据矩阵：在计量经济学中，$n$ 次观测、$k$ 个变量的数据集表示为 $n \times k$ 矩阵，每一行是一个观测向量，每一列是一个变量向量。回归模型 $\mathbf{y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\varepsilon}$ 中的所有元素均为向量。

投资组合：资产权重向量 $\mathbf{w} = (w_1, \dots, w_n)$ 满足 $\sum w_i = 1$，组合收益率为 $\mathbf{w} \cdot \mathbf{r}$，方差为 $\mathbf{w}^\top \boldsymbol{\Sigma} \mathbf{w}$，其中 $\boldsymbol{\Sigma}$ 为协方差矩阵。

投影与最小二乘法：OLS 估计量 $\hat{\boldsymbol{\beta}} = (\mathbf{X}^\top\mathbf{X})^{-1}\mathbf{X}^\top\mathbf{y}$ 的几何解释是：将 $\mathbf{y}$ 正交投影到 $\mathbf{X}$ 的列空间上，残差向量与列空间正交。

主成分分析 (PCA)：寻找数据方差最大的方向向量，本质上是协方差矩阵的特征向量问题。

关键公式速查

| 概念 | 公式 | |------|------| | 点积 | $\mathbf{u} \cdot \mathbf{v} = \sum u_i v_i$ | | 欧几里得范数 | $\|\mathbf{v}\| = \sqrt{\sum v_i^2}$ | | Cauchy–Schwarz | $|\mathbf{u} \cdot \mathbf{v}| \leq \|\mathbf{u}\|\|\mathbf{v}\|$ | | 三角不等式 | $\|\mathbf{u} + \mathbf{v}\| \leq \|\mathbf{u}\| + \|\mathbf{v}\|$ | | 投影向量 | $\text{proj}_{\mathbf{u}}(\mathbf{v}) = \frac{\mathbf{u} \cdot \mathbf{v}}{\|\mathbf{u}\|^2} \mathbf{u}$ | | 正交条件 | $\mathbf{u} \perp \mathbf{v} \iff \mathbf{u} \cdot \mathbf{v} = 0$ |

> 核心直觉：向量代数为处理多维数据提供了统一的几何语言。回归、降维、优化等方法的本质都是向量空间中的几何操作——投影、旋转、伸缩。理解向量代数，是掌握整个计量经济学与机器学习理论的第一步。