空间¶

数字¶

$x$ ：标量
$\mathbf{x}$ ：向量
$\mathbf{X}$ ：矩阵
$\mathsf{X}$ ：张量
$\mathbf{I}$ ：单位矩阵
$x_i$ , $[\mathbf{x}]_i$ ：向量 $\mathbf{x}$ 第 $i$ 个元素
$x_{ij}$ , $[\mathbf{X}]_{ij}$ ：矩阵 $\mathbf{X}$ 第 $i$ 行第 $j$ 列的元素

向量、矩阵使用 \mathbf，张量使用 \mathsf。

重要

约定：向量是列向量。

集合论¶

$\mathcal{X}$ : 集合
$\mathbb{Z}$ : 整数集合
$\mathbb{R}$ 实数集合
$\mathbb{R}^n$ : $n$ 维实数向量
$\mathbb{R}^{a\times b}$ : 包含 $a$ 行和 $b$ 列的实数矩阵
$\mathcal{A}\cup\mathcal{B}$ : 集合 $\mathcal{A}$ 和 $\mathcal{B}$ 的并集（\cup）
$\mathcal{A}\cap\mathcal{B}$ ：集合 $\mathcal{A}$ 和 $\mathcal{B}$ 的交集（\cap）
$\mathcal{A}\setminus\mathcal{B}$ ：集合 $\mathcal{B}$ 与集合 $\mathcal{A}$ 相减（\setminus）

集合使用 \mathbb，集合族使用 \mathcal。

函数和运算符¶

$f(\cdot)$ ：函数
$\log(\cdot)$ ：自然对数
$\exp(\cdot)$ : 指数函数
$\mathbf{1}_\mathcal{X}$ : 指示函数
$\mathbf{(\cdot)}^\top$ : 向量或矩阵的转置
$\mathbf{X}^{-1}$ : 矩阵的逆
$\odot$ : 按元素相乘
$[\cdot, \cdot]$ ：连结
$\lvert \mathcal{X} \rvert$ ：集合的基数
$\|\cdot\|_p$ : ： $L_p$ 正则
$\|\cdot\|$ : $L_2$ 正则
$\langle \mathbf{x}, \mathbf{y} \rangle$ ：向量 $\mathbf{x}$ 和 $\mathbf{y}$ 的点积
$\sum$ : 连加
$\prod$ : 连乘
$\stackrel{\mathrm{def}}{=}$ ：定义
$\ast$ : 例如， $a^{\ast}$

微积分¶

$\frac{dy}{dx}$ ： $y$ 关于 $x$ 的导数
$\frac{\partial y}{\partial x}$ ： $y$ 关于 $x$ 的偏导数
$\nabla_{\mathbf{x}} y$ ： $y$ 关于 $\mathbf{x}$ 的梯度
$\int_a^b f(x) \;dx$ : $f$ 在 $a$ 到 $b$ 区间上关于 $x$ 的定积分
$\int f(x) \;dx$ : $f$ 关于 $x$ 的不定积分

概率与信息论¶

$P(\cdot)$ ：概率分布
$z \sim P$ : 随机变量 $z$ 具有概率分布 $P$
$P(X \mid Y)$ ： $X\mid Y$ 的条件概率
$p(x)$ : 概率密度函数
$\mathbb{E}_{x} [f(x)]$ : 函数 $f$ 对 $x$ 的数学期望
$X \perp Y$ : 随机变量 $X$ 和 $Y$ 是独立的
$X \perp Y \mid Z$ : 随机变量 $X$ 和 $Y$ 在给定随机变量 $Z$ 的条件下是独立的
$\mathrm{Var}(X)$ : 随机变量 $X$ 的方差
$\sigma_X$ : 随机变量 $X$ 的标准差
$\mathrm{Cov}(X, Y)$ : 随机变量 $X$ 和 $Y$ 的协方差
$\rho(X, Y)$ : 随机变量 $X$ 和 $Y$ 的相关性
$H(X)$ : 随机变量 $X$ 的熵
$D_{\mathrm{KL}}(P\|Q)$ : $P$ 和 $Q$ 的KL-散度

复杂度¶

$\mathcal{O}$ ：大O标记

符号