符号

符号#

数字#

  • \(x\)：标量

  • \(\mathbf{x}\)：向量

  • \(\mathbf{X}\)：矩阵

  • \(\mathsf{X}\)：张量

  • \(\mathbf{I}\)：单位矩阵

  • \(x_i\), \([\mathbf{x}]_i\)：向量\(\mathbf{x}\)第\(i\)个元素

  • \(x_{ij}\), \([\mathbf{X}]_{ij}\)：矩阵\(\mathbf{X}\)第\(i\)行第\(j\)列的元素

集合论#

  • \(\mathcal{X}\): 集合

  • \(\mathbb{Z}\): 整数集合

  • \(\mathbb{R}\): 实数集合

  • \(\mathbb{R}^n\): \(n\)维实数向量集合

  • \(\mathbb{R}^{a\times b}\): 包含\(a\)行和\(b\)列的实数矩阵集合

  • \(\mathcal{A}\cup\mathcal{B}\): 集合\(\mathcal{A}\)和\(\mathcal{B}\)的并集

  • \(\mathcal{A}\cap\mathcal{B}\)：集合\(\mathcal{A}\)和\(\mathcal{B}\)的交集

  • \(\mathcal{A}\setminus\mathcal{B}\)：集合\(\mathcal{A}\)与集合\(\mathcal{B}\)相减，\(\mathcal{B}\)关于\(\mathcal{A}\)的相对补集

函数和运算符#

  • \(f(\cdot)\)：函数

  • \(\log(\cdot)\)：自然对数

  • \(\exp(\cdot)\): 指数函数

  • \(\mathbf{1}_\mathcal{X}\): 指示函数

  • \(\mathbf{(\cdot)}^\top\): 向量或矩阵的转置

  • \(\mathbf{X}^{-1}\): 矩阵的逆

  • \(\odot\): 按元素相乘

  • \([\cdot, \cdot]\)：连结

  • \(\lvert \mathcal{X} \rvert\)：集合的基数

  • \(\|\cdot\|_p\): ：\(L_p\) 正则

  • \(\|\cdot\|\): \(L_2\) 正则

  • \(\langle \mathbf{x}, \mathbf{y} \rangle\)：向量\(\mathbf{x}\)和\(\mathbf{y}\)的点积

  • \(\sum\): 连加

  • \(\prod\): 连乘

  • \(\stackrel{\mathrm{def}}{=}\)：定义

微积分#

  • \(\frac{dy}{dx}\)：\(y\)关于\(x\)的导数

  • \(\frac{\partial y}{\partial x}\)：\(y\)关于\(x\)的偏导数

  • \(\nabla_{\mathbf{x}} y\)：\(y\)关于\(\mathbf{x}\)的梯度

  • \(\int_a^b f(x) \;dx\): \(f\)在\(a\)到\(b\)区间上关于\(x\)的定积分

  • \(\int f(x) \;dx\): \(f\)关于\(x\)的不定积分

概率与信息论#

  • \(P(\cdot)\)：概率分布

  • \(z \sim P\): 随机变量\(z\)具有概率分布\(P\)

  • \(P(X \mid Y)\)：\(X\mid Y\)的条件概率

  • \(p(x)\): 概率密度函数

  • \({E}_{x} [f(x)]\): 函数\(f\)对\(x\)的数学期望

  • \(X \perp Y\): 随机变量\(X\)和\(Y\)是独立的

  • \(X \perp Y \mid Z\): 随机变量\(X\)和\(Y\)在给定随机变量\(Z\)的条件下是独立的

  • \(\mathrm{Var}(X)\): 随机变量\(X\)的方差

  • \(\sigma_X\): 随机变量\(X\)的标准差

  • \(\mathrm{Cov}(X, Y)\): 随机变量\(X\)和\(Y\)的协方差

  • \(\rho(X, Y)\): 随机变量\(X\)和\(Y\)的相关性

  • \(H(X)\): 随机变量\(X\)的熵

  • \(D_{\mathrm{KL}}(P\|Q)\): \(P\)和\(Q\)的KL-散度

复杂度#

  • \(\mathcal{O}\)：大O标记