量化简介

量化简介#

假设有 $x \in [α, β]^{n} \subseteq R^{n}$ ，记量化函数 $Q : [α, β]^{n} ⟼ [α_{q}, β_{q}]^{n}$ ，缩放函数（scaling function） $s c : [α, β]^{n} \to [0, 1]^{n}$ 。量化函数的一般结构如下：

(7)#

Q (x) = s c^{- 1} (\hat{Q} (s c (x)))

其中 $s c^{- 1}$ 是 $s c$ 的逆函数， $\hat{Q}$ 是实际的量化函数（仅接受 $[0, 1]$ 的值）。

对于线性缩放

s c (x) = \frac{x - x_{min}}{x_{max} - x_{min}} = \frac{x - α}{β - α}

有

s c^{- 1} (x) = α + (β - α) x

进一步得

Q (x) = (β - α) \hat{Q} (\frac{x - α}{β - α}) + α

假定 $Q (α) = α_{q}, Q (β) = β_{q}$ ，则有

\begin{array}{r} {\begin{cases} \hat{Q} (1) - \hat{Q} (0) = \frac{β_{q} - α_{q}}{β - α} \\ \frac{\hat{Q} (1)}{\hat{Q} (0)} = \frac{β_{q} - α}{α_{q} - α} \end{cases} \end{array}

则有

\begin{array}{r} {\begin{cases} \hat{Q} (0) = \frac{β_{q} - α}{β - α} \\ \hat{Q} (1) = \frac{α_{q} - α}{β - α} \end{cases} \end{array}

记

\begin{array}{r} {\begin{cases} S = \frac{β - α}{β_{q} - α_{q}} \\ Z = - (\frac{α}{S} - α_{q}) = α_{q} - \frac{α}{S} \end{cases} \end{array}

计算机是以二进制形式计数的，需要将其离散化。考虑无符号数据，以 $k$ bit 存储数据，则其存储的整数值范围为 $[0, 2^{k} - 1]$ ，即 $β_{q} - α_{q} = 2^{k} - 1$ 。

记 $x$ 的离散化表示为 $x_{q} = \frac{1}{2^{k} - 1} \sum_{p = 0}^{k - 1} x_{p} 2^{p}$ ，其中 $x_{p} \in {0, 1}$ 。称 $x_{q}$ 的值域 $L_{q} = {0, \frac{1}{2^{k} - 1}, \frac{2}{2^{k} - 1}, \dots, 1}$ 为量化水平集。