量化

• 量化背景资料(chaos)
  • 量化是什么？
    • 量化器
  • 线性量化
    • 中平量化器
    • 中升量化器
  • 量化类型(chaos)
    • 模拟信号量化
    • 量化分辨率
  • 量化过程(chaos)
    • 随机量化相当于添加高斯噪声
  • 微分量化
  • 反量化
  • 量化常用术语
  • 量化的简单分类
  • 量化误差来源
  • 量化中可能出现的问题
• 量化简介
• PTQ 小范例（eager）
  • 可量化模型(PTQ)
  • 定义观测器(PTQ)
  • 融合激活层(PTQ)
  • 启用观测器(PTQ)
  • 校准准备好的模型(PTQ)
  • 模型转换(PTQ)
• QAT 小范例（eager）
  • 融合 QAT 模块(eager)
  • 准备 QAT 模型(eager)
  • 训练 QAT 模型(eager)
• FX 图模式后训练静态量化
  • FX 图模式量化的动机
  • 定义辅助函数并准备数据集
  • 设置模型为评估模式
  • 使用 QConfigMapping 指定如何量化模型
  • 为训练后静态量化准备模型
  • 校准
  • 将模型转换为量化模型
  • 评估
  • 调试量化模型
  • 与基线浮点模型和 eager 模式量化的比较
• FX Graph QAT
• (prototype) FX Graph Mode Post Training Dynamic Quantization
  • 1. Define the Model, Download Data and Model
  • 2. Post Training Dynamic Quantization
  • 3. Conclusion