(原型) PyTorch 2 Export 量化

• (原型) PyTorch 2 Export 量化简介
  • PyTorch 2 export 量化的动机
• 准备数据集和浮点模型
• PyTorch 2 export 训练后量化
  • 使用 torch.export.export() 导出模型
  • 导入后端特定量化器并配置如何量化模型
  • 准备模型进行训练后量化
  • 校准
  • 将校准模型转换为量化模型
  • 量化表示
    • Q/DQ 表示
    • 参考量化模型表示
  • 检查模型大小和准确度评估
  • 保存和加载量化模型
• 如何为 PyTorch 2 export 量化编写 Quantizer
  • 注解 API
  • 标注常见算子模式
  • 标注共享量化参数的算子
  • 用固定量化参数标注算子
  • 使用派生量化参数标注张量
  • Resnet18 的玩具示例