torchao

torchao#

PyTorch 原生架构优化:torchao

原生的 PyTorch 库 torchao,通过利用低比特数据类型、量化和稀疏性技术,使得模型运行速度更快且体积更小。torchao 是易于访问的工具包,其中包含的技术大多以容易阅读的 PyTorch 代码编写,涵盖推断和训练两个方面。

详细介绍见博文:PyTorch Native Architecture Optimization: torchao