Captum

Captum（拉丁语中意为“理解”）是开源的、可扩展的库，基于 PyTorch 构建模型的解释性。随着模型复杂度的增加以及由此带来的透明度缺失，模型解释方法变得越来越重要。无论是在研究领域还是在使用机器学习的各个行业中的实际应用方面，理解模型都成为了活跃的研究主题和关注焦点。Captum 提供了最先进的算法，包括集成梯度法，以便研究人员和开发者能够轻松理解哪些特征对模型输出有所贡献。

Captum 帮助机器学习研究者更容易地实现可以与 PyTorch 模型交互的解释性算法。它还允许研究人员快速将他们的工作与库中其他现有算法进行基准对比。对于模型开发者来说，Captum 可以用来通过促进识别不同特征来改进和排查模型，这些特征有助于模型的输出，从而设计出更好的模型并解决意外的模型输出问题。

目标受众

Captum 的主要受众是那些希望改进其模型并了解哪些特征重要的模型开发者，以及专注于识别能够更好地解释多种类型模型的算法的解释性研究者。

Captum 也可以被使用训练有素模型进行生产的应用程序工程师所使用。Captum 通过提高模型的解释性，提供了更简单的故障排除方式，并有可能向最终用户更好地解释为什么他们会看到特定的内容，例如电影推荐。