×

Captum公司

swMATH ID: 35075
软件作者: Narine Kokhlikyan、Vivek Miglani、Miguel Martin、Edward Wang、Bilal Alsallakh、Jonathan Reynolds、Alexander Melnikov、Natalia Kliushkina、Carlos Araya、Siqi Yan、Orion Reblitz-Richardson
描述: Captum:PyTorch的统一通用模型可解释性库。在本文中,我们为PyTorch[12]介绍了一个新颖、统一、开源的模型可解释性库。该库包含许多基于梯度和扰动的属性算法的通用实现,也称为特征、神经元和层重要性算法,以及这些算法的一组评估指标。它可以用于分类和非分类模型,包括基于神经网络(NN)的图形结构模型。在本文中,我们对支持的属性算法进行了高级概述,并展示了如何执行节省内存和可伸缩的计算。我们强调,该库的三个主要特征是多模态、可扩展性和易用性。多模态支持不同模态的输入,如图像、文本、音频或视频。可扩展性允许添加新的算法和功能。图书馆的设计也便于理解和使用。此外,我们还引入了一个名为Captum Insights的交互式可视化工具,该工具构建在Captum库之上,允许使用功能重要性度量进行基于样本的模型调试和可视化。
主页: https://arxiv.org/abs/2009.07896
依赖项: PyTorch公司
关键词: 机器学习;arXiv_cs.LG公司;人工智能;arXiv_cs.AI;arXiv_状态ML;PyTorch公司;可解释性;归因;多模式;模型理解
相关软件: 不在场证明解释;蟒蛇;PyTorch公司;解释ML;tf-解释;iNN调查;托辞;AI解释360;github;TensorFlow公司;TS解释;TSViz公司;迪蒂尔伯特;;罗伯塔;BERT(误码率);诊断;平滑渐变(SmoothGrad);梯度-CAM;塞尔登·科尔
引用于: 2出版物

标准条款

1出版物描述软件 年份
Captum:PyTorch的统一通用模型可解释性库
Narine Kokhlikyan、Vivek Miglani、Miguel Martin、Edward Wang、Bilal Alsallakh、Jonathan Reynolds、Alexander Melnikov、Natalia Kliushkina、Carlos Araya、Siqi Yan、Orion Reblitz-Richardson
2020

在1个字段中引用

2 计算机科学(68至XX)

按年份列出的引文