iNNestigate神经网络！
马克西米利安·阿尔伯（Maximilian Alber）、塞巴斯蒂安·拉普什金（Sebastian Lapuschkin）、菲利普·西格勒（Philipp Seegerer）、米里亚姆·哈格尔（Miriam Hägele）、克里斯托夫·舒特（Kristof T.Schütt）、格里戈伊尔·蒙塔文（Grégoire Montavon）、沃西奇·萨梅克（Wojciech Samek）、; 20(93):1−8, 2019.
摘要
近年来，深度神经网络彻底改变了机器学习的许多应用领域，是许多关键决策或预测过程的关键组件。因此，领域专家能够理解和分析动作和预测，甚至是最复杂的神经网络架构，这一点至关重要。尽管有这些论点，神经网络通常被视为黑箱。为了缓解这一缺点，提出了许多分析方法，但由于缺乏参考实现，常常需要对这些方法进行系统比较。所提供的库investigate通过为许多分析方法提供通用接口和现成的实现来解决这一问题，包括PatternNet和PatternAttribution以及LRP方法的参考实现。为了证明investigate的多功能性，我们对各种最先进的神经网络结构的图像分类进行了分析。
[腹肌]
[pdf格式][围兜] [代码]
