校园活动日历：莫里茨·伯勒（2024年3月5日，E 1.4/024）

校园活动日历

校园活动日历：
- 未来：
- 事件历史：

事件条目

什么和谁

面向图像分类的内在可解释深度神经网络设计

莫里茨·伯勒

Max-Planck-Institut für Informatik公司-D2

促销可乐

AG 1、INET、AG 5、RG1、SWS、AG 2、AG 4、D6、AG 3

公众受众

英语

注意：我们用这个来早上发送电子邮件。

日期、时间和地点

2024年5月3日星期五

14:00

60分钟

E 1.4类

024

萨尔布吕肯

摘要

在过去的十年中，深度神经网络（DNN）已被证明在广泛的应用中取得了成功，并有望对我们的生活产生积极影响。然而，特别是在高风险的情况下，错误的决策可能会带来灾难性的后果，我们必须理解并获得模型“决策”的解释。本文从三个方面研究了图像分类模型的这一问题。首先，我们评估了以事后方式解释DNN的方法，并强调了现有方法的承诺和缺点。其次，我们研究如何设计内在可解释的DNN。与事后解释模型不同，该方法不仅考虑了训练过程和DNN体系结构，还对其进行了修改，以确保决策过程本质上更加透明。特别地，引入了两种新的DNN架构：CoDA和B-cos网络。对于每个预测，这些模型的计算都可以用等效线性变换表示。由于在训练期间对相应的线性矩阵进行了优化，以与任务相关的输入模式保持一致，因此可以很好地定位相关的输入特征，因此可以用作人类的解释。最后，我们研究了如何在培训期间利用解释来指导模型，例如，抑制对虚假关联特征的依赖，或提高知识提取方法的保真度。