梯度-CAM swMATH ID: 35098 软件作者： Ramprasaath R.Selvaraju、Michael Cogswell、Abhishek Das、Ramakrishna Vedantam、Devi Parikh、Dhruv Batra 描述： Grad-CAM：通过基于梯度的本地化从深层网络中进行可视化解释。我们提出了一种技术，用于从一大类基于CNN的模型中为决策生成“可视化解释”，使其更加透明。我们的方法-梯度加权类激活映射（Grad-CAM）使用任何目标概念的梯度，流入最终卷积层，生成粗定位图，突出图像中的重要区域，用于预测概念。Grad-CAM适用于各种各样的CNN模型族：（1）具有完全连接层的CNN，（2）用于结构化输出的CNN，（3）用于具有多模态输入或强化学习的任务的CNN，无需任何架构更改或重新训练。我们将Grad-CAM与细粒度可视化相结合，创建一个高分辨率的类鉴别可视化，并将其应用于离线图像分类、字幕和可视问答（VQA）模型，包括基于ResNet的体系结构。在图像分类模型的背景下，我们的可视化（a）有助于深入了解其故障模式，（b）对敌对图像具有鲁棒性，（c）在定位方面优于以前的方法，（d）对底层模型更加忠实，（e）通过识别数据集偏差帮助实现泛化。对于字幕和VQA，我们表明即使是非基于注意力的模型也可以本地化输入。我们设计了一种通过Grad-CAM识别重要神经元的方法，并将其与神经元名称相结合，为模型决策提供文本解释。最后，我们设计并进行了人体研究，以衡量Grad-CAM是否能帮助用户建立对模型预测的适当信任，并表明Grad-CAM能帮助未经训练的用户成功区分“较强”节点和“较弱”节点，即使两者的预测完全相同。 主页： https://arxiv.org/abs/1610.02391 源代码： https://github.com/ramprs/grad-cam/ 关键词： 计算机视觉;模式识别;arXiv_cs。个人简历;人工智能;arXiv_cs。人工智能;机器学习;arXiv_cs。LG公司;卷积神经网络;CNN编号 相关软件： ImageNet公司;形状;AlexNet公司;PyTorch公司;t-SNE公司;亚当;MS-COCO公司;BERT（误码率）;蟒蛇;掌中宽带;到岸价格;MNIST公司;PASCAL挥发性有机化合物;github;Scikit公司;张紧器2传感器;加州理工大学可持续发展学院鸟类;更快的R-CNN;MagNet公司;ADE20k公司 引用于： 42文件 标准条款 1出版物描述软件 年份 Grad-CAM：通过基于梯度的本地化从深层网络中进行可视化解释arXiv公司Ramprasaath R.Selvaraju、Michael Cogswell、Abhishek Das、Ramakrishna Vedantam、Devi Parikh、Dhruv Batra 2016 全部的 前5名158位作者引用 三 窦德静 三 李旭红 三 熊浩毅 2 阿迪蒂亚·巴鲁 2 陈泽瑜 2 萨姆比特·加代 2 阿达什·克里希纳穆尔西 2 苏米克·萨卡尔 1 直纪赤井 1 马西娅·巴普蒂斯塔。 1 彼得罗·巴比罗 1 毕欣 1 安东·比约克隆德 1 巴特·博加特 1 西蒙·博多尼 1 Burkart，娜迪亚 1 本杰明·卡尔霍恩。 1 奥纳马利亚坎布鲁 1 伊恩·卡迈克尔 1 陈金银 1 陈林烨 1 陈若西 1 陈伟 1 陈晓宇 1 鲍里斯·奇德洛夫斯基 1 邱子怡 1 加布里埃尔·西拉维尼亚 1 时装，Heather D。 1 加布里埃拉·苏尔卡 1 崔，陈 1 戴、本 1 Jean-Pierre大卫 1 德莱尼，伊奥因 1 Derek多兰 1 冯、乐 1 朱利安·费雷兹 1 弗赖斯蒂尔，日耳曼 1 法比奥·加利亚迪·科兹曼 1 埃米利奥·冈巴 1 甘、庄 1 皮埃尔·甘萨尔斯基 1 Alireza Ganjdanesh 1 高广元 1 约瑟夫·杰拉德 1 斯蒂法诺·贾古 1 弗朗西斯科·吉安尼尼 1 Kai F.Goebel。 1 马可·戈里 1 格林，德里克 1 枪，蒂亚斯 1 郭莹 1 滨野由介 1 简·汉尼格 1 他，姚明 1 Elsa M.P.Henriques。 1 平山、高糖 1 凯瑟琳·霍德利。 1 安德烈亚斯·霍尔辛格 1 克里斯托弗·霍伊特。 1 胡敏杰 1 黄、恒 1 黄思玉 1 黄晓伟 1 Marco F.Huber。 1 雅各布斯、马提亚斯 1 吉、石磊 1 姜海燕 1 蒋文荣 1 马克·T·基恩。 1 乔治·凯西迪斯 1 罗利·卡纳 1 马克·基尔马耶 1 丹尼尔·科宁 1 巴普蒂斯特·拉法布雷格 1 杰罗姆·勒尼 1 Lee，Xian Yeow先生 1 李波 1 李春林 1 李福新 1 李天林 1 李兴健 1 Lim，苏里亚尼 1 彼得罗·利奥 1 刘爱珊 1 刘敖 1 刘，季 1 刘思嘉 1 刘向龙 1 托马斯·卢卡西维奇 1 吕、雷 1 马玉良 1 马可·马基尼 1 贾莫·梅克尔 1 詹姆斯·斯蒂芬·马龙 1 豪尔赫·马丁内斯·吉尔 1 斯特凡诺·麦拉奇 1 孟胜旺 1 大卫·约翰·米勒 1 明、赵燕 1 阿萨米·莫拉莱斯 …和另外58位作者 全部的 前5名16篇连载文章中引用 11 人工智能 5 信息科学 4 机器学习 三 神经网络 2 计算机辅助几何设计 2 国际近似推理杂志 2 人工智能研究杂志 2 应用统计学年鉴 2 计算机科学评论 1 保险数学与经济学 1 神经计算 1 数据挖掘与知识发现 1 斯堪的纳维亚精算杂志 1 量子信息处理 1 计算机图形学和视觉的基础和发展趋势 1 SIAM/ASA不确定性量化期刊 全部的 前5名10个字段中引用 37 计算机科学（68至XX） 6 统计学（62-XX） 4 数值分析（65-XX） 三 博弈论、经济学、金融和其他社会和行为科学（91-XX） 三 信息与通信理论、电路（94-XX） 1 代数拓扑（55-XX） 1 可变形固体力学（74-XX） 1 量子理论（81-XX） 1 地球物理学（86-XX） 1 生物学和其他自然科学（92-XX） 按年份列出的引文