梯度-CAM swMATH ID: 35098 软件作者： Ramprasaath R.Selvaraju、Michael Cogswell、Abhishek Das、Ramakrishna Vedantam、Devi Parikh、Dhruv Batra 描述： Grad-CAM：通过基于梯度的本地化从深层网络中进行可视化解释。我们提出了一种技术，用于从一大类基于CNN的模型中为决策生成“可视化解释”，使其更加透明。我们的方法-梯度加权类激活映射（Grad-CAM），使用任何目标概念的梯度，流入最终的卷积层，以生成粗略的定位图，突出图像中的重要区域，用于预测概念。Grad-CAM适用于各种CNN模型家族：（1）具有完全连接层的CNN，（2）用于结构化输出的CNN；（3）用于具有多模态输入或强化学习的任务的CNN。我们将Grad-CAM与细粒度可视化相结合，创建一个高分辨率的类鉴别可视化，并将其应用于离线图像分类、字幕和可视问答（VQA）模型，包括基于ResNet的体系结构。在图像分类模型的背景下，我们的可视化（a）有助于深入了解其故障模式，（b）对敌对图像具有鲁棒性，（c）在定位方面优于以前的方法，（d）对底层模型更加忠实，（e）通过识别数据集偏差帮助实现泛化。对于字幕和VQA，我们表明即使是非基于注意力的模型也可以本地化输入。我们设计了一种通过Grad-CAM识别重要神经元的方法，并将其与神经元名称相结合，为模型决策提供文本解释。最后，我们设计并进行了人体研究，以衡量Grad-CAM是否能帮助用户建立对模型预测的适当信任，并表明Grad-CAM能帮助未经训练的用户成功区分“较强”节点和“较弱”节点，即使两者的预测完全相同。 主页： https://arxiv.org/abs/1610.02391 源代码： https://github.com/ramprs/grad-cam/ 关键词： 计算机视觉；模式识别；arXiv_cs。个人简历；人工智能；arXiv_cs。人工智能；机器学习；arXiv_cs。LG公司；卷积神经网络；CNN编号 相关软件： ImageNet公司；形状；AlexNet公司；PyTorch公司；t-SNE公司；亚当；MS-COCO公司；BERT（误码率）；蟒蛇；掌中宽带；CIFAR公司；MNIST公司；PASCAL挥发性有机化合物；github；Scikit公司；张紧器2传感器；Caltech-UCSD鸟类；更快的R-CNN；MagNet公司；ADE20k公司 引用于： 42文件 标准条款 1出版物描述软件 年份 Grad-CAM：通过基于梯度的本地化从深层网络中进行可视化解释arXiv公司Ramprasaath R.Selvaraju、Michael Cogswell、Abhishek Das、Ramakrishna Vedantam、Devi Parikh、Dhruv Batra 2016 全部的 前5名158位作者引用 三 窦德静 三 李旭红 三 熊浩毅 2 阿迪蒂亚·巴鲁 2 陈泽瑜 2 萨姆比特·加代 2 阿达什·克里希纳穆尔西 2 苏米克·萨卡尔 1 Akai、Naoki 1 马西娅·巴普蒂斯塔。 1 彼得罗·巴比罗 1 毕欣 1 安东·比约克隆德 1 巴特·博加特 1 西蒙·博多尼 1 纳迪亚·伯卡特 1 本杰明·卡尔霍恩。 1 奥纳马利亚坎布鲁 1 伊恩·卡迈克尔 1 陈金银 1 陈琳怡 1 陈若西 1 陈伟 1 陈晓宇 1 鲍里斯·奇德洛夫斯基 1 邱子怡 1 加布里埃尔·西拉维尼亚 1 时装，Heather D。 1 加布里埃拉·苏尔卡 1 崔，陈 1 戴、本 1 Jean-Pierre大卫 1 埃因·德莱尼 1 德里克·多兰 1 冯、乐 1 朱利安·费雷兹 1 弗赖斯蒂尔，日耳曼 1 法比奥·加利亚迪·科兹曼 1 埃米利奥·冈巴 1 甘、庄 1 甘萨尔斯基，皮埃尔 1 Alireza Ganjdanesh 1 高广元 1 约瑟夫·杰拉德 1 斯蒂法诺·贾古 1 弗朗西斯科·吉安尼尼 1 Kai F.Goebel。 1 马可·戈里 1 德里克·格林 1 枪，蒂亚斯 1 郭莹 1 滨野由介 1 简·汉尼格 1 他，姚明 1 Elsa M.P.Henriques。 1 平山、高糖 1 凯瑟琳·霍德利。 1 安德烈亚斯·霍尔辛格 1 克里斯托弗·霍伊特。 1 胡敏杰 1 黄、恒 1 黄思玉 1 黄晓伟 1 Marco F.Huber。 1 雅各布斯、马提亚斯 1 季、石磊 1 姜海燕 1 蒋文荣 1 马克·T·基恩。 1 乔治·凯西迪斯 1 罗利·卡纳 1 马克·基尔马耶 1 丹尼尔·科宁 1 巴普蒂斯特·拉法布雷格 1 勒奈，杰罗姆 1 Lee，Xian Yeow先生 1 李波 1 李春林 1 李，阜新 1 李天林 1 李兴健 1 苏里扬尼·利姆 1 彼得罗·利奥 1 刘爱珊 1 刘敖 1 刘，季 1 刘思嘉 1 刘向龙 1 托马斯·卢卡西维奇 1 吕、雷 1 马玉良 1 马可·马基尼 1 贾莫·梅克尔 1 詹姆斯·斯蒂芬·马龙 1 豪尔赫·马丁内斯·吉尔 1 斯特凡诺·麦拉奇 1 孟胜旺 1 大卫·约翰·米勒 1 明、赵岩 1 阿萨米·莫拉莱斯 …和另外58位作者 全部的 前5名16篇连载文章中引用 11 人工智能 5 信息科学 4 机器学习 三 神经网络 2 计算机辅助几何设计 2 国际近似推理杂志 2 人工智能研究杂志 2 应用统计学年鉴 2 计算机科学评论 1 保险数学与经济学 1 神经计算 1 数据挖掘与知识发现 1 斯堪的纳维亚精算杂志 1 量子信息处理 1 计算机图形学和视觉的基础和发展趋势 1 SIAM/ASA不确定性量化杂志 全部的 前5名10个领域引用 37 计算机科学（68至XX） 6 统计学（62-XX） 4 数值分析（65-XX） 三 博弈论、经济学、金融学以及其他社会和行为科学（91-XX） 三 信息与通信理论、电路（94-XX） 1 代数拓扑（55-XX） 1 可变形固体力学（74-XX） 1 量子理论（81-XX） 1 地球物理学（86-XX） 1 生物学和其他自然科学（92-XX） 按年份列出的引文