DeepXlore公司 swMATH ID: 41847 软件作者: 裴可欣、曹银芝、杨俊峰、苏曼·贾纳 描述: DeepXplore:深度学习系统的自动白盒测试。深度学习(DL)系统越来越多地部署在安全和安全关键领域,包括自动驾驶汽车和恶意软件检测,在这些领域,系统行为的正确性和可预测性对于角落案例输入至关重要。现有的DL测试在很大程度上依赖于手动标记的数据,因此通常无法暴露罕见输入的错误行为。我们设计、实现和评估了DeepXplore,这是第一个用于系统测试真实DL系统的白盒框架。首先,我们引入了神经元覆盖,用于系统地测量由测试输入执行的DL系统的各个部分。接下来,我们利用多个DL系统,这些系统具有与交叉引用预言相似的功能,以避免手动检查。最后,我们演示了如何将寻找既能触发许多差异行为又能实现高神经元覆盖率的DL系统的输入表示为联合优化问题,并使用基于梯度的搜索技术有效地解决。DeepXplore在最先进的DL模型中有效地发现了数千种错误的拐角案例行为(例如,自动驾驶汽车撞上护栏,恶意软件伪装成良性软件),数千个神经元在五个流行的数据集上接受了训练,包括ImageNet和Udacity自动驾驶挑战数据。对于所有测试的DL模型,平均而言,DeepXplore在一秒钟内生成一个测试输入,以证明仅在商品笔记本上运行时的错误行为。我们进一步表明,DeepXplore生成的测试输入也可以用于重新训练相应的DL模型,以将模型的精度提高3 主页: https://arxiv.org/abs/1705.06640 源代码: https://github.com/peikexin9/deepxplore 相关软件: 深度愚人;深度(DeepGauge);ImageNet公司;github;Reluplex公司;TensorFuzz公司;CIFAR公司;深度突变;AI2公司;AlexNet公司;DLFuzz(DL模糊);亚当;移动网络V2;MNIST公司;SqueezeNet公司;阿波罗;马拉布;掌中宽带;摇篮;Scikit公司 引用于: 11文件 全部的 前5名43位作者引用 1 陈广科 1 陈、陶璐 1 陈天龙 1 Jyotirmoy V.德斯穆赫。 1 亚历山大·唐泽 1 托马索·德罗西 1 Eleonora Giunchiglia公司 1 埃尔达·哈伯 1 黄晓伟 1 伊克巴尔,马里兰州沙赫里亚尔 1 Pooyan Jamshidi 1 金、沧红 1 拉尔斯·科特霍夫 1 丹尼尔·科宁 1 李卓荣 1 刘嘉祥 1 托马斯·卢卡西维奇 1 马可德 1 恩里克·马丁·马汀 1 萨拉·穆罕默德·内贾德 1 黑山,曼努埃尔 1 布兰登·保尔森 1 阿德里安·里斯科 1 胡安·罗德里格斯·奥尔塔拉 1 阮文杰 1 鲁宾·鲁比奥 1 拉斯·鲁索托 1 桑吉特·阿伦库马尔·塞希亚 1 詹姆斯·夏普。 1 宋,傅 1 苏建海 1 孙友成 1 埃梅塞·塔莫 1 王超 1 王浩涛 1 王、张扬 1 吴敏 1 吴明辉 1 易新平 1 于黛薇 1 于洪川 1 张业迪 1 赵哲 全部的 前5名6篇连载文章中引用 2 机器学习 2 人工智能研究杂志 1 自动推理杂志 1 数学成像与视觉杂志 1 计算机科学评论 1 程序设计中的逻辑和代数方法杂志 全部的 前5名在6个字段中引用 11 计算机科学(68至XX) 2 统计学(62-XX) 1 数学逻辑和基础(03-XX) 1 偏微分方程(35-XX) 1 运筹学、数学规划(90-XX) 1 系统论;控制(93至XX) 按年份列出的引文