×
关、吉;方，王;英明生

量子分类器的鲁棒性验证。 （英语） Zbl 1493.68299号

Silva，Alexandra（编辑）等人，《计算机辅助验证》。第33届国际会议，CAV 2021，虚拟活动，2021年7月20日至23日。诉讼程序。第一部分查姆：施普林格。勒克特。注释计算。科学。12759, 151-174 (2021).
摘要：机器学习算法的几个重要模型已成功推广到量子世界，在训练经典分类器和量子物理数据分析应用程序方面具有潜在的加速能力，可以在不久的将来的量子计算机上实现。然而，量子噪声是量子机器学习实际实现的主要障碍。在这项工作中，我们定义了一个形式化框架，用于验证和分析量子机器学习算法对噪声的鲁棒性。推导了鲁棒界，并开发了一种算法来检查量子机器学习算法对量子训练数据是否鲁棒。特别是，该算法可以在检查过程中发现对抗性示例。我们的方法是在Google的TensorFlow Quantum上实现的，可以验证量子机器学习算法对于来自周围环境的小干扰的鲁棒性。实验结果证实了我们的鲁棒界和算法的有效性，包括以量子比特分类为“你好世界”的例子，从现实世界中棘手的物理问题中进行量子相位识别和簇激发检测，以及从经典世界中对MNIST进行分类。
关于整个系列，请参见[Zbl 1489.68029号].

引用于1文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
2012年第68季度 计算理论中的量子算法和复杂性
60年第68季度 规范和验证（程序逻辑、模型检查等）

关键词：

量子机器学习;稳健性验证;对抗性示例;鲁棒界

软件：

TensorFlow公司;CVXPY公司;TensorFlow量子;NNV公司;MNIST公司;亚当;Reluplex公司;验证
PDF格式BibTeX公司 XML格式引用
\textit{J.Guan}等人，Lect。注释计算。科学。12759151-174（2021年；Zbl 1493.68299）
全文： 内政部 arXiv公司

参考文献：

[1] Carleo，G。；Troyer，M.，用人工神经网络解决量子多体问题，《科学》，355，6325，602-606（2017）·Zbl 1404.81313号 ·doi:10.1126/science.aag2302
[2] 尼尔森，马萨诸塞州；Chung，IL，量子计算与量子信息（2010），剑桥：剑桥大学出版社，剑桥·兹比尔1288.81001 ·doi:10.1017/CBO9780511976667
[3] 比亚蒙特，J。；Wittek，P。；Pancotti，N。；Rebentrost，P。；韦伯，N。；Lloyd，S.，《量子机器学习》，《自然》，549，7671，195-202（2017）·doi:10.1038/nature23474
[4] Dunjko，V。；Briegel，HJ，《量子领域的机器学习和人工智能：最新进展综述》，Rep.Prog。物理。，81, 7, 074001 (2018) ·doi:10.1088/1361-6633/aab406
[5] 聪，I。；Choi，S。；Lukin，MD，量子卷积神经网络，自然物理学。，15, 12, 1273-1278 (2019) ·doi:10.1038/s41567-019-0648-8
[6] Huang，H.-Y.，Kueng，R.，Preskill，J.：机器学习中量子优势的信息论界限。arXiv预打印arXiv:2101.02464（2021）
[7] 布劳顿，M.等人：TensorFlow quantum：量子机器学习的软件框架。arXiv预印arXiv:2003.02989（2020）。请参见https://www.tensorflow.org/quantum网站对于平台
[8] Huang，L.，Joseph，A.D.，Nelson，B.，Rubinstein，B.I.P.，Tygar，J.D.：对抗性机器学习。摘自：第四届ACM安全与人工智能研讨会论文集，第43-58页（2011年）
[9] Goodfellow，I.J.，Shlens，J.，Szegedy，C.：解释和利用对抗性例子。In:Bengio，Y.，LeCun，Y.（编辑）第三届国际学习代表大会，2015年5月7日至9日，美国加利福尼亚州圣地亚哥，ICLR 2015，会议记录（2015）
[10] Madry，A.、Makelov，A.、Schmidt，L.、Tsipras，D.、Vladu，A.：面向对抗性攻击的深度学习模型。参加：2018年4月30日至5月3日在加拿大不列颠哥伦比亚省温哥华举行的第六届国际学习代表大会，会议记录。OpenReview.net（2018）
[11] Carlini，N.，Wagner，D.：对手的例子不容易被发现：绕过了十种检测方法。摘自：第十届ACM人工智能与安全研讨会论文集，第3-14页（2017年）
[12] Brown，T.B.，Mané，D.，Roy，A.，Abadi，M.，Gilmer，J.：对抗补丁。arXiv预印arXiv:1712.09665（2017）
[13] Tran，H-D；贝克·S。；Xiang，W。；约翰逊，TT；拉希里，斯洛伐克；Wang，C.，使用ImageStars验证深度卷积神经网络，计算机辅助验证，18-42（2020），商会：施普林格，商会·Zbl 1478.68180号 ·doi:10.1007/978-3-030-53288-82
[14] Elboher，YY；J.Gottschlich。；Katz，G。；拉希里，斯洛伐克；Wang，C.，神经网络验证的基于抽象的框架，计算机辅助验证，43-65（2020），Cham:Springer，Cham·Zbl 1478.68154号 ·doi:10.1007/978-3-030-53288-83
[15] 弗雷蒙特，DJ；Chiu，J。；Marginantu，DD；Osipychev，D。；Seshia，南非；拉希里，斯洛伐克；Wang，C.，利用VerifAI对基于神经网络的飞机滑行系统进行形式化分析和重新设计，计算机辅助验证，122-134（2020），Cham:Springer，Cham·doi:10.1007/978-3-030-53288-86
[16] Kwiatkowska，M.Z.：具有可证明保证的深度神经网络的安全验证（特邀论文）。参见：Fokkink，W.J.，van Glabbeek，R.（编辑）第30届并行理论国际会议，2019年8月27日至30日，荷兰阿姆斯特丹，CONCUR 2019。LIPIcs，第140卷，第1:1-1:5页。达格斯图尔宫（Schloss Dagstuhl）-莱布尼兹·泽特鲁姆（Leibniz-Zentrum für Informatik）（2019年）
[17] Dreossi，T。；迪利格，I。；Tasiran，S.，《VerifAI:基于人工智能系统的正式设计和分析工具包》，《计算机辅助验证》，432-442（2019），查姆：斯普林格，查姆·doi:10.1007/978-3-030-25540-4_25
[18] Tran，H-D；拉希里，斯洛伐克；Wang，C.，NNV：深度神经网络和学习型网络物理系统的神经网络验证工具，计算机辅助验证，3-17（2020），Cham:Springer，Cham·doi:10.1007/978-3-030-53288-81
[19] Sirui，L。；段，L-M；Deng，D-L，量子对抗性机器学习，物理。修订版，2033212（2020）·doi:10.1103/PhysRevResearch.2.033212
[20] 杜，Y.，谢，M.-H.，刘，T.，陶，D.，刘，N.：量子噪声保护量子分类器免受敌人的攻击。arXiv预打印arXiv:2003.09416（2020）
[21] 刘，N。；Wittek，P.，《量子分类对对抗扰动的脆弱性》，《物理学》。版本A，101，6，062331（2020）·doi:10.1103/PhysRevA.101.062331
[22] 韦伯，M。；刘，N。；李，B。；张，C。；Zhao，Z.，通过量子假设检验实现量子分类的最佳可证明稳健性，npj quantum Inf.，7，1，1-12（2021）·doi:10.1038/s41534-021-00410-5
[23] Helstrom，CW，探测理论和量子力学，Inf.Control，10，3，254-291（1967）·doi:10.1016/S0019-9958（67）90302-6
[24] Sharif，M.，Bauer，L.，Reiter，M.K.：关于Lp-规范对创建和防止对抗性示例的适用性。摘自：IEEE计算机视觉和模式识别研讨会会议记录，第1605-1613页（2018年）
[25] 罗克，TF；AA秘书；Ribeiro，H.，带约束相互作用的工程快速高保真量子操作，npj quantum Inf.，7，1，1-17（2021）·doi:10.1038/s41534-020-00339-1
[26] 英国托罗索夫；内华达州维塔诺夫，用于高保真量子信息处理的平滑复合脉冲，物理。版本A，83，5，053420（2011）·doi:10.1103/PhysRevA.83.053420
[27] Farhi，E。；Neven，H.，《近期处理器上的量子神经网络分类》，《量子评论》。，1, 2, 10-37686 (2020)
[28] Oh，S.，Choi，J.，Kim，J.：量子卷积神经网络（QCNN）教程。摘自：2020年信息和通信技术融合国际会议，第236-239页。IEEE（2020）
[29] Myerson，AH，捕获离子量子比特的高精度读出，Phys。修订稿。，100, 20, 200502200502 (2008) ·doi:10.1103/PhysRevLett.100.200502
[30] 伯勒尔，AH；Szwer，DJ；南卡罗来纳州韦伯斯特；Lucas，DM，可扩展同步多量子位读出，99.99·doi:10.1103/PhysRevA.81.040302
[31] Guan，J.，Fang，W.，Ying，M.：量子分类器的稳健性验证。arXiv预打印arXiv:2008.07230（2020）
[32] Ruan，W.，Wu，M.，Sun，Y.，Huang，X.，Kroening，D.，Kwiatkowska，M.：具有汉明距离可证明保证的深度神经网络的全局鲁棒性评估。载于：Kraus，S.（编辑）《第二十届国际人工智能联合会议论文集》，2019年8月10日至16日，中国澳门，第5944-5952页。ijcai.org（2019）
[33] Lomuscio，A.，Maganti，L.：前馈ReLU神经网络可达性分析方法。arXiv预印arXiv:1706.07351（2017）
[34] Tjeng，V.，Xiao，K.Y.，Tedrake，R.：使用混合整数规划评估神经网络的鲁棒性。在：2019年5月6日至9日，第七届学习代表国际会议，ICLR 2019，美国洛杉矶新奥尔良。OpenReview.net（2019）
[35] Bastani，O.，Ioannou，Y.，Lampropoulos，L.，Vytiniotis，D.，Nori，A.V.，Criminisi，A.：用约束测量神经网络的鲁棒性。收录人：Lee，D.D.，Sugiyama，M.，von Luxburg，U.，Guyon，I.，Garnett，R.（编辑）《神经信息处理系统进展》29：2016年神经信息处理体系年度会议，西班牙巴塞罗那，2016年12月5-10日，第2613-2621页（2016）
[36] Zhang，R.Y.，Laveei，J.：具有近似线性时间复杂度的稀疏半定程序。2018年IEEE决策与控制会议（CDC），第1624-1631页。IEEE（2018）
[37] Katz，G。；巴雷特，C。；迪尔，DL；朱利安，K。；MJ Kochenderfer；马朱姆达尔，R。；Kunčak，V.，Reluplex：验证深层神经网络的高效SMT解算器，计算机辅助验证，97-117（2017），Cham:Springer，Cham·Zbl 1494.68167号 ·doi:10.1007/978-3-319-63387-95
[38] 钻石，S。；Boyd，S.，CVXPY:一种嵌入Python的凸优化建模语言，J.Mach。学习。第17、83、1-5号决议（2016年）·Zbl 1360.90008号
[39] Kingma，D.P.，Ba，J.：亚当：随机优化方法。In:Bengio，Y.，LeCun，Y.（编辑）第三届国际学习代表大会，2015年5月7日至9日，美国加利福尼亚州圣地亚哥，ICLR，2015，会议记录（2015）
[40] 伯特曼，RA；Krammer，P.，量子点的Bloch向量，J.Phys。数学。理论。，41, 23, 235303 (2008) ·Zbl 1140.81321号 ·doi:10.1088/1751-8113/41/23/235303
[41] LeCun，Y.，Cortes，C.：MNIST手写数字数据库（2010年）。http://yann.lecun.com/exdb/mnist/
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。