×

输入不确定性下水平集估计的主动学习及其扩展。 (英语) Zbl 1458.68167号

摘要:测试产品在什么条件下满足所需性能是制造业的一个基本问题。如果条件和属性分别被视为黑盒函数的输入和输出,则此任务可以解释为称为水平集估计(LSE)的问题:识别输入区域以使函数值高于(或低于)阈值的问题。尽管针对LSE问题的各种方法已经开发出来,但在实际应用中仍有许多问题有待解决。作为此类问题之一,我们考虑了输入条件无法精确控制的情况——输入不确定性下的LSE问题。我们介绍了处理LSE问题中输入不确定性的基本框架,然后提出了具有适当理论保证的有效方法。所提出的方法和理论通常可以应用于输入不确定性下与LSE相关的各种挑战,如成本相关的输入不确定性和未知的输入不确定性。我们将提出的方法应用于人工数据和实际数据,以证明其适用性和有效性。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62G05型 非参数估计

软件:

PRMLT公司
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Beland,J.J.和Nair,P.B.(2017年)。不确定性下的贝叶斯优化。论文发表于加利福尼亚州长滩市第31届神经信息处理系统会议NIPS BayesOpt 2017研讨会。
[2] Bishop,C.M.(2006年)。模式识别和机器学习。柏林:斯普林格·Zbl 1107.68072号
[3] Bogunovic,I.、Scarlett,J.、Krause,A.和Cevher,V.(2016)。截断方差减少:贝叶斯优化和水平集估计的统一方法。D.D.Lee、M.Sugiyama、U.V.Luxburg、I.Guyon和R.Garnett(编辑),《神经信息处理系统的进展》,29(第1507-1515页)。纽约州红钩市:Curran。
[4] Bryan,B.、Nichol,R.C.、Genovese,C.R.、Schneider,J.、Miller,C.J.和Wasserman,L.(2006)。识别功能阈值边界的主动学习。B.Schölkopf、J.C.Platt和T.Hoffman(编辑),《神经信息处理系统的进展》,19(第163-170页)。马萨诸塞州剑桥:麻省理工学院出版社。
[5] Deisseroth,K.(2015)。光遗传学:神经科学中微生物视蛋白的10年。《自然神经科学》,18(9),1213-1225,
[6] Gessner,A.、Gonzalez,J.和Mahsereci,M.(2019年)。主动多信息源贝叶斯求积。《第三十五届人工智能不确定性会议论文集》(第245页)。AUAI出版社。
[7] Girard,A.、Rasmussen,C.E.、Candela,J.Q.和Murray-Smith,R.(2003)。具有不确定输入的高斯过程先验函数在多步超前时间序列预测中的应用。S.Becker、S.Thrun和K.Obermayer(编辑),《神经信息处理系统的进展》,15(第545-552页)。马萨诸塞州剑桥:麻省理工学院出版社。
[8] Gotovos,A.、Casati,N.、Hitz,G.和Krause,A.(2013)。水平集估计的主动学习。《第二十届国际人工智能联合会议记录》(第1344-1350页)。加利福尼亚州帕洛阿尔托:AAAI出版社。
[9] Inatsu,Y.、Karasuyama,M.、Inoue,K.、Kandori,H.和Takeuchi,I.(2020),通过参数置信区域估计主动学习具有高维二进制特征的贝叶斯线性模型。神经计算,321998-2031·Zbl 1453.92230号
[10] Inatsu,Y.、Sugita,D.、Toyoura,K.和Takeuchi,I.(2020年)。基于高斯过程导数枚举局部极小值的主动学习。神经计算,32032-2068·Zbl 1497.68423号
[11] Iwazaki,S.、Inatsu,Y.和Takeuchi,I.(2019年)。在输入不确定性下寻找可靠水平集的贝叶斯实验设计。arXiv:1910.12043。
[12] Karasuyama,M.、Inoue,K.、Nakamura,R.、Kandori,H.和Takeuchi,I.(2018年)。通过数据驱动的机器学习方法,了解颜色调节规则并预测微生物视紫红质的吸收波长。科学报告,8(1),1-11,
[13] O'Hagan,A.(1991)。贝叶斯求积。统计规划与推断杂志,29(3),245-260·Zbl 0829.65024号
[14] Oliveira,R.、Ott,L.和Ramos,F.(2019年)。不确定输入下的贝叶斯优化。K.Chaudhuri和M.Sugiyama(编辑),《机器学习研究论文集》,第89卷(第1177-1184页)。
[15] Poloczek,M.、Wang,J.和Frazier,P.(2017)。多信息源优化。I.Guyon、U.V.Luxburg、S.Bengio、H.Wallach、R.Fergus、S.Vishwanathan和R.Garnett(编辑),《神经信息处理系统的进展》,30(第4288-4298页)。纽约州红钩市:Curran。
[16] Rasmussen,C.E.和Williams,C.K.I.(2005)。机器学习的高斯过程。马萨诸塞州剑桥:麻省理工学院出版社·Zbl 1177.68165号
[17] Schott,J.R.(2016)。统计矩阵分析。新泽西州霍博肯:威利。
[18] Scott,W.、Frazier,P.和Powell,W.(2011年)。使用高斯过程回归模拟优化连续参数的相关知识梯度。SIAM优化杂志,21(3),996-1026·Zbl 1229.62018号
[19] Settles,B.(2009年)。主动学习文献调查(计算机科学技术报告1648)。威斯康星大学麦迪逊分校。
[20] Shahriari,B.、Swersky,K.、Wang,Z.、Adams,R.P.和De Freitas,N.(2016年)。让人类脱离循环:贝叶斯优化综述。IEEE会议记录,104(1),148-175,
[21] Shao,J.(2003)。数理统计(第二版)。纽约:Springer-Verlag·Zbl 1018.62001号
[22] Shekhar,S.和Javidi,T.(2019)。多尺度高斯过程水平集估计。K.Chaudhuri和M.Sugiyama(编辑),《机器学习研究论文集》,第89卷(第3283-3291页)。
[23] Song,J.、Chen,Y.和Yu,Y.(2019年)。高斯过程多保真度贝叶斯优化的一般框架。K.Chaudhuri和M.Sugiyama(编辑),《机器学习研究论文集》,第89卷(第3158-3167页)。
[24] Srinivas,N.、Krause,A.、Kakade,S.和Seeger,M.(2010年)。土匪背景下的高斯过程优化:无遗憾和实验设计。第27届机器学习国际会议论文集(第1015-1022页)。威斯康星州麦迪逊:无所不在。
[25] Sui,Y.、Gotovos,A.、Burdick,J.和Krause,A.(2015)。使用高斯过程进行优化的安全探索。《机器学习国际会议论文集》(第997-1005页)。
[26] Sui,Y.、Zhung,V.、Burdick,J.W.和Yu,Y.(2018)。高斯过程分段安全贝叶斯优化。《机器学习研究论文集》,第80卷(第4788-4796页)。
[27] Sutton,R.S.和Barto,A.G.(2018年)。强化学习:简介。马萨诸塞州剑桥:麻省理工学院出版社·Zbl 1407.68009号
[28] Swersky,K.、Snoek,J.和Adams,R.P.(2013)。多任务贝叶斯优化。C.J.C.Burges、L.Bottou、M.Welling、Z.Ghahramani和K.Q.Weinberger(编辑),《神经信息处理系统进展》,26(pp.2004-2012)。纽约红钩:柯兰。
[29] Turchetta,M.、Berkenkamp,F.和Krause,A.(2016)。高斯过程有限马尔可夫决策过程中的安全探索。D.D.Lee、M.Sugiyama、U.V.Luxburg、L.Guyon和R.Garnett(编辑),《神经信息处理系统的进展》,29(第4312-4320页)。纽约红钩:柯兰。
[30] Wachi,A.、Sui,Y.、Yu,Y.和Ono,M.(2018年)。使用高斯过程安全探索和优化约束MDPS。第32届AAAI人工智能会议记录(第6548-6556页)。加利福尼亚州帕洛阿尔托:AAAI出版社。
[31] Xi,X.、Briol,F.-X.和Girolma,M.(2018)。多重相关积分的贝叶斯求积。在机器学习国际会议上(第5369-5378页)。纽约:ACM。
[32] Zanette,A.、Zhang,J.和Kochenderfer,M.J.(2018年)。使用高斯过程的鲁棒超水平集估计。《欧洲机器学习和数据库知识发现联合会议论文集》(第276-291页)。柏林:斯普林格。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。