×

分类的斜高斯过程。 (英语) Zbl 1525.62025号

摘要:高斯过程是函数的分布,它为回归和分类提供了贝叶斯非参数方法。尽管取得了成功,但普通合伙人在某些应用中的使用有限,例如,在某些情况下,相对于平均值的对称分布是不合理的模型。例如,这意味着平均值和中位数重合,而非对称(偏斜)分布中的平均值和中值可以是不同的数字。本文提出了偏高斯过程(SkewGPs)作为非参数先验函数。SkewGP扩展了多元统一偏正态随机过程在有限维向量上的分布。SkewGP分布类包括GP,因此,SkewGPs继承了GP的所有优良特性,并通过允许概率模型中的不对称性来增加其灵活性。通过利用SkewGP和probit似然是共轭模型的事实,我们导出了这种新的非参数分类器的边际似然和预测分布的闭式表达式。我们通过实验验证了所提出的SkewGP分类器比基于拉普拉斯方法或期望传播的GP分类器具有更好的性能。

MSC公司:

62小时30分 分类和区分;聚类分析(统计方面)
60G15年 高斯过程
62G05型 非参数估计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿雷拉诺,RB;阿扎里尼,A.,《关于偏正态分布族的统一》,《斯堪的纳维亚统计杂志》,33,3,561-574(2006)·Zbl 1117.62051号
[2] 阿扎里尼,A.,《偏态和相关家族》(2013),剑桥:剑桥大学出版社,剑桥
[3] 阿齐蒙蒂,D。;Ginsbourger,D.,估计高维高斯向量的正态概率及其在集合估计中的应用,计算与图形统计杂志,27,2,255-267(2018)·Zbl 07498944号
[4] Bauer,M.、van der Wilk,M.和Rasmussen,C.E.(2016)。了解概率稀疏高斯过程近似。《神经信息处理系统进展》(第1533-1541页)。
[5] Benavoli,A.、Mangili,F.、Corani,G.、Zaffalon,M.和Ruggeri,F.(2014)。基于Dirichlet过程的Bayesian Wilcoxon签名秩检验。《第30届国际机器学习会议论文集》(ICML 2014)(第1-9页)。
[6] Benavoli,A。;Corani,G。;德姆萨尔,J。;Zaffalon,M.,《改变的时间:通过贝叶斯分析比较多分类器的教程》,《机器学习研究杂志》,18,77,1-36(2017)·Zbl 1440.62237号
[7] Botev,ZI,《线性限制下的正态律:通过极大极小倾斜进行模拟和估计》,《皇家统计学会杂志:B辑(统计方法)》,79,1,125-148(2017)·Zbl 1414.62102号
[8] Chai,KMA,变分多项式logit Gaussian过程,机器学习研究杂志,13,1745-1808(2012)·Zbl 1432.68381号
[9] Durante,D.,通过统一偏态分布进行概率回归的共轭贝叶斯,Biometrika,106,4,765-779(2019)·Zbl 1435.62107号
[10] Fang,KW,《对称多元及相关分布》(2018),博卡拉顿:查普曼和霍尔/CRC,博卡拉顿
[11] MG杰顿;德国Keyes;Turkiyyah,G.,高维多元正态概率计算的层次分解,计算与图形统计杂志,27,2,268-277(2018)·Zbl 07498945号
[12] Genz,A.,多元正态概率的数值计算,计算与图形统计杂志,1,2,141-149(1992)
[13] Genz,A。;Bretz,F.,《多元正态概率和t概率的计算》(2009),柏林:施普林格出版社,柏林·Zbl 1204.62088号
[14] Gessner,A.,Kanjilal,O.,&Hennig,P.(2019)线性域约束下高斯积分。arXiv预印本arXiv:1910.09328。
[15] GPy(自2012年以来)GPy:python中的高斯过程框架。http://github.com/ShefeldML/GPy
[16] 埃尔南德斯·洛巴托(Hernández-Lobato,D.)、埃尔南德斯·洛巴托、J.M.和杜邦(Dupont,P.)(2011年)。稳健的多类高斯过程分类。《神经信息处理系统进展》(第280-288页)。
[17] 库斯,M。;Rasmussen,CE,评估二元高斯过程分类的近似推理,机器学习研究杂志,61679-1704(2005)·Zbl 1190.62119号
[18] Murray,I.、Adams,R.和MacKay,D.(2010年)。椭圆切片采样。参见:Teh YW,Titterington M(eds)《第十三届人工智能和统计国际会议论文集》,PMLR,Chia Laguna Resort,Sardinia,Italy,机器学习研究论文集(第9卷,第541-548页)。
[19] Nickisch,H。;Rasmussen,CE,二元高斯过程分类的近似,机器学习研究杂志,92035-2078(2008)·Zbl 1225.62087号
[20] O'Hagan,A.,Bayes-Hermite求积,《统计规划与推断杂志》,29,3,245-260(1991)·Zbl 0829.65024号
[21] 奥哈根,A。;Leonard,T.,参数约束不确定性下的贝叶斯估计,生物统计学,63,1,201-203(1976)·Zbl 0326.62025号
[22] 奥尔森,RS;西拉卡瓦。;Orzechowski,P。;Urbanowicz,RJ;Moore,JH,PMLB:机器学习评估和比较的大型基准套件,生物数据挖掘,10,1,36(2017)
[23] Orbanz,P.(2009)。从参数贝叶斯方程构造非参数贝叶斯模型。摘自:神经信息处理系统的进展(第1392-1400页)。
[24] Phinikettos,I。;Gandy,A.,高维多元正态概率的快速计算,计算统计与数据分析,55,4,1521-1529(2011)·Zbl 1328.65039号
[25] Quiñonero-Candela,J。;Rasmussen,CE,稀疏近似高斯过程回归的统一观点,机器学习研究杂志,6939-1959(2005)·Zbl 1222.68282号
[26] 拉斯穆森,CE;Williams,CK,《机器学习的高斯过程》(2006),马萨诸塞州剑桥市:麻省理工学院出版社·兹比尔1177.68165
[27] Snelson,E.和Ghahramani,Z.(2006年)。使用伪输入的稀疏高斯过程。In:神经信息处理系统的进展(第1257-1264页)。
[28] Spall,JC,随机优化的同时扰动算法的实现,IEEE航空航天和电子系统汇刊,34,38117-823(1998)
[29] Titsias,M.(2009年)。稀疏高斯过程中诱导变量的变分学习。In:van Dyk D,Welling M(eds)《第二十届国际人工智能与统计会议论文集》,PMLR,希尔顿清水海滩度假区,美国佛罗里达州清水海滩,机器学习研究论文集(第5卷,第567-574页)。
[30] 威廉姆斯,CK,无限神经网络计算,神经计算,10,5,1203-1216(1998)
[31] 威廉姆斯,CK;Barber,D.,用高斯过程进行贝叶斯分类,IEEE模式分析和机器智能汇刊,20,12,1342-1351(1998)
[32] 张,Z。;Wu,G。;Chang,EY,使用学生(t)过程的半参数回归,IEEE神经网络汇刊,18,6,1572-1588(2007)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。