远东理论统计杂志
第67卷第2期第113-135页(2023年8月) http://dx.doi.org/10.17654/0972086323006 |
|
基于支持向量机(SVM)的贝塔发散和核函数方法
Mactar Ndaw、Macoumba Ndour和Papa Ngom
|
摘要: 在统计建模领域,距离或散度度量是理论和应用统计推断及数据处理问题中广为熟知和使用的标准。在本文中,我们讨论了著名的β-发散(称为β-发散度),它是一个由一个超参数参数化的代价函数族,它与Hilbertian度量和概率测度上的正定核的概念紧密联系。试图描述这种差异性度量,它可以使用两个关系对称化。我们基于希尔伯特度量计算了β散度的对称度。我们研究了所提出的方法需要建立一个与该对称β-散度对应的正定核的理想性质,并通过在支持向量机(SVM)上进行的实验验证了该方法的有效性。
我们使用有条件定义的正值进行实验K(K)内核发生了变化K(K)(β)并表明这些核对于Jeffrey散度和chi-square散度具有相同的误差比例。
|
关键词和短语: 希尔伯特度量、正定核、散度、支持向量机。
收到:2022年9月27日;认可的:2022年12月26日;出版:2023年5月8日
如何引用本文:Mactar Ndaw、Macoumba Ndour和Papa Ngom,带支持向量机(SVM)的贝塔散度和核方法,《远东理论统计杂志》67(2)(2023),113-135。http://dx.doi.org/10.17654/0972086323006
此开放存取文章根据Creative Commons Attribution 4.0国际许可
参考文献:
[1] Andrzej Cichocki和Shun-ichi Amari,α-β和γ-发散族:相似性的灵活和稳健度量,《熵》12(2010),1532-1568。https://doi.org/10.3390/e12061532。 [2] Andrzej Cichocki,Sergio Cruces和Shun-ichi Amari,广义α-β发散及其在稳健非负矩阵因式分解中的应用,熵13(2011),134-170。https://doi.org/10.3390/e13010134。 [3] H.Akaike,《信息理论与最大似然原理的扩展》,第二届信息理论国际研讨会论文集,布达佩斯,B.N.Petrov,I.F.Csaki,eds.,1973年,第267-281页。 [4] A.Alzaid和K.S.Sultan,区分伽马和对数正态分布及其应用,沙特国王大学学报-科学21(2)(2009),99-108。 [5] Asa Ben-Hur和Willian Stafford Noble,预测蛋白质相互作用的核方法,生物信息学21(2005),i38-i46。 [6] A.Basu,I.R.Harris,N.L.Hjort和M.C.Jones,通过最小化密度功率发散进行稳健和有效的估计,Biometrika 85(3)(1998),549-559。 [7] Bromideh Ali Akbar和Valizadeh Reza,通过最小化Kullback-Leibler散度的比率区分γ和对数正态分布,巴基斯坦统计与运筹学杂志9(4)(2013),441-451。 [8] B.Schölkopf和A.J.Smola,《使用内核学习:支持向量机、正则化、优化及其他》,麻省理工出版社,2002年。 [9] B.Fuglede,希尔伯特空间中的螺旋。在信息论中的应用,Expositiones Mathematicae 23(2005),23-45。 [10] Arabin Kumar Dey和Debasis Kundu,区分II型删失数据的Weibull分布和对数正态分布,《理论与应用统计学杂志》46(2)(2012),197-214,doi:10.1080/02331888.2010.504990。 [11] Jens Peter Reus Christensen、Christian Berg和Paul Ressel,半群调和分析,正定及相关函数理论,Springer,纽约,纽约,1984年。http://doi.org/10.1007/978-1-4612-1128-0。 [12] Arabin Kumar Dey和Debasis Kundu,区分对数正态分布和对数对数分布,《统计学中的传播——理论和方法》39(2)(2010),280-292。doi:10.1080/03610920902737100。 [13] A.Diedhiou和P.Ngom,基于广义散度测度的截止时间,《统计学与概率快报》79(10)(2009),1343-1350。 doi:10.1016/j.spl.2009.02.006。 [14] L.Devroye和L.Gyorfi,《非参数密度估计》,《概率和数理统计中的威利级数:概率和统计丛书》,约翰·威利父子公司,纽约,1985年,368页。 [15] U.Einmahl和D.M.Mason,核型函数估计一致一致性的经验过程方法,J.Theoret。普罗巴伯。13(1) (2000), 1-37. [16] U.Einmahl和D.M.Mason,核型函数估值器带宽一致性的一致性,Ann.Statist。33(3) (2005), 1380-1403. [17] Elsherpieny、Elsayed A.Muhammed、Hiba Z.Radwan和U.Noha,《在进行II型审查的情况下区分Weibull和对数分布》,2015年,第7281-7290页。 [18] F.Itakura和S.Saito,基于最大似然法的分析合成电话,报告。第六届国际会议。,Y.Kohasi编辑,东京,C-5-5,C17-201968。 [19] F.Topsöe,Jenson-Shannon Divergence and Norm-based Measures of Discrimination and Variation,科本哈文斯大学,2003年,32页。 [20] Inderjit S.Dhillon和Suvrit Sra,具有Bregman发散的广义非负矩阵近似,第18卷,2005年。 [21]I.J.Schoenberg,度量空间与正定函数,Trans。阿默尔。数学。《社会学》第44卷(1938年),第522-536页。 [22]D.Kundu和A.Manglick,区分威布尔分布和对数正态分布,海军研究后勤51(2004),893-905。 [23]Debasis Kundu和Anubhav Manglick,对数正态分布和伽马分布的区分,《应用统计科学杂志》14(2005),175-187。 [24]S.Konishi和G.Kitagawa,模型选择中的通用信息标准,Biometrika 83(1996),875-890。 [25]F.Liese和I.Vajda,凸统计距离,《数学中的Teubner-Texte-zur Mathematik Teubner文本》95(1987),1-85。 [26]Mactar Ndaw,Macoumba Ndour和Papa Ngom,α-β对称发散及其正定核,《数学科学杂志:进展与应用》53(2018),75-100。 [27]Macoumba Ndour,Mactar Ndaw和Papa Ngom,非负矩阵因式分解和对数决定发散,第二届NLAGA-BIRS研讨会论文集,塞纳加尔斯基林,2022年1月25-30日。 [28]Macoumba Ndour、Mactar Ndaw和Papa Ngom,通过Bregman散度和应用推广β散度,《远东理论统计杂志》57(1)(2019),15-45。 [29]Papa Ngom和B.Ntep,小样本模型选择的最小惩罚Hellinger距离,开放统计杂志2(2012),369-382。 doi:10.4236/ojs.2012.24045。http://www.SciRP.org/journal/ojs). [30]M.Hein和O.Bousquet,度量空间的最大边距分类,计算学习理论和内核机器,第16届计算学习理论年会和第7届内核研讨会,COLT/Kernel 2003,华盛顿特区,美国,2003年8月24-27日。 [31]Papa Ngom,用(-发散统计选择估计模型,《全球纯粹与应用数学杂志》3(1)(2007),47-61。 [32]Papa Ngom,Hamza Dhaker,El.Hadji Deme和Pierre Mendy,发散测度的核型估计及其强一致性,美国理论与应用统计杂志5(1)(2016),13-22。 https://hal.inria.fr/hal-01207481。 [33]陈鹏文,陈云梅和拉乌拉里,Bregman发散定义的公制:第2部分,Commun。数学。科学。6(4) (2008), 927-948. [34]Q.H.Vuong,模型选择和非嵌套假设的似然比检验,《计量经济学》57(2)(1989),257-306。doi:10.307/1912557。 [35]所罗门·库尔贝克(Solomon Kullback)和理查德·莱布勒(Richard A.Leibler),《信息与充分性》(On information and sufficiency),《数理统计年鉴》22(1)(1951),79-86。 [36]V.N.Vapnik,统计学习理论,Wiley-Interscience,1998年。 [37]V.N.Vapnik,《统计学习理论的本质》,Springer-Verlag,纽约公司,美国纽约州,1995年,第79-82页。 [38]沃尔夫冈·斯塔默(Wolfgang Stummer)和伊戈尔·瓦伊达(Igor Vajda),《关于Bregman距离和概率测度的发散》,IEEE信息理论汇刊58(2012),1277-1288。 [39]谢晓然,吴晶晶,核密度估计收敛速度的一些改进,应用。数学。5 (2014), 1684-1696.http://www.scirp.org/journal/am; http://dx.doi.org/10.4236/am.2014.511161。 [40]C.Cortes和V.Vapnik,支持向量网络,机器学习20(1995),273-297。
|
|
下载次数:129 |视图数量:418 |
|