×

对称正定矩阵流形上的概率学习矢量量化。 (英语) Zbl 1521.68161号

摘要:本文在概率学习矢量量化框架下,提出了一种新的流形值数据分类方法。在许多分类场景中,数据可以自然地用对称正定矩阵表示,这些矩阵本质上是曲线黎曼流形上的点。由于黎曼流形的非欧几里德几何性质,传统的欧几里得机器学习算法对此类数据的学习效果较差。本文推广了具有黎曼自然度量(仿射不变度量)的对称正定矩阵流形上的数据点的概率学习矢量量化算法。利用诱导的黎曼距离,推导出概率学习黎曼空间量化算法,通过黎曼梯度下降获得学习规则。对合成数据、图像数据和运动图像脑电图(EEG)数据的实证研究表明,该方法具有优越的性能。

MSC公司:

68T05型 人工智能中的学习和自适应系统
62H30型 分类和区分;聚类分析(统计方面)
62兰特 歧管统计

软件:

CIFAR公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Ang,K.K.,Chin,Z.Y.,Zhang,H.,&Guan,C.(2008)。脑机接口中的滤波器组公共空间模式(FBCSP)。2008年,IEEE神经网络国际联合会议(IEEE计算智能世界大会)(第2390-2397页)。
[2] Arsigny,V。;菲尔拉德,P。;佩内克,X。;Ayache,N.,扩散张量快速简单演算的对数核素度量,医学中的磁共振,56,411-421(2006)
[3] Barachant,A。;阀盖,不锈钢。;康格多,M。;Jutten,C.,黎曼几何对多类脑-计算机接口的分类,IEEE生物医学工程学报,59,4,920-928(2012)
[4] 巴拉尚特,A。;阀盖,不锈钢。;康格多,M。;Jutten,C.,使用基于黎曼核的BCI应用协方差矩阵分类,神经计算,112,10,172-178(2013)
[5] Bonnabel,S.,黎曼流形上的随机梯度下降,IEEE自动控制汇刊,58,9,2217-2229(2013)·兹比尔1369.90110
[6] Burges,C.J.C.,模式识别、数据挖掘和知识发现支持向量机教程,121-167(1998)
[7] 康格多,M。;Barachant,A。;Bhatia,R.,基于EEG的脑机接口的黎曼几何;《大脑-计算机接口》(Brain-Computer Interfaces)入门和综述,4、3、155-174(2017)
[8] Curtis,M.L.,《矩阵群》(1979),《斯普林格·弗拉格:斯普林格尔·弗拉格纽约海德堡》·Zbl 0425.22013号
[9] 费舍尔,L。;内贝尔·D·。;维尔曼,T。;锤子,B。;Wersing,H.,《学习矢量量化的拒绝策略——概率和确定性方法的比较》(Villmann,T.;Schleif,F.-M.;Kaden,M.;Lange,M.,《自组织映射和学习矢量量化进展》(2014),Springer International Publishing:Springer国际出版公司Cham),109-118
[10] 弗莱彻,P.T。;Joshi,S.,《对称空间的主要测地分析:扩散张量的统计》(Sonka,M.;Kakadiaris,I.A.;Kybic,J.,《医学和生物医学图像分析中的计算机视觉和数学方法》(2004),施普林格-柏林-海德堡:施普林格–柏林-海德堡-柏林,海德堡),87-98
[11] 弗莱彻,P.T。;卢,C。;Pizer,S.M。;Joshi,S.,《形状非线性统计研究的主测地线分析》,IEEE医学成像学报,23,8,995-1005(2004)
[12] 高,Z。;Wu,Y。;哈兰迪,M。;Jia,Y.,SPD流形上基于相似性分类的稳健距离度量,IEEE神经网络和学习系统汇刊,PP,99,1-15(2019)
[13] 锤子,B。;内贝尔,D。;里德尔,M。;Villmann,T.,《基于生成与区分原型的分类》(Villmann-T.;Schleif,F.-M.;Kaden,M.;Lange,M.,《自组织映射和学习矢量量化的进展》(2014),Springer International Publishing:Springer国际出版公司Cham),123-132
[14] 锤子,B。;Villmann,T.,广义相关学习矢量量化,神经网络,15,8-9,1059-1068(2002)
[15] 哈兰迪,M。;Salzmann,M。;Hartley,R.,《SPD流形上的降维:几何软件方法的出现》,IEEE模式分析和机器智能汇刊,40,1,48-62(2018)
[16] Harandi,M.T.、Sanderson,C.、Hartley,R.和Lovell,B.C.(2012年)。对称正定矩阵的稀疏编码和字典学习:一种核方法。在欧洲计算机视觉会议上。
[17] Huang,Z.、Wang,R.、Shan,S.、Li,X.和Chen,X.(2015)。对称正定流形上的对数核素度量学习及其在图像集分类中的应用。第32届机器学习国际会议(第1卷)(第720-729页)。
[18] 贾亚苏马纳,S。;哈特利,R。;Salzmann,M。;李,H。;Harandi,M.,带高斯RBF核的黎曼流形上的核方法,IEEE模式分析和机器智能汇刊,37,12,2464-2477(2015)
[19] Kohonen,T.,用于模式识别的学习矢量量化技术报告TKKF-A601(1986),赫尔辛基理工大学:赫尔辛基科技大学,芬兰埃斯波
[20] Krizhevsky,A.,《从微小图像中学习多层特征》(2009),多伦多大学计算机科学系(硕士论文)
[21] Moakher,M.,对称正定矩阵几何平均值的微分几何方法,暹罗矩阵分析与应用杂志,26,3,735-747(2008)·Zbl 1079.47021号
[22] 莫里茨,G.W。;Martin,B.,多类通用空间模式和信息理论特征提取,IEEE生物医学工程学报,55,1991-2000(2008)
[23] 镍,碳。;Charoenphakdee,N。;本田,J。;Sugiyama,M.,《关于拒绝多类分类的可能性和不可能性》(2019年),预印本arXiv:1901.10655v1
[24] 诺瓦·D。;Estévez,P.A.,《学习向量量化分类器综述》,神经计算与应用,25,3-4,511-524(2014)
[25] 佩恩,X。;菲尔拉德,P。;Ayache,N.,张量计算的黎曼框架,国际计算机视觉杂志,66,1,41-66(2006)·Zbl 1287.53031号
[26] 赛义德,S。;Lombrun,L。;Berthoumieu,Y。;Manton,J.H.,对称正定矩阵空间上的黎曼高斯分布,IEEE信息理论汇刊,63,4,2153-2170(2017)·Zbl 1366.15029号
[27] Saralajew,S.和Villmann,T.(2016)。广义学习矢量量化中的自适应切线距离用于变换和失真不变分类学习。2016年神经网络国际联合会议(第2672-2679页)。
[28] 佐藤。;Yamada,K.,《广义学习矢量量化》(Touretzky,D.;Mozer,M.;Hasselmo,M.,《神经信息处理系统的进展》8(1996),麻省理工学院出版社),423-429
[29] 施耐德,P。;比尔,P。;Hammer,B.,学习矢量量化中的自适应相关矩阵,神经计算,21,12,3532-3561(2009)·Zbl 1192.68537号
[30] 施耐德,P。;贝尔,M。;Hammer,B.,概率原型模型中的超参数学习,神经计算,73,7-9,1117-1124(2010)
[31] Seo,S。;博德,M。;Obermayer,K.,《软最接近原型分类》,IEEE神经网络汇刊,14,2390(2003)
[32] Seo,S。;Obermayer,K.,软学习矢量量化,神经计算,15,7,1589(2003)·Zbl 1085.68135号
[33] Simonyan,K.和Zisserman,A.(2015)。用于大规模图像识别的深度卷积网络。在ICLR中。
[34] 唐,F。;范,M。;Tińo,P.,广义学习黎曼空间量化:SPD矩阵的黎曼流形的案例研究,IEEE神经网络和学习系统汇刊,32,1281-292(2021)
[35] Tangermann,M。;穆勒,K.R。;Aertsen,A.,BCI竞赛综述IV,神经科学前沿,6,55(2012)
[36] Tuzel,O.、Porikli,F.和Meer,P.(2006)。区域协方差:用于检测和分类的快速描述符。在欧洲计算机视觉会议上·Zbl 1359.94040号
[37] Tuzel,O。;Porikli,F。;Meer,P.,通过黎曼流形分类进行行人检测,IEEE模式分析和机器智能汇刊,30,10,1713-1727(2008)
[38] 维穆拉帕利,R。;Jacobs,D.W.,对称正定矩阵的黎曼度量学习(2015),arXiv:arXiv:1501.02393
[39] Villmann,A.、Kaden,M.、Saralajew,S.和Villmanm,T.(2018年)。用于分类学习中概率类分配的交叉熵概率学习矢量量化。第17届人工智能和软计算国际会议论文集·Zbl 1508.68299号
[40] Wang,R.、Guo,H.、Davis,L.S.和Dai,Q.(2012)。协方差判别学习:一种自然有效的图像集分类方法。IEEE计算机学会计算机视觉和模式识别会议(第2496-2503页)。
[41] Wilcoxon,F.,《通过排名方法进行个体比较》,《生物统计学公报》,第1、6、80-83页(1945年)
[42] 谢,X。;于振林。;卢,H。;顾,Z。;Li,Y.,基于对称正定矩阵的双线性子流形学习的运动图像分类,IEEE神经系统与康复工程汇刊,25,6504-516(2017)
[43] 赵,D。;唐,F。;Si,B。;Feng,X.,学习小标记数据EEG解码的联合时空频率特征,神经网络,114(2019)
[44] 周,L。;Lei,W。;张杰。;Shi,Y。;Yang,G.,《重新审视基于SPD矩阵的视觉表征的度量学习》(计算机视觉与模式识别(2017))
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。