×

张量分解用于从矩中学习高斯混合。 (英语) Zbl 1492.14094号

给定多项式环(over(mathbb R))中的一个形式(T),构造(T)的Waring分解与确定该形式的几个性质有关^{k,d-k}_T\)第页,共页\(H)^{k,d-k}_T\)通过发送一个形式\(p\)到\(p~)的一些导数的\(T\)的收缩来定义。基于H的秩的计算,证明了一个保证T的Waring分解唯一性的准则^{k,d-k}_ T\). 该准则适用于由球面高斯混合构成的力矩形式。当唯一性成立时,作者提出了一种计算Waring分解的迭代方法,该方法使用H的奇异值分解^{k,d-k}_T\)以确定算法的起点。作者通过具体实例评估了新方法与其他最先进方法的效率。

MSC公司:

14号07 正割变种、张量秩、幂和变种
62H30型 分类和区分;聚类分析(统计方面)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿南德库马尔(Animashere Anandkumar);葛荣;许,丹尼尔;Sham M.卡卡德。;Telgarsky,Matus,学习潜在变量模型的张量分解,J.Mach。学习。第15号决议,2773-2832(2014年)·Zbl 1319.62109号
[2] 阿德奇·阿扎里尼;Menardi,Giovanna,通过非参数密度估计进行聚类:R包pdfcluster,J.Stat.Softw。,57, 11, 1-26 (2014) ·Zbl 1322.62175号
[3] Jean-Patrick Baudry;Celeux、Gilles、Em代表混合物、统计计算。,25, 4, 713-726 (2015) ·Zbl 1331.62301号
[4] 亚历山德拉·伯纳迪;杰罗姆·布拉查特;皮埃尔·科蒙(Pierre Comon);Mourrain,Bernard,《一般张量分解,矩矩阵和应用》,J.Symb。计算。,52, 51-71 (2013) ·Zbl 1275.15017号
[5] 亚历山德拉·伯纳迪;诺亚·S·达利奥。;乔纳森·霍恩斯坦(Jonathan D.Hauenstein)。;穆兰,伯纳德,张量分解和同伦延拓,Differ。地理。申请。,55, 78-105 (2017) ·Zbl 1377.65057号
[6] 克里斯托夫·比尔纳基;赛乐士、吉列;Govaert,Gérard,为em算法选择起始值,以获得多元高斯混合模型中的最高似然,Comput。统计数据分析。,41, 3-4, 561-575 (2003) ·Zbl 1429.62235号
[7] Christopher M.Bishop,模式识别和机器学习(2006),Springer·Zbl 1107.68072号
[8] 查尔斯·布维伦(Charles Bouveyron);赛乐士、吉列;Murphy,T.Brendan;Raftery,Adrian E.,《基于模型的数据科学聚类和分类:R中的应用》,第50卷(2019年),剑桥大学出版社·Zbl 1436.62006年
[9] Jerome Brachat;皮埃尔·科蒙(Pierre Comon);伯纳德·穆兰(Bernard Mourrain);Tsigaridas,Elias,对称张量分解,线性代数应用。,433, 11-12, 1851-1872 (2010) ·Zbl 1206.65141号
[10] Paul Breiding;Vannieuwenhoven,Nick,正则张量秩逼近问题的黎曼信赖域方法,SIAM J.Optim。,28, 3, 2435-2465 (2018) ·Zbl 1397.15022号
[11] 卡罗尔,J.道格拉斯;Chang,Jih Jie,通过“Eckart-Young”分解的n向推广分析多维尺度中的个体差异,Psycholometrika,35,3283-319(1970)·Zbl 0202.19101号
[12] 陈碧莲;何思迈;李振宁;张树忠,最大块改进与多项式优化,SIAM J.Optim。,22, 1, 87-107 (2012) ·Zbl 1250.90069号
[13] 基安蒂尼,卢卡;乔治·奥塔维亚尼;Vannieuwenhoven,Nick,关于次属秩对称张量的一般可识别性,Trans。美国数学。Soc.,369,6,4021-4042(2016)·Zbl 1360.14021号
[14] De Lathauwer,Lieven,多重线性代数中的正则分解与同时矩阵对角化之间的联系,SIAM J.矩阵分析。申请。,28, 3, 642-666 (2006) ·Zbl 1126.15007号
[15] 阿瑟·邓普斯特(Arthur P.Dempster)。;Laird,Nan M。;Donald B.Rubin,《通过em算法从不完整数据中获得最大似然》,J.R.Stat.Soc.,Ser。B、 Methodol.方法。,39, 1, 1-38 (1977) ·Zbl 0364.62022号
[16] 邓,李,用于机器学习研究的手写数字图像的mnist数据库,IEEE信号处理。Mag.,29,6,141-142(2012)
[17] Dheeru,Dua;Taniskidou,E.Karra,UCI机器学习库(2017)
[18] 马尔科·迪齐奥;乌戈·瓜内拉;Luzi,Orietta,有限高斯混合模型插补,计算。统计数据分析。,51, 11, 5305-5316 (2007) ·Zbl 1445.62021号
[19] 伊格纳特·多马诺夫;De Lathauwer,Lieven,《三阶张量的正则多元分解:广义特征值分解的简化》,SIAM J.矩阵分析。申请。,35, 2, 636-660 (2014) ·Zbl 1306.15022号
[20] David Eisenbud,《Syzygies的几何:交换代数和代数几何的第二门课程》(2005),施普林格,OCLC:249751633·Zbl 1066.14001号
[21] Mike Espig;沃尔夫冈·哈克布什;Khachatryan,Aram,关于张量格式表示中交替最小二乘优化的收敛性(2015),arXiv预印本
[22] Fisher,Ronald A.,《分类问题中多重测量的使用》,Ann.Eugen。,7, 2, 179-188 (1936)
[23] Fraley,Chris,基于模型的高斯层次聚类算法,SIAM科学杂志。计算。,20, 1, 270-281 (1998) ·Zbl 0911.62052号
[24] 克里斯·弗雷利(Chris Fraley);Raftery,Adrian E.,多少簇?哪种聚类方法?答案通过基于模型的聚类分析,计算。J.,41,8,578-588(1998)·Zbl 0920.68038号
[25] 克里斯·弗雷利(Chris Fraley);Raftery,Adrian E.,基于模型的聚类、判别分析和密度估计,J.Am.Stat.Assoc.,97458611-631(2002)·Zbl 1073.62545号
[26] Jouhayna Harmouch;哈利勒(Khalil)、胡萨姆(Houssam);Mourrain,Bernard,多元Hankel矩阵的结构化低秩分解,线性代数应用。,542, 161-185 (2018) ·Zbl 1417.15044号
[27] Harshman,Richard,《parafac程序的基础:“解释性”多模态因子分析的模型和条件》,加州大学洛杉矶分校工作,巴普。电话:。,16, 1-84 (1970)
[28] 特雷弗·哈斯蒂;Robert Tibshirani,《高斯混合判别分析》,J.R.Stat.Soc.,Ser。B、 Methodol.方法。,58, 1, 155-176 (1996) ·Zbl 0850.62476号
[29] 乔纳森·霍恩斯坦(Jonathan D.Hauenstein)。;卢克·奥丁(Luke Oeding);乔治·奥塔维亚尼;Sommese,Andrew J.,张量分解和完全可识别性的同伦技术,J.Reine Angew。数学。,2019, 753, 1-22 (2019) ·Zbl 1440.15019号
[30] 池野幸树;Hayashi,Fumi,求解parafac-model的新算法,Behaviormetrica,9,11,49-60(1982)
[31] 何开明;张向玉;任少清;孙健,图像识别的深度残差学习,(IEEE计算机视觉与模式识别会议论文集(2016)),770-778
[32] 安托万·胡达德;查尔斯·布维伦(Charles Bouveyron);Delon,Julie,无监督图像去噪(HDMI)的高维混合模型,SIAM J.Imaging Sci。,11, 4, 2815-2846 (2018) ·Zbl 1475.94018号
[33] 徐,Daniel;Kakade,Sham M.,学习球形高斯的混合:矩方法和谱分解,(第四届理论计算机科学创新会议论文集,ITCS'13。《第四届理论计算机科学创新会议论文集》,ITCS’13,美国纽约州纽约市(2013),计算机协会,11-20·Zbl 1362.68246号
[34] 劳伦斯·休伯特;Arabie,Phipps,比较分区,J.Classif。,2, 1, 193-218 (1985) ·Zbl 0587.62128号
[35] 马吉德·扬扎敏;葛荣;让·科斯赛菲(Jean Kossaifi);Anandkumar,Anima,矩阵和张量的谱学习,Found。趋势马赫数。学习。,12, 5-6, 393-536 (2019) ·Zbl 1436.68004号
[36] 伊恩·乔利夫(Ian Jolliffe),主成分分析,1094-1096(2011),斯普林格-柏林-海德堡:斯普林格
[37] 库贾,里马;哈利勒(Khalil)、胡萨姆(Houssam);Mourrain,Bernard,对称张量近似问题的黎曼-牛顿优化方法,线性代数应用。,637, 175-211 (2022) ·Zbl 1481.15028号
[38] Joe Kileel,Pereira,Joáo M.,2019-12-09。对称张量分解的子空间幂方法和广义PCA。
[39] 塔马拉·科尔达(Tamara G.Kolda)。;Bader,Brett W.,张量分解与应用,SIAM Rev.,51,3,455-500(2009)·Zbl 1173.65029号
[40] Le Cam,Lucien,《最大可能性:导论》,《国际统计评论》,153-171(1990)·兹比尔0715.62045
[41] 雷米·勒布雷特;谢尔盖·洛夫勒夫;佛罗伦萨,兰格罗涅特;克里斯托夫·比尔纳基;赛乐士、吉列;Govaert,Gérard,Rmixmod:基于模型的非监督、监督和半监督分类Mixmod库的R包,J.Stat.Softw。,67, 6, 1-29 (2015)
[42] Leurgans,Sue E。;罗伯特·T·罗斯。;Abel,R.B.,《三向阵列的分解》,SIAM J.《矩阵分析》。申请。,14, 4, 1064-1083 (1993) ·Zbl 0788.65145号
[43] 卢西亚尼(Xavier Luciani);Albera,Laurent,基于联合特征值分解的正则多元分解,Chemom。智力。实验室系统。,132, 152-167 (2014)
[44] Macqueen,J.,多元观测的分类和分析的一些方法,(第五届伯克利数理统计和概率研讨会(1967)),281-297·Zbl 0214.46201号
[45] 杰弗里·麦克拉克伦(Geoffrey J.McLachlan)。;Lee,Sharon X。;Rathnayake,Suren I.,有限混合模型,年度。修订状态申请。,6, 355-378 (2019)
[46] 沃洛德迈尔·梅尼科夫(Volodymyr Melnykov);Maitra,Ranjan,有限混合模型和基于模型的聚类,统计调查。,4, 80-116 (2010) ·Zbl 1190.62121号
[47] 阮忠天;Faicel Chamroukhi;Nguyen,Hien D。;McLachlan,Geoffrey J.,通过Lebesgue空间中的位置尺度有限混合近似概率密度函数(2020),arXiv预印本·Zbl 1486.62048号
[48] 卢克·奥丁(Luke Oeding);Ottaviani,Giorgio,张量特征向量和Waring分解算法,J.Symb。计算。,54, 9-35 (2013) ·Zbl 1277.15019号
[49] Paatero,Pentti,《多线性引擎——解决多线性问题的表驱动最小二乘程序》,包括n向并行因子分析模型,J.Compute。图表。Stat.,8,4,854-888(1999)
[50] 皮尔逊,卡尔,对进化数学理论的贡献,菲洛斯。事务处理。R.Soc.伦敦。A、 18571-110(1894)
[51] Pearson F.R.S.、Karl、LIII。在最接近空间点系的直线和平面上,菲洛斯。杂志,2,11,559-572(1901)
[52] Joáo M.Pereira。;乔·基列;Kolda,Tamara G.,高斯混合模型的张量矩:理论与应用(2022),arXiv预印本
[53] Anh-Huy Phan;蒂查夫斯克,Petr;Cichocki,Andrzej,用于candecomp/parafac的低复杂度阻尼Gauss-Newton算法,SIAM J.矩阵分析。申请。,34, 1, 126-147 (2013) ·Zbl 1365.65071号
[54] 斯蒂芬·拉班瑟(Stephan Rabanser);Oleksandr Shchur;Günnemann,Stephan,《张量分解及其在机器学习中的应用导论》(2017),评论:13页,12幅图
[55] 杰拉尔德·M·雷文(Gerald M.Reaven)。;Miller,Rachel G.,《利用多维分析定义化学性糖尿病本质的尝试》,《糖尿病》,第16期,第17-24页(1979年)
[56] 鲁菲尼(Ruffini)、马特奥(Matteo);里卡德·加瓦尔达;Limón,Esther,使用张量分解对患者进行聚类,(医疗保健会议机器学习(2017),PMLR),126-146
[57] 尤金尼奥·桑切斯、科瓦尔斯基、布鲁斯·R·桑切斯,1990年。张量分解:直接三线性分解。未定义。
[58] 豪尔赫·Sánchez;佛罗伦萨佩罗宁;托马斯·门辛克(Thomas Mensink);Verbeek,Jakob,用Fisher向量进行图像分类:理论和实践,国际计算机杂志。视觉。,105, 3, 222-245 (2013) ·Zbl 1286.68447号
[59] 贝尔坎特萨瓦斯;Lim,Lek-Heng,关于grassmannian和张量的多线性近似的拟Newton方法,SIAM J.Sci。计算。,32, 6, 3352-3393 (2010) ·Zbl 1226.65058号
[60] 吉迪恩·施瓦兹(Gideon Schwarz),《估算模型的维数》,《Ann.Stat.》,第6、2、461-464页(1978年)·Zbl 0379.62005年
[61] 卢卡·斯克鲁卡;迈克尔·福普(Michael Fop);Murphy,T.Brendan;Raftery,Adrian E.,mclust 5:使用高斯有限混合模型进行聚类、分类和密度估计,R J.,8,1,289-317(2016)
[62] 劳伦特·索伯(Laurent Sorber);马克·范·巴雷尔(Marc Van Barel);De Lathauwer,Lieven,张量分解的基于优化的算法:规范多元分解,(r an k-(l_r,l_r、1)项分解,以及一个新的推广,SIAM J.Optim。,23, 2, 695-720 (2013) ·兹比尔1277.90073
[63] 斯特拉森,沃尔克,广义张量的秩和最优计算,线性代数应用。,52-53, 645-685 (1983) ·Zbl 0514.15018号
[64] 乔治·托马西;Bro,Rasmus,拟合parafac模型的算法比较,计算。统计数据分析。,50, 7, 1700-1734 (2006) ·Zbl 1445.62136号
[65] Uschmajew,André,正则张量近似的交替最小二乘算法的局部收敛性,SIAM J.矩阵分析。申请。,33, 2, 639-652 (2012) ·Zbl 1252.65085号
[66] 瓦西亚纳坦、希瓦库马尔;Dom,Byron,基于模型的层次聚类,(第16届人工智能不确定性会议论文集,UAI'00)。《第16届人工智能不确定性会议论文集》,UAI'00,美国加利福尼亚州旧金山(2000),摩根考夫曼出版社,599-608
[67] Van der Vaart,Aad W.,《渐进统计》(1998),剑桥大学出版社·Zbl 0910.62001号
[68] 徐磊;Jordan,Michael I.,关于高斯混合的em算法的收敛性,Neural Comput。,8, 1, 129-151 (1996)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。