×

关于fastICA算法中熵的估计。 (英语) Zbl 1461.62086号

摘要:fastICA方法是一种常用的降维技术,用于揭示数据中的模式。在这里,我们从理论和实践两方面表明,fastICA中使用的近似值可能导致模式无法成功识别。我们使用一个二维示例来演示这个问题,其中肉眼可以立即看到清晰的结构,但fastICA选择的投影无法显示该结构。这意味着在应用fastICA时需要小心。我们讨论了问题是如何产生的,以及它是如何与构成fastICA计算效率基础的近似值内在联系的。

MSC公司:

62H25个 因子分析和主成分;对应分析
62-08 统计问题的计算方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 阿玛里,S。;Cichocki,A。;Yang,H.,《盲信号分离的一种新学习算法》(Adv.Neural Inf.Process.Syst.(1996),麻省理工学院出版社),757-763
[2] 巴赫,F。;Jordan,M.,《内核独立成分分析》,J.Mach。学习。决议,2002年7月3日至48日·兹比尔1088.68689
[3] 贝兰特,J。;杜德维茨,E.J。;Györfi,L。;Van der Meulen,E.C.,《非参数熵估计:综述》,《国际数学杂志》。统计科学。,6, 1, 17-39 (1997) ·兹比尔0882.62003
[4] 盖,T。;Thomas,J.,《信息理论的要素》(2012),John Wiley&Sons,纽约
[5] Diaconis,P。;Freedman,D.,《图形投影追踪的渐近性》,Ann.Statist。,12, 3, 793-815 (1984) ·Zbl 0559.62002号
[6] 德雷珀,B。;Baek,K。;Bartlett,M。;Beveridge,J.,用PCA和ICA识别人脸,计算机。视觉。图像理解。,91, 1-2, 115-137 (2003)
[7] 法哈特,M。;Gritli,Y。;Benrejeb,M.,《风力涡轮机机电系统机械故障检测和识别的Fast-ICA》,国际高级计算杂志。科学。申请。,8, 7, 431-439 (2017)
[8] Ghaffarian,S。;Ghaffarian,S.,使用单目高分辨率Google Earth图像基于Purposive FastICA(PFICA)算法的自动建筑物检测,ISPRS J.Photogram。遥感,97,152-159(2014)
[9] Hall,P.,m-空间一般函数和的极限定理,剑桥哲学学会数学学报,96,3,517-532(1984)·Zbl 0559.62013年
[10] 何,X。;He,F。;Zhu,T.,使用具有有理非线性的快速ICA分离大尺度超高斯源,国际。J.改编。控制信号处理。,31, 3, 379-397 (2017) ·Zbl 1362.93149号
[11] Hyvärinen,A.,《用于独立成分分析和投影追踪的差分熵新近似》(1997年神经信息处理系统进展会议论文集10(1998),麻省理工学院出版社),273-279
[12] Hyvärinen,A.,《独立元件分析的快速稳健定点算法》,IEEE Trans。神经网络。,10, 3, 626-634 (1999)
[13] Hyvärinen,A。;Karhunen,J。;Oja,E.,《独立成分分析》(2001),John Wiley&Sons,纽约
[14] Hyvärinen,A。;Oja,E.,《独立成分分析:算法和应用》,神经网络。,13, 4, 411-430 (2000)
[15] Lawrence,E.,偏微分方程(1998),美国数学学会:美国数学学会纽约·Zbl 0902.35002号
[16] Learnd-Miller,E。;Fisher,J.,ICA使用熵的间距估计,J.Mach。学习。1271-1295年12月4日决议(2003年)·Zbl 1061.62007年
[17] Marchini,J。;希顿,C。;Ripley,B.,FastICA:FastICA算法用于执行ICA和投影追踪(2013),R包版本1.2-0
[18] Miettinen,J。;诺德豪森,K。;Oja,H。;Taskinen,S.,具有非线性自适应选择的基于通缩的快速ICA,IEEE Trans。信号处理。,6215716-5724(2014)·Zbl 1394.94394号
[19] Miettinen,J。;Taskinen,S。;诺德豪森,K。;Oja,H.,第四矩和独立分量分析,统计科学。,30, 3, 372-390 (2015) ·Zbl 1332.62196号
[20] 史密斯,P。;沃斯,J。;Issoglio,E.,ClusterICA(2020年),编制中
[21] Stone,J.,《独立成分分析:教程导论》(2004),麻省理工学院出版社:麻省理学院出版社
[22] Vasicek,O.,《基于样本熵的正态性检验》,J.R.Stat.Soc.Ser。B统计方法。,38, 1, 54-59 (1976) ·Zbl 0331.62031号
[23] Wei,T.,关于fastICA算法的伪解,(2014 IEEE统计信号处理研讨会(SSP)(2014)),161-164
[24] Wei,T.,基于紧缩的FastICA算法的不动点和伪解研究,神经计算。申请。,28, 1, 13-24 (2017)
[25] von Weizsäcker,H.,Sudakov的典型边缘,随机线性泛函和条件中心极限定理,Probab。理论相关领域,107,3,313-324(1997)·Zbl 0868.60009号
[26] 杨,C.-H。;Shih,Y.-H先生。;Chiueh,H.,An\(81.6\ operatorname{\mu}W\)fastICA癫痫发作检测处理器,IEEE Trans。生物识别。电路系统。,9, 1, 60-71 (2015)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。