×
陆、江林;林景旭;赖志辉;王海玲;周杰

具有动态邻域结构的目标重定向回归。 （英语） Zbl 1475.62205号

信息科学。 544, 564-584 (2021).
摘要：最小二乘回归（LSR）在统计学、机器学习和模式识别领域受到了广泛关注。然而，它使用严格的零元回归目标，导致分类任务的性能较差。此外，LSR忽略了数据的局部流形结构，缺乏鲁棒性。为了解决这些问题，本文提出了一个称为RLRR的通用回归框架，其中对回归矩阵施加低秩约束，以探索类的底层相关结构。严格的零元回归目标被重定向到更可行的变量矩阵，以实现不同类别的边际放大。此外，该框架不使用预先构建的加权图，而是动态更新数据的邻域结构以保留原始流形结构。利用该框架作为通用平台，我们开发了两个基于邻域结构的动态回归模型RLRRM和RLRRP。RLRRM将重建误差最小化项集成到所提出的RLRR框架中，而RLRRP的目标是在低维子空间中保留数据的局部几何结构。RLRRM和RLRRP都使用\（ell_{2，1}）范数惩罚来代替传统的投影矩阵\（F）范数罚，以实现自适应特征选择。我们没有直接求解具有非凸约束的优化问题，而是采用可变分割和惩罚技术来获得等价解。分析了相应的收敛性和计算复杂性特征。在几个著名数据集上的大量实验证明了所提出模型的良好性能。

引用于2文件

理学硕士：

62J02型 一般非线性回归

关键词：

目标重定向回归;动态邻居;局部和全局结构保护;关节稀疏性;最小二乘回归

软件：

线圈100;AR面;费雷特;ElemStatLearn（电子状态学习）
PDF格式BibTeX公司 XML格式引用
\textit{J.Lu}等人，《信息科学》。544564-584（2021年；兹比尔1475.62205）
全文： 内政部

参考文献：

[1] Andersson，T.W.，估计正态分布回归系数的线性限制，Ann Math。《统计》，22，327-351（1951）·Zbl 0043.13902号
[2] Belhumeur，P.N。；Kriegman，D.J。；Georghiades，A.S.，《从少到多：可变光照和姿势下人脸识别的照明锥模型》，IEEE Trans。模式分析。机器。智力。，23, 643-660 (2001)
[3] X.Cai，C.Ding，F.Nie，H.Huang，关于低阶线性回归和基于线性判别分析的回归的等价性，in：Proc。第19届ACM SIGKDD国际咨询知识。发现。Data Min.KDD’13，美国纽约ACM出版社，2013年，第1124-1132页。
[4] 陈，Y。；赖，Z。；Wong，W.K。；沈，L。；胡琼，用于图像识别的低秩线性嵌入，IEEE Trans。多媒体。，20, 3212-3222 (2018)
[5] Demsar，J.，《多数据集分类器的统计比较》，J.Mach。学习。研究，7，1-30（2006）·Zbl 1222.68184号
[6] 邓，T。；Ye，D。；马·R。；Fujita，H。；熊，L.，用于子空间聚类的低秩局部切空间嵌入，信息科学。，508, 1-21 (2020) ·Zbl 1456.62119号
[7] L.Du，Y.Shen，自适应结构学习的无监督特征选择，在：Proc。第21届ACM SIGKDD国际会议知识。发现。Data Min.KDD’15，美国纽约ACM出版社，2015年，第209-218页。
[8] 方，X。；Xu，Y。；李，X。；赖，Z。；Wong，W.K。；Fang，B.，正则化标签松弛线性回归，IEEE Trans。神经网络学习。系统。，2016年10月29日至2018年10月18日
[9] Q.Gu，J.Han，面向网络特征选择，in：Proc。第20届ACM国际Conf.Inf.Knowl。管理。CIKM’11，美国纽约ACM出版社，2011年，第1175-1184页。
[10] 哈斯蒂，T。；Tibshirani，R。；Friedman，J.，《统计学习的要素：数据挖掘、推断和预测》（2001），施普林格出版社·Zbl 0973.62007号
[11] 何，P。；Xu，X。；丁，J。；Fan，B.，Stiefel流形上的低秩非负矩阵因式分解，Inf.Sci。，514, 131-148 (2020) ·Zbl 1462.62773号
[12] R.He，T.Tan，L.Wang，W.S.Zheng，（ell_{2，1}）正则化相关熵用于稳健特征选择，in：Proc。IEEE计算。Soc.Conf.计算。视觉。模式识别。，2012年，第2504-2511页。
[13] 胡，L。；张伟，带贴片嵌入的正交邻域保持判别分析人脸识别，模式识别。，106 (2020)
[14] 黄，P。；李·T。；舒，Z。；高，G。；Yang，G。；钱，C.，用于特征提取的局部正则线性回归判别分析，信息科学。，429, 164-176 (2018)
[15] 黄，S。；徐，Z。；Tsang，I.W。；Kang，Z.，带二部图的自加权多视图联合聚类，信息科学。，512, 18-30 (2020) ·Zbl 1456.68151号
[16] O.Koyejo，S.Acharyya，J.Ghosh，协作过滤的重定目标矩阵分解，in：Proc。第7次ACM Conf.Recomm。系统。《RecSys’13》，美国纽约ACM出版社，2013年，第49-56页。
[17] 赖，Z。；莫·D。；Wong，W.K。；Xu，Y。；Miao，D。；张，D.，用于特征提取的稳健判别回归，IEEE Trans。赛博。，48, 2472-2484 (2018)
[18] 李，C。；林，L。；左，W。；Tang，J。；Yang，M.-H.，通过动态图学习进行视觉跟踪，IEEE Trans。模式分析。机器。智力。，41, 2770-2782 (2019)
[19] 刘，G。；林，Z。；Yan，S。；Sun，J。；Yu，Y。；Ma，Y.，通过低秩表示实现子空间结构的稳健恢复，IEEE Trans。模式分析。机器。智力。，35, 171-184 (2013)
[20] 卢，Y。；赖，Z。；Xu，Y。；李，X。；张，D。；Yuan，C.，低水位保护预测，IEEE Trans。赛博。，46, 1900-1913 (2016)
[21] 马，Z。；Yang，Y。；塞贝，N。；郑凯。；Hauptmann，A.G.，《使用特定于分类器的中间表示的多媒体事件检测》，IEEE Trans。多媒体。，1628-1637年（2013年）
[22] A.A.Martinez，R.Benavente，AR面部数据库，CVC技术报告#241998。
[23] Nene，S。；Nayar，S。；Murase，H.，哥伦比亚大学物体图像库（COIL-100）（1996）
[24] 聂，F。；黄，H。；Cai，X.，Chris Ding，通过联合范数最小化进行高效稳健的特征选择，高级神经信息处理。系统。，23, 1813-1821 (2010)
[25] 聂，F。；朱伟。；Li，X.，无监督特征选择的结构化图优化，IEEE Trans。知识。数据工程（2019）
[26] P.J.Phillips，Hyeonjoon Moon，S.a.Rizvi，P.J.Rauss，人脸识别算法的FERET评估方法，IEEE Trans。模式分析。机器。智力。22 (2000) 1090-1104.
[27] Roweis，S.T.，通过局部线性嵌入降低非线性维数，《科学》，290，2323-2326（2000）
[28] Sheikhpour，R。；Sarram，医学硕士。；Sheikhpour，E.，通过基于图的拉普拉斯散布矩阵进行回归问题的半监督稀疏特征选择，Inf.Sci。，468, 14-28 (2018) ·Zbl 1450.62080
[29] 沈，X。；刘，S。；Bao，B。；潘，C。；查，Z。；Fan，J.，用图嵌入正则化的广义最小二乘法降维，模式识别。，98 (2020)
[30] Sun，J。；陈，Q。；Sun，J。；张，T。；方，W。；Wu，X.，视觉跟踪的图结构多任务稀疏模型，信息科学。，486, 133-147 (2019)
[31] Tenenbaum，J.B.，《非线性降维的全球几何框架》，《科学》，2902319-2323（2000）
[32] Tibshirani，R.，《通过套索进行回归选择和收缩》，J.R.Stat.Soc.Ser。B（统计方法），58267-288（1996）·兹比尔0850.62538
[33] 特克，M。；Pentland，A.，识别特征脸，J.Cogn。神经科学。，3, 71-86 (1991)
[34] H.Wang，F.Nie，H.Huang，C.Ding，通过稀疏多模态机器进行异构视觉特征融合，收录于：Proc。IEEE计算。Soc.Conf.计算。视觉。模式识别。，2013年，第3097-3102页。
[35] Wen，J。；钟，Z。；张，Z。；费，L。；赖，Z。；Chen，R.，自适应局部保持回归，IEEE Trans。电路系统。视频技术。(2018)
[36] Wong，W.K。；赖，Z。；Wen，J。；方，X。；Lu，Y.，用于鲁棒图像特征提取的低秩嵌入，IEEE Trans。图像处理。，26, 2905-2917 (2017) ·Zbl 1409.94660号
[37] 项，S。；聂，F。；孟，G。；潘，C。；Zhang，C.，多类分类和特征选择的判别最小二乘回归，IEEE Trans。神经网络学习。系统。，1738-1754年（2012年）
[38] 湘湘，朱玉柱，沈晓霞，叶建杰，最优精确最小二乘秩最小化，in：Proc。第18届ACM SIGKDD国际认证知识。发现。《最小数据》KDD’12，美国计算机学会出版社，美国纽约，2012年，第480-488页。
[39] 杨，C。；王，W。；X·冯。；He，R.，多类别分类的群判别最小二乘回归，神经计算，407175-184（2020）
[40] 袁，H。；李，J。；Lai，L.L。；唐永勇，用于图像特征提取和特征选择的低秩矩阵回归，信息科学。，522, 214-226 (2020)
[41] 袁，H。；郑洁。；Lai，L.L。；唐永勇，一个约束最小二乘回归模型，信息科学。，429, 247-259 (2018) ·Zbl 1444.62090号
[42] 张，X。；Wang，L。；项，S。；Liu，C.L.，重定目标最小二乘回归算法，IEEE Trans。神经网络学习。系统。，26, 2206-2213 (2015)
[43] 张，Z。；赖，Z。；Xu，Y。；邵，L。；吴，J。；谢刚，判别弹性网正则线性回归，IEEE Trans。图像处理。，26, 1466-1481 (2017) ·Zbl 1409.94783号
[44] 张，Z。；邵，L。；Xu，Y。；刘，L。；杨，J.，图结构自适应的边缘表示学习，IEEE Trans。神经网络学习。系统。，29, 4645-4659 (2018)
[45] Zhen，L。；彭，D。；王，W。；Yao，X.，稳健子空间聚类的核截断回归表示，Inf.Sci。，524, 59-76 (2020) ·Zbl 1458.62093号
[46] 朱，Q。；张，R。；黄，S。；张，Z。；Zhang，D.，LGSLRR：融合区分有序局部和全局结构低阶表示用于图像识别，信息科学。，539, 522-535 (2020) ·Zbl 1479.62049号
[47] 朱，Z。；Ong，Y.S。；Dash，M.，用于基因选择的马尔可夫覆盖遗传算法，模式识别。，40, 3236-3248 (2007) ·Zbl 1123.68116号
[48] 邹，H。；Hastie，T.，《通过弹性网进行正则化和变量选择》，J.R.Stat.Soc.Ser。B（统计方法），67301-320（2005）·Zbl 1069.62054号
[49] 邹，H。；哈斯蒂，T。；Tibshirani，R.，稀疏主成分分析，J.Compute。图表。统计，15，265-286（2006）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。