×
王世平;陈兆良;朱威廉;王飞跃

用于大规模数据表示的酉不变性的深度随机游动。 （英语） Zbl 1484.68199号

信息科学。 554, 1-14 (2021).
摘要：数据表示旨在学习有效的低维表示，这在机器学习和计算机视觉中一直是一项具有挑战性的任务。它可以大大提高特定学习任务的性能。无监督方法广泛应用于数据表示，它考虑了数据之间的内部联系。大多数现有的无监督模型通常使用特定的范数来支持输入数据的某些分布，从而导致给定学习任务的不可持续的令人鼓舞的表现。本文提出了一种有效的数据表示方法来解决大规模特征表示问题，其中利用酉不变性的深度随机游动来学习判别特征。首先，将数据表示形式化为深度随机游走问题，其中使用单位不变范数来捕获隐藏在数据中的各种有益观点。它被嵌入到状态转移矩阵模型中，在该模型中，可以使用任意数量的转移步骤进行精确的亲和力评估。其次，将数据表示问题转化为具有酉不变性的高阶矩阵分解任务。第三，证明了公式化数据表示问题的封闭解，为解决高阶矩阵分解问题提供了一个新的视角。最后，在公开的真实世界数据集中进行了广泛的对比实验。此外，实验结果表明，该方法在数据聚类方面比其他比较先进的方法具有更好的性能。

引用于1文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
15A23型 矩阵的因式分解
60克50 独立随机变量之和；随机游走
68T09号 数据分析和大数据的计算方面

关键词：

机器学习;特征表示;深随机游走;酉不变性;封闭式解决方案

软件：

达奇;KPCA加LDA;t产品;MVS网络;单词2vec
PDF格式BibTeX公司 XML格式引用
\textit{S.Wang}等人，《信息科学》。554，1-14（2021；Zbl 1484.68199）
全文： 内政部

参考文献：

[1] 阿亚斯，S。；Ekinci，M.，使用字典学习和稀疏编码的单图像超分辨率，多尺度和多方向gabor特征表示，Inf.Sci。，512, 1264-1278 (2020)
[2] 贝尔金，M。；Niyogi，P.，用于嵌入和聚类的拉普拉斯特征映射和光谱技术，（神经信息处理系统进展（2002）），585-591
[3] 陈，C。；陈，Z。；江，B。；Jin，X.，用于无监督深层域自适应的联合域对齐和鉴别特征学习，（第三十三届AAAI人工智能会议论文集（2019）），3296-3303
[4] 陈，P.-H。；杨海川。；陈，K.-W。；Chen，Y.-S.，Mvsnet++：多视点立体声基于深度的注意力金字塔特征学习，IEEE Trans。图像处理。，29, 7261-7273 (2020) ·兹伯利07586398
[5] 戴，X。；苏，X。；张伟。；薛，F。；Li，H.，用于图像恢复和表示的鲁棒曼哈顿非负矩阵分解，Inf.Sci。，527, 70-87 (2020) ·Zbl 1462.62399号
[6] 杜尔什，J.A。；Gu，M.，等级揭示矩阵分解和低阶近似的随机投影，SIAM Rev.，62，661-682（2020）·Zbl 07279897号
[7] 费德里奇，M。；A.杜塔。；福雷，P。；北卡罗来纳州库什曼。；Akata，Z.，《通过多视角信息瓶颈学习稳健表征》（《学习表征国际会议论文集（2020）》），1-26
[8] Feige，I.，多类数据的不变等变表示学习，（第三十六届机器学习国际会议论文集（2019）），1882-1891
[9] X·冯。；Wu，S.，通过数据表示的自定步长学习实现稳健稀疏编码，信息科学。，546, 448-468 (2020) ·Zbl 1475.68121号
[10] 龚，C。；Shi，H。；杨，J。；Yang，J.，《视觉分析的多形式积极和无标记学习》，IEEE Trans。电路系统。视频技术。，30, 1396-1409 (2020)
[11] 郭，L。；蔡，X。；秦，H。；郭毅。；李，F。；Tian，G.，基于内容敏感的deepwalk方法的引文建议，（第十九届IEEE数据挖掘国际会议论文集（2019）），538-543
[12] Hardoon，D.R。；塞德马克，S。；Shawe-Taylor，J.，典型相关分析：学习方法应用概述，神经计算。，16, 2639-2664 (2004) ·Zbl 1062.68134号
[13] 何，X。；蔡，D。；Yan，S。；张海杰，邻域保护嵌入，（IEEE国际计算机视觉会议（2005）），1208-1213
[14] X.He，P.Niyogi，局部保持投影。《神经信息处理系统进展》，2004年。第153-160页。
[15] 辛顿，G.E。；Salakhutdinov，R.R.，《用神经网络降低数据的维数》，《科学》，313504-507（2006）·Zbl 1226.68083号
[16] 徐，C.-C。；Lin，C.-W.，基于Cnn的联合聚类和表示学习，用于大规模图像数据的特征漂移补偿，IEEE Trans。多媒体，20，421-429（2018）
[17] Huynh-The，T。；华，C.-H。；Ngo，T.-T。；Kim，D.-S.，基于三维骨骼动作识别的姿势转换特征图像表示，信息科学。，513, 112-126 (2020)
[18] 吉恩，N。；王，S。；萨马尔，A。；Azzari，G。；Lobell，D。；Ermon，S.，Tile2vec:空间分布数据的无监督表示学习，（第三十三届AAAI人工智能会议论文集，第33卷（2019）），3967-3974
[19] Jin，S。；怀斯曼，S。；斯特拉托斯，K。；Livescu，K.，低资源文本分类的离散潜在变量表示，（计算语言学协会第58届年会（2020年）会议记录），4831-4842
[20] 景，P。；苏，Y。；李，Z。；Nie，L.，学习多视图聚类的鲁棒亲和图表示，信息科学。，544, 155-167 (2020) ·Zbl 1475.68276号
[21] Lee，D.D。；Seung，H.S.，通过非负矩阵分解学习对象的各个部分，《自然》，401，788-791（1999）·Zbl 1369.68285号
[22] 李，Z。；刘杰。；Tang，J。；Lu，H.，数据表示的鲁棒结构化子空间学习，IEEE Trans。模式分析。机器。智力。，37, 2085-2098 (2015)
[23] 李，Z。；刘杰。；Yang，Y。；周，X。；Lu，H.，无监督特征选择的聚类引导稀疏结构学习，IEEE Trans。知识。数据工程，26，2138-2150（2014）
[24] 李，Z。；Tang，J。；Mei，T.，社会形象理解的深度协作嵌入，IEEE Trans。模式分析。机器。智力。，41, 2070-2083 (2019)
[25] 卢，C。；冯，J。；陈，Y。；刘，W。；林，Z。；Yan，S.，采用新张量核范数的张量稳健主成分分析，IEEE Trans。模式分析。机器。智力。，42, 925-938 (2020)
[26] 卢，Y。；袁，C。；赖，Z。；李，X。；张，D。；Wong，W.K.，图像表示的基于水平和垂直核规范的2dlda，IEEE Trans。电路系统。视频技术。，29, 941-955 (2019)
[27] Meng，Y。；Shang，R。；尚，F。；Jiao，L。；Yang，S。；Stolkin，R.，《数据表示的双正交约束半监督图正则化深nmf》，IEEE Trans。神经网络学习。系统。，31, 3245-3258 (2020)
[28] Mikolov，T。；Sutskever，I。；Chen，K.，单词和短语的分布式表示及其组合，（神经信息处理系统进展（2013）），3111-3119
[29] 聂，F。；袁杰。；Huang，H.，最优均值稳健主成分分析，（第31届机器学习国际会议论文集（2014）），1062-1070
[30] 彭，H。；长，F。；Ding，C.，基于最大相关性、最大相关性和最小冗余的互信息准则的特征选择，IEEE Trans。模式分析。机器。智力。，27, 1226-1238 (2005)
[31] 佩雷拉，P。；莫拉里奥，V.I。；Jain，R。；Manjunatha，V。；威金顿，C。；Ordonez，V。；Patel，V.M.，开放集识别的生成-鉴别特征表示，（计算机视觉和模式识别国际会议论文集（2020）），11811-11820
[32] Perozzi，B。；Al-Rfou，R。；Skiena，S.，Max-margin deepwalk:网络表征的判别学习，（第二十届ACM SIGKDD国际知识发现和数据挖掘会议论文集（2014）），701-710
[33] Roweis，S.T。；Saul，L.K.，局部线性嵌入的非线性降维，科学，2902323-2326（2002）
[34] 舒，Z。；吴，X.-J。；你，C-Z。；刘，Z。；李，P。；风扇，H。；Ye，F.，用于数据表示的秩约束非负矩阵分解，Inf.Sci。，528133-146（2020）·Zbl 1459.68187号
[35] Sutton，R.S。；Barto，A.G.，《强化学习：简介》，IEEE Trans。神经网络，9（1998），1054-1054
[36] Tenenbaum，J.B。；德席尔瓦，V。；Langford，J.C.，《非线性降维的全球几何框架》，《科学》，290，2319-2323（2000）
[37] 图，C。；张伟。；刘，Z。；Sun，M.，Max-margin deepwalk:网络表征的判别学习，（第二十五届国际人工智能联合会议论文集（2016）），3889-3895
[38] 王建新。；Kurth-Nelson，Z。；Kumaran博士。；Tirumala，D.，作为元增强学习系统的前额叶皮层，《国家神经科学》。，21, 860-868 (2018)
[39] 王，Q。；赖，J。；克莱森，L。；杨，Z。；Lei，L。；刘伟，《一种新的特征表示：用于图像检索的卷积核聚合》，神经网络，130，1-10（2020）
[40] 王，S。；丁，Z。；Fu，Y.，识别功能支持的图像表示编码器，IEEE Trans。图像处理。，28, 3728-3738 (2019) ·Zbl 07122937号
[41] 王，S。；郭伟，用于多模态特征表示的稀疏多图嵌入，IEEE Trans。多媒体，191454-1466（2017）
[42] 王，S。；佩德里茨，W。；朱，Q。；朱伟，通过矩阵分解实现无监督特征选择的子空间学习，模式识别。，48, 10-19 (2015) ·Zbl 1373.68338号
[43] 王，S。；朱伟，稀疏图嵌入无监督特征选择，IEEE Trans。系统。，控制论：系统。，48, 329-341 (2018)
[44] 王，X。；刘，Y。；聂，F。；Huang，H.，判别无监督降维，（第二十四届国际人工智能联合会议论文集（2015）），3925-3931
[45] Xiao，Y。；李，R。；卢，X。；刘毅，基于特征表示与融合的链路预测，信息科学。，548, 1-17 (2020) ·Zbl 1479.91286号
[46] 徐，M。；朱，Z。；张，X。；Zhao，Y。；Li，X.，多视图数据表示的规范相关分析，IEEE Trans。赛博，1-11（2019）
[47] Yan，W。；孙，Q。；Sun，H。；李毅，用于图像集分类的联合降维和度量学习，信息科学。，516, 109-124 (2020) ·Zbl 1457.68243号
[48] 杨，C。；刘，Z。；赵，D。；孙，M。；Chang，E.Y.，富文信息网络表征学习，（第二十四届国际人工智能联合会议论文集（2015）），2111-2117
[49] 杨，J。；Frangi，A.F。；Yang，J.-Y。；张，D。；Jin，Z.，Kpca plus lda：用于特征提取和识别的完整核fisher判别框架，IEEE Trans。模式分析。机器。智力。，27230-244（2005年）
[50] 杨，Z。；李强。；文音，L。；Lv，J.，用于多域事件检测的共享多视图数据表示，IEEE Trans。模式分析。机器。智力。，42, 1243-1256 (2020)
[51] Yu，Y.-L。；Schuurmans，D.，闭式解的秩/范数正则化：子空间聚类的应用，（国际人工智能联合会议论文集（2011）），778-785
[52] 袁，X。；黄，B。；Wang，Y。；杨，C。；Gui，W.，基于深度学习的特征表示及其在可变加权sae软传感器建模中的应用，IEEE Trans。工业。信息，14，3235-3243（2018）
[53] Zhan，X.，矩阵理论（2013），美国数学学会：美国数学学会普罗维登斯·Zbl 1275.15001号
[54] 朱，Q。；徐，N。；黄，S。；钱，J。；Zhang，D.，《稳健（ell_p）范数稀疏表示的自适应特征加权及其在生物特征图像分类中的应用》，Int.J.Mach。学习。赛博。，11, 463-474 (2020)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。