马可·西尼奥雷托;利文德拉托沃;约翰·苏肯斯（Johan A.K.Suykens）。 张量数据分析的基于核的框架。 （英语） Zbl 1250.68229号 神经网络。 24，第8期，861-874（2011）. 摘要：基于张量的学习技术允许人们利用精心选择的数据表示的结构。这是一个理想的特性，尤其是当训练模式的数量很少时，这在生物信号处理和化学计量学等领域通常是如此。然而，基于张量的模型类受到了一定的限制，可能会受到有限的辨别力。在不同的轨道上，内核方法导致了灵活的非线性模型，这些模型已被证明在许多不同的环境中是成功的。然而，核方法的天真应用并没有利用给定张量表示所具有的结构特性。这项工作的目标是通过引入基于非参数张量的模型来超越这一限制。该框架旨在提高基于监督张量模型的辨别能力，同时仍利用数据中包含的结构信息。我们首先介绍由多线性泛函构成的特征空间。后者可以被视为张量的无限维模拟。随后，我们展示了如何通过利用数据张量的代数结构的核在这样的特征空间中隐式映射输入模式。所提出的张量核链接到MLSVD，并具有有趣的不变性；该方法导致了凸优化，并适用于类似SVM算法的相同原始-对偶框架。 引用于9文件 MSC公司： 68T05型 人工智能中的学习和自适应系统 关键词：多重线性代数;再生核希尔伯特空间;张量核;子空间角 软件：LS-SVMlab公司;UCI-毫升;算法862 PDF格式BibTeX公司 XML格式引用 \textit{M.Signoretto}等人，神经网络。24，编号：861-874（2011年；兹bl 1250.68229） 全文： 内政部 参考文献： [1] Aronszajn，N.，《再生核理论》，《美国数学学会学报》，68337-404（1950）·Zbl 0037.20701号 [2] 巴布，V。；Precupanu，T.，banach空间中的凸性和优化（1986），Springer·Zbl 0594.49001号 [3] 巴斯里（Basri），R。；哈斯纳，T。；Zelnik-Manor，L.，近似最近子空间搜索，IEEE模式分析和机器智能学报，33，2，266-278（2010） [4] Berlinet，A。；Thomas-Agnan，C.，《在概率和统计中再现Kernel Hilbert空间》（2004），Kluwer学术出版社·Zbl 1145.6202号 [5] Burges，C.，《内核方法的进展：支持向量学习》，（基于内核方法中的几何和不变性（1999），麻省理工学院剑桥出版社：麻省理工学院剑桥出版社，美国马萨诸塞州），第89-116章 [6] Chen，C.、Ryoo，M.和Aggarwal，J.（2010年）。UT-Tower数据集：鸟瞰活动分类挑战。http://cvrc.ece.utexas.edu/SDHA2010/Aerial_View_Activity.html; Chen，C.、Ryoo，M.和Aggarwal，J.（2010年）。UT-Tower数据集：鸟瞰活动分类挑战。http://cvrc.ece.utexas.edu/SDHA2010/Aerial_View_Activity.html [7] 康威，J。；哈丁，R。；斯隆，N。《包装线、平面等：格拉斯曼空间中的包装》，实验数学，5139-159（1996）·Zbl 0864.51012号 [8] 库利，J。；Tukey，J.，《复数傅里叶级数的机器计算算法》，《计算数学》，19，90，297-301（1965）·Zbl 0127.09002号 [9] 科皮，R。；Bolasco，S.，《多路数据分析》（1989），荷兰阿姆斯特丹North-Holland出版公司：North-Holland出版·Zbl 0744.62005号 [10] 科尔特斯，C。；Vapnik，V.，支持向量网络，机器学习，20273-297（1995）·Zbl 0831.68098号 [11] 北卡罗来纳州克里斯蒂亚尼尼。；肖-泰勒，J。；Elisseeff，A。；Kandola，J.，核靶比对，神经信息处理系统进展，14367-373（2002） [12] 北卡罗来纳州克里斯蒂亚尼尼。；坎多拉，J。；Elisseeff，A。；Shawe-Taylor，J.，《内核-目标对齐》（On kernel target alignment），（Holmes，D.；Jain，L.，《机器学习中的创新》，《模糊和软计算研究》，第194卷（2006），斯普林格出版社：斯普林格-柏林，海德堡），205-256·Zbl 1093.68081号 [13] De Brabanter，K.、Karsmakers，P.、Ojeda，F.、Alzate，C.、De Brabanter，J.和Pelckmans，K.等人（2010年）。LS-SVMlab工具箱用户指南1.7版。内部报告10-146，ESAT-SISTA，K.U.鲁汶，鲁汶，比利时。；De Brabanter，K.、Karsmakers，P.、Ojeda，F.、Alzate，C.、De Brabanter，J.和Pelckmans，K.等人（2010年）。LS-SVMlab工具箱用户指南1.7版。内部报告10-146，ESAT-SISTA，K.U.鲁汶，比利时鲁汶。 [14] 德拉特豪沃，L。；De Moor，B。；Vandewalle，J.，多线性奇异值分解，SIAM矩阵分析与应用杂志，21，4，1253-1278（2000）·兹比尔0962.15005 [15] De Lathauwer，L.（2011）。用子空间表征高阶张量。内部报告11-32，ESAT-SISTA，K.U.鲁汶，比利时鲁汶。；De Lathauwer，L.（2011）。用子空间表征高阶张量。内部报告11-32，ESAT-SISTA，K.U.鲁汶，比利时鲁汶。 [16] Donoho，D.，压缩感知，IEEE信息理论汇刊，52，4，1289-1306（2006）·Zbl 1288.94016号 [17] Edelman，A。；阿里亚斯，T.A。；Smith，S.T.，《正交约束算法的几何》，SIAM矩阵分析与应用杂志，20，2，303-353（1999）·Zbl 0928.6500号 [18] 埃克兰，I。；Temam，R.，《凸分析和变分问题》（1976年），North-Holland Publishing Co·Zbl 0322.90046号 [19] Frank，A.和Asuncion，A.（2010年）。加州大学欧文分校信息与计算机科学学院UCI机器学习库。http://archive.ics.uci.edu/ml; Frank，A.和Asuncion，A.（2010年）。加州大学欧文分校信息与计算机科学学院UCI机器学习库。http://archive.ics.uci.edu/ml [20] Girsanov，I。；波尔贾克，B。；Louvish，D.，极值问题数学理论讲座（1972年），施普林格：施普林格柏林，海德堡，纽约·Zbl 0234.49016号 [21] 哈姆，J。；Lee，D.，Grassmann判别分析：基于子空间学习的统一观点，（第25届机器学习国际会议论文集（2008），ACM），376-383 [22] Hardoon，D.和Shawe-Taylor，J.用结构化标签分解神经科学数据的张量核支持向量机。机器学习; Hardoon，D.和Shawe-Taylor，J.用结构化标签分解神经科学数据的张量核支持向量机。机器学习·Zbl 1470.68114号 [23] 何，X。；蔡博士。；Niyogi，P.，张量子空间分析，神经信息处理系统进展（NIPS），499-506（2006） [24] Hitchcock，F.，双向矩阵或张量的多重不变量和广义秩，数学物理杂志，7，1，39-79（1927） [25] Ishteva，M。；Absil，P。；Huffel，S。；Lathauwer，L.，《关于高阶张量的最佳低多线性秩逼近》，《优化及其在工程中的应用的最新进展》，第3部分，145-164（2010） [26] 伊藤，K。；Kunisch，K.，《变分问题的拉格朗日乘数法及其应用》，《设计与控制进展》（2008）·兹比尔1156.49002 [27] 卡迪森，R.V。；Ringrose，J.R.，（算子代数理论基础。算子代数理论的基础，数学研究生课程，第15卷（1983），美国数学学会）·Zbl 0518.46046号 [28] Kiers，H.A.L.，《走向多元分析中的标准化符号和术语》，《化学计量学杂志》，14，3，105-122（2000） [29] Kimeldorf，G。；Wahba，G.，关于切比雪夫样条函数的一些结果，数学分析与应用杂志，33，82-95（1971）·Zbl 0201.39702号 [30] 科尔达，T。；Bader，B.，张量分解与应用，SIAM Review，51，3，455-500（2009）·Zbl 1173.65029号 [31] Kroonenberg，P.，《应用多元数据分析》（2008），威利国际科学·Zbl 1160.62002号 [32] Lin，C.，《支持向量机的公式化：从优化角度的注释》，《神经计算》，13，2，307-317（2001）·Zbl 0973.68201号 [33] Liu，J.、Musialski，P.、Wonka，P.和Ye，J.（2009）。用于估计视觉数据中缺失值的张量补全。在IEEE计算机视觉国际会议; Liu，J.、Musialski，P.、Wonka，P.和Ye，J.（2009）。用于估计视觉数据中缺失值的张量补全。在IEEE计算机视觉国际会议 [34] Luenberger，D.，向量空间法优化（1998） [35] Papy，J。；德拉特豪沃，L。；Van Huffel，S.，使用多线性代数的指数数据拟合：单通道和多通道情况，数值线性代数及其应用，12，809-826（2005）·Zbl 1164.93012号 [36] Papy，J。；德拉特豪沃，L。；Van Huffel，S.，《使用多线性代数的指数数据拟合：抽取案例》，《化学计量学杂志》，23，7-8，341-351（2009） [37] Recht，B。；法泽尔，M。；Parrilo，P.，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Review，52，471-501（2007）·Zbl 1198.90321号 [38] Riesz，F。；Sz.-Nagy，B.，功能分析（1955），弗雷德里克·昂加出版公司：弗雷德里克·安加出版公司，纽约 [39] Schölkopf，B。；Smola，A.J.，《使用内核学习：支持向量机、正则化、优化和超越》（2002），麻省理工学院出版社 [40] 肖尔科夫，B。；Herbrich，R。；Smola，A.J.，《广义代表定理》，计算学习理论年度会议论文集，416-426（2001）·兹比尔0992.68088 [41] 肖-泰勒，J。；Cristianini，N.，《模式分析的内核方法》（2004），剑桥大学出版社 [42] Signoretto，M.、De Lathauwer，L.和Suykens，J.A.K.（2010a）。基于核的无限维双向张量学习。在LNCS：第6353卷，ICANN 2010，第二部分; Signoretto，M.、De Lathauwer，L.和Suykens，J.A.K.（2010a）。基于核的无限维双向张量学习。在LNCS:第6353卷，ICANN 2010，第二部分 [43] Signoretto，M.、De Lathauwer，L.和Suykens，J.A.K.（2010b）。张量的核范数及其在凸多线性估计中的应用。在内部报告10-186，ESAT-SISTA; Signoretto，M.、De Lathauwer，L.和Suykens，J.A.K.（2010b）。张量的核范数及其在凸多线性估计中的应用。在内部报告10-186，ESAT-SISTA [44] Signoretto，M.、Olivetti，E.、De Lathauwer，L.和Suykens，J.A.K.（2010年c）。基于累积量核的多道信号分类。内部报告10-251，ESAT-SISTA，K.U.鲁汶，比利时鲁汶。；Signoretto，M.、Olivetti，E.、De Lathauwer，L.和Suykens，J.A.K.（2010年c）。基于累积量核的多道信号分类。内部报告10-251，ESAT-SISTA，K.U.鲁汶，比利时鲁汶·Zbl 1393.94438号 [45] Steinwart，I.，《内核对支持向量机一致性的影响》，《机器学习研究杂志》，267-93（2002）·Zbl 1009.68143号 [46] 斯坦瓦特，I。；Christmann，A.，支持向量机（2008），Springer Verlag·Zbl 1203.68171号 [47] 苏肯斯，J.A.K。；阿尔扎特，C。；Pelckmans，K.，基于核的学习中的原始和对偶模型表示，统计调查，4148-183（2010），电子版·Zbl 06162223号 [48] 苏肯斯，J.A.K。；Vandewalle，J.，最小二乘支持向量机分类器，《神经处理快报》，9，3，293-300（1999）·Zbl 0958.93042号 [49] 苏肯斯，J.A.K。；Van Gestel，T。；De Brabanter，J。；De Moor，B。；Vandewalle，J.，最小二乘支持向量机（2002），《世界科学》·Zbl 1003.68146号 [50] 陶，D。；李，X。；吴，X。；胡，W。；Maybank，S.，监督张量学习，知识和信息系统，13，1，1-42（2007） [51] Tibshirani，R.，《通过LASSO进行回归收缩和选择》，《皇家统计学会杂志》。B系列（方法学），58，1，267-288（1996）·Zbl 0850.62538号 [52] 塔克·L.R.（1964）。将因子分析扩展到三维矩阵、体积。在对数学心理学的贡献; 塔克·L.R.（1964）。因子分析对三维矩阵的扩展，体积。在对数学心理学的贡献 [53] 塔克，L.R.，《关于三模式因子分析的一些数学注释》，《心理测量学》，31，3，279-311（1966） [54] Vapnik，V.，《统计学习理论的本质》（1995），Springer Verlag:纽约·Zbl 0833.62008号 [55] Wahba，G.，（观测数据样条模型。观测数据的样条模型，CBMS-NSF应用数学区域会议系列，第59卷（1990），SIAM:SIAM Philadelphia）·Zbl 0813.62001号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。