×

具有标准多元分解约束解的线性系统:算法和应用。 (英语) Zbl 07031736号

摘要:现实生活中的数据往往表现出某种结构和/或稀疏性,允许人们使用简约模型进行紧凑表示和近似。当考虑矩阵和张量数据时,低秩模型,如(多线性)奇异值分解、正则多元分解(CPD)、张量列和分层Tucker模型非常常见。(大规模)线性系统的解通常以类似的方式构造,允许人们也使用紧致矩阵和张量模型。在本文中,我们主要研究具有CPD约束解(LS-CPD)的线性系统。我们的主要贡献是开发了基于优化和代数的方法来求解LS-CPD。此外,我们提出了一个条件,以保证所获得的解的一般唯一性。我们还表明,LS-CPD为分析多线性方程组提供了一个广泛的框架。后者是线性系统的高阶推广,类似于张量分解是矩阵分解的推广。说明了LS-CPD在分类、多线性代数和信号处理等领域的广泛适用性。

MSC公司:

65平方英尺 线性系统和矩阵反演的直接数值方法
15A69号 多线性代数,张量演算
15A06号 线性方程组(线性代数方面)

软件:

Matlab公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] 坎迪斯EJ,WakinMB。压缩取样简介。IEEE信号处理杂志2008;25(2):21-30.
[2] 吉利斯。非负矩阵因式分解的原因和方法。收录人:SuykensJAK(编辑)、Signoretto M(编辑)和ArgyriouA(编辑),编辑。正则化、优化、内核和支持向量机,第12章(机器学习和模式识别,第257-291页),佛罗里达州博卡拉顿:Chapman&Hall/CRC;2014. ·Zbl 1305.68030号
[3] BaderBW KoldaTG公司。张量分解及其应用。SIAM版本2009;51(3):455-500. ·Zbl 1173.65029号
[4] CichockiA、MandicDP、De LathauwerL等。信号处理应用中的张量分解:从双向分量分析到多路分量分析。IEEE信号处理杂志2015;32(2):145-163.
[5] SidiropoulosN、De LathauwerL、FuX、HuangK、PapalexakisEE、FaloutsosC。用于信号处理和机器学习的张量分解。IEEE传输信号处理。2017;65(13):3551-3582. ·Zbl 1415.94232号
[6] De LathauwerL、De MoorB、VandewalleJ。多线性奇异值分解。SIAM J矩阵分析应用。2000;21(4):1253-1278. ·Zbl 0962.15005号
[7] Oseledets公司。张紧链分解。SIAM科学计算杂志。2011;33(5):2295-2317. ·Zbl 1232.15018号
[8] 格拉塞迪克。通过向量张量化的分层Tucker格式多项式近似。预印43。DFG/SPP1324。德国亚琛:亚琛工业大学;2010
[9] BousséM,DebalsO,De LathauwerL。一种基于张量的方法,用于使用分割的大规模盲源分离。IEEE传输信号处理。2017;65(2):346-358. ·Zbl 1414.94086号
[10] Bousse M,DebalsO,De LathauwerL。基于张量的大规模盲系统分割识别。IEEE传输信号处理。2017;65(21):5770-5784. ·Zbl 1414.94087号
[11] GrasedyckL、Kressner D、Tobler C。低阶张量近似技术的文献综述。GAMM‐Mitteilungen公司。2013;36(1):53-78. ·Zbl 1279.65045号
[12] KhoromskijBN。(mathcal{O}(d\log N))——高维数值建模中N‐d张量的量化近似。Constr约2011年;34(2):257-280. ·Zbl 1228.65069号
[13] HackbuschW公司。张量空间和数值张量演算。第42卷。德国柏林:Springer‐Verlag Berlin Heidelberg;2012. ·Zbl 1244.65061号
[14] 格拉塞迪克·巴拉尼J。一种求解张量形式线性系统的投影方法。数字线性代数应用。2013;20(1):27-43. ·Zbl 1289.65049号
[15] BeylkinG,MohlenkampMJ。高维数值分析算法。SIAM科学计算杂志。2005;26(6):2133-2159. ·Zbl 1085.65045号
[16] EspigM,HackbuschW,RohwedderT,SchneiderR。定秩基本张量和的变分法。数字数学。2012;122(3):469-488. ·Zbl 1259.65090号
[17] SorberL,Van BarelM,De LathauwerL。复变量实函数的无约束优化。SIAM J Optim公司。2012;22(3):879-898. ·Zbl 1260.90150号
[18] SorberL,Van BarelM,De LathauwerL。基于优化的张量分解算法:正则多元分解,秩-(L_r,L_r、1)项分解,以及一种新的推广。SIAM J优化。2013;23(2):695-720. ·Zbl 1277.90073号
[19] SorberL、Van BarelM、De LathauwerL。复杂优化工具箱v1.0。2013年。可从以下网址获得:http://esat.kuleuven.be/stadius/cot/
[20] VervlietN、DebalsO、SorberL、Van BarelM、De LathauwerL。Tensorlab 3.0。2016年。有效期至:http://www.tensorlab.net网站/
[21] De LathauwerL。块项中高阶张量的分解——第二部分:定义和唯一性。SIAM J矩阵分析应用。2008;30(3):1033-1066. ·Zbl 1177.15032号
[22] 丁伟(音译)。求解多线性系统张量。科学计算杂志。2016;68(2):689-715. ·Zbl 1371.65032号
[23] BaiE‐W,LiuY。关于双线性方程组的最小二乘解。2005年第44届IEEE决策与控制会议记录和2005年欧洲控制会议记录(CDC‐ECC’05);2005年12月15日;西班牙塞维利亚。新泽西州皮斯卡塔韦:IEEE;2005
[24] JohnsonCR、ŠmigocH、YangD。双线性方程组的解理论。线性多线性代数。2014;62(12):1553-1566. ·Zbl 1307.15040号
[25] 托马斯·科恩。双线性方程组。技术报告。加州斯坦福:斯坦福大学计算机科学系;1997
[26] BrazellM、LiN、NavascaC、TamonC。利用张量反演求解多线性系统。SIAM J矩阵分析应用。2013;34(2):542-570. ·Zbl 1273.15028号
[27] 多诺霍德。压缩传感。IEEE Trans-Inf理论。2006;52(4):1289-1306. ·Zbl 1288.94016号
[28] TuS、BoczarR、SimchowitzM、SoltanolkotabiM、RechtB。通过Procrustes流获得线性矩阵方程的低阶解。第33届国际机器学习会议(ICML’16)会议记录;2016; 纽约州纽约市。纽约州纽约市:ACM;2016年,第964-973页。
[29] VasilescuMAO、TerzopoulosD。用于人脸识别的多线性图像分析。2002年第16届模式识别国际会议论文集;2002年8月11日至15日;加拿大魁北克。新泽西州皮斯卡塔韦:IEEE;2002年,第511-514页。
[30] TielsK、SchoukensM和Schoukens J。通过基函数展开生成Wiener-Hammerstein模型的初始估计。IFAC Proc Vol.2014年;47(3):481-486.
[31] NionD,西迪罗普洛斯ND。跟踪三阶张量的PARAFAC分解的自适应算法。IEEE传输信号处理。2009;57(6):2299-2310. ·Zbl 1391.65110号
[32] Bousse M,VervlietN,DebalsO,De LathauwerL。人脸识别作为Kronecker乘积方程。2017年参加IEEE第七届多传感器自适应处理计算进展国际研讨会(CAMSAP 2017,库拉索,荷属安的列斯群岛);276-280.
[33] VasilescuMAO,Terzopoulos D。图像集合的多线性分析:张量面。摘自:计算机视觉-ECCV 2002第七届欧洲计算机视觉会议,丹麦哥本哈根,2002年5月28日至31日,会议记录,第一部分,德国柏林:斯普林格-弗拉格-柏林-海德堡,2002年五月;第447-460页·Zbl 1034.68693号
[34] Bousse M、GoovaertsG、VervlietN、DebalsO、Van HuffelS、De LathauwerL。使用Kronecker乘积方程进行不规则心跳分类。2017年在韩国济州岛举行的第39届IEEE医学和生物学会工程国际年会(EMBC 2017)上;438-441.
[35] KruskalJB公司。三向数组:三线性分解的秩和唯一性,应用于算术复杂性和统计学。线性代数应用。1977;18(2):95-138. ·Zbl 0364.15021号
[36] DomanovI,De LathauwerL。关于三阶张量正则多元分解的唯一性——第一部分:单因子矩阵的基本结果和唯一性。SIAM J矩阵分析应用。2013;34(3):855-875. ·Zbl 1282.15019号
[37] DomanovI,De LathauwerL。关于三阶张量的正则多元分解的唯一性——第二部分:整体分解的唯一。SIAM J矩阵分析应用。2013;34(3):876-903. ·Zbl 1282.15020号
[38] DomanovI,De LathauwerL。正则多元分解和INDSCAL的一般唯一性条件。SIAM J矩阵分析应用。2015;36(4):1567-1589. ·Zbl 1330.15028号
[39] DomanovI,De LathauwerL。三阶张量的正则多元分解:放松的唯一性条件和代数算法。线性代数应用。2017;513:342-375. ·Zbl 1349.15065号
[40] De LathauwerL,VandewalleJ。高阶信号处理中的降维和多线性代数中的秩(R_1,R_2,…,R_N)缩减。线性代数应用。2004;391:31-55. ·Zbl 1066.94001号
[41] VervlietN,DebalsO,SorberL,De LathauwerL。使用不完全张量的分解打破维度诅咒:大数据分析中基于张量的科学计算。IEEE信号处理杂志2014;31(5):71-79.
[42] 托马西,兄弟。PARAFAC和缺少的值。化学计量学智能实验室系统。2005;75(2):163-180.
[43] PaateroP公司。用于三向“PARAFAC”因子分析的加权非负最小二乘算法。化学计量学智能实验室系统。1997;38(2):223-242.
[44] AcarE、DunlavyDM、KoldaTG、MörupM。缺失数据的可伸缩张量分解。2010年SIAM国际数据挖掘会议记录;2010年4月29日-5月1日;俄亥俄州哥伦布。宾夕法尼亚州费城:SIAM;2010年,第701-712页。
[45] 特伦克勒·刘斯。Hadamard、Khatri-Rao、Kronecker等矩阵产品。国际信息系统科学杂志。2008;4(1):160-177. ·Zbl 1159.15008号
[46] CarrolJD、Pruzansky S、KruskalJB。CANDELINC:对参数具有线性约束的多路阵列进行多维分析的通用方法。心理测量学。1980;45(1):3-24. ·Zbl 0478.62050号
[47] VervlietN,DebalsO,De LathauwerL。具有线性约束因子的不完全张量的正则多元分解。技术报告16‐172。比利时鲁汶:ESAT‐STADIUS,KU鲁汶;2017
[48] SommeseAJ、WamplerCW。工程和科学中出现的多项式系统的数值解。新泽西州哈肯萨克:世界科学;2005. ·Zbl 1091.65049号
[49] 多线性代数中的正则分解与同时矩阵对角化之间的联系。SIAM J矩阵分析应用。2006;28(3):642-666. ·Zbl 1126.15007号
[50] Bousse M,DomanovI,De LathauwerL。具有多线性奇异值分解约束解的线性系统。技术报告17-56。比利时鲁汶:ESAT‐STADIUS,KU鲁汶;2017
[51] HornRA,JohnsonCR。矩阵分析。英国剑桥:剑桥大学出版社;2013. ·Zbl 1267.15001号
[52] 诺塞达尔J,莱特S。数值优化。纽约州纽约市:斯普林格;2006. ·Zbl 1104.65059号
[53] De LathauwerL。指数多项式的盲分离和秩‐(L_r,L_r、1)项张量的分解。SIAM J矩阵分析应用。2011;32(4):1451-1474. ·Zbl 1239.15016号
[54] VervlietN,DebalsO,De LathauwerL。Tensorlab 3.0:大规模约束和耦合矩阵/张量分解的数值优化策略。第50届信号、系统和计算机Asilomar会议记录;2016年11月6-9日;加利福尼亚州太平洋格罗夫,新泽西州皮斯卡塔韦:IEEE;2016年,第1733-1738页。
[55] DomanovI,StegemanA,De LathauwerL。关于高阶张量的最大多重线性奇异值。SIAM矩阵分析与应用杂志。2017;38(4):1434-1453. arXiv:1612.03751·Zbl 1379.15007号
[56] HackbuschW、KressnerD、UschmajewA。高阶奇异值的扰动。SIAM应用代数和几何杂志。2017年1月;1(1):374-387. ·Zbl 1371.15011号
[57] UschmajewA HackbuschW公司。关于实张量的高阶奇异值之间的相互联系。数字数学。2016;135(3):875-894. 在线发布·Zbl 1364.15018号
[58] 范德维恩AJ。确定性盲波束形成的代数方法。IEEE会议记录。1998;86(10):1987-2008.
[59] 荣格。系统识别:用户理论。第二版《上鞍河》,新泽西州:普伦蒂斯·霍尔;1999.
[60] Abed‐MeraimK,邱W,HuaY。盲系统识别。IEEE会议记录。1997;85(8):1310-1322.
[61] DebalsO,SohailM,De LathauwerL。基于耦合正则多元分解的分析多模算法。技术报告16‐150。比利时鲁汶:ESAT‐STADIUS,KU鲁汶;2016
[62] van derVeenAJ,PaulrajA。解析恒模算法。IEEE传输信号处理。1996;44(5):1136-1155.
[63] ZarzosoV,ComonP。最优步长恒模算法。IEEE传输通信。2008;56(1).
[64] 特雷克勒J,阿格B。一种新的恒模信号多径校正方法。IEEE跨音频语音信号处理。1983;31(2):459-472.
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。