×
瓦汉·胡罗扬;吉拉德·勒曼

分布式鲁棒子空间恢复。 （英语） Zbl 1484.68212号

SIAM J.科学。计算。 40，编号5，A3067-A3090（2018）.
摘要：我们提出了鲁棒子空间恢复（RSR）问题的分布式解决方案。我们的设置假设在没有中央处理器的特设网络中有一个巨大的数据集，其中每个节点只能访问数据集的一个块。此外，整个数据集的一部分位于低维子空间周围，另一部分由远离该子空间的离群值组成。目标是恢复整个数据集的底层子空间，而不需要在节点之间传输数据本身。我们首先将基于一致性的梯度方法应用于RSR的几何中值子空间算法。为此，我们提出了局部对偶最小化问题的迭代解，并建立了其r线性收敛性。然后，我们解释了如何分布式实现RSR的Reaper和Fast Median子空间算法。所提出的算法在合成数据和实际数据上都表现出了竞争力。

MSC公司：

68T09号 数据分析和大数据的计算方面
62H25个 因子分析和主成分；对应分析
68宽15 分布式算法
90C06型 数学规划中的大尺度问题

关键词：

分布式算法;基于共识的算法;主成分分析;鲁棒子空间恢复;几何中值

软件：

飞行管理系统;算法432;UCI-毫升
PDF格式BibTeX公司 XML格式引用
\textit{V.Huroyan}和\textit{G.Lerman}，SIAM J.Sci。计算。40，第5号，A3067--A3090（2018；Zbl 1484.68212）
全文： 内政部 arXiv公司

参考文献：

[1] A.Aduroja、I.D.Schizas和V.Maroulas，传感器网络中的分布式主成分分析，《2013年IEEE声学、语音和信号处理国际会议论文集》，2013年，第5850–5854页。
[2] D.Anguita、A.Ghio、L.Oneto、X.Parra和J.L.Reyes-Ortiz，使用智能手机进行人类活动识别的公共域数据集，《第21届欧洲人工神经网络研讨会论文集》，ESANN，比利时布鲁日，2013年。
[3] Z.Bai、H.C.Raymond和T.L.Franklin，带更新的分布式数据集主成分分析，载于《高级并行处理技术国际研讨会论文集》，2005年，第471–483页。
[4] R.H.Bartels和G.W.Stewart，矩阵方程AX+XB=C[F4]的解（算法432）、Commun。ACM，15（1972），第820-826页·Zbl 1372.65121号
[5] A.Bertrand和M.Moonen，adhoc无线传感器网络中基于一致性的分布式总最小二乘估计，IEEE传输。信号处理。，59（2011），第2320–2330页·Zbl 1391.90132号
[6] D.P.Bertsekas，凸分析与优化，Athena Scientific，马萨诸塞州贝尔蒙特，2003年·Zbl 1140.90001号
[7] R.Bhatia和L.Elsner，正线性映射与Lyapunov方程，《线性算子和矩阵》，Oper。理论高级应用。130，I.Gohberg和H.Langer，eds.，Birkha­user，巴塞尔，2002年，第107–120页·Zbl 1018.15003号
[8] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein，基于交替方向乘数法的分布式优化和统计学习，找到。趋势马赫数。学习。，3（2011年），第1-122页·兹比尔1229.90122
[9] S.Boyd和L.Vandenberghe，凸优化，剑桥大学出版社，英国剑桥，2004年·Zbl 1058.90049号
[10] T.Chan和P.Mulet，全变分图像恢复中滞后扩散不动点法的收敛性，SIAM J.数字。分析。，36（1999），第354-367页·Zbl 0923.65037号
[11] T.H.Chang、M.Hong和X.Wang，基于不精确一致ADMM的多智能体分布式优化，IEEE传输。信号处理。，63（2015），第482-497页·Zbl 1393.90124号
[12] J.Chen和A.H.Sayed说，网络分布式优化和学习的扩散适应策略，IEEE传输。信号处理。，60（2012年），第4289-4305页·Zbl 1391.90601号
[13] K.L.Clarkson和D.P.Woodruff，鲁棒子空间近似的输入稀疏性和硬度，《2015年IEEE第56届计算机科学基础年会（FOCS）论文集》，IEEE，加利福尼亚州洛斯阿拉米托斯，2015年，第310-329页。
[14] P.Forero、A.Cano和G.Giannakis，基于一致性的分布式支持向量机，J.马赫。学习。第11号决议（2010年），第1663-1707页·Zbl 1242.68222号
[15] N.Halko、P.G.Martinsson和J.A.Tropp，寻找随机结构：构造近似矩阵分解的概率算法SIAM Rev.，53（2011），第217-288页·Zbl 1269.65043号
[16] B.Johansson、C.M.Carretti和M.Johansson，无线传感器网络中基于对等通信的分布式优化，《2008年第五届IEE通信协会传感器、网格和特设通信与网络年会论文集》，第497–505页。
[17] S.M.Kakade、S.Shalev-Shwartz和A.Tewari，矩阵学习的正则化技术，J.马赫。学习。Res.，13（2012），第1865-1890页·Zbl 1432.68388号
[18] G.Lerman和T.Maunu，快速、稳健和非凸的子空间恢复《Inf.Inference》，第7期（2018年），第277–336页·Zbl 1476.90262号
[19] G.Lerman和T.Maunu，鲁棒子空间恢复综述，程序。IEEE，106（2018），第1380–1410页。
[20] G.Lerman、M.McCoy、J.Tropp和T.Zhang，线性模型的凸松弛稳健计算，找到。计算。数学。，15（2015），第363-410页·Zbl 1328.62377号
[21] Y.Liang、M.Balcan、V.Kanchanapally和D.Woodruff，改进的分布式主成分分析，《第27届神经信息处理系统国际会议论文集》，2014年，第3113–3121页。
[22] M.Lichman，UCI机器学习库，2013年。
[23] G.Mateos、J.Bazerque和G.Giannakis，分布式稀疏线性回归，IEEE传输。信号处理。，10（2010年），第5262-5276页·Zbl 1391.62133号
[24] Z.Meng、A.Wiesel和A.Hero III，基于有向图模型的网络分布式主成分分析，《2012年IEEE声学、语音和信号处理国际会议论文集》，IEEE，2012年，第2877–2880页。
[25] A.Nedić和A.Ozdaglar，协作分布式多智能体优化《信号处理与通信中的凸优化》，剑桥大学出版社，英国剑桥，2010年，第340-386页·Zbl 1241.90100号
[26] A.Nedic®和A.E.Ozdaglar，多智能体优化的分布式次梯度方法，IEEE传输。自动化。控制，54（2009），第48-61页·Zbl 1367.90086号
[27] M.Ostrowski，方程和方程组的求解第二版，《纯粹数学和应用数学：一系列专著和教科书》，第9卷，学术出版社，纽约，伦敦，1966年·Zbl 0222.65070号
[28] H.Qi、T.Wang和D.Birdwell，分布式数据挖掘中降维的全局主成分分析《统计数据挖掘和知识发现》，查普曼和霍尔/CRC出版社，佛罗里达州博卡拉顿，2004年，第323–338页。
[29] Y.Qu、G.Ostrouchov、N.Samatova和A.Geist，大规模分布式数据集降维的主成分分析，载于2002年第二届SIAM国际数据挖掘会议记录。
[30] M.G.Rabbat、R.D.Nowak和J.A.Bucklew，具有擦除链路的网络系统中的广义一致性计算，《IEEE第六届无线通信信号处理进展研讨会论文集》，2005年，第1088–1092页。
[31] R.T.Rockafellar，凸分析《普林斯顿数学丛书》，第28期，普林斯顿大学出版社，新泽西州普林斯顿，1970年·Zbl 0193.18401号
[32] T.Sarlos，基于随机投影的大矩阵逼近算法的改进，《2006年IEEE第47届计算机科学基础年会论文集》（FOCS’06），2006年，第143-152页。
[33] I.Schizas、A.Ribeiro和G.Giannakis，带噪声链路的自组织无线传感器网络中的一致性——第一部分：确定性信号的分布式估计，IEEE传输。信号处理。，56（2008），第350–364页·Zbl 1390.94395号
[34] 史伟、秦玲、袁国元、吴国武和尹伟强，分散一致优化中ADMM的线性收敛性，IEEE传输。信号处理。，62（2014），第1750–1761页·Zbl 1394.94532号
[35] M.Valcarcel、P.Belanovic和S.Zazo，无线传感器网络中基于一致性的分布式主成分分析，《第11届无线通信信号处理进展国际研讨会论文集》，IEEE，2010年，第1-5页。
[36] E.魏斯菲尔德，点之间的距离最小东北数学。J.（2），43（1937），第355-386页·Zbl 0017.18007号
[37] T.Zhang和G.Lerman，鲁棒PCA的一种新的M估计，J.马赫。学习。Res.，15（2014），第749–808页·Zbl 1318.62205号
[38] H.Zhu、A.Cano和G.Giannakis，基于共识的分布式解调：算法和误差分析，IEEE传输。无线通信。，9（2010年），第2044–2054页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。