研究论文

不对齐空中计算的联合边缘学习

作者:

德尼 Gündüz村，以及

Soung Chang公司留作者信息和声明

IEEE无线通信汇刊,体积21,发行6

页3951-3964

https://doi.org/10.109/TWC.2021.3125798

出版:2022年6月1日出版历史

摘要

空中计算（OAC）是联邦边缘学习（FEEL）上行链路中实现快速模型聚合的一种很有前途的技术。然而，OAC依赖于准确的信道增益预编码和边缘设备之间的严格同步，这在实践中是很有挑战性的。因此，如何在存在剩余信道增益失配和异步的情况下设计最大似然（ML）估计器是一个公开的问题。为了填补这一空白，本文提出了FEEL的失调OAC问题，并提出了一种白化匹配滤波和采样方案，以从失调和重叠信号中获得过采样但独立的样本。给定白化样本，设计了和积ML（SP-ML）估计器和对齐样本估计器来估计传输符号的算术和。特别是，我们的SP-ML估计器的计算复杂度在包长度上是线性的，因此大大低于传统的ML估计器。对测试精度与平均接收能量/符号噪声功率谱密度比（EsN0）的对比进行了广泛的模拟，得出了两个主要结果：1）在低EsN0范围内，如果相位偏差不严重，对齐样本估计器可以实现卓越的测试精度。相比之下，ML估计器在估计过程中由于误差传播和噪声增强而不能很好地工作。2）在高EsN0情况下，ML估计器无论相位偏差的严重程度如何，都能获得最佳的学习性能。另一方面，校准样本估计器受到相位失准导致的测试精度损失的影响。

工具书类

[1]

Y.LeCun、Y.Bengio和G.Hinton，“深度学习”自然，第521卷，第7553号，第436页，2015年。

[2]

D.Gunduz、P.de Kerret、N.Sidiroupoulos、D.Gesbert、C.Murthy和M.van der Schaar，《空中机器学习》IEEE J.选择。公共区域。，第37卷，第10期，第2184–2199页，2019年10月。

[3]

Y.Shao、A.Rezaee、S.C.Liew和V.W.S.Chan，“最短路径路由的重要采样：深度强化学习解决方案”IEEE J.选择。公共区域。第38卷，第10期，第2234–2248页，2020年10月。

[4]

D.Gunduz、D.B.Kurka、M.Jankowski、M.M.Amiri、E.Ozfatura和S.Sreekumar，“沟通以在边缘学习”IEEE通信。美格。第58卷，第12期，第14-19页，2021年12月。

[5]

J.Konečn、H.Brendan McMahan、F.X.Yu、P.Richtárik、A.Theertha Suresh和D.Bacon，“联合学习：提高沟通效率的策略”，2016年，arXiv:1610.05492.

[6]

B.McMahan、E.Moore、D.Ramage、S.Hampson和B.A.Y.Arcas，《通信——从分散数据中高效学习深层网络》人工智能统计英国伦敦：PMLR，2017年，第1273-1282页。

[7]

K.Bonawitz等人，“走向大规模联合学习：系统设计”，2019年，arXiv:1902.01046号.

[8]

A.Gupta和R.K.Jha，“5G网络概览：架构和新兴技术”IEEE接入2015年，第3卷，第1206–1232页。

[9]

K.He、X.Zhang、S.Ren和J.Sun，“图像识别的深度残差学习”程序。IEEE配置计算。视觉。模式识别。（CVPR）2016年6月，第770-778页。

[10]

M.M.Amiri和D.Gündüz，“无线边缘的机器学习：空中分布式随机梯度下降”IEEE传输。信号处理。第68卷，第2155–2169页，2020年3月。

[11]

M.M.Amiri和D.Gündüz，“无线衰落信道上的联合学习”IEEE传输。无线通信。第19卷，第5期，第3546–3557页，2020年5月。

[12]

G.Zhu、Y.Wang和K.Huang，“低延迟联邦边缘学习的宽带模拟聚合”IEEE传输。无线通信。，第19卷，第1期，第491-506页，2020年1月。

[13]

T.Sery、N.Shlezinger、K.Cohen和Y.C.Eldar，“异构数据的空中联合学习”，2020年，arXiv:2009.12787年.

[14]

K.Yang、T.Jiang、Y.Shi和Z.Ding，“通过空中计算实现联合学习”IEEE传输。无线通信。第19卷，第3期，第2022-2035页，2020年3月。

数字图书馆

[15]

G.Zhu、Y.Du、D.Gunduz和K.Huang，“通信效率联邦边缘学习的一对一空中聚合：设计和收敛分析”IEEE传输。无线通信。第20卷，第3期，第2120–2135页，2021年3月。

数字图书馆

[16]

M.M.Amiri、T.M.Duman和D.Gunduz，《使用盲发射机在无线边缘进行协作机器学习》程序。IEEE全球配置信号信息处理。（全球SIP）2019年11月，第1-5页。

[17]

M.M.Amiri、T.M.Duman、D.Gunduz、S.R.Kulkarni和H.Vincent Poor，“盲联邦边缘学习”，2020年，arXiv:2010.10030年.

[18]

Y.Sun、S.Zhou和D.Gunduz，《利用冗余数据进行联合学习的能量感知模拟聚合》程序。IEEE国际协调委员会。（国际商会）2020年6月，第1-7页。

[19]

J.Dong、Y.Shi和Z.Ding，“通过可证明的Wirter流进行空中盲计算和数据融合”IEEE传输。信号处理。第68卷，第1136–1151页，2020年。

[20]

D.Tse和P.Viswanath，无线通信基础英国剑桥：剑桥大学出版社，2005年。

[21]

Y.Shao、D.Gunduz和S.C.Liew，“具有错位空中计算的联合边缘学习”，2021，arXiv公司：2102.13604.

[22]

G.Zhu、D.Liu、Y.Du、C.You、J.Zhang和K.Huang，“走向智能化边缘：无线通信与机器学习相结合，”IEEE通信。美格。，第58卷，第1期，第19-25页，2020年1月。

数字图书馆

[23]

S.Verdu，多用户检测英国剑桥：剑桥大学出版社，1998年。

数字图书馆

[24]

A.Tveit，“关于矩阵反演的复杂性”数学。注释, 2003.

[25]

F.R.Kschichang、B.J.Frey和H.-A.Loeliger，“因子图和和积算法”IEEE传输。Inf.理论2001年2月，第47卷，第2期，第498–519页。

数字图书馆

[26]

H.-A.Loeliger、J.Dauwels、J.Hu、S.Korl、L.Ping和F.R.Kschichang，“基于模型的信号处理的因子图方法”程序。电气与电子工程师协会，第95卷，第6期，第1295-1322页，2007年6月。

[27]

Y.Shao、S.C.Liew和L.Lu，“异步物理层网络编码：符号失准估计及其对解码的影响”IEEE传输。无线通信。，第16卷，第10期，第6881–6894页，2017年10月。

数字图书馆

[28]

K.Murphy、Y.Weiss和M.I.Jordan，“近似推理的松散信念传播：实证研究”，2013年，arXiv:1301.6725.

[29]

J.珀尔，推理引擎上的Reverend Bayes：一种分布式层次方法美国：认知系统实验室，1982年。

[30]

Y.Shao、Q.Cao、S.C.Liew和H.Chen，“部分可观察的最小年龄调度：贪婪政策”IEEE传输。Commun公司。，提前访问，2021年10月27日。10.1109/TCOMM.2021.3123362。

[31]

N.Noorshams和M.J.Wainwright，“连续状态空间的信念传播：具有定量保证的随机消息传递”J.马赫。李尔。物件。，第14卷，第1期，第2799–2835页，2013年。

数字图书馆

[32]

T.Wang、L.Shi、S.Zhang和H.Wang，“盲已知干扰消除的高斯混合消息传递”IEEE传输。无线通信。，第18卷，第9期，第4268–4282页，2019年9月。

[33]

G.Forney，“符号间干扰下数字序列的最大似然序列估计”IEEE传输。Inf.理论第IT-18卷，第3期，第363–378页，1972年5月。

[34]

L.Bahl、J.Cocke、F.Jelinek和J.Raviv，“线性码的最佳解码以最小化符号错误率”IEEE传输。Inf.理论第IT-20卷，第2期，第284–287页，1974年3月。

数字图书馆

[35]

Y.Shao、S.C.Liew和T.Wang，“AlphaSeq：具有深度强化学习的序列发现”IEEE传输。神经网络。学习。系统。第31卷，第9期，第3319–3333页，2020年9月。

[36]

A.Krizhevsky等人，“从微小图像中学习多层特征”，技术代表，2009年。

[37]

N.Ma、X.Zhang、H.-T.Zheng和J.Sun，“ShuffleNet V2：高效CNN架构设计的实用指南”程序。电子对抗车辆2018年9月，第116–131页。

引用人

杨H陈Z奎克T(2024)利用模拟传输释放无边界联合学习IEEE信号处理汇刊10.1109/TSP.2024.335240572(774-791)在线发布日期：2024年1月1日
https://dl.acm.org/doi/10.109/TSP.2024.3352405
邵YLiew S公司Gündüz D(2023)去噪神经网络：一种带补偿的贝叶斯方法IEEE信号处理汇刊10.1109/TSP.2023.329032771(2460-2474)在线发布日期：2023年1月1日
https://dl.acm.org/doi/101109/TSP.20233290327
公园S崔W(2023)基于调节子空间投影的局部模型更新压缩通信高效联合学习IEEE通信选定领域杂志10.1109/JSAC.2023.324272241:4(964-976)在线发布日期：2023年4月1日
https://dl.acm.org/doi/10.1109/JSAC.2023.3242722
显示更多引用者

索引术语

不对齐空中计算的联合边缘学习

索引项已通过自动分类分配给内容。

建议

空中联合边缘学习的优化功率控制设计
空中联合边缘学习（air-FEEL）已成为一种高效通信解决方案，通过在本地使用边缘设备的数据来保护隐私，从而实现边缘设备上的分布式机器学习。通过利用波形。。。
阅读更多信息
仿真中重叠方差估计的有效计算

对于稳态模拟输出过程，我们制定了有效的算法来计算过程方差参数的某些估计量（即所有滞后的协方差之和），其中估计量原则上是从重叠。。。
阅读更多信息
边缘定位的可达精度

当边缘检测器确定图像中边缘的位置时，就会发生边缘定位。作者使用统计参数估计技术推导了边缘定位可达到精度的界限。这些边界，被称为Cramer-。。。
阅读更多信息

评论

信息和贡献者

问询处

发布于

封面图片IEEE无线通信汇刊

IEEE无线通信汇刊第21卷第6期

2022年6月

1082页

国际标准编号：1536-1276

1536-1276©2021 IEEE。允许个人使用，但重新发布/重新分发需要IEEE许可。请参见https://www.ieee.org/publications/rights/index.html了解更多信息。

出版商

IEEE出版社

出版历史

出版：2022年6月1日

限定符

研究文章

贡献者

其他指标

查看文章指标

文献计量学和引文

文献计量学

文章指标

5
引文总数
查看引文
0
下载总量

下载次数（过去12个月）0
下载次数（最近6周）0

其他指标

查看作者指标

引文

引用人

杨H陈Z奎克T(2024)利用模拟传输释放无边界联合学习IEEE信号处理汇刊10.1109吨/吨.2024.335240572(774-791)在线发布日期：2024年1月1日
https://dl.acm.org/doi/10.109/TSP.2024.3352405
邵YLiew S公司Gündüz D(2023)去噪神经网络：一种带补偿的贝叶斯方法IEEE信号处理汇刊10.1109/TSP.2023.329032771(2460-2474)在线发布日期：2023年1月1日
https://dl.acm.org/doi/10.109/TSP.2023.3290327
公园S崔W(2023)基于调节子空间投影的局部模型更新压缩通信高效联合学习IEEE通信选定领域杂志10.1109/JSAC.2023.324272241:4(964-976)在线发布日期：2023年4月1日
https://dl.acm.org/doi/10.1109/JSAC.2023.3242722
施Y连L施Y王Z周毅（Zhou Y）Fu L公司白L张杰张伟(2023)6G无线网络中大规模优化的机器学习IEEE通信调查与教程2010年10月10日/2023.330066425:4(2088-2132)在线发布日期：2023年10月1日
https://dl.acm.org/doi/10.1109/COMST.2023.3300664
⑩阿欣AYang R公司(2023)空中计算综述IEEE通信调查与教程2010年10月10日/2023.326464925:3(1877-1908)在线发布日期：2023年7月1日
https://dl.acm.org/doi/10.1109/COMST.2023.3264649

视图选项

查看选项

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此出版物

媒体

数字

其他

桌子

查看问题目录