×
陈丽莎;何塞、莎鲁·特蕾莎;伊万娜·尼古洛斯卡;朴相宇;陈天一;奥斯瓦尔多·西蒙

有限样本学习：元学习及其在通信系统中的应用。 （英语） Zbl 1510.68085号

已找到。趋势信号处理。 17，第2期，79-208（2023）.
摘要：深度学习在图像分类、语音识别和游戏玩等许多机器学习任务中取得了显著的成功。然而，这些突破通常很难转化为现实工程系统，因为深度学习模型需要大量的训练样本，而在实践中获取这些样本的成本很高。为了解决标记数据稀缺的问题，少快照元学习优化了能够快速有效适应新任务的学习算法。虽然元学习在机器学习文献中获得了极大的兴趣，但其工作原理和理论基础在工程界还没有得到很好的理解。
本综述专著通过涵盖原理、算法、理论和工程应用，介绍了元学习。在介绍了元学习与传统学习和联合学习的比较后，我们描述了主要的元学习算法，以及用于定义元学习技术的一般双层优化框架。然后，我们从统计学习的角度总结了关于元学习泛化能力的已知结果。接下来将讨论通信系统的应用，包括解码和功率分配，然后介绍与元学习与新兴计算技术（即神经形态计算和量子计算）集成相关的方面。这本专著最后概述了开放研究的挑战。

MSC公司：

68T05型 人工智能中的学习和自适应系统
90立方厘米 随机规划
94A05型 传播学理论
94甲12 信号理论（表征、重建、滤波等）
94甲15 信息论（总论）
68-02 与计算机科学有关的研究展览会（专著、调查文章）
94-02 与信息与传播理论相关的研究展览（专著、调查文章）

关键词：

通信信号处理;统计机器学习;随机优化;信息论;无线通信;统计学习理论

软件：

MOPO公司;PRMLT公司;ElemStatLearn（电子状态学习）
PDF格式BibTeX公司 XML格式引用
\textit{L.Chen}等人，发现。趋势信号处理。17，编号2，79--208（2023；Zbl 1510.68085）
全文： DOI程序 arXiv公司

参考文献：

[1] 3GPP，“无人机增强”，TS 22.289 V17.1.0，2019年。
[2] 3GPP，“0.5至100 ghz频率信道模型研究（3GPP tr 38.901版本16.1.0版本16）”，tr 38.9012020年。
[3] M.Abbas、Q.Xiao、L.Chen、P.Y.Chen和T.Chen，“夏普-MAML:夏普软件模型认知元学习”，摘自《Proc。
[4] 国际机器学习会议，2022年。
[5] A.Abdi和M.Kaveh，“移动衰落信道中多元件天线系统的时空相关模型”，IEEE通信选定领域期刊，第20卷，第3期，2002年，第550-560页。
[6] A.Agrawal、J.G.Andrews、J.M.Cioffi和T.Meng，“不完美连续干扰消除的迭代功率控制”，IEEE无线通信汇刊，第4卷，第3期，2005年，第878-884页。
[7] F.Alet、T.Lozano-Pérez和L.P.Kaelbling，《模块化元学习》。机器人学习会议，第856-868页，2018年。
[8] F.Alet、E.Weng、T.Lozano-Pérez和L.P.Kaelbling，《快速模块元学习的神经关系推理》。神经信息处理系统进展，2019年第32卷。参考文献191
[9] P.Alquier，“PAC-Bayes边界的用户友好介绍”，arXiv预打印arXiv:2110.112162021。
[10] C.Andrieu、N.De Freitas、A.Doucet和M.I.Jordan，“MCMC机器学习简介”，《机器学习》，第50卷，第1期，2003年，第5-43页·Zbl 1033.68081号
[11] F.A.Aoudia和J.Hoydis，“端到端通信系统的无模式培训”，IEEE通信选定领域期刊，第37卷，第11期，2019年，第2503-2516页。
[12] F.A.Aoudia和J.Hoydis，“ofdm端到端学习：从神经接收器到无人驾驶通信”，IEEE无线通信汇刊，第21卷，第2期，2021年。
[13] S.Arora、N.Cohen、W.Hu和Y.Luo，《深层矩阵因式分解中的隐式正则化》。神经信息处理系统进展，2019年。
[14] F.Arute、K.Arya、R.Babbush、D.Bacon、J.C.Bardin、R.Barends、R.Biswas、S.Boixo、F.G.Brandao、D.A.Buell等人，“使用可编程超导处理器的量子优势”，《自然》，第574卷，第7779期，2019年，第505-510页。
[15] Y.Bai、M.Chen、P.Zhou、T.Zhao、J.Lee、S.Kakade、H.Wang和C.Xiong，“元学习中的培训验证分割有多重要？”。国际机器学习会议，第543-553页，2021年。
[16] J.F.Bard，实用双层优化：算法和应用，第30卷。施普林格科学与商业媒体，2013年。
[17] P.L.Bartlett、P.M.Long、G.Lugosi和A.Tsigler，“线性回归中的良性过拟合”，《国家科学院学报》，第117卷，第48期，2020年，第30 063-30 070页。
[18] J.Baxter，“学会学习的理论模型”，摘自《学会学习》，斯普林格出版社，1998年，第71-94页。
[19] P.Benioff，“图灵机的量子力学哈密顿模型”，《统计物理杂志》，第29卷，第3期，1982年，第515-546页·Zbl 0514.68055号
[20] G.Berseth、Z.Zhang、G.Zhang，C.Finn和S.Levine，《Comps:持续元政策搜索》，摘自Proc。2021年国际学习代表大会。
[21] H.Beyer和H.Schwefel，“进化策略-综合介绍”，《自然计算》，第1卷，第1期，2002年，第3-52页·Zbl 1014.68134号
[22] C.M.Bishop和N.M.Nasrabadi，模式识别和机器学习，第4卷，第4页。斯普林格，2006年·Zbl 1107.68072号
[23] A.Blumer、A.Ehrenfeucht、D.Hausler和M.K.Warmuth，“可学习性和vapnik chervonenkis维度”，美国计算机学会期刊，第36卷，第4期，1989年，第929-965页·Zbl 0697.68079号
[24] L.Bonati、S.D'Oro、M.Polese、S.Basagni和T.Melodia，“数据驱动下一代蜂窝网络的o-ran智能和学习”，IEEE通信杂志，第59卷，第10期，2021年，第21-27页。
[25] Z.Borsos、M.Mutny和A.Krause，《通过双层优化实现持续学习和流媒体核心集》。神经信息处理系统进展，2020年。
[26] E.Bourtsoulatze、D.B.Kurka和D.Gündüz，“无线图像传输的深度联合信源信道编码”，IEEE认知通信与网络汇刊，2019年第5卷第3期，第567-579页。
[27] O.Bousquet，“统计学习理论的新方法”，《统计数学研究所年鉴》，第55卷，第2期，2003年，第371-389页·Zbl 1101.68076号
[28] J.Bracken和J.T.McGill，“约束条件下优化问题的数学程序”，《运筹学》，第21卷，第1期，1973年，第37-44页·Zbl 0263.90029号
[29] S.Cammerer、F.A.Aoudia、S.Dörner、M.Stark、J.Hoydis和S.Ten Brink，“可训练通信系统：概念和原型”，IEEE通信汇刊，第68卷，2020年第9期，第5489-5503页。
[30] L.Chen和T.Chen，“贝叶斯模型-认知元学习是否优于模型-认知的元学习？”。
[31] 《国际人工智能与统计会议》，第1733-1774页，2022年。
[32] L.Chen、S.Lu和T.Chen，《理解基于梯度的元学习中的良性过度拟合》。神经信息处理系统进展，2022年。
[33] T.Chen，Y.Sun和W.Yin，“缩小差距：双层问题交替随机梯度方法的更严格分析”，Proc。神经信息处理系统进展，第34卷，2021年。
[34] T.Chen、Y.Sun、Q.Xiao和W.Yin，《随机双层优化的单时间尺度方法》。《国际人工智能与统计会议》，第151卷，第2466-2488页，2022年。
[35] T.Chen、Y.Sun和W.Yin，“解决随机成分优化几乎与解决随机优化一样容易”，IEEE信号处理学报，第69卷，2021年，第4937-4948页·Zbl 07591674号
[36] W.-Y.Chen、Y.-C.Liu、Z.Kira、Y.-C.F.Wang和J.-B.Huang，《近距离观察少数快照分类》。2018年国际学习代表大会。
[37] K.Chua、Q.Lei和J.D.Lee，“微调如何实现有效的元学习”，见Proc。神经信息处理系统进展，第34卷，2021年。
[38] M.Cicerone、O.Simeone和U.Spagonilini，“通过模态分析/滤波实现mimo-ofdm系统的信道估计”，IEEE通信事务，第54卷，第11期，2006年，第2062-2074页。
[39] K.M.Cohen、S.Park、O.Simeone和S.Shamai，“学习学习通过贝叶斯元学习进行不确定性量化解调”，《智能天线国际ITG研讨会》，第1-6页，2021年。
[40] K.M.Cohen、S.Park、O.Simeone和S.Shamai，“为6g实现可靠高效的人工智能：用于少量导频解调和均衡的贝叶斯主动元学习”，arXiv预印本arXiv:2108.007852021。
[41] L.Collins、A.Mokhtari和S.Shakkottai，“为什么MAML优于ERM？优化视角”，arXiv预印本：2010.14672020。
[42] B.Colson、P.Marcotte和G.Savard，“双层优化概述”，《运筹学年鉴》，第153卷，第1期，2007年，第235-256页·Zbl 1159.90483号
[43] T.M.Cover，《信息论要素》。John Wiley&Sons，1999年。
[44] M.Davies、A.Wild、G.Orchard、Y.Sandamirskaya、G.A.F.Guerra、P.Joshi、P.Plank和S.R.Risbud，“利用loihi推进神经形态计算：结果和前景调查”，《IEEE学报》，第109卷，第5期，2021年，第911-934页。
[45] C.L.Degen、F.Reinhard和P.Cappellaro，“量子传感”，《现代物理学评论》，第89卷，第3期，2017年，第035 002页。
[46] T.Degres、M.White和R.S.Sutton，《公共政策执行者评论》。《国际机器学习大会》，第179-186页，2012年。
[47] S.Dempe、J.Dutta和B.S.Mordukhovich，“乐观双层规划中新的必要最优性条件”，《优化》，第56卷，第5-6期，2007年，第577-604页·兹比尔1172.90481
[48] S.Dempe、V.Kalashnikov、G.A.Perez-Valdes和N.Kalash-nykova，《双层规划问题：能源网络的理论、算法和应用》，第10卷。斯普林格，2015年·Zbl 1338.90005号
[49] S.Dempe、B.S.Mordukhovich和A.B.Zemkoho，“悲观双层规划中的必要最优性条件”，《优化》，第63卷，第4期，2014年，第505-533页·Zbl 1302.90206号
[50] S.Dempe和A.Zemkoho，《双层优化》。斯普林格，2020年·Zbl 1470.90001号
[51] G.Denevi、C.Ciliberto、D.Stamos和M.Pontil，《学习如何围绕共同的方法学习》。神经信息处理系统进展，2018年第31卷。
[52] L.Deng、G.Wu、J.Fu、Y.Zhang和Y.Yang，“无人机车辆通信的联合资源分配和轨迹控制”，IEEE Access，第7卷，2019年，第132 806-132 815页。
[53] S.S.Du、W.Hu、S.M.Kakade、J.D.Lee和Q.Lei，《学习表征国际会议》，2020，“通过学习表征进行的少数镜头学习，可证明”。
[54] Y.Duan、J.Schulman、X.Chen、P.L.Bartlett、I.Sutskever和P.Abbeel，“Rl 2:通过缓慢强化学习实现快速强化学习”，arXiv预印本arXiv:1611.027792016。
[55] M.Eisen和A.Ribeiro，“使用随机边缘图神经网络的最佳无线资源分配”，《IEEE信号处理汇刊》，第68卷，2020年，第2977-2991页。参考文献195·Zbl 07590942号
[56] A.Fallah、A.Mokhtari和A.Ozdaglar，“关于基于梯度的模型不可知元学习算法的收敛理论”，Proc。《国际人工智能与统计会议》，第1082-1092页，2020年。
[57] C.Finn、P.Abbeel和S.Levine，《深度网络快速适应的模型认知元学习》。国际机器学习大会，2017年。
[58] C.Finn、A.Rajeswaran、S.Kakade和S.Levine，《在线元学习》。国际机器学习会议，第1920-1930页，2019年。
[59] C.Finn、K.Xu和S.Levine，《概率模型-认知元学习》。神经信息处理系统进展，2018年。
[60] P.Foret、A.Kleiner、H.Mobahi和B.Neyshabur，《锐化软件最小化以有效提高通用性》。国际学习代表大会，2020年。
[61] L.Franceschi、M.Donini、P.Frasconi和M.Pontil，《基于正向和反向梯度的超参数优化》。国际机器学习会议，第1165-1173页，2017年。
[62] L.Franceschi、P.Frasconi、S.Salzo、R.Grazzi和M.Pontil，《超参数优化和元学习的双层规划》。国际机器学习会议，第1568-1577页，2018年。
[63] S.Frei、N.S.Chatterji和P.L.Bartlett，“无线性的良性过拟合：针对有噪声线性数据通过梯度下降训练的神经网络分类器”，arXiv预印本arXiv:22022.059282022。
[64] F.Futami、T.Iwata、N.Ueda、I.Sato和M.Sugiyama，“认知不确定性的Ex-cess风险分析及其在变分推理中的应用”，arXiv预印本arXiv:2206.016062022。
[65] K.Gao和O.Sener，《元学习中的建模和优化权衡》。《神经信息处理系统进展》，第33卷，2020年。
[66] S.Ghadimi和G.Lan，“非凸随机规划的随机一阶和零阶方法”，《SIAM优化杂志》，第23卷，第4期，2013年，第2341-2368页·Zbl 1295.90026号
[67] S.Ghadimi和M.Wang，“双层规划的近似方法”，arXiv预印本arXiv:1802.022462018。
[68] S.Gidaris和N.Komodakis，“动态少快照视觉学习而不遗忘”，见Proc。2018年计算机视觉和模式识别会议。
[69] M.Goutay、F.A.Aoudia和J.Hoydis，“基于深度超网络的mimo检测”，Proc。2020年无线通信信号处理进展国际研讨会。
[70] E.Grant、C.Finn、S.Levine、T.Darrell和T.Griffiths，“将基于梯度的元学习重塑为层次贝叶斯”。2018年国际学习代表大会。
[71] R.Grazzi、L.Franceschi、M.Pontil和S.Salzo，《超梯度计算的迭代复杂性》。
[72] 国际机器学习会议，第3748-37582020页。
[73] C.Guo、G.Pleiss、Y.Sun和K.Q.Weinberger，“关于现代神经网络的校准”，见Proc。国际机器学习大会，2017年。
[74] Z.Guo和T.Yang，“随机双层优化的随机随机方差缩减方法”，arXiv预印本：2105.022662021。
[75] T.Hastie、R.Tibshirani、J.H.Friedman和J.H.Friedmani，《统计学习的要素：数据挖掘、推理和预测》，第2卷。施普林格，2009年·兹比尔1273.62005
[76] S.Hochreiter、A.S.Younger和P.R.Conwell，《使用梯度下降学习》，Proc。国际人工神经网络会议，第87-942001页·Zbl 1001.68724号
[77] M.Hong、H.-T.Wai、Z.Wang和Z.Yang，“双层优化的双时间尺度框架：复杂性分析和在actor-critic中的应用”，arXiv预印本：2007.051702020。
[78] T.M.Hospedales、A.Antoniou、P.Micaelli和A.J.Storkey，“神经网络中的元学习：一项调查”，IEEE模式分析和机器智能交易，2020年。
[79] Y.Hu、M.Chen、W.Saad、H.V.Poor和S.Cui，“用于无线无人机网络轨迹设计的分布式多智能体元学习”，IEEE通信选定领域期刊，第39卷，第10期，2021，第3177-3192页。
[80] Y.Hu、S.Zhang、X.Chen和N.He，“条件随机优化的有偏随机一阶方法及其在元学习中的应用”。《神经信息处理系统进展》，第2759-2770页，2020年。
[81] Y.Hu、H.Liu、M.Pfeiffer和T.Delbruck，“用于对象跟踪、动作识别和对象识别的Dvs基准数据集”，《神经科学前沿》，2016年第10卷，第405页。
[82] F.Huang和H.Huang.“Biadam:快速自适应双层光学方法”，arXiv预印本：2106.113962021。
[83] Y.Huang、Y.Liang和L.Huang，“用sgd训练的超参数元学习的可证明推广”。神经信息处理系统进展，2022年。
[84] E.Hüllermier，“量化机器学习中的任意和认知不确定性：条件熵和互信息是否合适？”arXiv预印本：2209.033022022。
[85] M·汉弗莱斯（M.Humphries），《尖峰：2.1秒穿越大脑的史诗之旅》（The Spike:An Epic Journey Through The Brain in 2.1 Seconds）。普林斯顿大学出版社，2021年。
[86] H.Jang、O.Simeone、B.Gardner和A.Gruning，“概率峰值神经网络简介：概率模型、学习规则和应用”，IEEE信号处理杂志，第36卷，第6期，2019年，第64-77页。
[87] K.Ji、J.Yang和Y.Liang，“多步骤模型-认知元学习：收敛和改进算法”，arXiv预印本arXiv:2002.078362020。
[88] K.Ji、J.Yang和Y.Liang，“显著更快的双层优化算法和元学习应用”。
[89] 国际机器学习会议，2021年。
[90] K.Ji、J.Yang和Y.Liang，“多步骤模型-认知元学习的理论收敛”，《机器学习研究杂志》，第23卷，2022年，第29-1页·Zbl 07625182号
[91] W.Jiang和H.D.Schotten，《无线信道预报器的比较：人工智能与卡尔曼滤波》。《国际通信会议》，2019年第1-6页。工具书类
[92] W.Jiang、M.Strufe和H.D.Schotten，《使用递归神经网络进行长距离mimo信道预测》。IEEE年度消费者通信与网络会议，第1-6页，2020年。
[93] Y.Jiang、H.Kim、H.Asnani和S.Kannan，《思维：独立于模型的神经解码器》。无线通信信号处理进展国际研讨会，2019年第1-5页。
[94] S.T.Jose、S.Park和O.Simeone，《贝叶斯元学习中认知不确定性的信息论分析》。
[95] 国际人工智能与统计会议，第9758-9775页，2022。
[96] S.T.Jose和O.Simeone，《任务相似性对元学习影响的信息理论分析》。IEEE信息理论国际研讨会，第1534-15392021页。
[97] S.T.Jose和O.Simeone，“自由能最小化：建模、推理、学习和优化的统一框架”，IEEE信号处理杂志，第38卷，第2期，2021年，第120-125页。
[98] S.T.Jose和O.Simeone，“元学习和应用的信息论泛化界限”，《熵》，2021年。
[99] S.T.Jose、O.Simeone和G.Durisi，“迁移元学习：信息理论边界和信息元风险最小化”，《IEEE信息理论汇刊》，第68卷，第1期，2021年，第474-501页·Zbl 1489.62014号
[100] J.Kaddour、S.Saemundsson等人，《概率主动元学习》。《神经信息处理系统进展》，第33卷，第20 813-20 8222020页。
[101] L.Kaiser、M.Babaeizadeh、P.Milos、B.Osinski、R.H.Campbell、K.Czechowski、D.Erhan、C.Finn、P.Kozakowski、S.Levine等人，《基于模型的atari强化学习》。2019年国际学习代表大会。
[102] A.Karni、G.Meyer、C.Rey-Hipolito、P.Jezzard、M.M.Adams、R.Turner和L.G.Ungerleider，“熟练运动性能的获得：初级运动皮层的快速和缓慢经验驱动变化”，《国家科学院院刊》，第95卷，第3期，1998年，第861-868页。
[103] P.Khanduri、S.Zeng、M.Hong、H.T.Wai、Z.Wang和Z.Yang，“用于双层优化的动量辅助单时间尺度随机近似算法”。神经信息处理系统进展，2021年。
[104] H.Kim、S.Kim，H.Lee、C.Jang、Y.Choi和J.Choi，“大规模mimo信道预测：卡尔曼滤波与机器学习”，IEEE通信学报，第69卷，第1期，2020年，第518-528页。
[105] J.Knoblauch、J.Jewson和T.Damoulas，“广义变分推理：推导新后验的三个论点”，arXiv预印本arXiv:1904.020632019。
[106] V.Konda和V.Borkar，“马尔可夫决策过程的Actor-critic-type学习算法”，《SIAM控制与优化杂志》，第38卷，第1期，1999年，第94-123页·Zbl 0938.93069号
[107] W.Kong、R.Somani、Z.Song、S.Kakade和S.Oh，“混合线性回归的元学习”，见Proc。国际机器学习会议，第5394-5404200页。
[108] D.Kudithipudi、M.Aguilar-Simon、J.Babb、M.Bazhenov、D.Blackiston、J.Bongard、A.P.Brna、S.Chakravarthi Raja、N.Cheney、J.Clune等人，《终身学习机器的生物基础》，《自然机器智能》，第4卷，2022年。
[109] G.Kunapuli、K.P.Bennett、J.Hu和J.-S.Pang，“通过双层规划选择分类模型”，《优化方法与软件》，第23卷，第4期，2008年，第475-489页·Zbl 1151.90541号
[110] K.Kunisch和T.Pock，“变分模型中参数学习的双层优化方法”，《SIAM成像科学杂志》，2013年第6卷第2期，第938-983页·Zbl 1280.49053号
[111] W.W.Lee、Y.J.Tan、H.Yao、S.Li、H.H.See、M.Hon、K.A.Ng、B.Xiong、J.S.Ho和B.C.Tee，“可伸缩电子皮肤的神经激励人工周围神经系统”，《科学机器人学》，第4卷，第32期，2019年。
[112] J.Li、B.Gu和H.Huang，《无hessian逆的双层优化的全单循环算法》。人工智能发展协会，第7426-74342022页。
[113] P.Lichtsteiner、C.Posch和T.Delbruck，《对相对强度变化作出响应的128 x 128 120db 30mw异步视觉传感器》。IEEE国际固态电路会议-技术论文摘要，第2060-2069页，2006年。
[114] 林赛（G.Lindsay），《心智模型：物理、工程和数学如何塑造我们对大脑的理解》。布卢姆斯伯里出版社，2021年。
[115] J.Liu、Y.Fan、Z.Chen和Y.Zheng，“悲观的双层优化：一项调查”，《国际计算智能系统杂志》，第11卷，第1期，2018年，第725-736页。
[116] J.Liu、Y.Fan、Z.Chen和Y.Zheng，“悲观双层优化方法”，载于《双层优化》，施普林格出版社，2020年，第403-420页·Zbl 1481.90292号
[117] Liu和D.Wang，“Stein变分梯度下降：通用贝叶斯推理算法”，摘自Proc。神经信息处理系统进展，2016年。
[118] R.Liu、J.Gao、J.Zhang、D.Meng和Z.Lin，“从统一的特定领域研究学习和视觉的双层优化：一项调查及其他”，IEEE模式分析和机器智能汇刊，2021年。
[119] R.Liu，P.Mu，X.Yuan，S.Zeng和J.Zhang，“一个超越低级单例的双层编程的通用一阶算法框架，”Proc。国际机器学习会议，第6305-63152020页。
[120] W.Liu、L.-L.Yang和L.Hanzo，《基于递归神经网络的窄带信道预测》。IEEE第63届车载技术会议，第5卷，第2173-2177页，2006年。
[121] Y.Liu和O.Simeone，“学习如何通过超流神经网络将fdd大规模mimo从上行链路传输到下行链路”，IEEE无线通信汇刊，2022年。
[122] Z.-Q.Luo、J.-S.Pang和D.Ralph，《具有平衡约束的数学程序》。剑桥大学出版社，1996年。参考201
[123] D.Maclaurin、D.Duvenaud和R.Adams，《通过可逆学习实现基于梯度的超参数优化》。《国际机器学习会议》，F.Bach和D.Blei，Eds.，第37卷，第2113-2122页，2015年。
[124] A.Mancoo、S.Keemink和C.K.Machens，“通过凸优化理解尖峰网络”，Proc。2020年神经信息处理系统进展。
[125] R.Marini、S.Park、O.Simeone和C.Buratti，“无人机辅助车辆无线网络的持续元增强学习”，arXiv预印本arXiv:2207.061312022。
[126] S.J.Martin、P.D.Grimwood和R.G.Morris，“突触可塑性和记忆：假说的评估”，《神经科学年度评论》，第23卷，第1期，2000年，第649-711页。
[127] A.Masegosa，“模型错误指定下的学习：变分和集成方法的应用”，见Proc。《神经信息处理系统进展》，第33卷，第5479-54912002页。
[128] B.McMahan、E.Moore、D.Ramage、S.Hampson和B.A.y Arcas，《通信——从分散数据中高效学习深层网络》。《国际人工智能与统计会议》，第1273-1282页，2017年。
[129] A.Mehonic和A.J.Kenyon，“灵感计算需要总体规划”，《自然》，第604卷，第7905期，2022年，第255-260页。
[130] R.Mendonca、A.Gupta、R.Kralev、P.Abbeel、S.Levine和C.Finn，《引导元政策搜索》。神经信息处理系统进展，2019年。
[131] N.Mishra、M.Rohaninejad、X.Chen和P.Abbeel，《Proc。2018年国际学习代表大会。
[132] A.Nagabandi、I.Clavera、S.Liu、R.S.Fearing、P.Abbeel、S.Levine和C.Finn，“通过元增强学习适应动态的现实世界环境”，arXiv预印本arXiv:1803.113472018。
[133] E.O.Neftci、H.Mostafa和F.Zenke，“峰值神经网络中的替代梯度学习：将基于梯度的优化的力量引入峰值神经网络”，IEEE信号处理杂志，第36卷，第6期，2019年，第51-63页。
[134] B.Neyshabur、R.Tomioka和N.Srebro，“寻找真正的归纳偏差：关于内隐正则化在深度学习中的作用”，arXiv预印本arXiv:1412.66142014。
[135] C.Nguyen、T.-T.Do和G.Carneiro，“使用变分推理的模型认知元学习中的不确定性”。计算机视觉应用冬季会议，第3090-3100页，2020年。
[136] A.Nichol、J.Achiam和J.Schulman，“关于一阶元学习算法”，arXiv预印本arXiv:1803.029992018年。
[137] A.Nichol和J.Schulman，“爬行动物：一种可扩展的元学习算法”，arXiv预印本arXiv:1803.029992018年。
[138] I.Nikoloska和O.Simeone，《黑盒优化的贝叶斯主动元学习》。IEEE无线通信信号处理进展国际研讨会，2022年。
[139] I.Nikoloska和O.Simeone，“通过随机边缘图神经网络进行功率控制的模块化元学习”，IEEE Trans-actions on Wireless Communications，2022年。
[140] I.Nikoloska和O.Simeone，“通过Born机器对贝叶斯二元神经网络进行量化辅助元学习”，arXiv预印本arXiv:2203.170892022。
[141] T.O'shea和J.Hoydis，“物理层深度学习简介”，IEEE认知通信与网络汇刊，2017年第3卷第4期，第563-575页。
[142] S.Park、H.Jang、O.Simeone和J.Kang，“通过离线和在线元学习学习从少数飞行员中演示”，IEEE信号处理交易，第69卷，2020年，第226-239页·Zbl 07591341号
[143] S.Park和O.Simeone，“通过元学习闭合形式线性滤波器和平衡传播预测扁平化信道”，见Proc。国际声学、语音和信号处理会议，第8817-88212022页。
[144] S.Park、O.Simeone和J.Kang，《Proc。2020年无线通信信号处理进展国际研讨会。
[145] S.Park、O.Simeone和J.Kang，《通信的元学习：衰落信道的快速端到端培训》。国际。
[146] 声学、语音和信号处理会议，第5075-5079页，2020年。
[147] F.Pedregosa，“具有近似梯度的超参数优化”。国际机器学习会议，第737-746页，2016年。
[148] B.Poole、S.Ozair、A.Van Den Oord、A.Alemi和G.Tucker，“关于相互信息的变分界限”，见Proc。国际。
[149] 机器学习会议，第5171-51802019页。
[150] K.Pratik、R.A.Amjad、A.Behboodi、J.B.Soriaga和M.Welling，《利用超网络对卡尔曼滤波器进行神经增强以进行信道跟踪》。IEEE全球通信会议，第1-6页，2021年。
[151] S.Qiao、C.Liu、W.Shen和A.L.Yuille，“通过预测激活参数实现的少量图像识别”。《计算机视觉和模式识别的概念》，第7229-7238页，2018年。
[152] M.Rabinovich、E.Angelino和M.I.Jordan，《蒙特卡罗变分一致性》，Proc。神经信息处理系统进展，2015年第28卷。
[153] A.Rajeswaran、C.Finn、S.M.Kakade和S.Levine，《隐性梯度的元学习》。神经信息处理系统进展，2019年。
[154] K.Rakelly、A.Zhou、C.Finn、S.Levine和D.Quillen，《通过概率上下文变量进行有效的非政策元增强学习》。国际机器学习会议，第5331-5340页，2019年。
[155] S.Ravi和A.Beatson，《摊销贝叶斯元学习》。2019年国际学习代表大会。工具书类
[156] T.Raviv、S.Park、O.Simeone、Y.C.Eldar和N.Shlezinger，“基于混合模型的深度接收机的在线元学习”，arXiv预印本arXiv:2203.143592022。
[157] H.Robbins和S.Monro，“随机近似方法”，《数理统计年鉴》，第22卷，第3期，1951年，第400-407页·Zbl 0054.05901号
[158] B.Rosenfeld、B.Rajendran和O.Simeone，“通过在线在线元学习对峰值神经网络进行快速设备自适应”，见Proc。IEEE数据科学与学习工作室，第1-6页，2021年。
[159] S.Sabach和S.Shtern，“求解凸双层优化问题的一阶方法”，《SIAM优化杂志》，第27卷，第2期，2017年，第640-660页·Zbl 1365.65165号
[160] J.Schmidhuber，“嵌入自己的元层次的神经网络”。IEEE国际神经网络会议，407-412，第1卷，1993年。
[161] A.Shaban、C.-A.Cheng、N.Hatch和B.Boots，《两层优化的截断反向传播》。《国际人工智能与统计会议》，第1723-1732页，2019年。
[162] A.Shapiro、D.Dentcheva和A.Ruszczynski，《随机编程讲座：建模与理论》。SIAM，2009年·邮编：1183.90005
[163] H.Shen和T.Chen，“多耦合序列stochas-tic逼近的单时间尺度分析”，见Proc。神经信息处理系统进展，2022年。
[164] N.Shlezinger、Y.C.Eldar和S.P.Boyd，“基于模型的深度学习：深度学习和优化的交叉点”，《美国国家科学院院刊》，2022年。
[165] N.Shlezinger、N.Farsad、Y.C.Eldar和A.J.Goldsmith，“Viterbinet:基于深度学习的维特比符号检测算法”，IEEE无线通信交易，第19卷，第5期，2020年，第3319-3331页。
[166] N.Shlezinger、R.Fu和Y.C.Eldar，“Deepsic:多用户mimo检测的深度软干扰消除”，IEEE参考205
[167] O.Simeone，“通信系统应用的机器学习简介”，IEEE汇刊
[168] 认知通信与网络，第4卷，第4期，2018年，第648-664页。
[169] O.Simeone，《工程师机器学习》。剑桥大学出版社，2022年。
[170] O.Simeone、S.Park和J.Kang，“从学习到元学习：减少通信系统的培训开销和复杂性”，载于《6G无线峰会》，第1-5页，2020年。
[171] O.Simeone和U.Spagonilini，“频率选择性块频mimo信道基于训练的信道估计误差下限”，IEEE信号处理学报，第52卷，第11期，2004年，第3265-3277页。
[172] A.Sinha、P.Malo和K.Deb，“双层优化综述：从经典到进化方法和应用”，IEEE进化计算汇刊，2017年第22卷第2期，第276-295页。
[173] J.Snell、K.Swersky和R.Zemel，“用于少镜头学习的原型网络”，发表在Proc。《神经信息处理系统进展》，第4080-4090页，2017年。
[174] X.Song、W.Gao、Y.Yang、K.Choromanski、A.Pacchiano和Y.Tang，“Es-maml：简单的无hessian元学习”，摘自Proc。
[175] 2019年国际学习代表大会。
[176] N.Soures、P.Helfer、A.Daram、T.Pandit和D.Kudithipudi，《塔科斯：尖峰神经网络中的任务无关持续学习》，摘自Proc。国际机器学习会议，2021年。
[177] D.Sow，K.Ji，Z.Guan，Y.Liang，“具有多个内部极小值的双层优化的约束优化方法”，arXiv预印本arXiv:2203.01123，2022。
[178] H.V.Stackelberg，《市场经济理论》。牛津大学出版社，1952年。
[179] F.Sung、Y.Yang、L.Zhang、T.Xiang、P.H.Torr和T.M.Hospadeles，《学习比较：少快照学习的关系网络》。计算机视觉和模式识别会议，第1199-1208页，2018年。
[180] R.S.Sutton、M.H.Bowling和P.M.Pilarski，“阿尔伯塔省人工智能研究计划”，arXiv预印本arXiv：2208.111732022。
[181] D.Tandur和M.Moonen，“基于ofdm的系统中载波频率偏移下发射机和接收机iq不平衡的联合自适应补偿”，IEEE信号处理汇刊，2007年第11期，第55卷，第5246-5252页·Zbl 1390.94038号
[182] D.A.Tarzanagh和L.Balzano，“在线双层优化：在线交替梯度法的回归分析”，arXiv预印本：2207.028292022。
[183] A.Tsigler和P.L.Bartlett，“岭回归中的良性过拟合”，arXiv预印本arXiv:2009.142862020。
[184] G.Verdon、M.Broughton、J.R.McClean、K.J.Sung、R.Bab-bush、Z.Jiang、H.Neven和M.Mohseni，“通过经典神经网络学习量子神经网络”，arXiv预印本arXiv:1907.054152019。
[185] L.N.Vicente和P.H.Calamai，“双层和多层规划：文献综述”，《全球优化杂志》，第5卷，第3期，1994年，第291-306页·Zbl 0822.90127号
[186] P.Vicol、J.P.Lorraine、F.Pedregosa、D.Duvenaud和R.B.Grosse，《关于超参数双层优化中的隐式偏差》。国际机器学习会议，第22 234-22 2592022页。
[187] O.Vinyals，C.Blundell，T.Lillicrap，D.Wierstra等人，《一次性学习的匹配网络》。《神经信息处理系统进展》，第29卷，第3630-3638页，2016年。
[188] A.Viterbi，“卷积码的误差界限和非对称最优解码算法”，《IEEE信息理论事务》，第13卷，第2期，1967年，第260-269页·Zbl 0148.40501号
[189] K.Wang、V.Muthukumar和C.Thrampoulidis，“多类分类中的良性过度拟合：所有道路都会导致插值”，见Proc。《神经信息处理系统进展》，A.Beygelzimer、Y.Dauphin、P.Liang和J.W.Vaughan编辑，2021年。
[190] Z.Wang、Y.Zhao、P.Yu、R.Zhang和C.Chen，《快速不确定性适应的贝叶斯元抽样》。国际学习表征会议，2020。参考207
[191] M.Wax和T.Kailath，“用信息论标准检测信号”，IEEE声学、语音和信号处理汇刊，第33卷，第2期，1985年，第387-392页。
[192] 维基百科，Heinrich freiherr von stackelberg，2013年。网址：https://en.wikipedia.org/wiki/Heinrich_Freiherr_von_Stackelberg。
[193] M.Wilson、R.Stromswold、F.Wudarski、S.Hadfield、N.M.Tubman和E.G.Rieffel，“用元学习优化量子启发式”，《量子机器智能》，第3卷，第1期，2021年，第1-14页。
[194] J.Xia、D.Deng和D.Fan，“关于传统mimo发射机基于深度学习的信号检测实现方法的说明”，IEEE广播汇刊，第66卷，第3期，2020年，第744-745页。
[195] A.Xu和M.Raginsky，“学习算法的基因道德能力的信息论分析”，摘自Proc。神经信息处理系统进展，2017年。
[196] J.Yang、K.Ji和Y.Liang，“双层优化的显著更快算法”，《神经信息处理系统进展》，第34卷，2021年，第13 670-13 682页。
[197] J.Ye和D.Zhu，“双层规划问题的最优性条件”，最优化，第33卷，第1期，1995年，第9-27页·Zbl 0820.65032号
[198] M.Yin、G.Tucker、M.Zhou、S.Levine和C.Finn，《无记忆的元学习》。国际学习代表大会，2020年。
[199] J.Yoon、T.Kim、O.Dia、S.Kim，Y.Bengio和S.Ahn，《贝叶斯模型-认知元学习》。神经信息处理系统进展，2018。
[200] T.Yu、G.Thomas、L.Yu，S.Ermon、J.Y.Zou、S.Levine、C.Finn和T.Ma，“Mopo:基于模型的离线策略优化”，见Proc。《神经信息处理系统进展》，第33卷，第14页，129-141422020年。
[201] J.Yuan、H.Q.Ngo和M.Matthaiou，“信道老化情况下大规模mimo中基于机器学习的信道预测”，IEEE无线通信汇刊，第19卷，第5期，2020年，第2960-2973页。
[202] M.Zecchin、S.Park、O.Simeone、M.Kountouris和D.Gesbert，“可靠无线人工智能的稳健贝叶斯学习：框架和应用”，arXiv预印本arXiv:2207.003002022。
[203] J.Zhang、Y.Yuan、G.Zheng、I.Krikidis和K.-K.Wong，“基于嵌入模型的快速元学习用于下行波束形成自适应”，IEEE无线通信汇刊，2021年。
[204] T.Zhang，“统计估计的信息理论上下限”，IEEE信息理论汇刊，第52卷，第4期，2006年，第1307-1321页·Zbl 1320.94033号
[205] P.Zhou、X.Yuan、H.Xu、S.Yan和J.Feng，《通过小批量近端更新实现高效元学习》。神经信息处理系统进展，2019年。
[206] L.Zintgraf、K.Shiarli、V.Kurin、K.Hofmann和S.Whiteson，《通过元学习实现快速语境适应》。国际机器学习会议，第7693-77022019页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。