徐月生 巴拿赫空间中的稀疏机器学习。 （英语） Zbl 07705768号 申请。数字。数学。 187, 138-157 (2023). 摘要：本文的目的是向数学、统计和工程领域的研究生和初学者解释Banach空间中稀疏机器学习的基本概念。特别地，我们以二进制分类为例，解释了再生核Hilbert空间中学习和再生核Banach空间（RKBS）中稀疏学习的本质。然后，我们利用巴拿赫空间（\ell_1（\mathbb{N}））以一种基本但严格的方式说明RKBS的基本概念。本文从作者的角度回顾了现有的结果，以反映稀疏学习领域的现状，并包括对RKBS的新的理论观察。本文最后还讨论了对RKBS理论至关重要的几个悬而未决的问题。 引用于1文件 理学硕士： 68泰克 人工智能 46埃克斯 线性函数空间及其对偶 41轴 近似值和展开值 关键词：稀疏机器学习;再生核Banach空间 PDF格式BibTeX公司 XML格式引用 \textit{Y.Xu}，应用。数字。数学。187、138--157（2023；Zbl 07705768） 全文： 内政部 参考文献： [1] Aronszajn，N.，《再生核理论》，译。美国数学。Soc.，68，337-404（1950）·Zbl 0037.20701号 [2] 阿齐兹内贾德，S。；Unser，M.，稀疏约束多核回归，SIAM J.Math。数据科学。，3 (2021) ·兹伯利1479.46026 [3] 巴托卢奇，F。；De Vito，E。；罗莎科，L。；Vigogna，S.，理解具有再生核Banach空间的神经网络，应用。计算。哈蒙。分析。，62, 194-236 (2023) ·Zbl 1511.46015号 [4] Bochner，S.，Hilbert距离和正定函数，Ann.Math。，42, 647-656 (1941) [5] 德布尔，C。；Lynch，R.E.，《关于样条及其最小性质》，J.Math。机械。，15, 953-969 (1966) ·Zbl 0185.20501号 [6] 坎迪斯，E.J。；J.隆伯格。；Tao，T.，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。《信息论》，52，489-509（2006）·Zbl 1231.94017号 [7] 森特诺，H。；Medina，J.M.，再生核Banach空间中的逆抽样定理，Sampl。理论信号处理。数据分析。，20，第8条pp.（2022）·Zbl 1500.42015年 [8] Chen，L。；Zhang，H.，（L_1）范数支持向量机的统计边缘误差界，神经计算，339210-216（2019） [9] R.Cheng，R.Wang，Y.Xu，《Banach空间正则化学习问题的对偶方法》，预印本，2022年。 [10] Cheng，R。；Xu，Y.，（\ell_1（\mathbb{N}）空间中的最小范数插值，Ana。申请。，19，21-42（2021）·Zbl 1462.41001号 [11] 组合，P.L。；Salzo，S。；Villa，S.，《安纳州巴纳赫特色空间的正规化学习计划》。申请。，16, 1-54 (2018) ·Zbl 1378.62015号 [12] 科尔特斯，C。；Vapnik，V.，支持向量网络，马赫。学习。，20, 3, 273-297 (1995) ·Zbl 0831.68098号 [13] Cucker，F。；Smale，S.，《学习的数学基础》，布尔。美国数学。Soc.，39，1-49（2002）·Zbl 0983.68162号 [14] Deutsch，F.，《内积空间的最佳逼近》（2001），Springer:Springer New York·兹伯利0980.41025 [15] 德国，F。；乌巴亚，V.A。；沃德·J·D。；Xu，Y.，Hilbert空间中的约束最佳逼近III.在n-凸函数中的应用，Constr。约，12361-384（1996）·Zbl 0995.41500号 [16] Donoho，D.L.，压缩传感，IEEE Trans。《信息论》，521289-1306（2006）·Zbl 1288.94016号 [17] 法绍尔，G.E。；希克内尔，F.J。；Ye，Q.，求解具有正定函数的再生核Banach空间中的支持向量机，应用。计算。哈蒙。分析。，38, 115-139 (2015) ·Zbl 1366.68236号 [18] K.Fukumizu，G.Lanckriet，B.K.Sriperumbudur，《Hilbert与Banach空间中的学习：测量嵌入观点》，收录于《神经信息处理系统的进展》第24期（NIPS 2011）·Zbl 1280.68198号 [19] 格雷顿，A。；博格沃德，K.M。；Rasch，M.J。；Schölkopf，B。；Smola，A.，《内核双样本测试》，J.Mach。学习。研究，13723-773（2012）·Zbl 1283.62095号 [20] Georgiev，P.G。；桑切斯·冈萨雷斯，L。；Pardalos，P.M.，再生核Banach空间对的构造，（构造性非光滑分析及相关主题，构造性非平滑分析及相关话题，Springer优化及其应用（SOIA），第87卷（2013年9月），39-57·Zbl 1301.46008号 [21] 霍夫勒，T。；Alistarh，D.A。；德莱顿，N。；Ben-Nun，T.，《深度学习的未来将是稀疏的》，SIAM新闻（2021年5月3日） [22] 黄，L。；刘，C。；Tan，L。；Ye，Q.，Banach空间中的广义表示定理，Ana。申请。，19, 125-146 (2021) ·Zbl 1462.68156号 [23] Kimeldorf，G.S。；Wahba，G.，《随机过程贝叶斯估计与样条曲线平滑之间的对应关系》，《数学年鉴》。Stat.，41，495-502（1970）·兹比尔0193.45201 [24] 李，Q。；沈，L。；Xu，Y。；Zhang，N.，用于解决图像处理产生的一类优化问题的多步定点邻近算法，Adv.Comput。数学。，41887-422（2015年）·Zbl 1326.65069号 [25] 李，Z。；Xu，Y。；Ye，Q.，再生核Banach空间中的稀疏支持向量机，（当代计算数学-庆祝Ian Sloan 80岁生日（2018），Springer），869-887·Zbl 1405.65080号 [26] 林，R。；Song，G。；Zhang，H.，范数为（ell^1）的向量值再生核Banach空间中的多任务学习，J.Complex。，63，第101514条pp.（2021）·Zbl 1471.68221号 [27] 林·R。；张，H。；Zhang，J.，《再生核Banach空间：构造的一般定义和统一框架》，《数学学报》。罪。，38, 1459-1483 (2022) ·Zbl 1505.46025号 [28] 刘，Q。；王，R。；Xu，Y。；Yan，M.，范数稀疏正则化的参数选择，逆问题。，39，第025004条pp.（2023）·Zbl 07640701号 [29] Mercer，J.，《正负型函数及其与积分方程理论的联系》，Philos。事务处理。R.Soc.伦敦。序列号。A、 209415-446（1909） [30] 米切利，C.A。；Pontil，M.，《巴拿赫空间中学习的函数表示法》，（学习理论，学习理论，计算机科学讲义，第3120卷（2004），施普林格：施普林格-柏林），255-269·Zbl 1078.68129号 [31] 米切利，C.A。；沈，L。；Xu，Y.，图像模型的邻近算法：去噪，逆概率。，27，第045009条pp.（2011）·Zbl 1216.94015号 [32] 米切利，C.A。；Xu，Y。；Zhang，H.，Universal kernels，J.Mach。学习。第7号决议，2651-2667（2006）·Zbl 1222.68266号 [33] Muandet，K。；Fukumizu，K。；Sriperumbudur，B。；Schölkopf，B.，分布的核平均嵌入：综述及其后的内容，Found。Trends®马赫数。学习。，10, 1-2, 1-141 (2017) ·Zbl 1380.68336号 [34] 奥瓦迪，H。；Scovel，C.，再生核空间的可分性，Proc。美国数学。Soc.，145，2131-2138（2017）·Zbl 1369.46022号 [35] 帕希，R。；Nowak，R.D.，神经网络和脊样条的Banach空间表示定理，J.Mach。学习。决议，22，1-40（2021年）·兹比尔1507.68250 [36] 鲍威尔，M.J.D.，《近似理论与方法》（1981），剑桥大学出版社：剑桥大学出版社·Zbl 0453.41001号 [37] 里德，M。；Simon，B.，功能分析（1980），学术出版社：纽约学术出版社·Zbl 0459.46001号 [38] 罗伊登，H.L.，《真实分析》（1988），麦克米伦出版公司：纽约麦克米伦出版公司·Zbl 0704.26006号 [39] Salzo，S。；Suykens，J.A.K.，《广义支持向量回归：对偶和张量核表示》，Ana。申请。，18, 149-183 (2020) ·Zbl 1441.62101号 [40] Schölkopf，B。；Herbrich，R。；Smola，A.J.，《一个广义代表定理》，（计算学习理论，计算机科学讲义，第2111卷（2001）），416-426·Zbl 0992.68088号 [41] Schlegel，K.，什么时候有代表性定理？，高级计算。数学。，47, 54 (2021) ·Zbl 1507.68254号 [42] Shannon，C.，《关于Banach空间中的Lipschitz隐函数定理及其应用》，J.Math。分析。申请。，494，第124589条pp.（2021）·Zbl 1480.47080号 [43] Sheng，B。；左，L.，基于精细凸损失和RKBS的核正则回归误差分析，国际小波多分辨率。信息处理。，第19条，第2150012页（2021）·Zbl 1478.62095号 [44] Song，G。；张华，用（ell_1）范数再现核Banach空间ii:正则最小二乘回归的误差分析，神经计算。，23, 2713-2729 (2011) ·Zbl 1231.68219号 [45] Song，G。；张，H。；Hickernell，F.J.，用\（\ell_1\）范数再现内核Banach空间，应用。计算。哈蒙。分析。，3466-116（2013）·Zbl 1269.46020号 [46] 斯佩克，L。；Heeringa，T.J。；Brune，C.，通过再生核Banach空间实现神经网络的对偶性（2022），arXiv预印本 [47] Sridharan，K。；Tewari，A.，《Banach空间中的凸博弈》，（第23届学习理论年会论文集（2010），Omnipress），1-13 [48] Sriperumbudur，B.K。；Fukumizu，K。；Lanckriet，G.R.G.，《希尔伯特与巴拿赫空间中的学习：测量嵌入观点》，《神经信息处理系统的进展》，1773-1781（2011），麻省理工学院出版社：麻省理学院出版社剑桥 [49] Unser，M.，稀疏提升正则化的表示定理，IEEE Trans。Inf.理论，6251675-180（2016）·Zbl 1359.94185号 [50] Unser，M.，发现了反问题和机器学习的统一表示定理。计算。数学。，21, 941-960 (2021) ·兹伯利1479.46088 [51] 王，R。；Xu，Y.，Banach空间中的表示定理：最小范数插值，正则化学习和半离散逆问题，J.Mach。学习。第22、1-65号决议（2021年）·Zbl 1507.68261号 [52] R.Wang，Y.Xu，M.Yan，Banach空间中稀疏学习的表示定理，预印本，2023。 [53] Xu，Y。；Ye，Q.，广义Mercer核和再生核Banach空间，Mem。美国数学。Soc.，258，第1243条pp.（2019）·Zbl 1455.68009号 [54] Xu，Y。；Zhang，H.，《可精炼内核》，J.Mach。学习。第8号决议，2083-2120（2007年）·Zbl 1222.68337号 [55] Xu，Y。；张，H.，再生核的精炼，J.Mach。学习。决议，10，107-140（2009年）·Zbl 1235.68211号 [56] 张，H。；Xu，Y。；Zhang，J.，《为机器学习复制内核Banach空间》，J.Mach。学习。决议，102741-2775（2009）·Zbl 1235.68217号 [57] 张，H。；Xu，Y。；张琼，算子值再生核的精化，J.Mach。学习。研究，13，91-136（2012）·Zbl 1283.68310号 [58] 张，H。；Zhang，J.，Frames，Riesz bases，and sampling expansions in Banach spaces via semi-iner-products，应用程序。计算。哈蒙。分析。，31, 1-25 (2011) ·Zbl 1221.42067号 [59] 张，H。；Zhang，J.，Banach空间中的正则化学习作为一个优化问题：表示定理，J.Glob。最佳。，54, 235-250 (2012) ·Zbl 1281.90088号 [60] 张，H。；Zhang，J.，向量值再生核Banach空间及其在多任务学习中的应用，J.Complex。，29, 195-215 (2013) ·Zbl 1323.46030号 此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不声称其完整性或完全匹配。