研究文章 特殊问题

弹性网参数选择的无监督方法

  • 收到:2021年5月24日 认可的:2021年10月22日 出版:2021年11月24日
  • 尽管正则化理论最近取得了一些进展,但参数选择问题对于大多数应用来说仍然是一个挑战。在最近的一项工作中,使用统计学习框架从噪声数据中近似出最佳Tikhonov正则化参数。在这项工作中,我们改进了他们的结果,并将分析扩展到弹性网正则化。此外,我们设计了一种数据驱动的自动算法,用于计算近似正则化参数。我们的分析结合了统计学习理论和正则化理论的见解。我们将我们的方法与最先进的参数选择标准进行了比较,表明它具有较高的准确性。

    引用:Zeljko Kereta、Valeriya Naumova。关于弹性网参数选择的无监督方法[J]。工程数学,2022,4(6):1-36。doi:10.3934/mine.2022053年

    相关论文:

  • 尽管正则化理论最近取得了一些进展,但参数选择问题对于大多数应用来说仍然是一个挑战。在最近的一项工作中,使用统计学习框架从噪声数据中近似出最佳Tikhonov正则化参数。在这项工作中,我们改进了他们的结果,并将分析扩展到弹性网正则化。此外,我们设计了一种数据驱动的自动算法,用于计算近似正则化参数。我们的分析结合了统计学习理论和正则化理论的见解。我们将我们的方法与最先进的参数选择标准进行了比较,并表明它具有优越的准确性。



    加载中


    [1] S.W.Anzengruber,R.Ramlau,带非线性算子的Tikhonov型泛函的Morozov差异原理,反向探测。,26(2010), 025001. 数字对象标识:10.1088/0266-5611/26/2/025001
    [2] A.阿斯托尔菲,优化:简介, 2006.
    [3] F.Bauer,M.A.Lukas,《不适定问题正则化参数选择方法的比较》,数学。计算。模拟。,81(2011), 1795–1841. 数字对象标识:2016年10月10日/j.matcom 2011年1月16日
    [4] M.Belkin,P.Niyogi,V.Sindhwani,流形正则化:从标记和未标记示例学习的几何框架,J.马赫。学习。物件。,7(2006), 2399–2434.
    [5] R.巴蒂亚,矩阵分析,纽约:Springer-Verlag,1997年。
    [6] T.Bonesky,Morozov的差异原理和Tikhonov型泛函,反向探测。,25(2009), 015015. 数字对象标识:10.1088/0266-5611/25/1/015015
    [7] A.Chambolle,R.DeVore,N.Lee,B.Lucier,《非线性小波图像处理:变分问题、压缩和通过小波收缩去除噪声》,IEEE传输。图像处理。,7(1998), 319–335. 数字对象标识:10.1109/83.661182
    [8] A.Chambolle,P.L.Lions,通过总变异最小化进行图像恢复及相关问题,数字。数学。,76(1997), 167–188. 数字对象标识:10.1007/s002110050258
    [9] C.De Mol,E.De Vito,L.Rosasco,学习理论中的弹性网络正则化,J.复杂性,25(2009), 201–230. 数字对象标识:2016年10月10日/j.jco.2009.01.002
    [10] E.De Vito,M.Fornasier,V.Naumova,最优Tikhonov正则化的机器学习方法I:仿射流形,分析。申请。2021年出版。
    [11] C.-A.Deledale、S.Vaiter、J.Fadili、G.Peyré、Stein Unbiased GrAdient多参数选择风险估计量(SUGAR),SIAM J.成像科学。,7(2014), 2448–2487. 数字对象标识:10.1137/140968045
    [12] D.L.Donoho,通过软阈值去噪,IEEE传输。通知。理论,41(1995), 613–627. 数字对象标识:10.1109/18.382009
    [13] D.L.Donoho,I.Johnstone,通过小波收缩的理想空间自适应,生物特征,81(1994), 425–455. 数字对象标识:10.1093/biomet/81.3.425
    [14] B.Efron,T.Hastie,I.Johnstone,R.Tibshirani,最小角回归,统计年鉴,32(2004), 407–499.
    [15] Y.C.Eldar,指数族的广义SURE:正则化的应用,IEEE传输。信号处理。,57(2009), 471–481. 数字对象标识:10.1109/TSP.2008.2008212
    [16] H.W.Engl、M.Hanke、A.Neubauer、,反问题的正则化《多德雷赫特:Kluwer学术出版社》,1996年。
    [17] W.J.Fu,收缩模型的非线性GCV和准GCV,J.统计计划。推断。,131(2005), 333–347. 数字对象标识:2016年10月10日/j.jspi.2004.03.001
    [18] R.Giryas,M.Elad,Y.C.Eldar,迭代收缩法中自动参数调整的预计GSURE,申请。计算。谐波分析。,30(2011), 407–422. 数字对象标识:2016年10月10日/j.acha.2010.11.005
    [19] G.H.Golub,M.Heath,G.Wahba,广义交叉验证作为选择良好岭参数的方法,技术计量学,21(1979), 215–223. 数字对象标识:10.1080/00401706.1979.10489751
    [20] P.C.Hansen,利用L曲线分析离散不适定问题,SIAM版本。,34(1992), 561–580. 数字对象标识:10.1137/1034115
    [21] B.霍夫曼,应用逆问题和不适定问题的正则化:一种数值方法施普林格-弗拉格出版社,2013年。
    [22] B.Jin,D.Lorenz,S.Schifler,《弹性网络正则化:误差估计和主动集方法》,反向探测。,25(2009), 115022. 数字对象标识:10.1088/0266-5611/25/11/115022
    [23] O.Lepskii,关于高斯白噪声中的自适应估计问题,理论概率论。申请。,35(1991), 454–466. 数字对象标识:10.1137/1135065
    [24] A.Lorbert,P.Ramadge,调节参数细化的下降方法,In:第十三届国际人工智能与统计会议记录, 2010,469–476.
    [25] V.A.Morozov,解决不正确问题的方法《施普林格科学与商业媒体》,2012年。
    [26] E.Novak,H.Woźniakowski,光滑函数多元逼近的最优收敛阶和(in)可处理性,施工。大约。,30(2009), 457–473. 数字对象标识:2007年10月10日/00365-009-9069-8
    [27] C.M.Stein,多元正态分布平均值的估计,安。统计师。,9(1981), 1135–1151.
    [28] W.Su、M.Bogdan、E.Candés,拉索路径早期出现错误发现,安。统计师。,45(2017), 2133–2150.
    [29] U.Tautenhahn,U.Hämarik,在不适定问题中使用单调性选择正则化参数,反向探测。,15(1999), 1487–1505. 数字对象标识:10.1088/0266-5611/15/6/307
    [30] A.Tikhonov,V.Glasko,在一些反问题中使用最佳自适应估计率,苏联计算数学和数学物理,5(1965), 93–107. 数字对象标识:10.1016/0041-5553(65)90150-3
    [31] A.N.Tikhonov、V.Y.Arsenin、,不适定问题的解决方案华盛顿特区:V.H.Winston&Sons,纽约:John Wiley&Sons出版社,1977年。
    [32] J.A.Tropp,矩阵集中不等式简介,Now Foundations and Trends,2015年。
    [33] R.Vershynin,高维概率:数据科学应用简介,剑桥大学出版社,2018年。
    [34] E.De Vito,S.Pereverzyev,L.Rosasco,使用平衡原理的自适应核方法,已找到。计算。数学。,10(2010), 455–479. 数字对象标识:2007年10月10日/10208-010-9064-2
    [35] Z.Wang,A.C.Bovik,H.R.Sheikh,E.P.Simoncelli,图像质量评估:从错误可见性到结构相似性,IEEE传输。图像处理。,13(2004), 600–612. 数字对象标识:10.1109/TIP.2003.819861
    [36] S.N.Wood,具有多个二次惩罚的建模和平滑参数估计,J.罗伊。统计Soc.B,62(2000), 413–428. 数字对象标识:10.1111/1467-9868.00240
    [37] H.Zou,T.Hastie,通过弹性网进行规则化和变量选择,J.罗伊。统计Soc.B,67(2005), 301–320. 数字对象标识:10.1111/j.1467-9868.2005.005.x号
  • 读者评论
  • ©2022作者,授权人AIMS Press。这是一篇开放存取的文章根据知识共享署名许可证的条款(http://creativecommons.org/licenses/by/4.0)
通讯作者:陈斌, bchen63@163.com
  • 1. 

    沈阳化工大学材料科学与工程学院 沈阳 110142

  1. 本站搜索
  2. 百度学术搜索
  3. 万方数据库搜索
  4. 中国知网
1.4 2.2

韵律学

文章观点(2749) PDF下载(128) 引用人(0)

文章大纲

图和表

数字(6) / 表格(4)

作者撰写的其他文章

/

返回
返回

目录