×
安德烈亚·贝尔托齐。;巴马达·侯赛尼;李浩;凯文·米勒;安德鲁·斯图尔特（Andrew M.Stuart）。

图上半监督回归的后验一致性。 （英语） Zbl 1476.62132号

反向问题。 37，第10期，第32页（2021年）.
摘要：基于图的半监督回归（SSR）涉及根据加权图上一小部分顶点上的函数值（标签）来估计加权图上函数的值；它可以表示为贝叶斯反问题。本文研究了在分类上下文中，标签具有小噪声且底层图权重与聚集良好的顶点一致的情况下，SSR的一致性。我们提出了SSR的贝叶斯公式，其中加权图使用拉普拉斯图定义高斯先验，标记数据定义似然。我们根据量化图中小标记错误和固有聚类的参数，分析了围绕地面真实的后验测度的收缩率。我们获得了收缩率的界，并通过数值实验说明了它们的尖锐性。该分析还深入了解了进入先验定义的超参数的选择。

MSC公司：

62小时30分 分类和区分；聚类分析（统计方面）
2015年1月62日 贝叶斯推断
68T05型 人工智能中的学习和自适应系统
05C90年 图论的应用

关键词：

半监督学习;分类;一致性;拉普拉斯图;贝叶斯推断
PDF格式BibTeX公司 XML格式引用
\textit{A.L.Bertozzi}等人，反问题。37，第10号，第32页（2021；兹bl 1476.62132）
全文： 内政部 arXiv公司 链接

参考文献：

[1] 阿加皮欧，S。；拉尔森，S。；Stuart，A.M.，线性病态逆问题贝叶斯方法的后验收缩率，Stoch。过程。申请。，123, 3828-3860 (2013) ·Zbl 1284.62289号 ·doi:10.1016/j.spa.2013.05.001
[2] Arridge，S。；Maass，P。；O.Øktem。；Schönlieb，C-B，使用数据驱动模型解决反问题，数字学报，28，1-174（2019）·Zbl 1429.65116号 ·doi:10.1017/s096249291900059
[3] 贝尔金，M。；马特维娃，I。；Niyogi，P.，《大型图的正则化和半监督学习》，624-638（2004），柏林：施普林格出版社，柏林·Zbl 1078.68685号
[4] 贝尔金，M。；Niyogi，P.，用于嵌入和聚类的拉普拉斯特征映射和光谱技术，神经信息处理系统进展，585-591（2002）
[5] 贝尔金，M。；Niyogi，P。；Sindhwani，V.，《流形正则化：从标记和未标记示例学习的几何框架》，J.Mach。学习。第7号决议，2399-2434（2006）·Zbl 1222.68144号
[6] 贝尔托齐，A.L。；Flenner，A.，《高维数据分类图上的扩散界面模型》，SIAM Rev.，58，293-328（2016）·Zbl 1339.68287号 ·doi:10.1137/16m1070426
[7] 贝尔托齐，A.L。；罗，X。；Stuart，A.M。；Zygalakis，K.C.，基于图形的高维数据分类中的不确定性量化，SIAM/ASA J.不确定性。数量。，6, 568-595 (2018) ·Zbl 1394.62083号 ·doi:10.1137/17m1134214
[8] Brown，L.D。；Low，M.G.，非参数回归与白噪声的渐近等价性，《Ann.Stat.》，24，2384-2398（1996）·Zbl 0867.62022号 ·doi:10.1214/aos/1032181159
[9] Calvetti，D。；Somersalo，E.，《贝叶斯科学计算导论：主观计算十讲》，第2卷（2007），柏林：施普林格出版社，柏林·Zbl 1137.65010号
[10] Dashti，M。；法律，K.J H。；Stuart，A.M。；Voss，J.，Bayesian非参数反问题中的MAP估计及其一致性，反问题，29（2013）·Zbl 1281.62089号 ·doi:10.1088/0266-5611/29/9/095017
[11] Dashti，M。；Stuart，A.M。；加纳共和国。；希格顿，D。；Owhadi，H.，《逆向问题的贝叶斯方法》，311-428（2017），柏林：施普林格出版社，柏林·doi:10.1007/978-3-319-12385-17
[12] Davis，C。；Kahan，W.M.，《扰动下特征向量的旋转：III，SIAM J.Numer。分析。，7, 1-46 (1970) ·Zbl 0198.47201号 ·doi:10.1137/0707001
[13] Diaconis，P。；Freedman，D.，《贝叶斯估计的一致性》，《Ann.Stat.》，第14卷，第1-26页（1986年）·Zbl 0595.62022号 ·doi:10.1214操作系统/1176349842
[14] 英国，H.W。；汉克，M。；Neubauer，A.，《反问题的正则化》，第375卷（1996），柏林：施普林格出版社，柏林·Zbl 0859.65054号
[15] Freedman，D.，Wald演讲：关于无穷维参数的Bernstein-von Mises定理，《Ann.Stat.》，27，1119-1141（1999）·Zbl 0957.6202号 ·doi:10.1214/aos/1017938917
[16] Ghosal，S。；Ghosh，J.K。；Van Der Vaart，A.W.，《后验分布的收敛速度》，《Ann.Stat.》，第28期，第500-531页（2000年）·Zbl 1105.62315号 ·doi:10.1214/aos/1016218228
[17] 吉内，E。；Nickl，R.，《无限维统计模型的数学基础》（2016），剑桥：剑桥大学出版社，剑桥·Zbl 1358.62014号
[18] Hartog，J。；van Zanten，H.，图上的非参数贝叶斯标记预测，计算。统计数据分析。，120, 111-131 (2018) ·兹比尔1469.62076 ·doi:10.1016/j.csda.2017.11.008
[19] Hartog，J。；van Zanten，H.，使用截断拉普拉斯正则化对大型图进行非参数贝叶斯标记预测，Commun。统计模拟。计算。，1-18 (2019) ·Zbl 07553314号 ·doi:10.1080/03610918.2019.1634202
[20] 霍夫曼，F。；侯赛尼，B。；Oberai，A.A。；Stuart，A.M.，数据聚类中加权拉普拉斯算子的谱分析（2019）
[21] 霍夫曼，F。；侯赛尼，B。；任，Z。；Stuart，A.M.，图上半监督学习算法的一致性：probit和one-hot方法，J.Mach。学习。研究，21，1-55（2020年）·兹比尔1527.68179
[22] Jacot，A。；加布里埃尔，F。；洪勒，C。；Bengio，S。；瓦拉赫，H。；拉罗谢尔，H。；Grauman，K。；塞萨·比安奇，N。；Garnett，R.，《神经切线核：神经网络中的收敛和泛化》，神经信息处理系统进展，第31卷（2018年）
[23] 凯皮奥，J。；Somersalo，E.，《统计与计算反问题》，第160卷（2006），柏林：施普林格出版社，柏林·Zbl 0927.35134号
[24] 基里琴科，A。；van Zanten，H.，通过贝叶斯拉普拉斯正则化估计大型图上的光滑函数，电子。《J.Stat.》，第11卷，第891-915页（2017年）·Zbl 1362.62112号 ·doi:10.1214/17-ejs1253
[25] Knapik，B.T。；范德法特，A.W。；van Zanten，J.H.，带高斯先验的贝叶斯反问题，《Ann.Stat.》，39，2626-2657（2011）·Zbl 1232.62079号 ·doi:10.1214/11-aos920
[26] 科斯托普洛斯，G。；卡洛斯，S。；Kotsiantis，S。；Ragos，O.，《半监督回归：最新评论》，J.Intell。模糊系统。，35, 1483-1500 (2018) ·doi:10.3233/jifs-169689
[27] LeCun，Y。；Cortes，C.，MNIST手写数字数据库（2010）
[28] 林格伦，F。；H街。；Lindström，J.，《高斯场和高斯-马尔可夫随机场之间的明确联系：随机偏微分方程方法》，J.R.Stat.Soc.B，73423-498（2011）·兹比尔1274.62360 ·文件编号：10.1111/j.1467-9868.2011.00777.x
[29] Loeve，M.，概率论II（1978），柏林：施普林格出版社，柏林·Zbl 0385.60001号
[30] 莫纳德，F。；Nickl，R。；Paternain，G.P.，噪声非阿贝尔X射线变换的一致反演，Commun。纯应用程序。数学。，74, 1045-1099 (2021) ·Zbl 07363259号 ·doi:10.1002/cpa.21942
[31] Ng，A.Y。；M.I.乔丹。；Weiss，Y.，《关于谱聚类：分析和算法》，《神经信息处理系统进展》，849-856（2002）
[32] 奥哈迪，H.，想法有形状吗？柏拉图的形式理论是人工神经网络的连续极限（2020）
[33] 奥瓦迪，H。；Yoo，G.R.，《内核流：从数据中学习内核到深渊》，J.Compute。物理。，389, 22-47 (2019) ·Zbl 1452.65028号 ·doi:10.1016/j.jcp.2019.03.040
[34] 拉斯穆森，C.E。；Williams，C.K I.，《机器学习的高斯过程》（2006），马萨诸塞州剑桥：麻省理工学院出版社·Zbl 1177.68165号
[35] Soh，Y.S。；Chandrasekaran，V.，学习半定正则化子，发现。计算。数学。，19, 375-434 (2019) ·兹比尔1411.90269 ·doi:10.1007/s10208-018-9386-z
[36] Spielman，D.A。；Teng，S-H，《谱划分工作：平面图和有限元网格》，96-105（1996），新泽西州皮斯卡塔韦：IEEE，皮斯卡塔韦，新泽西
[37] Spielman，D.A。；Teng，S-H，谱划分工程：平面图和有限元网格，线性代数。申请。，421, 284-305 (2007) ·Zbl 1122.05062号 ·doi:10.1016/j.laa.2006.07.020
[38] Steinwart，I.，《关于核对支持向量机一致性的影响》，J.Mach。学习。第267-93号决议（2001年）·Zbl 1009.68143号 ·doi:10.1162/153244302760185252
[39] Steinwart，I.，支持向量机和其他正则化核分类器的一致性，IEEE Trans。通知。理论，51，128-142（2005）·兹比尔1304.62090 ·doi:10.1109/tit.2004.839514
[40] Tewari，A。；Bartlett，P.L.，《关于多类分类方法的一致性》，J.Mach。学习。研究，81007-1025（2007）·Zbl 1222.62079号
[41] 北卡罗来纳州加西亚·特里洛斯。；Gerlach，M。；海因，M。；Slepčev，D.，随机几何图上的图Laplacian向Laplace-Beltrami算子的谱收敛的误差估计，Found。计算。数学。，20, 827-887 (2020) ·Zbl 1447.62141号 ·文件编号：10.1007/s10208-019-09436-w
[42] 北卡罗来纳州加西亚·特里洛斯。；Slepčev，D.，光谱聚类一致性的变分方法，应用。计算。哈蒙。分析。，45, 239-281 (2018) ·Zbl 1396.49013号 ·doi:10.1016/j.acha.2016.09.003
[43] van der Vaart，A.W.，《渐近统计》，第3卷（2000），剑桥：剑桥大学出版社，剑桥·兹比尔0910.62001
[44] 范德法特，A.W。；van Zanten，J.H.，基于高斯过程先验的后验分布收缩率，《Ann.Stat.》，第36期，第1435-1463页（2008年）·Zbl 1141.60018号 ·doi:10.1214/009053607000000613
[45] Vapnik，V.，《统计学习理论》（1998），纽约：威利出版社，纽约·Zbl 0935.62007号
[46] Von Luxburg，U.，《光谱聚类教程》，统计计算。，17, 395-416 (2007) ·数字对象标识代码：10.1007/s11222-007-9033-z
[47] Von Luxburg，美国。；贝尔金，M。；Bousquet，O.，《光谱聚类的一致性》，《Ann.Stat.》，36，555-586（2008）·Zbl 1133.62045号 ·doi:10.1214/009053607000000640
[48] 吴，M。；Schölkopf，B.，通过局部学习正则化进行的归纳分类，628-635（2007）
[49] 吴琼。；周，D-X，支持向量机分类分析，计算机学报。分析。申请。，8, 99-119 (2006) ·Zbl 1185.68577号 ·doi:10.1007/s10208-008-9026-0
[50] Zelnik-Manor，L。；Perona，P.，自校正谱聚类，神经信息处理系统进展，1601-1608（2005）
[51] Zhu，X.，半监督学习文献调查，技术报告TR1530（2005），威斯康星大学麦迪逊分校计算机科学系
[52] Zhu，X.，《图形半监督学习》，博士论文（2005），匹兹堡，宾夕法尼亚州，美国
[53] 朱，X。；加赫拉马尼，Z。；Lafferty，J.，使用高斯场和调和函数的半监督学习，912-919（2003）
[54] 朱，X。；拉弗蒂，J。；Ghahramani，Z.，使用高斯场和调和函数结合主动学习和半监督学习，58-65（2003）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。