×
伊尔贾·克莱巴诺夫;英格玛·舒斯特;T·J·沙利文。

条件均值嵌入的严格理论。 （英语） Zbl 1493.46043号

SIAM J.数学。数据科学。 2号，第3号，583-606（2020年）.
总结：条件平均嵌入（CME）已经证明在许多机器学习应用程序中是一个强大的工具。通过为各自联合概率分布和条件概率分布的核平均嵌入提供线性代数关系，它们允许在相应的再生核Hilbert空间中有效地调节概率分布。在现有文献中，中心和非中心协方差算子都被用于定义CME。在本文中，我们为这两种变体开发了一个数学上严格的理论，讨论了每种变体的优点和问题，并大大削弱了CME的适用条件。在这个过程中，我们展示了与希尔伯特空间中的高斯条件作用的美丽联系。

引用于5文件

MSC公司：

第46页第22页 具有再生核的希尔伯特空间（=（适当的）函数希尔伯特空间，包括de Branges-Rovnyak和其他结构空间）
62J02型 一般非线性回归
28C20个 无穷维空间中的集函数、测度和积分（维纳测度、高斯测度等）

关键词：

条件平均嵌入;核平均嵌入;高斯测量;再生核希尔伯特空间
PDF格式BibTeX公司 XML格式引用
\textit{I.Klebanov}等人，SIAM J.Math。数据科学。2，第3号，583--606（2020；Zbl 1493.46043）
全文： 内政部 arXiv公司

参考文献：

[1] M.L.Arias、G.Corach和M.C.Gonzalez，广义逆和道格拉斯方程，Proc。阿米尔。数学。Soc.，136（2008），第3177-3183页，https://doi.org/10.1090/S0002-9939-08-09298-8。 ·Zbl 1146.47006号
[2] C.R.Baker，联合测量和互协方差算子，Trans。阿米尔。数学。Soc.，186（1973），第273-289页，https://doi.org/10.2307/1996566。 ·Zbl 0304.28008号
[3] A.Berlinet和C.Thomas-Agnan，在概率和统计中再现核Hilbert空间，Springer，Boston，2004，https://doi.org/10.1007/978-1-4419-9096-9。 ·Zbl 1145.6202号
[4] G.Corach、A.Maestripieri和D.Stojanoff，《斜投影和Schur补遗》，《科学学报》。数学。（塞格德），67（2001），第337-356页·兹伯利0980.47021
[5] J.Diestel和J.J.Uhl，向量测量，数学。调查15，AMS，普罗维登斯，RI，1977，https://doi.org/10.1090/surv/015。 ·Zbl 0369.46039号
[6] R.G.Douglas，关于Hilbert空间上算子的优化、因式分解和区间包含，Proc。阿米尔。数学。Soc.，17（1966），第413-415页，https://doi.org/10.2307/2035178。 ·Zbl 0146.12503号
[7] H.W.Engl、M.Hanke和A.Neubauer，反问题的正则化，数学。申请。375，多德雷赫特Kluwer学术出版社，1996年·兹比尔0859.65054
[8] P.A.Fillmore和J.P.Williams，《操作员范围》，高级数学。，7（1971），第254-281页，https://doi.org/10.1016/S0001-8708(71)80006-3. ·Zbl 0224.47009号
[9] K.Fukumizu，带核均值嵌入的非参数贝叶斯推断，《时空建模中的现代方法和应用》，日本施普林格出版社，东京，2015年，第1-24页，https://doi.org/10.1007/978-4-431-55339-7_1。
[10] K.Fukumizu，F.R.Bach和M.I.Jordan，《再生核Hilbert空间监督学习的降维》，J.Mach。学习。Res.，5（2004），第73-99页，http://www.jmlr.org/papers/volume5/fukumizu04a/fukumizzu04a.pdf。 ·Zbl 1222.62069号
[11] K.Fukumizu、F.R.Bach和M.I.Jordan，勘误表：用再生核Hilbert空间进行监督学习的降维，J.Mach。学习。Res.，（2004），http://www.jmlr.org/papers/volume5/fukumizu04a/fukumizzu04a-erratum.pdf。 ·Zbl 1222.62069号
[12] K.Fukumizu、F.R.Bach和M.I.Jordan，《回归中的核降维》，《统计年鉴》。，37（2009），第1871-1905页，https://doi.org/10.1214/08-AOS637。 ·Zbl 1168.62049号
[13] K.Fukumizu、A.Gretton、X.Sun和B.Schoálkopf，条件依赖的核心度量，摘自《神经信息处理系统的进展》20，Curran Associates，2008年，第489-496页，https://papers.nips.cc/paper/3340-kernel-measures-of-conditional-dependence.pdf。
[14] K.Fukumizu、L.Song和A.Gretton，《核贝叶斯规则：具有正定核的贝叶斯推理》，J.Mach。学习。研究，14（2013），第3753-3783页，http://jmlr.org/papers/volume14/fukumizu13a/fukumizu13a.pdf。 ·Zbl 1318.62131号
[15] I.C.Gohberg和M.G.Kre\u，线性非自伴算子理论导论，Transl。数学。单声道。18，AMS，普罗维登斯，RI，1969年；由A.Feinstein翻译·Zbl 0181.13503号
[16] S.Gruênewaõlder、G.Lever、L.Baldassare、S.Patterson、A.Gretton和M.Pontil，作为回归因子的条件均值嵌入，载于《第29届机器学习国际会议论文集》，Omnipress，威斯康星州麦迪逊，2012年，第1823-1830页，https://icml.cc/2012/papers/898.pdf。
[17] O.Kallenberg，《现代概率基础》，Springer，纽约，2006年，https://doi.org/10.1007/978-1-4757-4015-8。 ·Zbl 0996.60001号
[18] H.Owhadi和C.Scovel，再生核空间的可分性，Proc。阿米尔。数学。Soc.，145（2017），第2131-2138页，https://doi.org/10.1090/proc/13354。 ·兹伯利1369.46022
[19] H.Owhadi和C.Scovel，希尔伯特空间上的条件高斯测度，J.Math。统计分析。，1 (2018), https://arxiv.org/abs/1506.04208。
[20] J.Park和K.Muandet，核条件平均嵌入的测量理论方法，预印本，https://arxiv.org/abs/2002.03689, 2020.
[21] S.Saitoh和Y.Sawano，再生核理论和应用，发展数学。新加坡施普林格44号，2016年，https://doi.org/10.1007/978-981-10-0530-5。 ·Zbl 1358.46004号
[22] V.V.Sazonov，《论特征泛函》，Teor。Veroyatnost公司。i Primenen。，3（1958年），第201-205页·Zbl 0089.33801号
[23] I.Schuster、M.Mollenhauer、S.Klus和K.Muandet，内核条件密度算子，《第23届国际人工智能与统计会议论文集》，AISTATS 2020，意大利西西里岛巴勒莫，2020，机器学习研究论文集，2020，https://arxiv.org/abs/1905.11255。 ·Zbl 1437.37104号
[24] A.J.Smola、A.Gretton、L.Song和B.Schoálkopf，《希尔伯特分布嵌入空间》，第18届国际算法学习理论会议论文集，施普林格，柏林，海德堡，2007年，第13-31页，https://doi.org/10.1007/978-3-540-75225-7_5。 ·Zbl 1142.68407号
[25] L.Song、B.Boots、S.M.Siddiqi、G.Gordon和A.Smola，隐藏马尔可夫模型的希尔伯特空间嵌入，第27届机器学习国际会议论文集，ICML2010，美国计算机学会，纽约，2010年，第991-998页，https://dl.acm.org/citation.cfm？id=3104322.310448。
[26] L.Song、A.Gretton和C.Guestrin，非参数树图形模型，《第十三届国际人工智能与统计会议论文集》，Proc。机器。学习。Res.9，Y.W.Teh和M.Titterington，eds.，《机器学习研究论文集》，2010年，第765-772页，http://proceedings.mlr.press/v9/song10a/song10a.pdf。
[27] L.Song、J.Huang、A.Smola和K.Fukumizu，条件分布的希尔伯特空间嵌入及其在动力系统中的应用，第26届机器学习国际年会论文集，美国计算机学会，纽约，2009年，第961-968页，https://doi.org/10.1145/1553374.1553497。
[28] B.K.Sriperumbudur、K.Fukumizu和G.R.G.Lanckriet，《普遍性、特征核和RKHS嵌入测度》，J.Mach。学习。Res.，12（2011），第2389-2410页，http://www.jmlr.org/papers/volume12/sriprumbudur1a/sriprumbudur11.pdf。 ·Zbl 1280.68198号
[29] B.K.Sriperumbudur、A.Gretton、K.Fukumizu、B.Scho¨lkopf和G.R.G.Lanckriet，Hilbert空间嵌入和概率度量，J.Mach。学习。第11号决议（2010年），第1517-1561页，http://www.jmlr.org/papers/volume11/sriperumbudur10a/sriperumbudur 10a.pdf。 ·Zbl 1242.60005号
[30] I.Steinwart和A.Christmann，支持向量机，信息科学。Stat.，Springer，纽约，2008年，https://doi.org/10.1007/978-0-387-77242-4。 ·兹比尔1203.68171
[31] I.Steinwart、D.Hush和C.Scovel，高斯RBF核的再生核Hilbert空间的显式描述，IEEE Trans。通知。《理论》，52（2006），第4635-4643页，https://doi.org/10.109/tit.2006.881713。 ·Zbl 1320.68148号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。