×

关于核、边和低维映射。 (英语) Zbl 1110.68431号

Ben-David,Shai(编辑)等人,《算法学习理论》。2004年10月2日至5日,第15届ALT 2004国际会议,意大利帕多瓦。诉讼程序。柏林:施普林格出版社(ISBN 3-540-23356-3/pbk)。计算机科学课堂讲稿3244。《194-205年人工智能课堂讲稿》(2004)。
摘要:核函数通常被视为提供点到高维空间的隐式映射,如果数据在该空间中可大幅度分离,则核函数能够在不产生高成本的情况下获得该空间的大部分功能。然而,Johnson-Lindenstraus引理表明,在存在较大边距的情况下,核函数也可以被视为到低维空间的映射,仅为维空间(tilde{O}(1/gamma^2))。在本文中,我们探讨了一个问题,即人们是否可以仅使用对核函数的黑盒访问来有效地计算这种隐式低维映射。如果我们的方法也允许黑盒访问底层分布(即未标记的示例),那么我们肯定会回答这个问题。我们还给出了一个下限,表明如果我们不能访问这个分布,对于任意的黑盒内核函数来说这是不可能的。我们留下了一个悬而未决的问题,即在不访问标准核函数(如多项式核)的分布的情况下,是否可以有效地找到此类映射。
我们的积极结果可以看作是说,设计一个好的核函数就像设计一个良好的特征空间。给定一个内核,通过在随机的未标记示例上以黑盒方式运行它,我们可以生成一组显式的\(tilde{O}(1/\gamma^2)\)特征,这样,如果数据与内核下的margin\(\gamma\)线性可分,那么它在这个新的特征空间中是近似可分的。
关于整个系列,请参见[Zbl 1065.68002号].

MSC公司:

68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: 内政部