西蒙·帕金斯;凯文·拉克;詹姆斯·泰勒 嫁接：通过函数空间中的梯度下降快速增量特征选择。 （英文） Zbl 1102.68578号 J.马赫。学习。物件。 3，编号7-8，1333-1356（2003）. 摘要：我们提出了一种新颖而灵活的特征选择方法，称为嫁接。嫁接不是将特征选择与学习分离开来，而是将选择合适的特征作为在正则化学习框架中学习预测器的一个组成部分。为了使这种正则化学习过程对于大规模问题足够快，嫁接以增量迭代的方式操作，在使用梯度下降法训练预测模型的同时，逐步建立特征集。在每次迭代中，使用基于快速梯度的启发式算法快速评估最有可能改进现有模型的特征，然后将该特征添加到模型中，并使用梯度下降对模型进行增量优化。该算法与数据点数量成线性关系，最多与特征数量成平方关系。嫁接可以用于各种预测模型类，包括线性和非线性预测模型，也可以用于分类和回归。本文报告了一种用于分类的嫁接变体的实验，使用线性和非线性模型，并使用逻辑回归启发的损失函数。给出了各种合成数据集和真实数据集的结果。最后，阐述了嫁接、分段加性建模和升压之间的关系。 引用于19文件 MSC公司： 68T05型 人工智能中的学习和自适应系统 关键词：增压 软件：伦敦银行支持向量机 PDF格式BibTeX公司 XML格式引用 \textit{S.Perkins}等人，J.Mach。学习。第3号决议，编号7--8，1333--1356（2003；Zbl 1102.68578） 全文： 内政部