阿纳斯塔斯·克拉齐奥斯（Anastas Kratsios），科迪·亨德曼（Cody Hyndman）。
年份：2021年，数量：22，版本：92，页码：1−51
摘要
有效的特征表示是任何算法预测性能的关键。本文介绍了一种称为非核素升级（NEU）的元过程，它学习的特征映射具有足够的表达能力，可以将通用近似属性（UAP）嵌入到大多数模型类中，而只输出保留任何模型类UAP的特征映射。我们证明，如果任何具有这两个属性的特征映射可以渐近变形为恒等式，则NEU可以学习该特征映射。我们还发现，NEU学习到的特征重表示总是特征空间的子流形。NEU的属性源自一个新的深度神经模型，该模型在输入空间上的所有方向保持同胚中都是通用的。我们推导了该体系结构的定性和定量近似保证。我们量化了这种新体系结构所需的参数数量，以记忆任何一组输入-输出对，同时固定紧致集之外的输入空间的每个点，并且我们量化了该集的大小，作为模型深度的函数。此外，我们还表明，具有最常用激活函数的深度前馈网络通常不具备所有这些特性。利用财务数据和模拟数据，对NEU在各种回归和降维任务中的性能与竞争机器学习方法进行评估。
PDF格式
BibTeX公司
代码