快速选择 swMATH ID: 41920 软件作者: 阿塔什加希,萨拉;加达·索卡尔;范德利,蒂姆;埃琳娜·莫卡努;莫卡努(Decebal Constantin Mocanu);雷蒙德·维尔杜斯(Raymond Veldhuis);Mykola Pechenizkiy 描述: 快速而稳健的特征选择:针对自动编码器的节能稀疏训练的优势。最近高维数据量的增加,包括计算成本和内存需求的增加,导致了主要的复杂性。特征选择是识别数据集中最相关和最具信息性的属性的一种方法,已被引入作为该问题的解决方案。现有的大多数特征选择方法计算效率低;低效的算法会导致高能耗,这对于计算和能量资源有限的设备来说是不可取的。本文提出了一种新颖灵活的无监督特征选择方法。此方法名为QuickSelection(代码位于:url{https://github.com/zahratashgahi/QuickSelection(快速选择)}),引入稀疏神经网络中神经元的强度作为衡量特征重要性的标准。该准则与稀疏进化训练过程训练的稀疏连接去噪自编码器相结合,同时导出了所有输入特征的重要性。我们以纯粹的稀疏方式实现QuickSelection,而不是使用连接上的二进制掩码来模拟稀疏性的典型方法。它会导致速度显著提高和内存减少。在包括五个低维和三个高维数据集在内的多个基准数据集上进行测试时,该方法能够在广泛使用的特征选择方法中实现分类和聚类精度、运行时间和最大内存使用量之间的最佳权衡。此外,在最先进的基于自动编码器的特征选择方法中,我们提出的方法所需的能量最少。 主页: https://arxiv.org/abs/2012.0560 源代码: https://github.com/zahratashgahi/QuickSelection(快速选择) 依赖项: 蟒蛇 关键词: 特征选择;深度学习;稀疏自动编码器;稀疏训练 相关软件: GPT-3级;MNIST公司;github;NeST公司;时尚-MNIST;CIFAR公司;MLP-混合器;TensorFlow公司;屏蔽R-CNN;AMC公司;SqueezeNet公司;PruneTrain公司;ViT公司;张紧器2传感器;ThiNet公司;Longformer公司;罗伯塔;铜DNN;BERT(误码率);移动网络 引用于: 3文件 标准条款 1出版物描述软件,包括1出版物以zbMATH为单位 年份 快速而稳健的特征选择:针对自动编码器的节能稀疏训练的优势。 兹伯利07510316扎赫拉·阿塔什加希;加达·索卡尔;范德利,蒂姆;埃琳娜·莫卡努;莫卡努(Decebal Constantin Mocanu);雷蒙德·维尔杜斯;Mykola Pechenizkiy 2022 全部的 前5名14位作者引用 2 扎赫拉·阿塔什加希 2 莫卡努(Decebal Constantin Mocanu) 2 Mykola Pechenizkiy 2 新泽西州雷蒙德·维尔杜斯。 1 Dan Alistarh 1 塔尔本恩 1 尼科利·德莱顿 1 托尔斯滕·霍夫勒 1 刘世伟 1 埃琳娜·莫卡努 1 佩斯,亚历山德拉 1 乔斯特·皮特斯 1 加达·索卡尔 1 范德利,蒂姆 2篇连载文章中引用 2 机器学习 1 机器学习研究杂志(JMLR) 在1个字段中引用 三 计算机科学(68至XX) 按年份列出的引文