×

BossNAS公司

swMATH ID: 42456
软件作者: 李长林、唐涛、王光润、彭杰峰、王冰、梁晓丹、张晓军
描述: BossNAS:使用区块整体自监督神经架构搜索探索混合CNN变换器。最近在用于视觉识别的手工神经架构方面取得的无数突破突出表明,迫切需要探索由多种构建块组成的混合架构。与此同时,神经体系结构搜索方法也在激增,以期减少人为努力。然而,NAS方法是否能够有效地处理具有不同候选对象(例如CNN和变形金刚)的多样化搜索空间仍然是一个悬而未决的问题。在这项工作中,我们提出了块式自监督神经体系结构搜索(BossNAS),这是一种无监督的NAS方法,解决了以前方法中由于权重共享空间大和监督有偏差而导致的体系结构评级不准确的问题。更具体地说,我们将搜索空间分解为多个块,并使用一种新的自监督训练方案,称为集合引导,在将每个块作为一个整体搜索到人口中心之前,分别对其进行训练。此外,我们还提出了HyTra搜索空间,这是一种具有可搜索下采样位置的类fabric混合CNN变换器搜索空间。在这个具有挑战性的搜索空间中,我们的搜索模型BossNet-T达到了82.5
主页: https://arxiv.org/abs/203.12424
源代码:  https://github.com/changlin31/BossNAS
依赖项: 蟒蛇
关键词: BossNAS公司;蟒蛇;计算机视觉;模式识别;arXiv_cs。个人简历;机器学习;arXiv_cs。LG公司;神经架构搜索;北美;整体自我监督
相关软件: TransGAN公司;ImageNet公司;蟒蛇;T2T-ViT型;AutoSlim汽车;FBNetV2型;MnasNet公司;用餐;MobileNetV2手机;深度架构师;新加坡存托凭证;DARTS公司;自动深度实验室;TransReID公司;FairNAS公司;雷纳斯;自动成型器;无代理NAS;移动网络;到岸价格
引用于: 0个文档

标准文章

1出版物描述软件 年份
BossNAS:利用区块整体自监督神经架构搜索探索混合CNN变换器arXiv公司
李长林、汤涛、王广润、彭杰峰、王兵、梁晓丹、常晓军
2021