跳到主要内容
10.5555/3666122.3667494指导程序文章/章节视图摘要出版物页面钳口会议记录会议集合
研究论文

用于数据高效的GAN培训的增强软件自我监控

2023年12月
文章编号:1372,页数31601-31620
出版:2024年5月30日 出版历史
  • 获取引文提醒
  • 摘要

    由于鉴别器容易过拟合,因此用有限的数据训练生成性对抗网络(GAN)具有挑战性。先前提出的可微分增强证明了训练GAN的数据效率得到了提高。然而,该增强隐式地为鉴别器的增强引入了不期望的不变性,因为它忽略了数据变换引起的标签空间中语义的变化,这可能限制鉴别器表示学习能力,并最终影响生成器的生成建模性能。为了在继承数据增强优点的同时减轻不变性的负面影响,我们提出了一种新的增强软件自监督鉴别器,用于预测增强数据的增强参数。特别地,实际数据和生成数据的预测目标需要区分,因为它们在训练期间是不同的。我们进一步鼓励生成器通过生成增强的可预测真实数据而非虚假数据,对抗性地学习自监督鉴别器。该公式将生成器的学习目标与特定假设下的算术调和平均散度联系起来。我们将我们的方法与使用类条件BigGAN和无条件StyleGAN2体系结构的最新(SOTA)方法在数据限制的CIFAR-10、CIFAR-100、FFHQ、LSUN-Cat和五个低激发数据集上进行了比较。实验结果表明,在训练数据效率高的GAN时,我们的方法比SOTA方法有了显著的改进。我们的代码位于https://github.com/liang-hou/augselfgan。

    工具书类

    [1]
    Gulcin Baykal、Furkan Ozcelik和Gozde Unal。在自我监督的生成性对抗网络中探索去沙夫利根。模式识别, 2022. ISSN 0031-3203。
    [2]
    安德鲁·布洛克(Andrew Brock)、杰夫·多纳休(Jeff Donahue)和凯伦·西蒙扬(Karen Simonyan)。用于高保真自然图像合成的大规模GAN训练。学习代表国际会议, 2019.
    [3]
    陈天龙、于成、浙赣、刘晶晶和王章扬。从彩票的角度看,数据高效的gan培训超越了(仅仅)增加。神经信息处理系统研究进展, 2021.
    [4]
    陈婷、翟小华、马文·里特、马里奥·卢西奇和尼尔·霍尔斯比。通过辅助旋转损失进行自我监督。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2019.
    [5]
    陈旭玺、张振宇、隋永铎、车天龙编号{GAN}s也可以玩彩票。学习代表国际会议, 2021.
    [6]
    Yunjey Choi、Youngjung Uh、Jaejun Yoo和Jung-Woo Ha。Stargan v2:多领域的多样图像合成。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2020.
    [7]
    崔凯文(Kaiwen Cui)、黄嘉兴(Jixing Huang)、罗志鹏(Zhipeng Luo)、张公杰(Gongjie Zhang)、詹方能(Fangeng Zhan)和陆世坚(Shijian Lu)。Genco:有限数据生成性对抗网络的生成性联合训练。AAAI人工智能会议记录, 2022.
    [8]
    方田田、孙若愚和亚历克斯·施温。Diggan:用于有限数据下gan训练的鉴别器梯度间隙正则化。神经信息处理系统研究进展, 2022.
    [9]
    Spyros Gidaris、Praveer Singh和Nikos Komodakis。通过预测图像旋转的无监督表示学习。学习代表国际会议, 2018.
    [10]
    Ian Goodfellow、Jean Pouget Abadie、Mehdi Mirza、Bing Xu、David Warde Farley、Sherjil Ozair、Aaron Courville和Yoshua Bengio。生成性对抗网络。神经信息处理系统研究进展, 2014.
    [11]
    马丁·休塞尔、休伯特·拉姆索尔、托马斯·恩特提纳、伯恩哈德·奈斯勒和塞普·霍克莱特。由两个时间尺度更新规则训练的Gans收敛到局部纳什均衡。神经信息处理系统研究进展, 2017.
    [12]
    梁厚、沈华伟、曹琦和程雪琪。标签增强的自我监督机构。神经信息处理系统研究进展, 2021.
    [13]
    梁厚、齐曹、沈华为、潘思源、李晓霜和程雪琪。带有辅助判别分类器的条件GAN。第39届机器学习国际会议记录《机器学习研究论文集》,2022年。
    [14]
    黄嘉兴、崔凯文、关大雁、肖敖然、詹方能、陆世坚、廖胜才、邢埃里克。屏蔽的生成性对抗网络是数据高效的生成学习者。神经信息处理系统研究进展, 2022.
    [15]
    Jongheon Jeong和Jinwoo Shin。培训{gan}s(根)通过对比鉴别器增强。学习代表国际会议, 2021.
    [16]
    蒋黎明、戴波、吴伟和陈昌乐。欺骗d:针对有限数据的gan训练的自适应伪增强。神经信息处理系统研究进展, 2021.
    [17]
    泰罗·卡拉斯(Tero Karras)、萨穆利·莱恩(Samuli Laine)和蒂莫·艾拉(Timo Aila)。生成性对抗网络的基于样式的生成器体系结构。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2019.
    [18]
    Tero Karras、Miika Aittala、Janne Hellsten、Samuli Laine、Jaakko Lehtinen和Timo Aila。用有限的数据训练生成性对抗网络。神经信息处理系统研究进展, 2020.
    [19]
    Tero Karras、Samuli Laine、Miika Aittala、Janne Hellsten、Jaakko Lehtinen和Timo Aila。分析并改进样式的图像质量。IEEE/CFF计算机视觉与模式识别会议论文集(CVPR), 2020.
    [20]
    Tero Karras、Miika Aittala、Samuli Laine、Erik Härkönen、Janne Hellsten、Jaakko Lehtinen和Timo Aila。无Alias生成性对抗网络。神经信息处理系统研究进展, 2021.
    [21]
    Alex Krizhevsky、Geoffrey Hinton等人。从微小图像中学习多层特征。多伦多大学计算机科学系硕士论文, 2009.
    [22]
    努普尔·库马里(Nupur Kumari)、理查德·张(Richard Zhang)、埃利·谢赫特曼(Eli Shechtman)和朱俊彦(Jun-Yan Zhu)。为gan训练整合现成模型。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2022.
    [23]
    卢西安·勒卡姆(Lucien Le Cam)。统计决策理论中的渐近方法. 2012.
    [24]
    Hankook Lee、Kibok Lee、Kimin Lee、Honglak Lee和Jinwoo Shin。通过增强软件自我监控提高表示的可转移性。神经信息处理系统研究进展, 2021.
    [25]
    郭新力、吴敬群和张爱文。Infomax gan:通过信息最大化和对比学习改进对抗性图像生成。IEEE/CVF计算机视觉应用冬季会议记录, 2021.
    [26]
    Jae Hyun Lim和Jong Chul Ye。几何感。arXiv预打印arXiv:1705.02894, 2017.
    [27]
    Zinan Lin、Ashish Khetan、Giulia Fanti和Sewoong Oh。帕根:两个样本在生成性对抗网络中的威力。神经信息处理系统研究进展, 2018.
    [28]
    刘冰晨、朱一哲、宋昆鹏和艾哈迈德·埃尔加马尔。朝着快速稳定的{gan}训练方向发展,以实现高保真的少快照图像合成。学习代表国际会议, 2021.
    [29]
    毛旭东、李青、谢浩然、刘永凯、王震和斯蒂芬·保罗·斯莫利。最小二乘生成对抗网络。IEEE计算机视觉国际会议(ICCV)会议记录, 2017.
    [30]
    Mo Sangwoo、Cho Minsu和Shin Jinwoo。冻结鉴别器:微调gans的简单基线。arXiv预打印arXiv:2002.10964, 2020.
    [31]
    野口达弘和原田达也。通过批量统计自适应从小数据集生成图像。IEEE/CVF国际计算机视觉会议(ICCV)会议记录, 2019.
    [32]
    塞巴斯蒂安·诺沃津(Sebastian Nowozin)、博通·切克(Botond Cseke)和丰田良田(Ryota Tomioka)。f-gan:使用变分散度最小化训练生成性神经采样器。神经信息处理系统研究进展, 2016.
    [33]
    Parth Patel、Nupur Kumari、Mayank Singh和Balaji Krishnamurthy。Lt-gan:具有潜在转换检测的自我监督gan。IEEE/CVF计算机视觉应用冬季会议记录, 2021.
    [34]
    Tim Salimans、Ian Goodfellow、Wojciech Zaremba、Vicki Cheung、Alec Radford、Xi Chen和Xi Chen。改进了培训机构的技术。神经信息处理系统研究进展, 2016.
    [35]
    阿克塞尔·绍尔(Axel Sauer)、卡西亚普·奇塔(Kashyap Chitta)、延斯·米勒(Jens Müller)和安德烈亚斯·盖革(Andreas Geiger)。投射的gan收敛得更快。神经信息处理系统的研究进展, 2021.
    [36]
    张章思和宋春珠。通过信息投影学习混合图像模板(hit)。IEEE模式分析和机器智能汇刊, 2011.
    [37]
    Inder Jeet Taneja先生。关于平均散度测度。概率论和统计学中不等式的进展。美国诺瓦, 2008.
    [38]
    Ngoc-Trung Tran、Viet-Hung Tran、Bao-Ngoc Nguyen、Linxiao Yang和Ngai-Man(Man)Cheung。自我监督gan:使用多类极小极大博弈进行分析和改进。神经信息处理系统研究进展, 2019.
    [39]
    Ngoc-Trung Tran、Viet-Hung Tran、Ngoc-Bao Nguyen、Trung-Kien Nguyen和Ngai-Man Cheung。关于gan训练的数据增强。IEEE图像处理汇刊, 2021.
    [40]
    洪宇曾、吕江、刘策、杨明慧和杨伟龙。在有限数据下规范生成性对抗网络。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2021.
    [41]
    王亚星(Yaxing Wang)、吴晨申(Chenshen Wu)、路易斯·赫兰兹(Luis Herranz)、乔斯特·范德魏杰尔(Joost van de Weijer)、阿贝尔·冈萨雷斯-加西亚(Abel Gonzalez-Garcia)和博格丹·拉杜卡努。转移组织:从有限的数据生成图像。欧洲计算机视觉会议记录, 2018.
    [42]
    王亚星(Yaxing Wang)、阿贝尔·冈萨雷斯-加西亚(Abel Gonzalez-Garcia)、大卫·贝加(David Berga)、路易斯·赫兰兹(Luis Herranz)、法哈德·沙巴兹·汗(Fahad Shahbaz Khan)和乔斯特·范德魏杰尔。Minegan:从gan到目标域的有效知识转移,图像很少。IEEE/CVF计算机视觉和模式识别(CVPR)会议记录, 2020.
    [43]
    杨策远、沈宇军、徐英浩和周伯雷。通过实例区分生成数据高效的实例。神经信息处理系统研究进展, 2021.
    [44]
    杨孟平、王哲、池子秋和张彦兵。弗雷根:利用频率分量在有限数据下训练组织。神经信息处理系统研究进展, 2022.
    [45]
    于斐雪、阿里·塞夫、张茵达、宋树然、托马斯·芬克豪斯和肖建雄。Lsun:利用深度学习构建大规模图像数据集,让人类参与其中。arXiv预印本arXiv:1506.03365, 2015.
    [46]
    张汉、张子钊、奥古斯塔斯·奥德纳和李洪拉克。生成性对抗网络的一致性正则化。学习代表国际会议, 2020.
    [47]
    赵胜宇、刘志坚、吉林、朱俊彦和宋汉。数据高效gan训练的不同增强。神经信息处理系统研究进展, 2020.
    [48]
    Zhengli Zhao、Zizhao Zhang、Ting Chen、Sameer Singh和Han Zhang。用于gan训练的图像增强。arXiv预打印arXiv:2006.02595, 2020.

    建议

    评论

    信息和贡献者

    问询处

    发布于

    封面图片指南会议记录
    NIPS’23:第37届神经信息处理系统国际会议记录
    2023年12月
    80772页

    出版商

    Curran Associates公司。

    美国纽约州Red Hook

    出版历史

    出版:2024年5月30日

    限定符

    • 研究文章
    • 研究
    • 推荐有限公司

    贡献者

    其他指标

    文献计量学和引文

    文献计量学

    文章指标

    • 0
      引文总数
    • 0
      总下载次数
    • 下载次数(过去12个月)0
    • 下载次数(最近6周)0

    其他指标

    引文

    视图选项

    查看选项

    媒体

    数字

    其他

    桌子

    份额

    份额

    共享此出版物链接

    在社交媒体上分享