净2Net swMATH ID: 38088 软件作者: Tianqi Chen、Ian Goodfellow、Jonathon Shlens 描述: Net2Net:通过知识传授加速学习。我们介绍了将存储在一个神经网络中的信息快速传输到另一个神经网的技术。其主要目的是加速更大神经网络的训练。在实际工作流程中,人们经常在实验和设计过程中训练许多不同的神经网络。这是一个浪费的过程,每个新模型都是从头开始训练的。我们的Net2Net技术通过将知识从以前的网络即时传输到每个新的更深或更广的网络,加快了实验过程。我们的技术基于神经网络规范之间的函数保护转换的概念。这与以前的预训练方法不同,这种方法在向神经网络添加层时改变了神经网络表示的功能。使用我们的知识传递机制向Inception模块添加深度,我们展示了ImageNet数据集的最新准确度评级。 主页: https://arxiv.org/abs/1511.05641 源代码: https://github.com/soumith/net2net.torc 关键词: 机器学习;arXiv_cs.LG公司 相关软件: ImageNet公司;AlexNet公司;CIFAR公司;时尚-MNIST;DARTS公司;SqueezeNet公司;亚当;效率网;SMAC公司;TPOT公司;自动锁相环;Scikit公司;固态硬盘;汽车-WEKA;汽车Keras;NeST公司;移动网络;WaveNet公司;阿达格拉德;青蒿素 引用于: 6出版物 全部的 前5名23位作者引用 1 约书亚·本吉奥 1 史蒂文·布鲁顿。 1 萨拉斯·钱达尔 1 陈一鸣 1 程冉 1 高建熙 1 亚历山大·戈尔班(Alexander N.Gorban)。 1 斯蒂芬·格林。 1 黄俊浩 1 黄磊 1 J.Nathan Kutz 1 李大庆 1 刘雪明 1 刘玉英 1 马曼青 1 潘天慈 1 科林·蓬斯 1 丹尼尔·普罗霍罗夫。 1 沙贡·索德哈尼 1 斯坦利·H·尤金 1 孙伟泽 1 Szymanski,Boleslaw K。 1 Ivan Yu,Tyukin。 4篇连载文章中引用 2 神经计算 1 计算物理杂志 1 物理报告 1 信息科学 全部的 前5名在6个字段中引用 5 计算机科学(68至XX) 2 生物学和其他自然科学(92-XX) 1 概率论与随机过程(60-XX) 1 数值分析(65-XX) 1 博弈论、经济学、金融和其他社会和行为科学(91-XX) 1 系统论;控制(93至XX) 按年份列出的引文