×

埃沃利诺

swMATH ID: 36450
软件作者: 施密杜贝尔,J.,维斯特拉,D.,戈麦斯,F.J。
描述: 进化:混合神经进化/序列学习的最优线性搜索。当前的神经网络学习算法在建模非线性动力学系统的能力方面受到了限制。大多数有监督的基于梯度的递归神经网络(RNN)都会遇到一个消失的错误信号,这会在很久以前阻止从输入中学习。当存在许多局部极小值时,那些没有的仍然存在问题。我们介绍了具有线性输出的递归系统(Evolino)的序列学习EVOlution的一般框架。Evolino使用进化来发现好的RNN隐藏节点权重,同时使用线性回归或二次规划等方法计算从隐藏状态到输出的最佳线性映射。使用长短期内存RNN架构,该方法在三个不同的问题域中进行测试:1)上下文敏感语言,2)多重叠加正弦波,以及3)Mackey-Glass系统。Evolino在所有任务中都表现出色,而其他方法在某些任务中表现出明显的不足。
主页: https://dl.acm.org/doi/10.5555/1642293.1642430
相关软件: 时钟RNN;达奇;LSTM公司;UCI-毫升;AlexNet公司;SpiNNaker公司;神经元;脱咖啡因咖啡;PRMLT公司;阿达德尔塔;RMS公司;阿达格拉德;ImageNet公司;OverFeat公司;NNcon公司;固定点算法;RNNLIB公司;CMA-ES公司;CIXL2号机组;单词2vec
引用于: 12文件

按年份列出的引文