跳到主要内容
10.1145/3583133.3590531acm会议文章/章节视图摘要出版物页面灰泥会议记录会议集合
海报

自建神经网络

出版:2023年7月24日 出版历史
  • 获取引文提醒
  • 摘要

    在生命的最初阶段,大脑在通过一个称为突触发生的过程进行学习的同时进行发育。神经元生长并相互作用,形成突触。然而,最终大脑会剪除这些突触。虽然之前的工作侧重于独立学习和剪枝,但在这项工作中,我们提出了一个生物学上合理的模型,该模型结合了希伯来学习和剪毛,旨在模拟突触发生过程。这样,在学习如何解决任务的同时,代理将其经验转化为特定的网络结构。即网络结构构建自身在任务执行期间。我们称这种方法为自建神经网络(SBNN)。在三个OpenAI经典控制任务上,我们将我们提出的SBNN与传统的前馈神经网络(FFNN)进行了比较。结果表明,我们的模型总体上优于FFNN。此外,我们观察到,在我们的模型中,随着修剪率的增加,性能衰减比FFNN更小。

    工具书类

    [1]
    Greg Brockman、Vicki Cheung、Ludwig Pettersson、Jonas Schneider、John Schulman、Jie Tang和Wojciech Zaremba。2016.OpenAI健身房。arXiv:1606.01540。
    [2]
    托马斯·布朗(Thomas H Brown)、爱德华·凯利斯(Edward W Kairis)和克劳德·基南(Claude L Keenan)。希伯来突触:生物物理机制和算法。神经科学年度回顾13, 1 (1990), 475--511.
    [3]
    宋汉(Song Han)、杰夫·普尔(Jeff Pool)、约翰·特兰(John Tran)和威廉·戴利(William J.Dally)。2015年,学习有效神经网络的权重和联系。arXiv:1506.02626。
    [4]
    尼古拉·汉森。2016年,CMA进化战略:教程。arXiv:1604.00772。
    [5]
    Gregory Z.Tau和Bradley S.Peterson。2010年,脑回路的正常发育。神经精神药理学35 (2010), 147--168.
    [6]
    温迪·祖克曼和安德鲁·珀塞尔。2011年,大脑的突触修剪一直持续到20多岁。新科学家211, 2826 (2011), 9.

    建议

    评论

    信息和贡献者

    问询处

    发布于

    封面图片ACM会议
    GECCO’23伴侣:遗传和进化计算伴侣会议记录
    2023年7月
    2519页
    国际标准图书编号:9798400701207
    内政部:10.1145/3583133
    允许制作本作品的部分或全部数字或硬拷贝供个人或课堂使用,但不收取任何费用,前提是复制品的制作或分发不是为了盈利或商业利益,并且复制品在首页注明本通知和完整引文。必须尊重本作品第三方组件的版权。对于所有其他用途,请联系所有者/作者。

    赞助商

    出版商

    计算机协会

    美国纽约州纽约市

    出版历史

    出版:2023年7月24日

    检查更新

    作者标记

    1. 神经网络
    2. 塑性
    3. 修剪
    4. 神经进化

    限定符

    • 海报

    会议

    GECCO’23伙伴
    赞助商:
    GECCO’23伙伴:关于遗传和进化计算的伙伴会议
    2023年7月15日至19日
    葡萄牙里斯本

    接受率

    4410份提交文件中的总接受率为1669份,占38%

    即将召开的会议

    GECCO’24
    遗传和进化计算会议
    2024年7月14日至18日
    墨尔本,维多利亚州,澳大利亚

    贡献者

    其他指标

    文献计量学和引文

    文献计量学

    文章指标

    • 0
      引文总数
    • 62
      总下载次数
    • 下载量(最近12个月)62
    • 下载次数(最近6周)2

    其他指标

    引文

    视图选项

    获取访问权限

    登录选项

    完全访问权限

    查看选项

    PDF格式

    以PDF文件查看或下载。

    PDF格式

    电子阅读器

    使用联机查看电子阅读器.

    电子阅读器

    媒体

    数字

    其他

    桌子

    分享

    分享

    共享此出版物链接

    在社交媒体上分享