×

用于机器学习的可微多项式电路的类别。 (英语) Zbl 1514.68266号

Behr,Nicolas(编辑)等人,《图形变换》。2022年7月7日至8日,作为2022年STAF的一部分,在法国南特举行了第15届国际会议,ICGT 2022。诉讼程序。查姆:斯普林格。莱克特。注释计算。科学。13349, 77-93 (2022).
摘要:最近,反向派生类别(RDC)被证明是研究机器学习算法的合适语义框架。虽然重点放在培训方法上,但很少关注模型类:其形态表示机器学习模型的具体类别。本文研究了RDC类的生成元表示和方程表示。特别是,我们建议多项式电路作为一种合适的机器学习模型。我们给出了这些电路的公理化,并证明了一个函数完备性结果。最后,我们讨论了在特定半环上使用多项式电路来执行离散值机器学习。
关于整个系列,请参见[Zbl 1499.68009号].

理学硕士:

68T05型 人工智能中的学习和自适应系统
18E05型 预添加剂、添加剂类别
18立方米 字符串图和图形计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abadi,M.等人:TensorFlow:异构系统上的大规模机器学习(2015)。https://www.tensorflow.org/
[2] Alarcón,F.,Anderson,D.:交换半环及其理想格。休斯顿J.数学。20 (1994). https://www.math.uh.edu/hjm/vol20-4.html·Zbl 0823.16032号
[3] Baez,J.C.、Coya,B.、Rebro,F.:网络理论中的道具(2017)。http://www.tac.mta.ca/tac/volumes/33/25/33-25abs.html ·Zbl 1400.18004号
[4] Bengio,Y.,Léonard,N.,Courville,A.:通过随机神经元估计或传播梯度以进行条件计算(2013)。doi:10.48550/ARXIV.1308.3432,https://arxiv.org/abs/11308.3432
[5] Blute,R.F.,Cockett,J.R.B.,Seely,R.A.G.:笛卡尔微分范畴。理论应用。类别。22, 622-672 (2009). https://emis.univie.ac.at/journals/TAC/volumes/22/23/22-23abs.html ·Zbl 1262.18004号
[6] Bonchi,F.、Gadducci,F.,Kissinger,A.、Sobocinski,P.、Zanasi,F.:弦图重写理论i:用frobenius结构重写(2020)。doi:10.48550/ARXIV.2012.01847·Zbl 1497.68239号
[7] Bonchi,F.、Gadducci,F.,Kissinger,A.、Sobocinski,P.、Zanasi,F.:弦图重写理论ii:用对称单体结构重写(2021)。doi:10.48550/ARXIV.2104.14686·Zbl 1497.68239号
[8] Bonchi,F.、Gadducci,F.,Kissinger,A.、Sobocinnski,P.、Zanasi,F.:弦图重写理论iii:与frobenius的汇合与否(2021)。doi:10.48550/ARXIV.2109.06049·Zbl 1497.68239号
[9] Choi,J.等人:准确有效的2位量化神经网络。收录:Talwalkar,A.、Smith,V.、Zaharia,M.(编辑)《机器学习与系统学报》。第1卷,第348-359页(2019年)。https://proceedings.mlsys.org/paper/2019/file/006f52e9102a8d3be2fe5614f42ba989-paper.pdf
[10] Cockett,R.,Cruttwell,G.,Gallagher,J.,Lemay,J.S.P.,MacAdam,B.,Plotkin,G..,Pronk,D.:反向衍生品类别(2019年)。doi:10.4230/LIPIcs。CSL.2020.18号文件·Zbl 07650831号
[11] Cruttwell,G.S.H.,Gavranović,B.,Ghani,N.,Wilson,P.,Zanasi,F.:基于梯度学习的分类基础(2021)。doi:10.448550/ARXIV.2103.01931
[12] de Fermat,P.:致贝西神父的信(1640年)
[13] Ghica,D.R.,Kaye,G.,Sprunger,D.:数字电路的完全抽象(2022)。doi:10.48550/ARXIV.2201.10456
[14] 戈兰,J.S.:半环及其应用。施普林格,多德雷赫特,荷兰(2010年)。doi:10.1007/978-94-015-9333-5·Zbl 0947.16034号
[15] Gustafson,J.L.,Yonemoto,I.T.:在自己的游戏中击败浮点:假设算术。超级计算机。前面。创新。4(2), 71-86 (2017). doi:10.14529/jsfi170206
[16] 霍尼克,K。;Stinchcombe,M。;White,H.,多层前馈网络是通用逼近器,神经网络。,2, 5, 359-366 (1989) ·Zbl 1383.92015年 ·doi:10.1016/0893-6080(89)90020-8
[17] Lafont,Y.,《走向布尔电路的代数理论》,J.Pure Appl。代数,184,2-3,257-310(2003)·Zbl 1037.94015号 ·doi:10.1016/S0022-4049(03)00069-0
[18] Leshno,M.,具有非多项式激活函数的多层前馈网络可以近似任何函数,神经网络。,6, 6, 861-867 (1993) ·doi:10.1016/s0893-6080(05)80131-5
[19] Paszke,A.等人:Pytorch:一个命令式、高性能的深度学习库。摘自:《神经信息处理系统进展》,第32卷,第8024-8035页。Curran Associates,Inc.(2019年)
[20] Selinger,P.:关于单体范畴图形语言的调查。收录:Coecke,B.(编辑)《物理学的新结构》。物理课堂笔记,第813卷,第289-355页。施普林格,柏林(2010)。doi:10.1007/978-3642-12821-94·Zbl 1217.18002号
[21] Wernick,W.,《逻辑函数成套》,Trans。美国数学。《社会学杂志》,51,1117(1942)·Zbl 0027.38501号 ·doi:10.2307/1989982
[22] Wilson,P.,Zanasi,F.:组合的成本:字符串图组合的高性能实现(2021)。doi:10.48550/ARXIV.2105.09257
[23] 威尔逊,P。;Zanasi,F.,《反向导数提升:学习布尔电路的分类方法》,《电子》。程序。理论。计算。科学。,333, 247-260 (2021) ·Zbl 1477.68275号 ·doi:10.4204/eptcs.333.17
[24] Zanasi,F.:交互HOPF代数:线性系统理论(2018)。doi:10.48550/ARXIV.1805.03032
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。