×
保罗·威尔逊;法比奥·扎纳西

逆导数上升：学习布尔电路的分类方法。 （英语） Zbl 1477.68275号

Spivak，David I.（编辑）等人，《2020年第三届国际应用范畴理论年会论文集》，ACT 2020，美国剑桥，2020年7月6日至10日。滑铁卢：开放出版协会（OPA）。电子。程序。西奥。计算。科学。（EPTCS）333247-260（2021）。
小结：我们介绍反向导数上升：基于梯度的机器学习方法的分类类比。我们的算法定义在所谓的反向差分类别它可以用于学习表示为此类类别的形态的模型的参数。我们的激励例子是布尔电路：我们通过使用反向微分类别理论来展示我们的算法如何应用于此类电路。注意，我们的方法允许我们学习布尔电路的参数直接地与现有的二值化神经网络方法相比。此外，我们通过在基准机器学习数据集上的实验结果证明了它的经验价值。
关于整个系列，请参见[Zbl 1466.68028号].

引用于5文件

MSC公司：

68T05型 人工智能中的学习和自适应系统
18层40层 合成微分几何、切线类别、微分类别
68问题32 计算学习理论
94C11号机组 交换理论，布尔代数在电路和网络中的应用

软件：

二进制网络;CIFAR公司;二进制连接;UCI-毫升;PRMLT公司
PDF格式BibTeX公司 XML格式引用
\textit｛P.Wilson｝和\textit｛F.Zanasi｝，电子。程序。西奥。计算。科学。（EPTCS）333247-260（2021年；Zbl 1477.68275）
全文： arXiv公司 链接

参考文献：

[1] Christopher M.Bishop（2006）：模式识别和机器学习。信息科学与统计，纽约斯普林格，doi:10.978.038731/0732·Zbl 1107.68072号
[2] Filippo Bonchi、Fabio Gadducci、Aleks Kissinger、Pawel Sobocinski和Fabio Zanasi（2016）：重写模对称单体结构。第31届ACM/IEEE计算机科学逻辑研讨会论文集——LICS’16，第710-719页，doi:10.1145/2933575.2935316·Zbl 1395.68162号 ·doi:10.1145/2933575.2935316
[3] Robin Cockett、Geoffrey Cruttwell、Jonathan Gallagher、Jean-Simon Pacaud Lemay、Benjamin MacAdam、Gordon Plotkin和Dorette Pronk（2019）：反向衍生品类别。arXiv:1910.07065[cs，数学]。
[4] Matthieu Courbariaux、Yoshua Bengio和Jean-Pierre David：BinaryConnect:训练深层神经网络-在传播过程中使用二进制权重工作。arXiv:1511.00363[cs]。
[5] Dheeru Dua和Casey Graff（2017）：UCI机器学习知识库。
[6] Richard O.Duda、Peter E.Hart和David G.Stork（2000）：模式分类（第二版）。Wiley-Interscience，美国·Zbl 0968.68140号
[7] Brendan Fong，David I.Spivak&Rémy Tuyéras（2019）：Backprop作为Functor：监督学习的作曲视角。arXiv:1711.10455[cs，数学]。
[8] Bruno Gavranović（2020）：使用梯度下降学习函数。理论计算机科学电子论文集323，第230-245页，doi:10.4204/EPTCS.323.15。arXiv:2009.06837·Zbl 07453981号 ·doi:10.4204/EPTCS.323.15
[9] Itay Hubara、Matthieu Courbariaux、Daniel Soudry、Ran El-Yaniv和Yoshua Bengio（2016）：二元化神经网络：训练权重和激活限制为+1或-1的深层神经网络。arXiv：1602.02830【cs】。ArXiv:1602.02830。
[10] 内森·雅各布森（2012）：基础代数I：第二版。快递公司。
[11] Alex Krizhevsky（2009）：从微小图像中学习多层特征。多伦多大学计算机科学系硕士论文。
[12] Yves Lafont（2003）：布尔电路的代数理论。《纯粹与应用代数杂志》184（2-3），第257-310页，doi:10.1016/S0022-4049（03）00069-0·Zbl 1037.94015号 ·doi:10.1016/S0022-4049（03）00069-0
[13] Yann Lecun、Léon Bottou、Yoshua Bengio和Patrick Haffner（1998）：基于梯度的学习应用于文档识别。摘自：IEEE会议录，第2278-2324页，doi:10.1109/5.726791·数字对象标识代码：10.1109/5.726791
[14] Rajat Raina，Anand Madhavan和Andrew Y.Ng（2009）：使用图形处理器的大规模深度无监督学习。摘自：《第26届国际机器学习年会论文集-ICML'09》，ACM出版社，加拿大魁北克省蒙特利尔，第1-8页，doi:10.1145/1553374.1553486·doi:10.1145/1553374.1553486
[15] A.Martín del Rey，G.Rodríguez Sánchez&A.de la Villa Cuenca（2012）：关于布尔偏导数及其组成。《应用数学快报》25（4），第739-744页，doi:10.1016/j.aml.2011.10.013·Zbl 1242.06012号 ·doi:10.1016/j.aml.2011.10.013
[16] Sebastian Ruder（2017）：梯度下降优化算法概述。arXiv:1609.04747[cs]。
[17] Peter Selinger（2010）：单体类别图形语言调查。arXiv:0908.3347【数学】813，第289-355页，doi:10.1007/978-3642-12821-9-4·Zbl 1217.18002号 ·doi:10.1007/978-3-642-12821-9-4
[18] David Sprunger和Bart Jacobs（2019）：因果函数微分学。arXiv:1904.10611[cs]。
[19] David Sprunger和Shin-ya Katsumata（2019）：通过延迟追踪的不同因果计算。2019年第34届ACM/IEEE计算机科学逻辑年会（LICS），IEEE，加拿大不列颠哥伦比亚省温哥华，第1-12页，doi:10.1109/LICS.2019.8785670·doi:10.1109/LICS.2019.8785670
[20] 王尔伟、詹姆斯·戴维斯、彼得·张扬和乔治·康斯坦丁（2019）：逻辑网：重新思考FPGA软逻辑中的推理。IEEE现场可编程定制计算机国际研讨会，doi:10.1109/FCCM.2019.00014·doi:10.1109/FCCM.2019.00014
[21] Fabio Zanasi（2017）：在自由超图类别中重写。《理论计算机科学电子论文集》263，第16-30页，doi:10.4204/EPTCS.263.2·doi:10.4204/EPTCS.263.2
[22] 伊万·哲加尔金（1927）：逻辑符号的命题计算。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。