×

学习持久性条形码的表示。 (英语) Zbl 1446.68138号

本文处于拓扑数据分析和机器学习的交叉点。更具体地说,作者旨在利用表示学习技术,针对特定任务优化持久性条形码。持久性条形码是给定对象的简明指纹,通过考虑其相对于实值连续函数的持久同源性而获得。直观地,这项技术检查了代表所选对象的流形的每个过滤级别上同源群的变化。
所提出的方法旨在以连续的方式将持久性条形码映射到向量,以便将该方法与标准参数优化和函数近似技术(如反向传播和人工神经网络)直接集成。
经典地,持久性条形码在作为神经网络的输入之前被矢量化。在这里,学习矢量化以最小化给定的错误函数。此外,这种学习过程受到持久性条形码自身性质的限制:它应该尊重其多集结构并保持其度量属性(相对于Wasserstein距离的稳定性)。讨论了这些方面,并给出了表征适当泛函的定理,即稳定和连续泛函。
应用上述理论结果所需的机械包括引入结构构件作为获得稳定矢量化的方法。结构元素的构造自然遵循内核方法中的已知思想和持久同源性。
然后,该方法在几个实验中进行了测试,其中条形码被馈送到人工神经网络,其输入层是可学习的矢量化。所建议的策略在许多考虑的任务中都达到了令人着迷的性能,从2D和3D形状识别到EEG信号分析、图形拉普拉斯和社交网络。

MSC公司:

68T05型 人工智能中的学习和自适应系统
55N31号 持久同源性及其应用,拓扑数据分析
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: 链接

参考文献:

[1] H.Adams、T.Emerson、M.Kirby、R.Neville、C.Peterson、P.Shipman、S.Chepushtanova、E.Hanson、F.Motta和L.Ziegelmeier。持久性图像:持久性同源性的稳定矢量表示。JMLR,18(8):1-352017年·Zbl 1431.68105号
[2] A.Adcock、E.Carlsson和G.Carlsson。持久性条形码上的代数函数环。霍莫尔。同伦应用。,2016年8月18日至40日·Zbl 1420.55017号
[3] D.Arthur和S.Vassilvitskii。k-means++:细心播种的优点。InSODA,2007年·Zbl 1302.68273号
[4] X.Bai、W.Liu和Z.Tu.整合轮廓和骨架进行形状分类。InICCV非刚性形状分析和可变形图像对准研讨会(NORDIA),
[5] I.Barnett、N.Malik、M.L.Kuijjer、P.J.Mucha和J.-P.Onnela。基于特征的网络分类。CoRR,2016年。https://arxiv.org/abs/1610.05868。
[6] U.Bauer、M.Kerber和J.Reininghaus。持久同源性的分布式计算。InALENEX,2014年·Zbl 1429.68328号
[7] P.Bendich、J.S.Marron、E.Miller、A.Pieloch和S.Skwerer。脑动脉树的持续同源性分析。附录申请。《统计》,2016年第10(2)期。
[8] A.Berlinet和C.Thomas-Agnan。概率统计中的再生核希尔伯特空间。Kluwer学术出版社,英国伦敦,2004年·Zbl 1145.6202号
[9] P.Bubenik。使用持久性环境进行统计拓扑数据分析。JMLR,16(1):77-1022015年·Zbl 1337.68221号
[10] Z.Cang和G.-W.Wei。基于拓扑的深度卷积和多任务神经网络用于生物分子特性预测。公共科学图书馆计算。生物学,13(7):e10056902017。
[11] G.卡尔森。拓扑和数据。牛市。阿默尔。数学。Soc.,46:255-3082009年·Zbl 1172.62002号
[12] G.Carlsson、T.Ishkhanov、V.de Silva和A.Zomordian。论自然意象空间的局部行为。IJCV,76:1-122008年·Zbl 1477.68463号
[13] M.Carri´ere、M.Cuturi和S.Outot。用于持久性图的切片Wasserstein内核。InICML,2017年。
[14] 欧·夏佩尔。在原始环境中训练支持向量机。神经计算。,19(5): 1155-78, 2007. ·Zbl 1123.68101号
[15] F.Chazal和V.Divol。期望持久性图的密度及其基于核的估计。InSoCG,2018年·兹比尔1473.55002
[16] F.Chazal、D.Cohen-Steiner、L.J.Guibas、F.M´emoli和S.Y.Oudot。Gromov-Hausdorff使用持久性稳定形状签名。计算。图表。论坛,28(5):139314032009。
[17] F.Chazal、B.T.Fasy、F.Lecci、A.Rinaldo、A.Singh和L.Wasserman。关于持久性图表和风景的引导程序。模型。分析。通知。姐姐。,20(6):111-1202013a。
[18] F.Chazal、L.J.Guibas、S.Y.Oudot和P.Skraba。黎曼流形中基于持久性的聚类。J.ACM,60(6):41-792013b·Zbl 1281.68176号
[19] F.Chazal、B.T.Fasy、F.Lecci、A.Rinaldo和L.Wassermann。持久性景观和轮廓的随机收敛。JoCG,6(2):1401612014年·Zbl 1395.62187号
[20] Y.C.Chen、D.Wang、A.Rinaldo和L.Wasserman。持久性强度函数的统计分析。CoRR,2015年。https://arxiv.org/abs/1510.02502。
[21] D.Cohen-Steiner、H.Edelsbrunner和J.Harer。持久性图的稳定性。离散计算。地理。,37(1):103-120, 2007. ·Zbl 1117.54027号
[22] D.Cohen-Steiner、H.Edelsbrunner、J.Harer和Y.Mileyko。Lipschitz函数具有Lp-稳定持久性。已找到。计算。数学。,10(2):127-139, 2010. ·Zbl 1192.55007号
[23] H.Edelsbrunner和J.L.Harer。计算拓扑:导论。美国数学学会,2010年·Zbl 1193.55001号
[24] H.Edelsbrunner、D.Letcher和A.Zomordian。拓扑持久性和简化。离散计算。地理。,28(4):511-533, 2002. ·Zbl 1011.68152号
[25] H.Edelsbrunner、A.Ivanov和R.Karasev。离散和计算几何中的当前开放问题。Modelirovanie i Analiz信息。系统,19(5):2012年5月17日。
[26] B.Fasy、F.Lecci、A.Rinaldo、L.Wasserman、S.Balakrishnan和A.Singh。持久性图的置信集。安.统计师。,42(6):2301-2339, 2014. ·Zbl 1310.62059号
[27] D.弗里德曼和P.迪亚科尼斯。关于直方图作为密度估计器:l2理论。Zeitschrift f¨ur Wahrscheinlichkeits theorie und verwandte Gebiete,57:453-4761981年·Zbl 0449.62033号
[28] A.格雷夫斯。用递归神经网络生成序列。CoRR,2013。网址://arxiv.org/abs/1308.080。
[29] A.Gretton、K.M.Borgwardt、M.J.Rasch、B.Sch¨olkopf和A.Smola。内核双样本测试。JMLR,13:723-7732012年·Zbl 1283.62095号
[30] W.Guo、K.Manohar、S.L.Brunton和A.G.Banerjee。稀疏TDA:用于多路分类的拓扑数据分析的稀疏实现。IEEE传输。知识。数据工程,2018年。
[31] A.海彻。代数拓扑。剑桥大学出版社,剑桥,2002年·Zbl 1044.55001号
[32] 何凯(K.He)、张旭(X.Zhang)、任志刚(S.Ren)和孙建中(J.Sun)。用于图像识别的深度残差学习。2016年CVPR。
[33] C.Hofer、R.Kwitt、M.Niethammer和A.Uhl。使用拓扑签名进行深入学习。InNIPS,2017a。
[34] C.Hofer、R.Kwitt、M.Niethammer和A.Uhl。从拓扑角度构建形状空间。InIPMI,2017b。
[35] G.Huang、Z.Liu、L.van der Maaten和K.Weinberger。紧密连接的卷积网络。InCVPR,2017年。
[36] S.Kali˘snik Verovᱸsek。永久条形码空间上的热带坐标。已找到。计算。数学。,2018年第1-29页。
[37] D.P.Kingma和J.Ba.Adam:一种随机优化方法。InICLR,2014年。
[38] A.Krizhevsky、I.Sutskever和G.E.Hinton。使用深度卷积神经网络进行图像网络分类。InNIPS,2012年。
[39] G.Kusano、K.Fukumizu和Y.Hiraoka。拓扑数据分析的持久性加权高斯核。InICML,2016年。
[40] R.Kwitt、S.Huber、M.Niethammer、W.Lin和U.Bauer。统计拓扑数据分析——核心视角。InNIPS,2015年。
[41] L.Latecki、R.Lakamper和T.Eckhardt。具有单个闭合轮廓的非刚性形状的形状描述符。InCVPR,2000年。
[42] C.Li、M.Ovsjanikov和F.Chazal。基于持久性的结构识别。InCVPR,2014年。
[43] Y.Mileyko、S.Mukherjee和J.Harer。持久性图空间上的概率度量。反向概率。,27(12), 2011. ·Zbl 1247.68310号
[44] K.Mischaikow和V.Nanda。莫尔斯过滤理论和持久同调的有效计算。离散计算。地理。,50(2):330-353, 2013. ·兹比尔1278.57030
[45] A.Monod、S.Kali snik-Verov sek、J.A.Patiáno Galindo和L.Crawford。热带地区持续同源性的足够统计数据。CoRR,2017年。https://arxiv.org/abs/1709.02647。 ·Zbl 1443.62018年
[46] M.Nicolau、A.J.Levine和G.Carlsson。基于拓扑的数据分析确定了一组具有独特突变特征和良好生存率的乳腺癌。PNAS,108(17):7265-72702011年。
[47] M.尼珀特、M.艾哈迈德和K.库茨科夫。学习图的卷积神经网络。InICML,2016年。
[48] Pickup,D.等人,SHREC的14首曲目:非刚性三维人体模型的形状检索。《第七届欧洲图形学3D物体检索研讨会论文集》,EG 3DOR’14。
[49] C.R.Qi、H.Su、K.Mo和L.J.Guibas。PointNet:针对3D分类和分割的点集进行深入学习。InCVPR,2017a。
[50] C.R.Qi、L.Yi、H.Su和L.J.Guibas。Pointnet++:度量空间中点集上的深度层次特征学习。InNIPS,2017b。
[51] R.Reininghaus、U.Bauer、S.Huber和R.Kwitt。拓扑机器学习的稳定多尺度核。InCVPR,2015年。
[52] B.Sch¨olkopf和A.J.Smola。使用内核学习:支持向量机、正则化、优化及其他。麻省理工学院出版社,马萨诸塞州剑桥,美国。
[53] N.Shervashidze、P.Schweitzer、E.J.van Leeuwen、K.Mehlhorn和K.M Borgwardt。魏斯费勒-勒曼图核。司法部,2011年12月2539-2561日·Zbl 1280.68194号
[54] G.Singh、F.Memoli、T.Ishkhanov、G.Sapiro、G.Carlsson和D.L.Ringach。视觉皮层群体活动的拓扑分析。视觉杂志。,8(8), 2008.
[55] I.Steinwart和A.Christmann。支持向量机。施普林格,第1版,2008年·Zbl 1203.68171号
[56] J.Sun、M.Ovsjanikov和L.Guibas。基于热扩散的简明且可能具有信息量的多尺度签名。InSGP,2009年。
[57] K.Sun和B.Super。使用类段集对轮廓形状进行分类。InCVPR,2005年。
[58] I.Sutskever、O.Vinyals和Q.V.Le。用神经网络进行序列到序列的学习。InNIPS,2014年。
[59] L.Takak和M.Zabovsky。公共社交网络中的数据分析。2012年国际科学会议和国际研讨会《当今创新趋势》。
[60] K.Turner、Y.Mileyko、S.Mukherjee和J.Harer。Fr′echet表示持久性图的分布。离散计算。地理。,52(1):44-702014a·Zbl 1296.68182号
[61] K.Turner、S.Mukherjee和D.M.Boyer。造型形状和曲面的持久同源变换。信息推断,3(4):310-3442014年b·Zbl 06840289号
[62] X.Wang、B.Feng、X.Bai、W.Liu和L.J.Latecki。用于稳健形状分类的轮廓碎片包。模式识别。,47(6):2116-21252014年。
[63] S.Welleck、K.Cho和Z.Zhang。基于盐度的序列图像注意与多集预测。InNIPS,2017年。
[64] P.Yanardag和S.V.N.Vishwanathan。深度图内核。InKDD,2015年。
[65] M.Zaheer、S.Kottur、S.Ravanbakhsh、B.Poczos、R.Salakhutdinov和A.J.Smola。深度设置。InNIPS,2017年。
[66] 答:。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。