×

从特征张量学习路径。 (英语) Zbl 1469.14116号

特征张量是随着粗糙路径理论而产生的,在随机分析中起着重要作用。签名是张量的集合,并对路径进行编码。
近年来,签名方法在机器学习和数据科学中得到了应用,包括但不限于人类行为识别、在线手写字符识别、金融数据分析,因为它们的数据流都可以被视为路径。最初,签名方法被用作数据流的特征提取程序。路径的签名张量是进行推断的算法的输入。
除了从路径中提取签名张量的兴趣外,反问题也有很大的兴趣。可以从其特征张量恢复路径(时间序列)吗?如果答案是肯定的,那么恢复方法可以在人工智能中找到许多应用。另一个值得关注的问题是,形式签名是张量的无限集合。在现实世界中,必须截断无限签名以进行存储。那么,在多大程度上可以从截断的签名中恢复原始路径?
在本文中,作者讨论了如何从签名中的第三项(即三阶签名张量)恢复路径。作者通过假设输出路径的坐标可以写为固定字典中函数的线性组合来限制他们的讨论。
对路径学习的讨论始于对一个特殊线性群作用的张量同余的研究。作为矩阵同余的高阶推广,张量同余被实现为张量与给定矩阵的多重线性乘法。
在讨论张量分解之后,作者讨论了可识别性问题,即获得的张量系统应满足何种条件才能从张量系统及其设置中进行精确推断。可识别性是从特征张量学习的关键。如果没有可识别性,即路径重建,就没有从获得的签名到有意义的学习参考的合理双向映射。这部分内容很深,对于缺乏足够数学背景的读者来说可能是一个挑战。
使用优化算法(BFGS)从特征张量中恢复路径。优化算法的详细实现可能比数学家对工程师和量子学家更有帮助。如果作者能给算法一个伪代码或指针,这篇文章读起来会更友好。

MSC公司:

2015年第14季度 高维变量的计算方面
15A72号 向量和张量代数,不变量理论
65K10码 数值优化和变分技术
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] C.Ameíndola、P.Friz和B.Sturmfels{V(V)签名张量的arieties},论坛数学。Sigma,出现·Zbl 1411.14068号
[2] E.M.Andreev和V.L.Popov{S公司半单李群}表示空间中一般位置点的稳定子群,Funct。分析。申请。,5(1971年),第265-271页·Zbl 0246.22017号
[3] P.Breiding和N.Vannieuwenhoven{C类黎曼-高斯-纽顿方法的收敛性分析及其与几何条件数}的关系,应用。数学。莱特。,78(2018),第42-50页·Zbl 1381.65043号
[4] N.Boumal、B.Mishra、P.-A.Absil和R.Sepulchre{M(M)anopt,用于流形优化的Matlab工具箱},J.Mach。学习。Res.,15(2014),第1455-1459页·Zbl 1319.90003号
[5] P.Buörgisser和F.Cucker{C类条件:数值算法的几何},格兰德伦数学。威斯。柏林施普林格-弗拉格349号,2013年·Zbl 1280.65041号
[6] P.Buörgisser、A.Garg、R.Oliveira、M.Walter和A.Wigderson{A类交替最小化、缩放算法和不变量理论中的零核问题},arXiv:1711.080392017·Zbl 1462.90097号
[7] K.-T.Chen{路径、几何不变量和广义贝克尔-豪斯道夫公式}的积分,数学年鉴。,65(1957),第163-178页·Zbl 0077.25301号
[8] I.Chevyrev和A.Kormilitzin{A类机器学习中的签名方法入门},arXiv:1603.037882016。
[9] J.Demmel{O(运行)n个条件数和到最近的不适定问题}的距离,Numer。数学。,51(1987),第251-289页·兹伯利0597.65036
[10] J.Diehl和J.Reizenstein{基于迭代积分签名的多维时间序列nvariants,arXiv:1801.061042018·Zbl 1428.62391号
[11] J.Draisma、E.Horobet、G.Ottaviani、B.Sturmfels和R.Thomas{T型代数簇}的欧氏距离度。计算。数学。,16(2016),第99-149页·Zbl 1370.51020号
[12] P.Friz和M.Hairer{A类崎岖道路上的课程。《正则结构导论》,Universitext,Springer-Verlag,柏林,2014年·Zbl 1327.60013号
[13] F.Galuppi{T型《粗糙维罗内塞品种》,arXiv:1809.025222018年·Zbl 1432.14041号
[14] S.Garibaldi和R.Guralnick{G公司广义自由表示II:不可约表示},arXiv:1711.06400,2017·Zbl 1484.20076号
[15] D.Grayson和M.Stillman{M(M)acaulay2,代数几何研究软件系统}。
[16] T.Kolda和B.Bader{T型传感器分解和应用},SIAM Rev.,51(2009),第455-500页·Zbl 1173.65029号
[17] A.Kormlitzin、K.Saunders、P.Harrison、J.Geddes和T.Lyons{A类签名方法在CEQUEL临床试验中模式识别的应用},arXiv:1606.020742016。
[18] A.Kormlitzin、K.Saunders、P.Harrison、J.Geddes和T.Lyons{D类使用基于特征的模型}检测双相情感障碍患者抑郁和躁狂发作的早期症状,arXiv:1708.012062017。
[19] J.Kruskal{T型三元数组:三线性分解的秩和唯一性,及其在算术复杂性和统计学中的应用},线性代数应用。,18(1977年),第95-138页·Zbl 0364.15021号
[20] J.M.Landsberg{T型传感器:几何与应用},梯度。学生数学。128,AMS,普罗维登斯,RI,2012年·Zbl 1238.15013号
[21] D.Levin、T.Lyons和H.Ni{L(左)《从过去获利,预测未来统计数据,学习进化系统》,arXiv:1309.02602018年。
[22] T.Lyons和Z.Qian{S公司《系统控制与粗糙路径》,牛津大学出版社,英国牛津,2002年·Zbl 1029.93001号
[23] T.Lyons和W.Xu{小时特征的超语言发展和反转},J.Funct。分析。,272(2017),第2933-2955页·Zbl 1362.53009号
[24] T.Lyons和W.Xu{转换路径}的签名,J.Eur.Math。Soc(JEMS),20(2018),第1655-1687页·Zbl 1429.70012号
[25] J.Nocedal和S.J.Wright{N个数字优化},Springer-Verlag,柏林,2006年·兹比尔1104.65059
[26] A.M.波波夫{F类在简单线性李群}的一般位置上初始化平稳子群。莫斯科数学。《社会学杂志》,48(1988),第3-63页。
[27] J.Renegar{将合并条件度量纳入线性规划的复杂性理论},SIAM J.Optim。,5(1995)第506-524页·Zbl 0838.90139号
[28] C.鲁特纳{F类ree李代数},伦敦数学。Soc.Monogr公司。7,牛津大学出版社,纽约,1993年·Zbl 0798.17001号
[29] L.Tucker{S公司《关于三模式因子分析的一些数学注释》,《心理测量学》,31(1966),第279-311页。
[30] V.斯特拉森{R(右)相对双线性复杂性和矩阵乘法},J.Reine Angew。数学。,(1987),第406-443页·Zbl 0621.68026号
[31] N.Vervliet、O.Debals、L.Sorber、M.Van Barel和L.De Lathauwer{T型ensorlab}3.0,(2016)。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。