×
高新波;王秀梅;李雪龙;陶大成

基于散度分析的传递潜变量模型。 （英语） Zbl 1218.68122号

模式识别 44，编号10-11，2358-2366（2011）.
摘要：隐变量模型是机器学习和模式识别中强大的降维方法。然而，这种方法只有在训练样本和测试样本独立且分布一致的必要且严格的假设下才能很好地工作。当样本来自不同的领域时，测试数据集的分布将与训练数据集不一致。因此，由于训练模型的参数不适合测试数据集，潜在变量模型的性能会降低。这种情况限制了传统潜在变量模型的推广和应用。为了解决这个问题，提出了一种潜在变量模型的迁移学习框架，该框架可以利用两个数据集的距离（或散度）来修改所获得的潜在变量模型的参数。因此，我们不需要重建模型，只需要根据散度调整参数，这将采用不同的数据集。在多个实际数据集上的实验结果证明了该框架的优点。

引用于4文件

MSC公司：

68T05型 人工智能中的学习和自适应系统

关键词：

降维;潜在变量模型;迁移学习;Bregman散度
PDF格式BibTeX公司 XML格式引用
\textit{X.Gao}等人，模式识别44，No.10--11，2358--2366（2011；Zbl 1218.68122）
全文： 内政部

参考文献：

[1] Hotelling，H.，《将复杂的统计变量分析为主要成分》，《教育心理学杂志》，24417-441（1933）·JFM 59.1182.04号文件
[2] Y.Zhang Z.-H.Zhou，通过依赖最大化进行多标签维数约简，载：美国人工智能学会人工智能会议，伊利诺伊州芝加哥，2008年，第1503-1505页。；Y.Zhang Z.-H.Zhou，通过依赖最大化进行多维降维，载于：美国人工智能学会人工智能会议，伊利诺伊州芝加哥，2008年，第1503-1505页。
[3] 何，X。；Niyogi，P.，位置保持预测，神经信息处理系统的进展，16，153-160（2003）
[4] X.He，D.Cai，S.Yan，H.Zhang，邻里保护嵌入，摘自：IEEE计算机视觉国际会议，2005年，第1208-1213页。；X.He，D.Cai，S.Yan，H.Zhang，邻里保护嵌入，摘自：IEEE计算机视觉国际会议，2005年，第1208-1213页。
[5] D.Cai，X.He，J.Han，半监督判别分析，载：IEEE国际计算机视觉会议，2007年，第1-7页。；蔡德华、何晓霞、韩俊杰，半监督判别分析，载《IEEE计算机视觉国际会议》，2007年，第1-7页。
[6] X.He，D.Cai，H.Liu，W.Ma，文件表示的位置保持索引，SIGIR’04，2004，第96-103页。；X.He，D.Cai，H.Liu，W.Ma，《文档表示的位置保持索引》，SIGIR’04，2004年，第96-103页。
[7] 袁，Y。；李，X。；Pang，Y。；卢，X。；Tao，D.，二进制稀疏非负矩阵分解，IEEE视频技术电路和系统汇刊，19，5，772-777（2009）
[8] 张，T。；陶，D。；李，X。；Yang，J.，面向降维的补丁对齐，IEEE知识与数据工程汇刊，21，9，1299-1313（2009）
[9] He，X.，Laplacian正则化主动学习d-最优设计及其在图像检索中的应用，IEEE图像处理汇刊，19，1，254-263（2010）·Zbl 1371.94156号
[10] 何，X。；Yan，S。；胡，Y。；Niyogi，P。；Zhang，H.-J.，使用拉普拉斯人脸进行人脸识别，IEEE模式分析和机器智能汇刊，27，3，328-340（2005）
[11] X.He，M.Ji，H.Bao，带约束的图嵌入，《2009年国际人工智能联合会议论文集》，加州帕萨迪纳，2009年7月。；X.He，M.Ji，H.Bao，带约束的图嵌入，《2009年国际人工智能联合会议论文集》，加州帕萨迪纳，2009年7月。
[12] Jolliffe，I.T.，主成分分析（1986），Springer-Verlag:Springer-Verlag纽约·Zbl 1011.62064号
[13] Belhumeur，P.N。；赫斯帕尼亚，J.P。；Kriegman，D.J.，《特征脸vs.Fisherfaces:使用类特定线性投影进行识别》，IEEE模式分析和机器智能学报，19，7，711-720（1997）
[14] 肖尔科夫，B。；Smola，A。；Muller，K.-R.，作为核心特征值问题的非线性分量分析，神经计算，10，5，1299-1319（1998）
[15] Li，J.等人。；李，X。；Tao，D.，KPCA用于图像中语义对象提取，模式识别，41，10，3244-3250（2008）·Zbl 1147.68682号
[16] 高，X。；肖，B。；陶，D。；Li，X.，图像分类：图形编辑距离+边缘方向直方图，模式识别，41，10，3179-3191（2008）·Zbl 1147.68797号
[17] Roweis，S。；Saul，L.，通过局部线性嵌入降低非线性维数，《科学》，290，5500，2323-2326（2000）
[18] X.Li，Y.Pang，Y.Y.Yuan，基于L1-范式的2DPCA，IEEE系统、人与控制论汇刊，B部分，2010年。数字对象标识符，doi:10.1109/TSMCB.2009.2035629；X.Li，Y.Pang，Y.Yuan，基于L1范数的2DPCA，IEEE系统、人类和控制论汇刊，B部分，2010。数字对象标识符，doi:10.1109/TSMCB.2009.2035629
[19] Pang，Y。；陶，D。；袁，Y。；Li，X.，二进制二维PCA，IEEE系统、人与控制论汇刊，B部分，38，4，1176-1180（2008）
[20] 袁，Y。；Pang，Y。；潘，J。；Li，X.，基于IPCA的视觉监控场景分割，神经计算，72，10-12，2450-2454（2009）
[21] 贝尔金，M。；Niyogi，P.，用于降维和数据表示的拉普拉斯特征映射，神经计算，15，6，1373-1396（2003）·Zbl 1085.68119号
[22] Tenenbaum，J.B。；席尔瓦，V。；Langford，J.C.，《非线性降维的全球几何框架》，《科学》，29055002319-2323（2000）
[23] 席尔瓦，V。；Tenenbaum，J.B.，非线性降维中的全局与局部方法，神经信息处理系统进展，15705-712（2003）
[24] Tipping，M.E。；Bishop，C.M.，概率主成分分析，皇家统计学会杂志B，61，3，611-622（1999）·Zbl 0924.62068号
[25] Lawrence，N.D.，高维数据可视化的高斯过程模型，神经信息处理系统进展，16，329-336（2004）
[26] Lawrence，N.D.，高斯过程潜在变量模型的概率非线性主成分分析，机器学习研究杂志，61783-1816（2005）·Zbl 1222.68247号
[27] 王，J.M。；弗利特，D.J。；Hertzmann，A.，人类运动的高斯过程动力学模型，IEEE模式识别和机器智能汇刊，30，2283-298（2008）
[28] R.Urtasun，D.J.Fleet，P.Fua，用高斯过程动力学模型进行三维人跟踪，摘自：《计算机视觉和模式识别会议论文集》，美国纽约，2006年6月，第238-245页。；R.Urtasun，D.J.Fleet，P.Fua，《使用高斯过程动力学模型进行三维人跟踪》，载于：《计算机视觉和模式识别会议论文集》，美国纽约，2006年6月，第238-245页。
[29] 戴伟业，杨庆，薛国学，《促进迁移学习》，载《机器学习国际会议论文集》，美国俄勒冈州，2007年6月，第193-200页。；戴伟彦，杨庆，薛国荣，《促进迁移学习》，载《机器学习国际会议论文集》，美国俄勒冈州，2007年6月，第193-200页。
[30] J.Sinno，Y.Qiang，迁移学习调查，IEEE知识与数据工程汇刊，预印本；J.Sinno，Y.Qiang，迁移学习调查，IEEE知识与数据工程汇刊，预印本·Zbl 1402.68159号
[31] S.Si，D.Tao，B.Geng，传输子空间学习中基于Bregman散度的正则化，IEEE知识与数据工程汇刊，22（7）（2010）929-942。；S.Si，D.Tao，B.Geng，传输子空间学习中基于Bregman散度的正则化，IEEE知识与数据工程汇刊，22（7）（2010）929-942。
[32] A.Farhadi，D.Forsyth，R.White，手语迁移学习，摘自：《计算机视觉和模式识别会议论文集》，美国明尼苏达州，2007年6月，第1-8页。；A.Farhadi，D.Forsyth，R.White，手语迁移学习，摘自：《计算机视觉和模式识别会议论文集》，美国明尼苏达州，2007年6月，第1-8页。
[33] Yan，S。；徐，D。；张，B.，图嵌入和扩展：降维的一般框架，邻域保持嵌入，IEEE模式分析和机器智能学报，29，1，40-51（2007）
[34] 李，X。；Lin，S。；Yan，S。；Xu，D.，高阶张量数据的判别局部线性嵌入，IEEE系统、人与控制论汇刊，B部分，38，2，342-352（2008）
[35] Bartholomew，D.J.，潜在变量模型和因子分析（1987），Charles Griffin&Co.Ltd.：Charles Griffin&Co.Ltd.伦敦·Zbl 0664.62057号
[36] Tipping，M.E。；斯文森，M。；Williams，C.K.I.，潜在变量密度模型的快速EM算法，神经信息处理系统进展，8465-471（1996）
[37] 拉斯穆森，C.E。；Williams，C.K.I.，《机器学习的高斯过程》（2006），麻省理工学院出版社：麻省理学院出版社剑桥·Zbl 1177.68165号
[38] Bregman，L.M.，寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用，苏联计算数学与物理，7200-217（1967）·Zbl 0186.23807号
[39] 李，X。；Pang，Y.，基于确定性列的矩阵分解，IEEE知识与数据工程汇刊，22，1，145-149（2010）
[40] 诺克，R。；Nielsen，F.，关于权重聚类，IEEE模式分析和机器智能汇刊，28，8，1223-1235（2006）
[41] L.Cayton，Bregman发散的快速最近邻检索，摘自：《机器学习国际会议论文集》，芬兰赫尔辛基，2008年7月，第112-119页。；L.Cayton，Bregman发散的快速最近邻检索，摘自：《机器学习国际会议论文集》，芬兰赫尔辛基，2008年7月，第112-119页。
[42] 班纳吉，A。；Merugu，S。；Dhillon，I.S.，带Bregman分歧的聚类，机器学习研究杂志，61705-1749（2005）·Zbl 1190.62117号
[43] Vapnik，V.N.，《统计学习理论》（1998），威利出版社：威利纽约·Zbl 0935.62007号
[44] Möller，M.F.，用于快速监督学习的缩放共轭梯度算法，神经网络，6，4，525-533（1993）
[45] 劳伦斯，N.D。；Seeger，M。；Herbrich，R.，《快速稀疏高斯处理方法：信息向量机》，《神经信息处理系统进展》，第15期，第625-632页（2003年）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。