1.简介
作为最重要的遥感技术之一,现代遥感器获取的高光谱图像(HSI)已成功应用于目标检测、作物产量估算等实际任务[1,2,三]. 通常,HSI中的每个像素都由数百个光谱带/特征组成,这意味着HSI可以提供比具有较少波段/特征的多光谱和典型彩色图像更丰富的遥感对象信息,因此HSI分类在过去几十年中备受关注。尽管已经引入了许多分类模型,如支持向量机(SVM)、深度学习(DL)和基于表示的分类[4,5,6,7]等,源于高维特征/频带的维数灾难问题可能会在很大程度上影响各种分类算法的性能,特别是当只有少量标记训练数据时。因此,人们引入了多种降维方法对HSI数据进行预处理,以去除噪声和冗余特征,并在低维子空间中提取鉴别特征。在某种程度上,灾难恢复已成为HSI数据分析的基础[8,9,10,11,12]. 一般来说,HSI的所有DR模型可以分为两类:波段选择和特征提取[8,12]. 前者侧重于通过一些标准从具有物理意义的原始谱带中选择具有代表性的子集,而后者则试图通过将观测到的高维谱带/特征转换为具有判别和结构信息的低维特征来学习新的特征。如中所述[8],通过特征选择方法从大量可能的波段组合中发现最佳波段通常是次优的,因此本文只关注基于特征提取的HSI DR方法,而不是特征选择。 在过去的几十年中,各种特征提取算法被引入HSI数据分析。用于特征提取的DR技术大致有两大类,即线性DR模型和非线性DR模型。主成分分析(PCA)可能是最经典的线性DR方法,它试图将观测数据线性投影到数据方差最大的低维子空间。为了将主成分分析进一步扩展到贝叶斯框架,概率主成分分析(PPCA)[13]也提出了。其他PCA扩展包括内核PCA(KPCA)、鲁棒PCA、稀疏PCA和张量PCA等[14,15,16,17,18]. 然而,主元分析中的线性假设表明,当高维观测数据中嵌入非线性结构时,主元计算及其扩展可能会失败。因此,人们开发了许多非线性DR模型,其中基于流形学习的DR模型具有代表性,因为它们能够捕获高维观测数据中固有的非线性结构(如多簇、子空间结构和流形)[12,19,20]. 大多数基于流形学习的DR技术都试图基于图论对数据的局部几何结构进行建模[19,21]. 这些基于流形学习的方法的性能主要取决于以下两个方面:(i)相似图的设计,(ii)新测试数据的嵌入——样本外问题。对于第一个因素,不同的方法有不同的思路来构造相似图矩阵,如局部线性嵌入(LLE)、拉普拉斯特征映射(LE)、邻域保持嵌入(NPE)和局部保持投影(LPP)[19,22]等输入[19]引入了一个通用的图嵌入(GE)框架来统一这些现有的流形学习算法,比较了构造不同相似图矩阵的各种方法。Lunga等人[20]还回顾了用于HSI分类的典型流形学习DR方法。最近,基于表示的方法也被引入到流形学习框架中,以构成相似图[12]. 例如,稀疏表示(SR)、协作表示(CR)和低阶表示(LRR)[7]用于构造稀疏图(图形),协作图形(图)和低秩图,导致稀疏保持投影(SPP)[23],基于协作表示的预测(CRP)[24]和低阶保留投影(LRPP)[25]分别是。对于第二个方面,为了解决许多流形学习模型遇到的样本外问题,将新样本投影到低维流形子空间的额外映射添加到现有流形学习算法中,其中线性映射通常被使用,如LPP和NPE[19]. 上述技术是无监督的DR模型,这意味着即使在我们通常被赋予一些标签的HSI数据中有额外的标签,也不能使用。通过利用这些标签信息,可以将无监督DR方法扩展到有监督设置,从而提高DR模型的识别能力。线性判别分析(LDA)在该行中具有代表性。与线性对应的PCA相比,LDA通过同时最大化类间散射和最小化类内散射来执行DR,从而获得比PCA更具区分性的降维特征。然而,LDA及其扩展(包括广义判别分析(GDA))存在提取最大值的局限性具有的功能C类是标签类的数量[8]以及小样本(SSS)问题。非参数加权特征提取(NWFE)及其内核扩展内核NWFE通过使用加权平均值评估非参数散布矩阵来解决这些问题,导致超过正在学习的功能[8]. 其他LDA扩展包括正规LDA(RLDA)[26]和改良FLDA(MFLDA)[27]. PCA还扩展到监管版本,以处理额外标签,如监管PPCA(SPPCA)[16]. 然而,这些方法很可能无法在众多HSI光谱特征中发现复杂的非线性几何结构,这可能会恶化DR模型的性能。因此,人们开发了许多能够捕获相邻像素局部几何结构的监督流形学习模型,如监督LPP(supervised LPP,SLPP)[19],局部Fisher判别分析(LFDA)[28]和局部图判别嵌入(LGDE)[29]. 实现监督流形学习模型最简单的方法是基于属于同一类的相邻样本构造相似图矩阵。或者,基于表示的模型已经扩展到监督设置中,例如基于稀疏图的判别分析(SGDA)[30],加权稀疏图鉴别分析(WSGDA)[31],基于协作图的鉴别分析(CGDA)[32],拉普拉斯正则化CGDA(LapCGDA)[7],用图形学习进行判别分析(DAGL)[33]以及基于稀疏和低秩图的判别分析(SLGDA)[34]等。 为了进一步向监督流形模型添加非线性,还使用了核技巧,从而生成了核LFDA(KLFDA)[28]、内核CGDA(KCGDA)[32]和内核LapCGDA(KLapCGDA)[7]等。最近的一项调查[12]将这种技术称为图嵌入判别分析,其中这些模型的基本思想是构造具有不同准则的各种判别内在图,例如和SGDA和CGDA中分别使用的图形。尽管他们的模型在分类精度方面证明了提取区分性HSI特征的有效性,但由于缺乏考虑空间信息,他们的性能可能会变得不令人满意。 最近,一些研究人员表明,HSI中的空间信息可以有效地用于增强DR模型,从而形成联合频谱空间DR技术,其中大多数这类模型可以大致分为两类,如[35]: - (i)
光谱-空间信息可用作预处理。例如,在复合核判别分析(CKDA)中,使用高斯加权局部平均算子提取光谱空间特征[36]. 稳健空间LLE(RSLLE)采用稳健的谱空间距离而不是简单的谱距离[37]. 基于局部图的融合(LGF)[38]提出了同时考虑光谱信息和形态轮廓提取的空间信息进行DR的方法。最近,张量PCA(TPCA)[18],基于深度学习的模型[5],超级像素[29,39]和传播滤波器[40]这些技术也成功地用于提取光谱空间特征。 - (ii)
光谱空间信息可用作空间约束/正则化。例如[41]提出了一种空间和光谱正则化局部鉴别嵌入算法(SSRLDE),其中局部相似性信息由光谱域正则化局部保持散射矩阵和空间域局部像素邻域保持散射矩阵编码[42]利用小邻域构造的局部散布矩阵作为正则化子,使样本在小邻域的低维特征空间中逼近局部均值。谱空间共享线性回归(SSSLR)[35]利用凸集来描述空间结构,利用共享结构学习模型来学习更具判别性的线性投影矩阵进行分类。空间谱超图用于空间谱超图判别分析(SSHGDA)[43]构造复杂的类内和类间散布矩阵来描述HSI数据的局部几何相似性。构造超像素级图和局部重建图作为空间正则化LGDE(SLGDE)的空间正则化[29]和局部几何结构费希尔分析(LGSFA)[44]分别是。最近,He等人[45]综述了许多最新的光谱空间特征提取和分类方法,表明空间信息有助于HSI特征提取和识别。
在本文中,我们重点研究了图嵌入判别分析框架,因为它具有出色的性能和较低的复杂性。尽管在该框架的基础上取得了一些进展,如SGDA、CGDA、LapCGDA和SLGDA等,但通过将空间信息有效地纳入该框架,可以进一步提高这些模型的性能[46]和空间感知CR(SaCR)[10]算法,在本文中,我们提出了空间感知的基于图形的协同鉴别分析(SaCGDA)其中,空间光谱特征首先在JCR中通过平均滤波进行预处理,然后将空间信息编码为CR中的空间正则项,以方便高效地构建光谱空间相似图。为了进一步提高模型的性能,在LapCGDA的启发下,将谱Laplacian正则化项引入到SaCGDA中,得到了更有效地利用谱空间信息的Laplaciar正则化SaCGDA(LapSaCGDA)。 论文的其余部分组织如下。在第2节,我们简要回顾了相关的工作,包括协作表示(CR)和图嵌入判别分析框架。建议的SaCGDA和LapSaCGDA将在第3节然后,使用三个HSI数据集评估新提出的算法在第4节最后,将在第5节. 2.相关工程
在本节中,我们将回顾一些相关的工作,包括典型的CR模型及其变体JCR和SaCR,以及图嵌入判别分析框架。
为了保持一致性,我们在本文中使用了以下符号:每个样本的观察(输入)数据在高维空间;每个点的观测数据(输出或标签)在中是离散类标签,其中C类是类的数量;是低维空间中的降维变量/特征吗()每个对应于和/或。为了方便起见,我们进一步表示X(X)作为矩阵,一个向量和Z一个矩阵,因此训练数据可以定义为.让是来自的培训数据的数量我-th级和与LDA类似,基于判别分析的DR模型的目标是找到低维投影Z具有典型的线性映射其中转换矩阵线性投影每个样本到低维子空间。 2.1. 合作代表(CR)
稀疏表示(SR)、协作表示(CR)和低秩表示(LRR)等基于表示的模型已成功应用于许多任务中[7]. 与计算昂贵的SR相比,CR可以提供比较好的分类性能和非常有效的闭合解来学习模型参数。给定一个测试样本,使用所有训练数据表示其中正则化参数平衡了重建残差和表示系数正则化之间的权衡。通常,norm与一起使用然而,也可以采用其他正则化方法[47,48]. 例如,而不是范数带来了系数的稀疏性,导致了SR.A局部正则化[49]根据欧几里得距离为训练数据提供不同的自由度,其中对角线矩阵中的每个对角线条目由定义 对于经典CR模型,在求解最小二乘问题时,最优表示系数可以用封闭解很容易地得到然后是测试样本的类别标签可以根据最小残差进行预测哪里和是的子集X(X)和对应于特定的类标签我分别是。 正如我们所提到的,空间信息对于HSI数据分析非常重要。最近开发了两种简单但有效的CR模型。联合CR(JCR)是基于相邻像素通常以较高的概率共享相似的光谱特征,利用空间信息作为预处理。因此,可以通过联合模型间接合并相邻像素之间的空间相关性,其中每个训练和测试样本由其相邻像素的空间平均值表示,这与卷积神经网络(CNN)中的卷积操作类似。另一个称为联合空间感知CR(JSaCR)的模型以一种非常简单有效的方式进一步利用空间信息作为空间约束哪里和中的每个元素是测试样品的平均光谱特征和每个培训点在一个小窗口中居中米分别是邻居,类似地定义为,中的每个元素与每个训练样本关联,这鼓励了表示系数是空间上一致的w.r.t.训练数据,是带有向量元素的正方形对角矩阵在主对角线上。进一步解释方程式第三项中的空间约束(6),首先表示测试样本的像素坐标和每个训练像素通过和分别是。它们之间的空间关系可以用光滑参数简单地测量t吨哪里用平滑参数表示欧氏距离t吨调整空间约束的距离衰减速度。实际上,归一化元素通过除法获得从。值很大t吨隐含地意味着空间上远离测试样本的像素将通过分配接近0的系数而受到惩罚。从JSaCR公式可以看出,局部约束(第二项)和空间约束(第三项)由正则化参数控制和分别是。 2.2. 图嵌入判别分析
图嵌入判别分析[12]试图学习投影矩阵P(P)基于线性模型假设通过保持原始观测空间中样本的相似性。许多流形学习模型和基于判别分析的方法可以统一到该框架中,如LPP、NPE、LDA和最近提出的SGDA、CGDA等。 通常,一般的图嵌入判别分析模型可以通过找到一个低维子空间来表示,在该子空间中可以保留高维观测值中的局部邻域关系。基于典型线性映射,图嵌入判别分析的目标函数为其中相似度图矩阵周建立在观测样本之间的成对距离上,以表示每个样本的局部几何结构样本之间的相似性/亲和力和,是图的拉普拉斯矩阵G公司,T型是对角线矩阵n个第个对角线元素为和是样本尺度归一化约束或某些拉普拉斯罚矩阵.通过简单地将目标函数重新形成为 最优投影矩阵P(P)可以通过求解广义特征值分解问题得到哪里由d日对应于d日最小非零特征值。从公式中可以看出,图嵌入判别分析算法的性能在很大程度上取决于相似性/亲和性矩阵的构造方法。 让我们首先以无监督LPP模型为经典示例,其中两个样本之间的相似性和如果它们是相邻的,通常由热核来测量使用预先指定的参数第页. 与非监督LPP相比,监督判别分析模型LDA、SGDA和CGDA以监督的方式构造相似矩阵,可以提供更好的判别能力。例如,周在LDA中,SGDA或CGDA通常由块对角矩阵表示其中每个是类内相似性矩阵的大小基于培训样本仅来自我-第个类。不同的策略被应用于构建类内相似矩阵(13),,和SGDA、CGDA、SLGDA和LapCGDA分别采用范数,使用基于表示的算法构造相似矩阵每个培训数据的数量仅来自我-第七类:哪里是来自的培训样本我-第级,表示来自的所有培训样本我-th级,但不包括,SLGDA中表示核规范,以及在LapCGDA中是由方程构造的拉普拉斯矩阵(11). 尽管这些模型已经证明了其有效性,但由于HSI中的空间信息没有得到利用,因此其性能可能不令人满意。与局部重建点、超像素和超图等空间约束相比,LGSFA中的空间正则化模型[44]、SLGDE[29]和SSHGDA[43]JSaCR中的简单空间先验已经被证明是快速有效的。因此,本文将空间先验引入到CGDA模型中,因为它具有优异的性能和较低的复杂性。 3.拉普拉斯正则化空间感知CGDA
在本节中,受JSaCR和LapCGDA的推动,我们提出了Laplacian正则化空间感知CGDA(LapSaCGDA)通过在CGDA中同时引入空间先验和谱流形正则化,将显著提高学习到的相似/亲和矩阵的鉴别能力,从而提高DR模型的性能。
首先,基于JCR中的平均滤波可以平滑HSI数据中的随机噪声这一事实,我们同样对所有HSI数据进行了预处理,从而产生了新的符号,如和,分别表示一个训练样本和预处理后的所有训练数据。
然后,基于方程式中的JSaCR模型(6),在CGDA中使用JSaCR而不是典型的CR来构造类内相似矩阵是很简单的对于标签样品属于我-第个等级哪里是来自的预处理训练样本我-第级,所有预处理的训练样本都来自我-th级,但不包括,和类似地定义为和使用像素坐标对于中的样本我-第th类分别是。 如JSaCR所述,方程中的位置先验(第二项)和空间先验(第一项)(17)可以有效地提取HSI数据中的光谱空间结构。然而,方程中第二项之前的简单局部性(17)与LapCGDA中使用的拉普拉斯正则化等流形先验相比,利用内在几何信息可能效率低下。因此,我们通过将拉普拉斯正则化引入到SaCGDA中,进一步提出了拉普拉斯正规化空间感知CGDA(LapSaCGDA)。为了比较这两个谱先验,我们只需将谱拉普拉斯约束添加到SaCGDA中作为第三个正则化,而不是将SaCGDA的谱局部约束替换为谱拉普拉斯约束。 与SaCGDA类似,类内相似矩阵可以通过解决以下优化问题来构建LapSaCGDA:哪里带有预先指定的参数第页. 值得注意的是,当,在以下情况下发送至LapCGDA或CGDA和因此,所提出的LapSaCGDA模型非常通用,可以统一具有不同正则化参数配置的三个模型。
在获得所有类内相似性矩阵之后通过SaCGDA或LapSaCGDA,块-对角相似矩阵可以像等式一样简单地构造(12). 最后,基于图嵌入判别分析框架,很容易评估最优投影矩阵P(P)通过求解方程中的特征值分解(10). 算法1概述了完整的LapSaCGDA算法。
算法1用于HSI降维和分类的LapSaCGDA |
- 输入:
高维训练样本,训练场真相,预先固定的潜在维度d日、和测试像素,测试地面真相,一个预先指定的正则化参数. - 输出:
秒= {,P(P)}.
- 1:
通过平均滤波对所有训练和测试数据进行预处理; - 2:
- 3:
评估最佳投影矩阵P(P)通过求解方程中的特征值分解(10); - 4:
通过以下方式评估所有训练和测试数据的低维特征; - 5:
在低维特征空间中执行KNN和/或SVM并返回分类精度; - 6:
返回秒
|
关于模型复杂度,算法1告诉我们,与其他对比模型(如CGDA和LapCGDA)相比,除了可以在算法开始之前进行的平均滤波预处理步骤外,所提出的SaCGDA和LapSaCGDA没有增加复杂度。
4.实验
在本节中,我们将验证拟议的SaCGDA和LapSaCGDA对HSI特征约简和分类的有效性。将新模型与经典监督DR模型NWFE进行了比较[8],SPPCA[16],加上最近开发的DR技术LapCGDA[7]、SLGDA[34]和LGSFA[44]基于图嵌入判别分析框架,对三个典型的HSI数据集进行分类精度分析。此外,还将经典SVM应用于原始高维光谱特征空间进行比较。由于所有HSI数据集最初都是通过平均滤波进行预处理的,因此原始光谱特征也可以视为光谱空间特征。 为了进行公平的比较,首先所有数据都将通过平均滤波进行预处理空间窗口,然后选择具有欧几里得距离的K最近邻(KNN)和具有径向基函数(RBF)核的SVM作为降维空间中的分类器,以验证所有DR模型的分类总体精度(OA)、分类平均精度(AA)和Kappa系数(KC)以及真阳性率(TPR)和假阳性率(FPR)。参数K在KNN中设置为5,并且SVM中的核参数是通过给定集合的十次交叉验证来选择的.正则化参数,如在LapCGDA中,SLGDA和建议的SaCGDA和LapSaCGDA将通过给定集合的网格搜索进行选择首先。然后,由于每个DR模型的最佳投影维数必须在模型优化之前预先指定,因此对于每个HSI数据,随机选取相同的训练和测试数据,在投影的低维特征空间中,根据基于KNN的分类精度,在1–30的范围内比较并选择每个DR模型的最佳维数。最后,利用为每个HSI数据和每个DR算法选择的最佳维数,我们进一步比较了随着训练数据数量的增加所有DR技术。当可用的培训数据有限时,也会比较分类图。所有实验重复10次,平均结果以标准偏差(STD)报告。
4.1. 数据描述
三个HSI数据集,包括Pavia University场景、Salinas场景和Indian Pines场景[50]我们的实验中使用了。 2002年,意大利帕维亚大学上空的反射光学系统成像光谱仪(ROSIS-3)传感器捕捉到了帕维亚大学的场景。光谱带数为103,图像分辨率为像素后删除一些没有信息和噪声带的像素。几何分辨率为m.数据集包含九种土地覆盖类型,假彩色成分(FCC)和地面真实性(GT)如所示图1. 萨利纳斯场景(Salinas)于1998年由机载可见/红外成像光谱仪(AVIRIS)传感器在加利福尼亚州萨利纳斯山谷采集,几何分辨率为m。此数据的空间大小为224个光谱带的像素。去除20个吸水带和大气效应带后,光谱带数量变为204个。此数据集中标记了16个基本真理类,假彩色成分和基本真理如所示图2. 印第安松树数据(IndianPines)是1992年AVIRIS传感器捕捉到的印第安纳州西北部的一个场景,包括像素和200个光谱带,去除带中的噪声和吸水现象。此数据集中考虑了16个基本真理类,假彩色成分和基本真理如所示图3. 4.2. Pavia大学数据的实验
为了证明所提模型的有效性,首先,我们分析参数的敏感性,并为每个DR模型选择最佳参数,因为正则化参数如下在LapCGDA中,SLGDA以及拟议的SaCGDA和LapSaCGDA显著影响DR模型的性能。此外,对于建议的SaCGDA和LapSaCGDA,平滑参数t吨在空间先验中也在集合中进行最优搜索在实验中,从每个类中随机抽取30个样本作为训练数据,投影维数固定为30,以便进行参数的敏感性分析。
从中可以看出图4a对于SaCGDA,最佳参数与参数相比,空间先验显著影响OAw.r.t.谱局部性先验和最佳平滑参数t吨在我们的实验中,空间先验是2。在LapSaCGDA的参数灵敏度实验中也可以找到类似的结果,这些结果没有完全显示在图4b,因为很难绘制具有三个参数的4D图。这里,我们只需设置参数w.r.t.SaCGDA和LapSaCGDA的光谱局部性先于其他参数,因为OA对参数不敏感基于参数灵敏度的实验结果。LapCGDA、SLGDA、SaCGDA和LapSaCGDA的最佳正则化参数列于表1,将用于以下实验。此外,可以从中找到什么图4b和表1这是最好的参数吗LapSaCGDA中先验谱流形大于最优参数w.r.t.谱局部先验,这意味着流形先验对DR模型的影响比简单局部先验更大。 基于网格搜索选择的这些最优参数,我们进一步根据在低维投影空间中执行的基于KNN和SVM的OA选择投影空间的最佳维数。嵌入空间的最佳维数将从1到30的范围内选择。
从中可以看到什么图5提出的SaCGDA和LapSaCGDA在几乎所有低维投影空间中都优于其他DR模型,并且该HSI数据中每个DR模型的最佳维数为30。还应该强调的是,在低维投影空间中,来自所提出SaCGDA和LapSaCGDA的基于KNN的OA显著优于基于原始高维特征的SVM,这意味着所学习的低维特征具有很强的区分性。 此外,我们还展示了随机选择不同数量的训练数据时的实验结果。此外,从每个类别中随机选择20-80个样本,其余样本用于测试。可以从以下位置查看表2提出的SaCGDA和LapSaCGDA显著优于其他最先进的DR技术和SVM。此外,基于LapSaCGDA在KNN和SVM OAs方面优于SaCGDA的事实,我们可以证明谱拉普拉斯先验可以提高SaCGDA的性能。 最后,为了在有限的训练数据可用时显示不同方法对每个类的分类结果,我们从每个类中随机选择20个样本来比较八种算法。不同算法的结果客观和主观地显示在表3和图6分别是。从中可以看到什么表3在大多数类别中,提出的SaCGDA和LapSaCGDA在AA、OA、KC以及TPR和FPR方面都优于其他模型,并且LapSaCGDA比SaCGDA实现了更高的精度,这清楚地表明LapSaCPDA中的Laplacian正则化对DR模型是有益的。因此,图6主观地告诉我们,所提出方法的分类图w.r.t.测试数据比其他对比方法更准确。 4.3. Salinas数据实验
为了进一步验证针对不同HSI传感器的HSI数据提出的模型,我们利用AVIRIS传感器捕获的Salinas数据来证明新方法的有效性。类似地,我们首先选择最佳正则化参数,如在LapCGDA、SLGDA中,除了正则化参数外,平滑参数t吨在通过网格搜索提出的SaCGDA和LapSaCGDA的空间先验中。将嵌入维数设置为30,并从每个类中随机抽取30个训练样本,以便比较参数敏感性。
根据图7a、 正则化参数SaCGDA对OA变得敏感,但最佳值仍小于0.001。因此,我们设置适用于SaCGDA和LapSaCGDA。此外,还可以从以下位置查看图7b最佳参数w.r.t.在LapSaCGDA中,谱流形先验是0.1,这意味着与参数相比,该流形先期对DR模型的影响很大w.r.t.先验光谱局域性。此外,对于此数据集,最佳平滑参数t吨通过网格搜索,SaCGDA和LapSaCGDA的空间先验值为4。表4显示了从参数敏感性实验中获得的最佳参数,这些参数将用于以下实验。 一旦通过网格搜索选择了这些最优参数,我们就应该根据在低维投影空间中执行的基于KNN和SVM的OA来选择投影空间的最佳维数。从中可以看到什么图8提出的SaCGDA和LapSaCGDA在几乎所有低维投影空间中再次优于其他DR模型,并且该HSI数据中每个DR模型的最佳维数为30。 此外,基于最优投影维数,我们还客观地显示了随着训练数据量的增加,实验结果。此外,从所有标记数据中随机抽取20–80个样本,其余样本用于测试。我们可以从中得出结论表5建议的SaCGDA和LapSaCGDA实现了最佳的OA,尤其是当只有少量训练数据可用时。 最后,我们从每个类别中选择20个样本,比较每个类别的所有模型的分类精度。可以从以下位置查看表6,所提出的两个模型在几乎所有类中都获得了最高的精度,并且由于LapSaCGDA中的Laplacian先验性,LapSaCGDA略优于SaCGDA。中的分类图图9给出类似的结论。 4.4. 关于印度松树数据的实验
另一个具有挑战性的HSI数据是印度松树数据,也由AVIRIS传感器捕获。最佳正则化参数,如在建议的SaCGDA和LapSaCGDA中,可以从中的参数敏感性分析实验中观察到图10,以及最佳平滑参数t吨在空间先验是2。在这些实验中,从每个类中随机抽取30个训练样本,投影维数也固定为30,以便进行参数敏感性分析。 可以从何处查看图10a是OA对参数不敏感w.r.t.由于最优参数,SaCGDA中的光谱局部性优先主导模型的因素太大,以至于忽略了其他约束。对于LapSaCGDA,最佳参数w.r.t.之前的歧管也很小,根据图10b.LapCGDA、SLGDA、SaCGDA和LapSaCGDA的最佳正则化参数列于表7用于以下实验。 基于网格搜索选择的这些最优参数,可以从以下公式中获得每个DR模型的投影空间的最佳维数图11基于KNN和SVM的OA在低维投影空间中执行。再次,在HSI数据中,几乎每个DR模型的最佳维数为30,尽管LGSFA在基于KNN的高维嵌入空间中显示出比较好的OA,但所提出的SaCGDA和LapSaCGDA是所有模型中最好的。 此外,我们还展示了当选择不同数量的训练数据时的实验结果。此外,从所有标记数据中随机抽取20-80个样本,其他样本成为测试数据。对于可用样本较少的类,不超过将从属于某些类的所有数据中随机选择样本。可以从中看到表8与提出的SaCGDA和LapSaCGDA相比,LGSFA证明了基于KNN的OA是比较好的,而这两种新模型在SVM分类精度方面优于LGSFA和其他方法。作为具有较大正则化参数的空间先验LapSaCGDA占主导地位,与SaCGDA相比,LapSaCGDA显示出相同的结果,因为忽略了LapSaCPDA中的两个谱约束,在这种情况下,LapSaGCDA减少为SaCGDA。 最后,随机选取20个样本,基于SVM对每个类进行相似的分类精度检验。可以从中看到表9当仅利用空间先验信息时,提出的SaCGDA和LapSaCGDA模型优于其他模型,这再次证明了空间先验的有效性。因此,图12结果表明,提出的SaCGDA和LapSaCGDA的分类图比其他方法更准确。 4.5. 讨论
根据上述实验结果,我们可以进行以下讨论,
- (i)
在大多数情况下,提出的SaCGDA在OA、AA、KC、TPR和FPR方面显著优于SVM、SPPCA、NWFE、SLGDA、LapCGDA和LGSFA,因此,基于新模型的分类图比其他监督DR算法的结果更平滑、更准确。这些结果清楚地表明,引入的空间约束对像素之间的空间关系建模非常有效。
- (ii)
拉普拉斯正则化SaCGDA(LapSaCGDA)通过进一步在SaCGDA中引入拉普拉斯约束,使相似像素共享相似表示,可以优于SaCGDA。实验结果表明,由于LapSaCGDA能够更有效地揭示HSI数据的固有流形结构,因此在大多数情况下,LapSaCGDA比SaCGDA具有更高的精度。
- (iii)
值得指出的是,SVM分类器总是比KNN分类器提供更好的分类结果。然而,如果我们将基于所提出的两个模型的KNN的OAs与基于其他DR技术(如NWFE、SLGDA、LapCGDA和LGSFA)的SVM的OAs进行比较,我们可以发现KNN的分类结果优于SVM,这进一步证明了所提出的两种算法比其他对比方法更有效地提取有区别的低维特征。
5.结论
本文基于图嵌入判别分析框架,提出了两种新的HSI数据有监督降维模型SaCGDA和LapSaCGDA,为了考虑嵌入到高维谱特征中的复杂数据流形结构,将拉普拉斯约束进一步引入到SaCGDA中,从而得到具有高效谱和空间正则化的LapSaCGDA。为了进一步提高DR模型的性能,HSI中的每个样本首先通过空间平均其相邻像素进行预处理,这在执行DR之前带来了光谱空间特征,各种实验表明,基于新模型可以有效地提取用于分类的判别特征。
对于未来的工作,LGSFA中的各种空间约束,如局部重建点、基于超像素和超图的空间正则化模型[44]、SLGDE[29]和SSHGDA[43]也可以引入到CGDA中,并且有望在所提出的LapSaCGDA中添加惩罚图,这可以进一步提高性能。