杂志的下一篇文章
多尺度海面雷达后向散射的频率选择效应
期刊上的上一篇文章
卫星监测湖泊面积、水位和水量趋势的多传感器方法
 
 
订购文章重印
字体类型:
宋体 佐治亚州 宋体,Verdana
字体大小:
澳大利亚 澳大利亚 澳大利亚
行距:
列宽:
背景:
第条

基于光谱感知稠密卷积网络的高光谱图像分类

1
西北工业大学计算机科学学院,西安710129
2
比利时布鲁塞尔1050,布鲁塞尔Vrije大学电子与信息学系
空间微波科学技术国家重点实验室,西安710000
*
应向其寄送信件的作者。
远程传感器。 2019,11(2), 159;https://doi.org/10.3390/rs11020159
收到的提交文件:2018年11月29日/修订日期:2019年1月4日/接受日期:2019年1月12日/发布日期:2019年1月16日
(本条属于本节遥感图像处理)

摘要

:
通常以三维格式显示的高光谱图像(HSI)数据为三维网络同时提取光谱和空间特征提供了机会。在本文中,我们提出了一种用于HSI分类的新型端到端三维密集卷积网络(MSDN-SA)。提出的MSDN-SA利用三维扩展卷积同时捕获不同尺度的光谱和空间特征,并将所有三维特征地图紧密连接在一起。此外,引入了光谱注意机制来增强光谱特征的可分辨性,从而提高了训练模型的分类性能。在三个HSI数据集上的实验结果表明,我们的MSDN-SA在HSI分类方面取得了具有竞争力的性能。

图形摘要

1.简介

高光谱图像(HSI)在整个电磁光谱中具有数百个连续观测波段,具有高光谱分辨率[1]. 基于如此丰富的谱带,HSI已被广泛用于各种应用,包括农业发展[2]、矿产资源开发[]和环境地球科学[4]. 监督土地覆盖分类是高光谱遥感中最重要的课题之一。然而,谱带信息的冗余与有限的训练样本相结合[5,6]通常对HSI分类构成挑战。
传统的HSI监督分类模型通常基于光谱信息。典型的分类器包括基于距离度量的分类器[7],k-最近邻[8],最大似然准则[9]和逻辑回归[10]. 为了提高分类性能,Random Forests(RF)[11]和AdaBoost[12]已经发现,集成学习或多分类器方法对于HSI分类是有效的。
然而,基于光谱信息的分类算法仅利用光谱信息无法捕获高分辨率数据感知的重要空间变异性。此外,由于HSI通常以三维立方体的形式表示,因此将丰富的光谱特征和空间特征以互补的形式结合起来,可以提高HSI分类的性能。例如,通过一系列三维离散小波滤波器,可以在不同频率和尺度下从HSI中提取光谱-空间组合特征[13,14],3-D Gabor滤波器[15,16],或三维散射小波变换器[17]. 通过这种方式,可以创建大量特征立方体,其中包含有关频谱、空间和联合频谱空间相关性中局部信号变化的重要信息。此信息对于处理具有挑战性的分类任务至关重要。
近年来,具有分层特征学习能力的深度卷积神经网络已成为计算机视觉领域的主流机器学习方法,并在不同的任务中取得了令人满意的结果[18,19]. 与传统的手动工程特征相比,深度学习技术自动从原始输入数据中学习分层特征[20,21]. 卷积神经网络(CNN)及其扩展的巨大成功激发了光谱空间HSI分类的巨大努力[22]. 例如,Yang等人[23]提出了一种双通道CNN框架,该框架从HSI中联合提取光谱特征和空间特征。Chen等人[24]和Li等人[25]利用三维卷积核来学习区分光谱空间特征,并以端到端结构进行分类。请注意[25]使用相对较小的空间大小的立方体作为输入,需要调整的参数较少。Gao等人[26]提出了一种基于CNN的体系结构,该结构利用了对应于各种图像特征的多个输入,并同时利用光谱和空间上下文信息进行HSI分类。Yang等人[27]提倡递归3-D CNN(R-3-D-CNN)模型,由于其3-D卷积算子和递归网络结构,该模型通常可以优于其他模型并更快地收敛。然而,据报道,R-3-D-CNN比传统的机器学习方法需要更多的训练样本[27].
尽管深度学习模型最终在HSI分类中显示出良好的性能,但它们对越来越大的数据集有着永不满足的渴望,而HSI中可用的标记样本相当有限。因此,训练样本较小的问题限制了基于深度学习的HSI分类方法获得更好的性能。为了解决这个问题,Ma等人[28]提出了一种用于光谱空间特征提取的空间更新深度自动编码器,通过添加样本相似度正则化机制并将其与基于协同表示的分类相结合来解决小训练集的问题。在[23]当训练样本有限时,使用转移学习,从其他场景转移低级和中级特征。Pan等人[29]针对有限的训练样本,提出了一种基于集成深度学习的多粒度网络(MugNet)方法。为了充分利用丰富的未标记样本,他们在生成卷积核的过程中采用了半监督的方式。再次,为了解决训练样本有限的问题,He等人将生成性对抗网络(GAN)的概念扩展为具有半监督分类方法的条件模型[30]. 作者根据HSI获得的空间光谱特征训练了一个生成器和一个鉴别器。然后,他们在最后向鉴别器网络添加了一个softmax层,并对网络进行微调以执行分类。此外,Zhong等人[31]提出了一种具有连续光谱和空间残差块的监督光谱空间残差网络(SSRN),用于从HSI中提取光谱和空间特征。据报道,SSRN在小训练样本情况下更有效,这是因为SSRN包含剩余连接[19]在每个其他卷积层之间,以便构造剩余块。残余连接的成功证明,结合下层的特征可以捕获更精细的特征。
本文提出了一种提取稠密连通性的方法[32]并构建一个具有紧密连接的新型学习架构,用于从3-D HSI进行自动分类。此外,考虑到HSI中谱带的冗余性,在所提出的网络中添加了一种新的频谱注意机制。因此,本文在四个主要方面做出了贡献:
  • 我们介绍了一种专门为HSI的三维补丁设计的网络架构。该网络使用扩展卷积来捕获不同斑块尺度的特征,从而在单个层中获得多个尺度。密集连接将从不同层学习到的三维要素图连接起来,增加了后续层输入的多样性。
  • 一种新的频谱关注机制旨在选择性地强调信息频谱特征,并抑制不太有用的频谱特征。在特征上应用软权重的频谱关注机制非常适合于以下HSI分类任务,并且效率更高。据我们所知,这是首次将注意力机制引入HSI分类。
  • 在三个HSI数据集上的实验结果表明,我们提出的新的端到端三维密集卷积网络(MSDN-SA)方法优于最新的方法。
本文的其余部分组织如下。第2节,我们简要介绍了CNN中的不同连接和光谱注意机制。第3节,我们详细描述了我们的MSDN-SA方法。第4节第5节,我们给出并讨论了实验结果。最后,在第6节对本文进行了总结,并对今后的工作提出了概要建议。

2.相关工作

2.1. CNN中的剩余连接和密集连接

以前的研究[33,34,35]已经表明,通过skip-connections在CNN中利用多级特征对各种视觉任务是有效的。剩余连接和密集连接作为两种不同的连接模式:两者都已成功用于具有挑战性的自然图像处理任务。在这里,我们简要介绍这两个连接概念。
原则上,剩余连接(图1a) 添加一个跳过连接,通过身份映射绕过非线性转换。参考层输入明确地将层表示为学习残差函数[19]. 剩余连接可以正式表示为:
x个 = 小时 ( x个 1 ) + F类 ( x个 1 ) ,
哪里 x个 1 x个 参考的输入和输出-第层。这个 小时 ( x个 1 ) = x个 1 是一个身份映射函数 F类 ( ) 表示非线性变换,它可以是卷积(Conv)、批处理归一化(BN)等操作的复合函数[36],校正线性单位(ReLU)[37],或联营[38]. 通过使用剩余连接,梯度可以通过恒等函数直接从后面的层流向前面的层[19].
为了最大化网络层之间的信息流,Gao等人[32]提出了从任何层到所有后续层的一系列密集连接(图1b) 。与通过求和来组合特征的剩余连接不同,密集连接通过连接来组合特征。具体来说,所有以前的图层特征图 x个 0 , , x个 1 ,可用于计算-第层:
x个 = F类 ( { x个 0 , , x个 1 } ) ,
哪里 { x个 0 , , x个 1 } 是所有先前要素图的串联。
每一层都可以从损失函数和原始输入信号直接访问梯度,从而实现隐式深层监督。的工作[32]还允许重用功能,同时只向网络中添加一小部分功能图[32]. 此外,稠密连通性有一个正则化参数,可以减少对训练数据较小的任务的过度拟合。因此,密集连接有助于执行HSI分类,尤其是在训练数据较小的情况下。

2.2. 注意力机制

人类感知过程的证据[39]证明了注意力机制的重要性,该机制通常使用顶级信息来指导自下而上的前馈过程。注意力机制可以被视为一种工具,将可用处理资源的分配偏向于输入信号中信息量最大的成分。
近年来,研究人员将注意机制应用于深层神经网络。一般来说,这类工作分为两类:基于空间的注意和渠道性注意。基于空间的注意力主要集中在特定的位置场景上。这些机制是早期图像分类系统的重点[40],后来被证明在视觉问答(VQA)和字幕方面有了显著的改进[41,42,43]. 通道式注意是一种补充形式的注意,它包括学习一种特定于任务的调制,该调制选择性地应用于整个场景中的单个特征地图。其中,Squeeze-and-Exturation(SE)网络(被公认为ImageNet大型视觉识别比赛(ILSVRC)冠军)以稍高的计算成本为最先进的深层架构带来了显著的性能改进。SE块[44]是一种新颖的体系结构单元,旨在通过使网络能够执行动态信道特性重新校准来提高网络的表示能力。
在注意机制的基础上,提出了许多深层神经网络结构,并在各种应用中得到了广泛应用[43,44,45,46,47]. 例如,Fu等人[45]引入了一种循环注意CNN,它可以循环定位鉴别区域,以提高细粒度图像的识别性能。Li等人[46]引入了一个全局注意力提升模块,用于指导语义分割中低层和高层特征的集成。Wang等人[47]提出了一种由中继和掩码构建的剩余注意网络[48]注意力机制,用于生成用于图像分类的注意力软件特征。值得一提的是,SE网络是一种轻量级的门控机制[44],专门用于以计算效率高的方式建模渠道关系,并设计用于增强整个网络中模块的表示能力。
在HSI的情况下,数百个谱带直接用作卷积的输入数据,不可避免地会携带一些噪声带。因此,我们更关心的是基于三维特征图的HSI光谱特征之间的相关性。受SE网络的启发,我们提出了一种频谱关注机制,将在下一节详细讨论。

3.建议方法

在本节中,我们描述了一种用于HSI分类的新型三维网络。在我们提出的方法中,有两个关键部分:带扩展卷积的稠密卷积网络和频谱注意机制。第一部分是扩张卷积[49]基于HSI的三维面片,使用密集连接同时提取光谱空间特征。密集连接用于导出网络中的多级特征。在第二部分中,受注意机制在深度神经网络中成功应用的启发,在所提出的网络中添加了光谱级注意机制。
建议的框架如图所示图2首先,我们提取S公司×S公司×D类每个光谱带内的中心像素的邻域及其对应的类别标签作为样本,其中S公司×S公司表示邻域空间大小,以及D类是光谱深度。从HSI提取三维样本后,将其输入MSDN-SA模型以获得分类结果。MSDN-SA中有七个卷积层图2卷积层中的彩色线代表3×3×7的膨胀卷积,每种颜色代表通过不同膨胀层的不同通道。注意,本文中的“通道”指的是一个滤波器,其中“通道”的总数代表输出空间的维数,即卷积中的输出滤波器数量。每个层的特征都通过光谱关注机制进行细化。然后是平均池层和完全连接(FC)层。最后,在最终输出层中使用软矩阵激活功能。

3.1. 具有扩张卷积的稠密卷积网络

为了利用三维空间滤波的能力,我们提出了一种新的具有密集连接的学习架构,用于从三维HSI进行自动分类。在鼓舞人心的工作中[32]在单一尺度的层内使用密集连接,在不同尺度上使用过渡层来获取信息。不同于稠密卷积网络(DenseNet)[32],我们将多尺度特征地图之间的紧密连接结合起来,使整个网络的特征地图之间实现紧密连接。这有助于更高效地使用所有特征地图,并大大减少所需参数的数量。该模块使用三维扩展卷积系统地聚合多尺度上下文信息,而不会损失空间分辨率。
建议的MSDN-SA使用扩展卷积,而不是使用过渡层来捕获不同尺度的特征。扩张的卷积[49] W公司 小时 , d日 有膨胀 d日 + 使用膨胀内核 小时 只有在距离是的倍数时才是非零的 d日 距中心的像素。在多尺度方法中,单个图层内要素图的每个单独通道以不同的比例运行。具体来说,我们将特定层的输出图像的每个通道的卷积操作与不同的伸缩相关联。膨胀设置如所示第4.2节.形式上 x个 j个 -具有的第个功能多维数据集 k个 -的第个内核 -第层,由以下公式给出:
j个 ( x个 ) = k个 = 0 c(c) 1 W公司 小时 j个 k个 , d日 j个 x个 k个 ,
哪里 ( ) 是一个扩大的卷积运算, x个 k个 表示为 -第th层与 k个 -th内核和 c(c) -第th层。
当使用扩展卷积时,与传统的缩放方法相比,多尺度方法具有额外的优势。对于所有图层,所有要素图都具有与输入和输出图像相同的行数和列数,因此,在计算特定图层的要素图时,不限于仅使用前一图层的输出。相反,我们通过密集连接网络来使用之前计算的所有特征地图,如方程(2)所述。因此,我们将具有稠密连接性运算的扩张卷积方程(3)改为:
j个 ( { x个 0 , , x个 1 } ) = = 0 1 k个 = 0 c(c) 1 W公司 小时 j个 k个 , d日 j个 x个 k个 ,
哪里 = 0 1 索引前面的层。

3.2. 光谱感知注意机制

对于基于三维卷积网络的HSI分类,数百个谱带直接用作卷积的输入数据,不可避免地会携带一些噪声带。为了缓解这个问题,我们使用SE块[44]通过建模光谱特征之间的相互依赖关系,重新校准光谱特征响应。我们基于每个三维特征图的所有频带来建模光谱特征之间的相关性,我们称之为光谱注意机制。这种机制旨在选择性地强调信息性光谱特征,并抑制不太有用的光谱特征。频谱关注机制的基本结构如所示图3。这里,邻域空间大小和光谱深度表示为 S公司 × S公司 D类 ,以便输入层 d日 + 。我们的出发点是光谱关注,它表示为 F类 第页 e(电子) c(c) t吨 第页 并生成光谱特征注意向量 v(v) 1 × 1 × D类 .
值得一提的是,注意机制独立应用于八个信道,这八个信道是我们算法中卷积层的输出。根据通道关注模型的定义,每个3-D特征图上的光谱关注模型可以被非正式地描述如下。“汇总统计数据”是按频段计算的,然后应用变换来首先收缩然后扩展这些统计数据的维度。
从形式上讲,汇总统计数据是通过应用于单个频谱特性信道的全局平均池来计算的 U型 = [ u个 k个 ] k个 = 1 D类 ,得出向量 P(P) = ( 第页 k个 ) k个 = 1 D类 。然后,首先对向量应用收缩操作 P(P) 与操作员一起 S公司 收缩 D类 第页 × D类 将其压缩到低维空间,然后进行扩展操作 S公司 扩大 D类 × D类 第页 将其映射回原始的更高维空间:
v(v) = σ ( S公司 扩大 ( δ ( S公司 收缩 ( P(P) ) ) ) ) ,
哪里 δ 指ReLU函数 σ 指乙状结肠激活,具有“还原比” 第页 收缩操作的经验值设置为4。光谱关注的最终输出 U型 通过缩放变换输出获得 U型 通过激活:
U型 = F类 规模 ( u个 k个 , v(v) k个 ) = v(v) k个 u个 k个 .
为了说明光谱注意机制在我们的密集网络中的应用,图4描述了所建议方法的模式。光谱方面的注意事项是在三维扩张卷积运算之后、但在连接运算之前增加的权重。对于每个特征图,全局平均池化层将 S公司 × S公司 × D类 -将要素图调整为 1 × 1 × D类 -调整特征向量大小,对应于 P(P) = ( 第页 k个 ) k个 = 1 D类 式(5)中。接下来,一个完全连接的层生成一个输出向量 1 × 1 × D类 第页 。此过程是收缩操作,对应于 S公司 收缩 式(5)中。应用ReLU函数后,对应于 δ 在方程式(5)中,进行了展开运算。第二个完全连接的层生成输出向量 1 × 1 × D类 ,此操作对应于 S公司 扩大 式(5)中。最后,采用乙状结肠激活,其对应于 σ 式(5)中。

3.3. 网络实施详细信息

将密集卷积网络和频谱注意机制相结合,形成一种新的网络。拟议MSDN-SA各层的详细信息见表1MSDN-SA的实现如下所示。
以印度松树数据集为例,采用尺寸为13×13×200的三维样本作为输入数据。MSDN-SA有七层。每个特征图都是将等式(4)给出的密集连接操作应用于所有先前特征图的结果:带有3×3×7像素滤波器的三维扩张卷积(3-D-DConv)和通道特定的膨胀,然后进行批处理归一化。我们将此步骤操作表示为DConv-BN。在每个密集连接层之后,将光谱关注机制应用于每个三维特征图,并根据图4值得一提的是,“1×1×200,8”表示八个独立通道获得的八个注意权重。最后,平均池层和全连接(FC)层将5×5×48光谱空间特征转换为1×1×L(左)输出特征向量,L(左)表示神经元的数量。在印第安松树数据集中,我们选择L(左)= 360. 请注意,MSDN-SA中的所有层,包括卷积池和平均池,都是以三维方式实现的。因此,在提取特征和进行预测时,MSDN-SA可以完全保留和利用三维光谱空间信息。
其他数据集的网络实现细节以类似的方式执行,因此省略。

4.实验结果

为了评估该方法的有效性,我们在三个高光谱数据集上进行了测试。等级准确度、总准确度(OA)、平均准确度(AA)和kappa系数( κ )用以评估分类结果。我们对每个数据集进行了10次持续交叉验证试验:报告了每个数据集的平均值和标准偏差。在每次试验中,从每个班中随机选择有限数量的训练样本,其余样本用作盲试。将训练样本量设置为最小水平,以使分类任务比其他情况更具挑战性[50].

4.1. 数据集集合

为了评估提议的HSI分类方法的性能,我们使用以下三个数据集:
(1)
印度松树数据集
印度松树图片是由AVIRIS传感器在印第安纳州西北部的印度松树基地上空飞行时采集的,包括16个植被类别。它包含145×145像素和220个光谱带,范围为0.4–2.5μm。由于吸水,去除了20个光谱带,剩下的200个光谱带用于分类。
(2)
Pavia大学数据集
Pavia大学的图像是由ROSIS传感器在意大利北部Pavia上空拍摄的,包括16个城市地面类别,像素为610×340。它包含115个光谱反射带,波长范围为0.43–0.86μm。由于噪声,去除了12个光谱带,剩下的103个光谱带用于实验。
(3)
休斯顿大学数据集
休斯顿大学数据集由国家科学基金会资助的国家机载激光测绘中心(NCALM)于2012年使用ITRES-CASI(紧凑型机载光谱成像仪)1500高光谱成像仪在休斯顿大学校园和邻近城市地区获取。它包含15个土地覆盖类别,349×1905像素,144个波段用于评估,波长范围为0.36至1.05μm。

4.2. 实验设置

我们遵循了之前的研究[51]并采用相同的权重初始化方法。在所有实验中,扩张均匀分布 j个 [ 1 , 10 ] 通过设置通道的扩张j个层的等于 j个 = ( ( w个 + j个 ) 国防部   10 ) + 1 ,其中 w个 是卷积层中的内核数。在最终输出层使用软矩阵激活函数,在训练过程中使用Nesterov随机梯度下降(SGD)优化方法,以最小化样本标签与网络输出之间的交叉熵。我们将批量大小设置为16,网络在三个HSI数据集上训练超过100个epoch(学习率为0.01的60个epochs和学习率为0.001的40个epochs)。然后,我们分析了控制MSDN-SA训练和分类性能的两个因素:(1)卷积层中的核数,以及(2)输入空间立方体的大小。
首先,我们通过实验验证了卷积层中的核数。我们测试了4到20个不同的核数,每个卷积层的固定间隔为4。对三个数据集进行分类,每个类仅使用20个训练样本,使用不同数量的核。结果如所示图5a.每个卷积层中包含八个核的网络在印第安松树数据集和帕维亚大学数据集中获得了最佳性能,并且包含20个核的网格在休斯顿大学数据集中获得了最高的分类精度,但仅略高于包含八个内核的结果。为了一致性,我们对所有数据集使用了八个内核。请注意,这验证了密集连接允许重用功能,并且少量内核就足够了。
其次,为了获得MSDN-SA中空间邻域的最佳大小,我们评估了5×5、9×9、13×13、17×17和21×21邻域。图5b显示了使用不同空间邻域大小的三个HSI数据集的分类性能,每个类只有20个样本作为训练样本。我们可以从中看到图5b,最初,随着空间尺寸的增加,精度迅速增加,但当空间尺寸达到13×13时,精度稳定。因此,为了平衡分类的准确性和计算中涉及的数据量,我们根据经验选择13×13作为空间邻域大小。
在我们的实验中,将MSDN和MSDN-SA的性能与最近提出的四种监督HSI分类方法进行了比较。本文比较的算法总结如下:
(1)
共因失效[52]:基于100棵树的光谱特征的典型相关森林。
(2)
SVM-3DG公司[14]:一种基于SVM的分类方法,应用三维离散小波变换和马尔可夫随机场(MRF)。
(3)
CNN传输[23]:基于光谱空间特征的双分支结构CNN,使用转移学习策略。具体而言,用于预处理的印第安松树源数据集为Salinas Valley,由同一传感器AVIRIS采集,而Pavia University进行预处理的源数据集是由同一个传感器ROSIS采集的Pavia Center。
(4)
三维CNN[25]:3D-CNN网络框架有两个三维卷积层和一个完全连接层。网络结构设置如所示[25].
(5)
SSRN公司[31]:SSRN的体系结构如所述[31]. 光谱特征学习部分包括两个卷积层和两个光谱残差块,空间特征学习部分包含一个三维卷积层以及两个空间残差块。最后,有一个平均池层和一个完全连接的层来输出结果。
下面我们将上述算法与我们提出的方法进行比较。对于三个HSI数据集,为了进行公平比较,将网络结构设置为相同的宽度和深度。此外,我们将相同的输入卷大小设置为13×13×D表示我们在所有数据集上提出的方法。

4.3. 印度松树数据集的结果

印度松树数据集的10次平均分类精度和相应的标准偏差报告于表2不同方法的分类图如所示图6c–g。对于该数据集,SSRN和MSDN-SA优于其他方法,MSDN-SA的优势约为1%至12%。注意,这个数据集中类样本的数量是相当不平衡的。特别是,苜蓿、割草和燕麦类作物的数量很少。除SSRN外,所有比较方法在这些类中都表现良好。尽管就分类精度而言,SSRN是最好的竞争对手,其性能接近于所提出的方法,但它在处理样本数较少的类时表现不佳。相反,我们的算法的稳定性和性能是显而易见的。

4.4. Pavia大学数据集的结果

Pavia大学数据集的结果报告于表3不同方法的分类图如所示图7。该数据集中有9个类,每个类20个样本,总共使用180个像素进行训练。这个数字比其他两个数据集(印第安松树数据集中的320个数据集和休斯顿大学数据集中的300个数据集)要小。在所有五种方法中,只有SSRN和MSDN-SA实现了90%以上的OA、AA和 κ 在有限的训练样本下,只有非常适合的深层特征才能利用115维的谱空间。从该表中我们可以看到,MSDN-SA报告的所有类别的准确率至少为87%,AA显著高于通过比较方法实现的准确率。请注意,SSRN在这个数据集中的表现也很好,每个类都有足够的训练样本。与SSRN相比,所提出的MSDN-SA在OA和 κ .

4.5. 休斯顿大学数据集结果

休斯顿大学数据集的实验结果列于表4。由于此数据集太大,考虑到空间限制,我们只显示了两种具有最佳分类结果的算法,分类图如所示图8c、 d.MSDN-SA在训练样本较少的情况下再次表现良好。与其他两种算法相比,MSDN-SA在该数据集上的优势更为显著,尤其是在OA和 κ 在类准确度方面,MSDN-SA在所有类中都表现良好,并且在九个类中达到了最高的准确度。
总的来说,对于三个HSI数据集,所提出的MSDN-SA取得了比这些方法更好的性能。我们观察到,SSRN和MSDN-SA中使用的skip-connections网络都显示出良好的结果,这表明这种连接机制策略在使用极少量样本进行训练时对特征传播有积极的影响。

5.分析与讨论

5.1. 培训样本的效果

上述实验结果表明,所提出的MSDN-SA方法在HSI分类中表现良好,特别是在具有较小训练样本的情况下。在这一部分中,我们想进一步调查极为稀缺的培训样本的情景。AA相对于不同数量训练样本的曲线如所示图9.
正如预期的那样,随着训练样本数量的增加,准确性也会提高。我们可以从中看到图9MSDN-SA在大多数情况下都优于其他方法。关于印度松树和帕维亚大学的数据集,MSDN-SA每节课只使用五个训练样本,其平均准确度分别达到80%和83%以上。尽管休斯顿大学数据集的分类更具挑战性,但每类10-50个训练样本的MSDN-SA得分明显高于其他比较方法。

5.2. 光谱感知注意机制的作用

为了验证频谱关注机制的有效性,我们测试并比较了使用和不使用频谱关注机制时所提出的网络。频谱关注的有效性可以在图10它显示了三个数据集的OA,每个类有20个训练样本。很明显,光谱关注改善了所有三个数据集的分类结果,与Pavia大学数据集相比,Indian Pines数据集和University of Houston数据集的性能提升幅度更大。光谱注意的效果被认为与输入频带的冗余有关。然后,我们还研究了光谱注意机制在不同层中产生的权重。以印度松为例:第一层和倒数第二层光谱注意机制产生的平均权重如所示图11分别为。发件人图11可以看出,注意机制对浅层特征的影响较小,权重集中在0.5附近。随着层数的增加,注意机制中生成的权重对深层特征有更多的指导,从而强调信息性光谱特征并抑制不太有用的光谱特征,如所示图11.

5.3. 扩张卷积的影响

在这一部分中,我们将验证扩展卷积的有效性。首先,我们将所提方法的每个扩展卷积替换为传统的三维卷积,并将此模型表示为DN-SA。然后,我们将DN-SA与SVM-3DG、SSRN和MSDA-SA这三种在第4节扩张卷积的有效性可以在图12它显示了三个数据集的OA,每个类有20个训练样本。很明显,扩展卷积改善了所有三个数据集的分类结果,与印第安松树数据集相比,帕维亚大学和休斯顿大学数据集的性能提高幅度更大。我们的工作表明,扩张卷积算子由于能够在不损失分辨率的情况下扩展感受野,特别适合于密集预测。

6.结论

在本文中,我们提出了一种专门为高光谱数据集的三维补丁设计的网络架构。具体来说,我们提出了一种新的密集卷积网络,该网络使用扩张卷积而不是传统的缩放操作来学习不同尺度的特征。该算法在每一层中使用多个尺度,并利用前一层的所有特征图计算出每一层的特征图,从而形成一个紧密连接的网络。通过将密集卷积网络与扩展卷积和频谱关注相结合,生成的MSDN-SA网络体系结构能够使用相对较小的训练集进行精确训练。在三个流行的HSI基准数据集上的实验结果表明,MSDN-SA性能一致,提供了最高的分类精度。
在未来的研究中,我们计划研究如何选择有效的样本作为训练样本,这些样本对于训练网络可能更有效,目前仍在积极研究中。

作者贡献

所有作者都对这项工作做出了重大贡献。B.F.和Y.L.设计了方法并分析了数据;J.C.-W.C.帮助设计实验,并为工作的准备和修订提供建议;贝方进行了实验;和H.Z帮助进行了实验。

基金

本项工作得到了国家自然科学基金(61871460、61876152)、先进研究领域基金项目(614023804016HK03002)、陕西国际科技合作项目(2017KW-006)、空间微波科学技术国家重点实验室(6142411040404)、,西北工业大学博士论文创新基金(CX201816)。

致谢

作者要感谢意大利帕维亚帕维亚大学的P.Gamba提供了反射光学系统成像光谱仪数据和相应的参考信息。作者还要感谢国家机载激光测绘中心提供了休斯顿数据集。

利益冲突

作者声明没有竞争性的经济利益。创始赞助商在研究设计中没有任何作用;收集、分析或解释数据;在撰写手稿时,以及在决定公布结果时。

工具书类

  1. 陈,Y。;林,Z。;X.赵。;王,G。;Gu,Y.F.基于深度学习的高光谱数据分类。IEEE J.选择。顶部。申请。地球目标遥感。 2014,7, 2094–2107. [谷歌学者] [交叉参考]
  2. Liang,L。;Di,L。;张,L。;邓,M。;秦,Z。;赵,S。;Lin,H.使用高光谱植被指数和混合反演方法估计作物LAI。遥感环境。 2015,165, 123–134. [谷歌学者] [交叉参考]
  3. 横屋,N。;Chan,J。;Segl,K.使用模拟enmap和sentinel-2图像进行矿物制图的分辨率增强高光谱数据潜力。远程传感器。 2016,8, 172. [谷歌学者] [交叉参考]
  4. Bioucas-Dias,J.M。;A广场。;Camps-Valls,G。;Schenders,P。;北卡罗来纳州纳斯拉巴迪。;Chanussot,J.高光谱遥感数据分析和未来挑战。IEEE地质科学。远程传感器磁。 2013,1, 6–36. [谷歌学者] [交叉参考]
  5. Landgrebe,D.A.公司。多光谱遥感中的信号理论方法; 威利:霍博肯,新泽西州,美国,2003年;第3章。[谷歌学者]
  6. He,L。;Li,J.等人。;刘,C。;Li,S.光谱空间高光谱图像分类的最新进展:概述和新指南。IEEE传输。地质科学。远程传感器。 2018,56, 1579–1597. [谷歌学者] [交叉参考]
  7. 杜琪。;Chang,C.用于高光谱图像分类的基于线性约束距离的判别分析。模式识别。 2001,34, 361–373. [谷歌学者] [交叉参考]
  8. Samaniego,L。;巴多西,A。;Schulz,K.监督使用改进的K-NN技术对遥感图像进行分类。IEEE传输。地质科学。远程传感器。 2008,46, 2112–2125. [谷歌学者] [交叉参考]
  9. Ediriwickrema,J。;Khorram,S.提高精确度的分层最大似然分类。IEEE传输。地质科学。远程传感器。 1997,35, 810–816. [谷歌学者] [交叉参考]
  10. Li,J.等人。;Bioucas-Dias,J.M。;Plaza,A.使用带主动学习的多项式logistic回归进行半监督高光谱图像分割。IEEE传输。地质科学。远程传感器。 2010,48, 4085–4098. [谷歌学者] [交叉参考]
  11. 夏,J。;Bombrun,L.公司。;Berthoumieu,Y。;Germain,C。;Du,P.Spectral–用于高光谱图像分类的空间旋转森林。IEEE J.选择。顶部。申请。地球目标遥感。 2016,10, 4605–4613. [谷歌学者] [交叉参考]
  12. Chan,C.W。;Paelinckx,D.使用机载高光谱图像进行生态环境制图的随机森林和基于adaboost树的集合分类和光谱带选择评估。遥感环境。 2008,112, 2999–3011. [谷歌学者] [交叉参考]
  13. 钱,Y。;Ye,M。;Zhou,J.基于结构化稀疏logistic回归和三维小波纹理特征的高光谱图像分类。IEEE传输。地质科学。远程传感器。 2013,51, 2276–2291. [谷歌学者] [交叉参考]
  14. 曹,X。;徐,L。;孟,D。;赵(Q.Zhao)。;Xu,Z.三维离散小波变换与马尔可夫随机场的集成用于高光谱图像分类。神经计算 2017,226, 90–100. [谷歌学者] [交叉参考]
  15. 贾,S。;沈,L。;Li,Q.Gabor基于特征的高光谱图像分类协同表示。IEEE传输。地质科学。远程传感器。 2015,53, 1118–1129. [谷歌学者]
  16. 沈,L。;Jia,S.基于像素的高光谱图像分类的三维gabor小波。IEEE传输。地质科学。远程传感器。 2011,49, 5039–5046. [谷歌学者] [交叉参考]
  17. Tang,Y.Y。;Lu,Y。;袁,H。基于三维散射小波变换的高光谱图像分类。IEEE传输。地质科学。远程传感器。 2015,53, 2467–2480. [谷歌学者] [交叉参考]
  18. 陈,Y。;X.赵。;Jia,X.光谱–基于深度信念网络的高光谱数据空间分类。IEEE J.选择。顶部。申请。地球目标遥感。 2015,8, 2381–2392. [谷歌学者] [交叉参考]
  19. 他,K。;张,X。;任,S。;Sun,J.图像识别的深度残差学习。2016年6月27日至30日在美国内华达州拉斯维加斯举行的2016 IEEE计算机视觉和模式识别会议(CVPR)会议记录;第770-778页。[谷歌学者]
  20. Lecun,Y。;Y.本吉奥。;Hinton,G.深度学习。自然 2015,521, 436–444. [谷歌学者] [交叉参考]
  21. 古德费罗,I。;Y.本吉奥。;库尔维尔,A。深度学习; 麻省理工学院出版社:美国马萨诸塞州剑桥,2016年。[谷歌学者]
  22. 彼得森,H。;Gustafsson,D。;Bergstrom,D.使用深度学习的高光谱图像分析——综述。《2016年第六届图像处理理论、工具和应用国际会议论文集》,2016年12月12日至15日,芬兰奥卢;第1-6页。[谷歌学者]
  23. Yang,J.等人。;赵勇强。;Chan,C.W.学习并传输用于高光谱分类的深度联合光谱-空间特征。IEEE传输。地质科学。远程传感器。 2017,55, 4729–4742. [谷歌学者] [交叉参考]
  24. 陈,Y。;姜浩。;李,C。;贾,X。;Ghamisi,P.基于卷积神经网络的高光谱图像深层特征提取和分类。IEEE传输。地质科学。远程传感器。 2016,54, 6232–6251. [谷歌学者] [交叉参考]
  25. 李毅。;张,H。;Shen,Q.利用三维卷积神经网络对高光谱图像进行光谱空间分类。远程传感器。 2017,9, 67. [谷歌学者] [交叉参考]
  26. 高奇。;Lim,S。;Jia,X.利用卷积神经网络和多特征学习进行高光谱图像分类。远程传感器。 2018,10, 299. [谷歌学者] [交叉参考]
  27. 杨,X。;叶,Y。;李,X。;刘瑞凯。;Zhang,X.基于深度学习模型的高光谱图像分类。IEEE传输。地质科学。远程传感器。 2018,56, 5408–5423. [谷歌学者] [交叉参考]
  28. 马,X。;Wang,H。;Geng,J.基于深度自动编码器的高光谱图像光谱空间分类。IEEE J.选择。顶部。申请。地球目标遥感。 2016,9, 4073–4085. [谷歌学者] [交叉参考]
  29. 潘,B。;施,Z。;Xu,X.MugNet:使用有限样本进行高光谱图像分类的深度学习。ISPRS J.摄影。远程传感器。 2018,145, 108–119. [谷歌学者] [交叉参考]
  30. 何,Z。;刘,H。;Wang,Y。;Hu,J.基于生成对抗网络的半监督学习用于高光谱图像分类。远程传感器。 2017,9, 1042. [谷歌学者] [交叉参考]
  31. 钟,Z。;Li,J.等人。;罗,Z。;Chapman,M.Spectral–高光谱图像分类的空间残差网络:三维深度学习框架。IEEE传输。地质科学。远程传感器。 2018,56, 847–858. [谷歌学者] [交叉参考]
  32. 黄,G。;刘,Z。;劳伦斯,V.D.M。;Weinberger,K.Q.密集连接卷积网络。2017年7月21日至26日在美国夏威夷州火奴鲁鲁举行的IEEE计算机视觉和模式识别会议记录。[谷歌学者]
  33. Long,J。;谢尔哈默,E。;Darrell,T.语义分割的完全卷积网络。IEEE传输。模式分析。机器。智力。 2014,39, 640–651. [谷歌学者]
  34. Sermanet,P。;Kavukcuoglu,K。;钦塔拉,S。;Lecun,Y.行人检测与无监督多阶段特征学习。2013年6月23日至28日,美国俄勒冈州波特兰,IEEE计算机视觉和模式识别会议记录。[谷歌学者]
  35. 哈里哈兰,B。;阿贝莱兹,P。;Girshick,R。;Malik,J.Hypercolumns用于对象分割和细粒度定位。2015年IEEE计算机视觉和模式识别研讨会会议记录,美国马萨诸塞州波士顿,2015年6月7-12日。[谷歌学者]
  36. 洛夫,S。;Szegedy,C.批处理规范化:通过减少内部协变量转移加快深层网络培训。2015年7月6日至11日,法国里尔,第32届国际机器学习会议(ICML 2015)会议记录;第448–456页。[谷歌学者]
  37. 格洛洛特,X。;Bordes,A。;Bengio,Y.深度稀疏整流神经网络。美国佛罗里达州劳德代尔堡AISTATS会议记录,2011年4月11日至13日;第3页。[谷歌学者]
  38. Lecun,Y。;博图,L。;Y.本吉奥。;Haffner,P.基于梯度的学习应用于文档识别。程序。电气与电子工程师协会 1998,86, 2278–2324. [谷歌学者] [交叉参考] [绿色版本]
  39. Mnih,V。;海斯,N。;格雷夫斯,A。;Kavukcuoglu,K.视觉注意力的递归模型。《第27届神经信息处理系统国际会议论文集》,2014年12月8日至13日,美国加利福尼亚州蒙特利尔。[谷歌学者]
  40. Xu,K。;巴·J。;基罗斯,R。;Cho,K。;科尔维尔,A。;Salakhudinov,R。;泽梅尔,R。;Bengio,Y.展示、出席并讲述:用视觉注意力生成神经图像字幕。《机器学习国际会议论文集》,2015年7月6日至11日,法国里尔;第2048-2057页。[谷歌学者]
  41. Zhu,Y。;格罗斯,O。;伯恩斯坦,M。;Fei-Fei,L.Visual7w:图片中的扎根问题回答。2015年6月7日至12日在美国马萨诸塞州波士顿举行的计算机视觉和模式识别(CVPR)会议记录;第4995–5004页。[谷歌学者]
  42. Yang,Z。;何,X。;高杰。;邓,L。;Smola,A.图像问题回答的堆积注意力网络。《计算机视觉和模式识别会议论文集》,美国内华达州拉斯维加斯,2016年6月27日至30日;第21-29页。[谷歌学者]
  43. Nam,H。;Ha,J.W。;Kim,J.用于多模态推理和匹配的双注意网络。2017年7月21日至26日在美国夏威夷州火奴鲁鲁举行的计算机视觉和模式识别(CVPR)会议记录;第2156-2164页。[谷歌学者]
  44. 胡,J。;沈,L。;Sun,G.挤压和励磁网络。arXiv公司 2017,arXiv:1709.01507。[谷歌学者]
  45. Fu,J。;郑浩。;Mei,T.走近看得更好:用于细粒度图像识别的递归注意卷积神经网络。2017年7月21日至26日在美国夏威夷州火奴鲁鲁举行的IEEE计算机视觉和模式识别会议(CVPR)会议记录;第4476-4484页。[谷歌学者]
  46. 李,H。;熊,P。;An,J。;Wang,L.语义分割金字塔注意网络。arXiv公司 2018,arXiv:1805.10180v2。[谷歌学者]
  47. Wang,F。;江,M。;钱,C。;Yang,S。;李,C。;张,H。;王,X。;Tang,X.图像分类的剩余注意网络。2017年7月21日至26日,美国夏威夷州火奴鲁鲁IEEE计算机视觉和模式识别会议(CVPR)会议记录。[谷歌学者]
  48. A.纽厄尔。;Yang,K。;Deng,J.堆叠沙漏网络用于人体姿势估计。2016年10月8日至16日,荷兰阿姆斯特丹,欧洲计算机视觉会议记录。[谷歌学者]
  49. Yu,F。;Koltun,V.通过膨胀卷积实现多尺度上下文聚合。2016年5月2日至4日在波多黎各圣胡安举行的学习代表国际会议记录。[谷歌学者]
  50. 李,F。;徐,L。;Siva,P。;Wong,A。;Clausi,D.A.使用增强集成学习和条件随机场对有限标记训练样本进行高光谱图像分类。IEEE J.选择。顶部。申请。地球目标遥感。 2015,8, 1–12. [谷歌学者] [交叉参考]
  51. 他,K。;张,X。;任,S。;Sun,J.深入研究整流器:在图像网络分类方面超越人类水平的性能。2015年12月7日至13日,智利圣地亚哥,计算机视觉国际会议记录;第1026–1034页。[谷歌学者]
  52. 夏,J。;横屋,N。;Iwasaki,A.用典型相关森林进行高光谱图像分类。IEEE传输。地质科学。远程传感器。 2017,55, 1–11. [谷歌学者] [交叉参考]
图1。的架构()剩余连接模块和(b条)密集连接模块。
图1。的架构()剩余连接模块和(b条)密集连接模块。
远程调校11 00159 g001
图2。HSI分类的拟议框架。卷积层中的彩色线条代表3×3×7的扩张卷积,每种颜色代表通过不同扩张层的不同通道。
图2。HSI分类的拟议框架。卷积层中的彩色线条代表3×3×7的扩张卷积,每种颜色代表通过不同扩张层的不同通道。
遥感11 00159 g002
图3。光谱式注意机制的基本结构。
图3。光谱式注意机制的基本结构。
远程定位11 00159 g003
图4。具有频谱关注机制的密集网络。
图4。具有频谱关注机制的密集网络。
远程定位11 00159 g004
图5。网络超参数的影响。()不同核数的总体精度(OA)。(b条)不同空间大小的OA。
图5。网络超参数的影响。()不同核数的总精度(OA)。(b条)不同空间大小的OA。
远程定位11 00159 g005
图6。印度松树数据集的分类图。()假彩色图像。(b条)参考图像。(c(c))共因失效。(d日)SVM-3DG。(e(电子))2D-CNN传输。((f))3D-CNN。()SSRN号(小时)MSDN。()MSDN-SA。
图6。印度松树数据集的分类图。()假彩色图像。(b条)参考图像。(c(c))共因失效。(d日)SVM-3DG。(e(电子))2D-CNN传输。((f))3D-CNN。()SSRN号(小时)MSDN。()MSDN-SA。
遥感11 00159 g006
图7。帕维亚大学数据集的分类图。()真彩色图像。(b条)参考图像。(c(c))共因失效。(d日)SVM-3DG。(e(电子))2D-CNN传输。((f))3D-CNN。()SSRN号(小时)MSDN。()MSDN-SA。
图7。帕维亚大学数据集的分类图。()真彩色图像。(b条)参考图像。(c(c))共因失效。(d日)SVM-3DG。(e(电子))2D-CNN传输。((f))3D-CNN。()SSRN号(小时)MSDN。()MSDN-SA。
远程定位11 00159 g007
图8。休斯顿大学数据集的分类图。()真彩色图像。(b条)参考图像。(c(c))SSRN号(d日)MSDN-SA。
图8。休斯顿大学数据集的分类图。()真彩色图像。(b条)参考图像。(c(c))SSRN号(d日)MSDN-SA。
远程定位11 00159 g008
图9。培训样本数量对以下方面的影响:()印度松树数据集。(b条)帕维亚大学数据集。(c(c))休斯顿大学数据集。
图9。培训样本数量对以下方面的影响:()印度松树数据集。(b条)帕维亚大学数据集。(c(c))休斯顿大学数据集。
远程定位11 00159 g009
图10。光谱关注对印度松、帕维亚大学和休斯顿大学数据集的影响。
图10。光谱关注对印度松、帕维亚大学和休斯顿大学数据集的影响。
远程定位11 00159 g010
图11。在印度松数据集的第一层和倒数第二层上,光谱注意机制生成的平均权重。
图11。在印度松数据集的第一层和倒数第二层上,光谱注意机制生成的平均权重。
远程定位11 00159 g011
图12。扩张卷积对印度松、帕维亚大学和休斯顿大学数据集的影响。
图12。扩张卷积对印度松、帕维亚大学和休斯顿大学数据集的影响。
遥感11 00159 g012
表1。针对印度松树数据集,提出了一种新的端到端三维密集卷积网络,该网络具有光谱关注机制(MSDN-SA)。
表1。针对印度松树数据集,提出了一种新的端到端三维密集卷积网络,该网络具有光谱关注机制(MSDN-SA)。
图层内核大小网络输出大小
输入--13 × 13 × 200
3-D-D开关13 × 3 × 7DConv-BN型13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
3-D-D开关23 × 3 × 7DConv-BN型13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
密集级联--13 × 13 × 200, 16
3-D-D转换33 × 3 × 7DConv氮化硼13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
密集级联--13 × 13 × 200, 24
3-D-D转换43 × 3 × 7DConv-BN型13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
密集级联--13 × 13 × 200, 32
3-D-D转换53 × 3 × 7DConv-BN型13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
密集级联--13 × 13 × 200, 40
3-D-D接通63 × 3 × 7DConv-BN型13 × 13 × 200, 8
注意机制--1 × 1 × 200, 8
密集级联--13 × 13 × 200, 48
3-D平均池3 × 3 × 8步幅25 × 5 × 48, 8
FC、Soft-max 360
表2。拟议的印度松树数据集MSDN-SA的网络架构细节。
表2。拟议的印度松树数据集MSDN-SA的网络架构细节。
等级样品方法
列车/测试共因失效SVM-3DG公司CNN传输三维CNNSSRN公司MSDN(MSDN)MSDN-SA公司
120/2695.77 ± 2.8497.44 ± 2.2297.95 ± 2.4498.08 ± 2.7286.59 ± 7.3195.65 ± 2.9495.62 ± 1.60
220/140867.12 ± 6.6770.12 ± 7.5465.21 ± 6.5664.42 ± 6.4393.80 ± 3.8371.77 ± 1.9678.31 ± 2.83
20/81067.14 ± 5.2971.73 ± 17.8867.10 ± 4.1765.72 ± 2.1593.75 ± 4.4878.46 ± 5.1889.20 ± 3.02
420/21789.54 ± 4.0591.71 ± 5.7788.51 ± 3.1988.02 ± 1.9580.82 ± 6.2394.65 ± 2.0192.68 ± 4.75
520/46387.58 ± 3.4188.26 ± 8.0488.06 ± 2.6188.39 ± 0.9598.64 ± 1.7593.76 ± 3.2787.79 ± 0.58
620/71093.21 ± 2.5697.46 ± 1.9494.28 ± 1.3994.65 ± 0.5999.49 ± 0.5297.57 ± 1.6994.27 ± 0.38
714/1495.00 ± 6.78100 ± 0.0095.54 ± 5.8096.43 ± 5.0566.46 ± 10.5892.86 ± 5.8396.47 ± 4.74
820/45898.19 ± 0.5099.41 ± 0.8391.13 ± 0.8286.79 ± 3.2499.96 ± 0.1097.43 ± 1.1098.18 ± 0.09
910/10100 ± 0.00100 ± 0.00100 ± 0.00100 ± 0.0061.67 ± 7.39100 ± 0.00100 ± 0.00
1020/95281.16 ± 6.4174.37 ± 6.1578.69 ± 4.1476.24 ± 2.6968.86 ± 17.7080.48 ± 4.6381.28 ± 2.00
1120/243558.73 ± 4.4174.74 ± 4.6059.55 ± 2.1660.14 ± 1.8983.28 ± 1.8274.43 ± 3.8579.99 ± 1.09
1220/57380.38 ± 4.8991.04 ± 6.9278.59 ± 3.6461.43 ± 14.0783.58 ± 7.0189.69 ± 1.7984.82 ± 3.20
1320/18599.03 ± 0.3499.10 ± 0.3198.27 ± 0.6098.92 ± 0.2196.90 ± 2.1898.21 ± 0.4197.23 ± 0.61
1420/124590.25 ± 4.8386.43 ± 7.8790.24 ± 0.5391.41 ± 0.1499.98 ± 0.0488.43 ± 2.4995.80 ± 0.21
1520/36662.90 ± 4.4094.72 ± 9.1577.93 ± 3.8385.22 ± 10.2260.16 ± 1.9379.46 ± 4.9564.97 ± 1.62
1620/7395.75 ± 2.7796.35 ± 2.8595.97 ± 1.75100 ± 0.0079.96 ± 2.9995.34 ± 1.2496.71 ± 1.97
办公自动化(%)75.60 ± 1.0481.43 ± 1.0575.18 ± 1.0274.51 ± 1.1084.35 ± 4.1983.62 ± 3.9586.62 ± 2.361
AA(%)85.11 ± 0.5889.56 ± 0.6085.59 ± 1.0184.74 ± 1.7683.24 ± 3.2689.26 ± 2.6689.58 ± 1.82
κ × 10072.50 ± 1.1478.93 ± 1.1072.80 ± 1.1071.21 ± 1.3082.20 ± 4.6880.96 ± 2.0785.16 ± 2.02
1超越所有竞争方法的结果是大胆的。
表3。Pavia大学数据集拟议MSDN-SA的网络架构细节。
表3。Pavia大学数据集拟议MSDN-SA的网络架构细节。
等级样品方法
列车/测试共因失效SVM-3DG公司CNN传输三维CNNSSRN公司MSDN(MSDN)MSDN-SA公司
120/661173.21 ± 6.4791.99 ± 4.8770.62 ± 3.5968.05 ± 3.9898.95 ± 0.6296.76 ± 2.7793.31 ± 2.02
220/1862979.88 ± 6.7990.74 ± 5.4875.41 ± 5.5066.58 ± 4.8099.85 ± 0.0991.81 ± 2.0898.88 ± 1.36
20/207980.15 ± 6.2581.84 ± 9.8478.08 ± 4.1275.47 ± 3.9487.58 ± 2.7485.33 ± 3.2187.93 ± 1.97
420/304492.81 ± 5.1589.99 ± 3.8291.44 ± 1.2692.62 ± 0.9482.48 ± 7.5692.74 ± 1.7391.33 ± 3.32
520/132599.53 ± 0.4396.54 ± 1.8498.87 ± 1.8798.15 ± 2.6299.98 ± 0.0598.26 ± 0.2299.97 ± 0.11
620/500982.65 ± 2.8684.12 ± 10.6378.19 ± 2.8871.49 ± 5.1671.46 ± 3.2381.81 ± 2.1387.29 ± 1.78
720/131093.96 ± 2.3490.06 ± 3.8691.30 ± 2.3088.09 ± 2.1689.74 ± 4.4690.46 ± 2.4791.68 ± 2.41
820/366277.96 ± 7.2390.83 ± 5.7581.65 ± 5.0987.56 ± 2.5384.18 ± 5.6988.35 ± 3.1789.14 ± 3.32
920/92799.81 ± 0.1099.98 ± 0.0599.10 ± 0.8799.63 ± 0.0898.48 ± 0.4299.01 ± 0.8999.08 ± 0.39
办公自动化(%)81.42 ± 2.8890.04 ± 1.3675.48 ± 1.5473.97 ± 0.3592.30 ± 1.9791.01 ± 2.5392.99 ± 2.02
AA(%)86.66 ± 1.0690.68 ± 1.6584.99 ± 1.3083.07 ± 1.2591.88 ± 1.9091.39 ± 1.5692.98 ± 1.04
κ × 10076.22 ± 3.3686.95 ± 1.6173.14 ± 3.1767.52 ± 0.0990.01 ± 2.4988.29 ± 2.2190.98 ± 2.94
表4。休斯顿大学数据集拟议MSDN-SA的网络架构细节。
表4。休斯顿大学数据集拟议MSDN-SA的网络架构细节。
等级样品方法
列车/测试共因失效SVM-3DG公司三维CNNSSRN公司MSDN(MSDN)MSDN-SA公司
120/123174.76 ± 4.5877.01 ± 6.6889.65 ± 4.9871.04 ± 4.1183.50 ± 3.7985.04 ± 3.72
220/123469.30 ± 5.0778.53 ± 1.7665.24 ± 0.7987.09 ± 2.0586.76 ± 4.7588.11 ± 0.80
20/67779.07 ± 6.3187.99 ± 12.2689.96 ± 4.5998.81 ± 0.9593.69 ± 4.2995.80 ± 4.17
420/122462.01 ± 3.3569.91 ± 4.2962.14 ± 2.2678.88 ± 5.7487.61 ± 3.1988.50 ± 0.03
520/122290.39 ± 1.8793.64 ± 2.7292.76 ± 2.4994.36 ± 1.6790.65 ± 0.9692.93 ± 1.72
620/30566.02 ± 5.9678.69 ± 6.6359.51 ± 8.5887.52 ± 9.0976.85 ± 4.2969.87 ± 1.59
720/124838.69 ± 5.9684.43 ± 3.0948.48 ± 7.1479.42 ± 3.9780.41 ± 4.7389.30 ± 4.52
820/122456.95 ± 5.7861.41 ± 4.8951.96 ± 5.9696.35 ± 4.7090.08 ± 5.5794.16 ± 3.10
920/123247.95 ± 5.1368.78 ± 3.7974.51 ± 1.0372.26 ± 3.3570.73 ± 4.2881.96 ± 4.52
1020/120771.48 ± 6.9972.74 ± 7.2150.04 ± 6.2183.70 ± 4.3380.31 ± 5.3388.10 ± 7.87
1120/121554.93 ± 6.6965.27 ± 6.3339.88 ± 6.5892.94 ± 5.2282.22 ± 5.4389.54 ± 3.45
1220/121371.27 ± 7.6977.96 ± 6.6867.07 ± 6.0077.40 ± 3.5380.77 ± 6.1488.43 ± 0.44
1320/44960.51 ± 4.4587.97 ± 6.3945.77 ± 8.6679.84 ± 12.4978.43 ± 3.9088.69 ± 3.53
1420/40884.39 ± 2.3594.28 ± 6.0384.19 ± 0.1790.23 ± 1.8090.92 ± 3.0891.92 ± 0.95
1520/64067.34 ± 7.5988.33 ± 4.4284.93 ± 2.7689.47 ± 4.8392.39 ± 4.9992.83 ± 3.45
办公自动化(%)65.09 ± 1.6077.17 ± 0.7666.17 ± 0.9983.21 ± 0.9884.69 ± 0.8088.32 ± 0.34
AA(%)66.34 ± 1.4279.13 ± 1.0967.07 ± 1.6285.29 ± 1.3384.35 ± 0.7988.34 ± 0.28
κ × 10062.31 ± 1.7175.32 ± 0.8463.44 ± 1.0581.85 ± 1.0583.13 ± 0.8687.37 ± 0.37

分享和引用

MDPI和ACS样式

方,B。;李,Y。;张,H。;陈,J.C.-W。基于具有光谱感知注意机制的稠密卷积网络的高光谱图像分类。远程传感器。 2019,11, 159.https://doi.org/10.3390/rs11020159

AMA风格

方波,李毅,张华,陈JC-W。基于具有光谱感知注意机制的稠密卷积网络的高光谱图像分类。遥感. 2019; 11(2):159.https://doi.org/10.3390/rS11012015

芝加哥/图拉宾风格

方、贝、李颖、张浩奎和陈昌伟。2019.“基于具有光谱感知注意机制的稠密卷积网络的高光谱图像分类”遥感11,2号:159。https://doi.org/10.3390/rs11020159

请注意,从2016年第一期开始,该杂志使用文章编号而不是页码。请参阅更多详细信息在这里.

文章指标

返回页首顶部