×

基于卷积神经网络的同义词替换隐写术语言隐写分析。 (英语) Zbl 1470.94025号

摘要:本文提出了一种基于两级级联卷积神经网络(CNNs)的语言隐写分析方法,以提高系统检测通过同义词替换生成的隐写文本的能力。一级网络,即句子级CNN,由一个卷积层组成,该层具有不同窗口大小的多个卷积核,一个池层用于处理可变句子长度,一个完全连接的层具有丢包和softmax输出,这样就可以为每个句子获得两个最终的隐写特征。未修改和修改的句子及其单词以预训练密集词嵌入的形式表示,作为网络的输入。句子级CNN提供句子的表示,因此可以用来预测句子是否未修改或已被同义词替换修改。在第二级,文本级CNN利用从句子级CNN获得的句子的预测表示来确定检测到的文本是隐藏文本还是覆盖文本。实验结果表明,本文提出的句子级CNN能够有效地提取句子级隐写分析任务的句子特征,平均准确率达到82.245%。此外,本文提出的隐写分析方法在区分隐写文本和封面文本时,检测性能大大提高。

MSC公司:

94A08型 信息与通信理论中的图像处理(压缩、重建等)
94A60型 密码学
68T07型 人工神经网络与深度学习
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 刘永乐、彭海鹏和王勇军,加密外包数据的可验证多样性排名搜索,CMC-Compute。马特。Con.,55(2018),37-57。
[2] L.Y.Xiang,Y.Li,W.Hao,等,使用同义词替换和算术编码的可逆自然语言水印,CMC-Compute。马特。Con.,55(2018),541-559。
[3] H.M.Meral,B.Sankur,A.S.Ozsoy等人,通过形态句法改变的自然语言水印,计算机。《演讲语言》,23(2009),107-125。
[4] C.M.Taskiran、M.Topkra和E.J.Delp,《对词汇自然语言隐写系统的攻击》,继续。SPIE,6072(2006),607209-607209-9。
[5] Z.L.Chen,L.S.Huang,H.B.Miao,等,基于上下文聚类的基于替换的语言隐写术的隐写分析,计算。选举人。工程,37(2011),1071-1081。
[6] 陈振林,黄立生,杨维阳,相对频率分析检测基于替换的语言隐写术,数字。投资。,8 (2011), 68-77.
[7] L.Y.Xiang,X.M.Sun,G.Luo,et al.,利用同义词频率衍生的特征进行语言隐写分析,多媒体。工具应用。,71 (2014), 1893-1911.
[8] L.Y.Xiang,J.M.Yu,C.F.Yang,et al.,《一种通过同义词替换实现语言隐写的基于单词嵌入的隐写分析方法》,IEEE Access,6(2018),64131-64141。
[9] Z.S.Yu,L.S.Huang,Z.L.Chen等,基于同义词替换的自然语言水印的隐写分析,Int.J.Mult。优必居。工程,4(2012),21-34。
[10] 余振生,黄立生,陈振林,等,基于上下文信息的同义词替代修饰语检测,第二届未来一代通信与网络国际会议,(2008),134-139。
[11] 陈玉堂,熊建雄,徐文华,等,基于可变支持向量机的在线增减学习算法,聚类计算。,可从以下位置获得:https://doi.org/10.1007/s10586-018-1772-4。
[12] L.Y.Xiang,G.H.Zhao,Q.Li,et al.,TUMK-ELM:快速无监督异构数据学习方法,IEEE Access,6(2018),35305-35315。
[13] I.A.Bolshakov,基于搭配验证同义词的语言隐写方法,信息隐藏国际研讨会,(2004),180-191。
[14] C.Y.Chang和S.Clark,使用上下文同义词替换和新的顶点编码方法的实用语言隐写术,计算。语言学家。,40 (2014), 403-448.
[15] X.Yang,F.Li和L.Y.Xiang,基于同义词替换的矩阵编码隐写算法,中国计算杂志。系统。,36 (2015), 1296-1300.
[16] H.H.Hu,X.Zuo,W.M.Zhang等,《通过探索统计和语言失真实现自适应文本隐写术》,IEEE第二届网络空间数据科学国际会议,(2017),145-150。
[17] O.Russakovsky;J.Deng;H.Su等人,Imagenet大规模视觉识别挑战,国际计算机杂志。愿景,115,211-252(2015)·doi:10.1007/s11263-015-0816-y
[18] 项立勇,沈小斌,秦建华,等,面向大规模视觉搜索的离散多图散列,神经过程。莱特。,49 (2019), 1055-1069.
[19] 王建华,秦建华,向晓云,等,基于深度卷积神经网络的CAPTCHA识别,数学。Biosci公司。工程,16(2019),5851-5861。
[20] N.Kalchbrenner、E.Grefenstette和P.Blunsom,句子建模的卷积神经网络,预印本,arXiv:1404.2188。
[21] D.J.Zeng;Y.戴;F.Li等人,《由带有门控机制的语言规范化CNN进行的基于方面的情绪分析》,J.Intell。模糊系统。,36, 3971-3980 (2019) ·doi:10.3233/JIFS-169958
[22] R.H.Meng、S.G.Rice、J.Wang等,基于更快R-CNN的融合隐写算法,CMC-Compute。马特。Con.,55(2018),001-016。
[23] Tan S.Q.和B.Li,用于数字图像隐写分析的叠加卷积自动编码器,信号与信息处理协会峰会和会议,(2014),1-4。
[24] J.Q.Ni、J.Ye和Y.Yang,图像隐写分析的深度学习层次表示,IEEE T.Inf.Foren.Sec.,12(2017),2545-2557。
[25] Y.L.Qian,J.Dong,W.Wang等,通过卷积神经网络进行隐写分析的深度学习,继续。SPIE,9409(2015),94090J-94090J10。
[26] 徐国胜,吴海忠,石义清,用于隐写分析的卷积神经网络结构设计,IEEE信号处理。让。,23 (2016), 708-712.
[27] J.S.Zeng,S.Q.Tan,B.Li等人,使用混合深度学习框架的大规模jpeg图像隐写分析,IEEE T.Inf.Foren.Sec.,13(2018),1200-1214。
[28] A.Krizhevsky、I.Sutskever和G.E.Hinton,深度卷积神经网络的Imagenet分类,第25届神经信息处理系统国际会议论文集,1(2012),1097-1105。
[29] Y.Kim,句子分类的卷积神经网络,《2014年自然语言处理经验方法会议论文集》,(2014),1746-1751。
[30] J.Turian,L.Ratinov和Y.Bengio,《单词表征:半监督学习的简单通用方法》,计算语言学协会第48届年会会议记录,(2010),384-394。
[31] G.E.Hinton,学习概念的分布式表示,认知科学学会第八届年会论文集,1(1986),12-23。
[32] Y.Bengio,H.Schwenk,J.Sencal等,神经概率语言模型,J.Mach。学习。第3号决议(2003年),1137-1155·Zbl 1061.68157号
[33] F.Morin和Y.Bengio,层次概率神经网络语言模型,第十届人工智能与统计国际研讨会论文集,(2005),246-252。
[34] R.Collobert和J.Weston,《自然语言处理的统一架构:具有多任务学习的深层神经网络》,《第25届机器学习国际会议论文集》(2008),160-167。
[35] T.Mikolov,I.Sutskever,K.Chen等,单词和短语的分布式表示及其组合,神经信息处理系统国际会议,(2013),3111-3119。
[36] B.Shen,C.W.Forstall,A.Rocha,et al.,现实环境下的实用文本系统发育,IEEEAccess,6(2018),41002-41012。
[37] D.J.Zeng,Y.Dai,F.Li,等,远程监督关系抽取的对抗学习,CMC-Compute。马特。Con.,55(2018),121-136。
[38] R.Collobert、J.Weston、L.Bottou等,《从头开始的自然语言处理(几乎)》,J.Mach。学习。研究,12(2011),2493-2537·Zbl 1280.68161号
[39] Y.L.Boureau,N.L.Roux,F.Bach等人,《询问当地人:图像识别的多路本地池》,2011年计算机视觉国际会议,(2011),2651-2658。
[40] 杨华凤,刘福林,葛春光,等,基于定量隐写分析的秘密信息定位,数学。Biosci公司。工程,16(2019),4908-4922·Zbl 1497.94150号
[41] C、 杨凤,罗晓云,陆建川,等,基于最优隐写子集的MLSB隐写算法隐藏信息提取,科学。中国资讯。科学。,61,, 119103, 1-119103 (2018)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。