×

接近二元高斯分类问题的误差概率的严格上限。 (英语) Zbl 1133.68071号

摘要:众所周知,具有不同类别协方差矩阵的二元高斯分类问题,由于缺乏封闭形式的表达式,通常无法准确估计其错误概率。这一事实表明,需要找到错误概率的严格上限。这个问题已经存在了50多年,现在仍然令人感兴趣。并非所有导出的上界都没有缺陷。它们可能很松散,计算效率低,特别是在高维情况下,或者如果需要高精度,则会耗费大量时间。本文提出了一种新的技术来估计具有不同协方差矩阵的著名二元高斯分类问题的错误概率的紧上界。
该技术的基本思想是用次优边界代替最优贝叶斯决策边界,次优边界为错误概率提供了一个易于计算的上界。特别地,研究了三种类型的决策边界:平面、椭圆柱和圆锥体。选择新的决策边界的方式是提供尽可能紧的上限。该技术提供了一个上界,比许多常用的上界更紧,如切尔诺夫界和贝叶斯距离界。此外,该界的计算时间远小于蒙特卡罗模拟技术所需的时间。当应用于实际分类问题时,从UCI存储库获取[H.切尔诺夫《Ann.Math》,“基于观察值总和的假设检验的渐近效率度量”。《美国联邦法律大全》第23卷第493–507页(1952年;Zbl 0048.11804号)]发现该界为二次判别分析分类器的分析错误概率提供了一个紧界,并很好地逼近了其经验错误概率。

MSC公司:

68吨10 模式识别、语音识别
68T05年 人工智能中的学习和自适应系统

软件:

UCI-毫升
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Chernoff,H.,基于观察值总和的假设渐近效率的度量,《数学年鉴》。统计人员。,23, 493-507 (1952) ·Zbl 0048.11804号
[2] Fukunaga,K.,《统计模式识别导论》(1990),学术出版社:纽约学术出版社·Zbl 0711.62052号
[3] 哈什拉蒙,W。;瓦什尼,P。;Samarasooriya,V.,贝叶斯误差概率的紧上界,IEEE Trans。模式分析。机器。智力。,16220-225(1994年)
[4] De Vore,M.,具有广义似然比检测的复杂高斯信道的错误概率估计,IEEE Trans。模式分析。机器。智力。,1580-1591年10月27日(2005年)
[5] Raphaeli,D.,非相干编码调制,IEEE Trans。社区。,44, 2, 172-183 (1996) ·兹伯利0976.94504
[6] J.Ni,《关于线性二次接收机的chernoff界》,IEEE无线通信与网络会议(WCNC),2004年,第1卷,2004,第83-86页。;J.Ni,《关于线性二次接收机的chernoff界》,IEEE无线通信与网络会议(WCNC),2004年,第1卷,2004,第83-86页。
[7] J.Ni,R.Barton,时变、频率选择性码分多址信道的自适应线性二次接收机,Asilomar信号、系统和计算机会议,1999年,第2卷,1999年;第945-949页。;J.Ni,R.Barton,时变、频率选择性码分多址信道的自适应线性二次接收机,Asilomar信号、系统和计算机会议,1999年,第2卷,1999年;第945-949页。
[8] Poor,H.,《信号检测和估计简介》(1994),施普林格出版社:柏林施普林格·Zbl 0811.94001号
[9] Ito,T.,模式识别中的近似误差界限,马赫数。智力。,7, 369-372 (1972) ·Zbl 0258.68057号
[10] Hellman,M.,《错误概率、模棱两可和chemoff界》,IEEE Trans。通知。理论,16368-372(1970)·Zbl 0218.62005号
[11] Deijver,P.,关于多假设模式识别中贝叶斯风险的一类新界,IEEE Trans。计算。,23, 70-80 (1974) ·Zbl 0273.68068号
[12] Avi-Itzhak,H。;Diep,T.,贝叶斯误差概率的任意紧上下界,IEEE Trans。模式分析。机器。智力。,18, 1, 89-91 (1996)
[13] Michell,R.,《应用于虚假报警统计模拟的重要性抽样》,IEEE Trans。航空电子。系统,17,1,15-24(1981)
[14] Herro,M。;Nowack,M.,使用重要性抽样的模拟维特比译码,IEE Proc。雷达信号处理。,135, 2, 133-142 (1988)
[15] Chen,C.,关于信息和距离测量以及特征选择,Inform。科学。,10, 159-171 (1976) ·Zbl 0333.94007号
[16] Beaulieu,N.,个人计算机误差函数计算的简单系列,IEEE Trans。社区。,37, 989-991 (1989)
[17] Rueda,L.,正态分布类线性分类器错误概率的一维分析,模式识别,38,8,1197-1207(2005)·Zbl 1101.68828号
[18] Ruben,H.,球面正态分布下球面下区域的概率含量,iv:随机变量的齐次和非齐次二次函数的分布,Ann.Math。统计人员。,33, 2, 547-570 (1962) ·兹比尔0117.37201
[19] Shah,B.,非中心正态分布的定和不定二次型分布,《数学年鉴》。统计人员。,34, 1, 186-190 (1963) ·兹比尔0246.62028
[20] Press,S.,《非中心齐方变量的线性组合》,《数学年鉴》。统计人员。,37, 2, 480-487 (1966) ·Zbl 0142.16002号
[21] Raphaeli,D.,复正态变量中非中心二次型的分布,IEEE Trans。通知。理论,42,3,1002-1007(1996)·Zbl 0854.60021号
[22] 安德森,T。;Bahadur,R.,《用不同协方差矩阵将多元正态分布分类》,《数学年鉴》。统计人员。,33, 2, 420-431 (1962) ·Zbl 0113.13702号
[23] D.J.Newman,A.Asuncion,UCI机器学习库,2007年。;D.J.Newman,A.Asuncion,UCI机器学习库,2007年。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。