文章

免费访问

核矩阵不确定性下鲁棒分类的有效方法

作者:

亚哈龙 Ben-Tal公司,

萨赫利巴德拉,

奇兰吉布巴塔查里亚,

阿卡迪内米洛夫斯基作者信息和声明

机器学习研究杂志,体积13,问题1

页2923-2954

出版:2012年10月1日出版历史

PDF格式电子阅读器发布者网站

摘要

本文研究了核矩阵K受不确定性影响时SVM分类器的设计问题。具体地说，K被建模为给定的半正定核的正仿射组合，系数范围在一个赋范不确定性集中。我们使用稳健优化方法来处理这个问题。这将不确定SVM问题简化为确定性二次曲线二次问题，原则上可以用多项式时间内点（IP）算法求解。然而，对于大规模的分类问题，IP方法变得很难处理，人们不得不求助于一阶梯度类型方法。我们在这里使用的策略是将不确定SVM问题的鲁棒对应项重新定义为鞍点问题，并使用直接作用于凹凸鞍函数的特殊梯度方案。该算法是Juditski和Nemirovski（2011）提出的通用方案的简化版本。它实现了O（1/T²)减少后的初始误差T型迭代。对合成数据和真实蛋白质结构数据集的综合实证研究表明，所提公式达到了预期的鲁棒性，基于鞍点的算法显著优于IP方法。

工具书类

[1]

A.Ben-Tal和A.Nemirovski。现代凸优化讲座：分析、算法和工程应用《工业和应用数学学会》，美国宾夕法尼亚州费城，2001年。国际标准书号0-89871-491-5。

[2]

A.Ben-Tal、L.El Ghaoui和A.Nemirovski。稳健优化普林斯顿大学出版社，2009年。

[3]

A.Ben Tal、S.Bhadra、C.Bhattacharyya和J.S.Nath。基于鲁棒优化的机会约束不确定分类。数学。程序。, 127(1), 2011.

[4]

S.Bhadra、J.Saketha Nath、A.Ben-Tal和C.Bhattacharyya。部分信息下的区间数据分类：一种机会约束方法。在PAKDD公司，第208-219页，2009年。

[5]

S.Bhadra、S.Bhtacharya、C.Bhattacharyya和A.Ben-Tal。处理核矩阵不确定性的稳健公式。在机器学习国际会议论文集，第71-78页，2010年。

[6]

S.Bhattacharya、C.Bhattacaryya和N.Chandra。用于蛋白质结构分类的基于结构比对的内核。在第24届国际机器学习会议（ICML）会议记录，第73-80页，2007年。统一资源定位地址http://doi.acm.org/10.1145/1273496.1273506。

[7]

C.Bhattacharyya、L.R.Grate、M.I.Jordan、L.El Ghaoui和S.I.Mian。稳健的稀疏超平面分类器：应用于不确定的分子生成数据。计算生物学杂志, 11(6):1073-1089, 2004.

[8]

C.布兰登和约翰·图兹。蛋白质结构简介加兰出版社，第二版，1999年。国际标准书号0815323050。

[9]

L.El Ghaoui、G.R.G.Lanckriet和G.Natsoulis。基于区间数据的稳健分类。技术报告UCB/CSD-03-1279，加州大学伯克利分校计算机科学部，2003年。

[10]

L.Holm和C.Sander。绘制蛋白质宇宙。科学类, 273(5275):595-602, 1996.

[11]

A.Juditski和A.Nemirovski。大规模凸优化的一阶方法。编辑Sra S.、S.Nowozin和S.Wright，机器学习优化麻省理工学院出版社，2011年。

[12]

J.默瑟。正负型函数及其与积分方程理论的联系。在伦敦皇家学会会刊。系列A，包含数学和物理性质的论文，第209卷，第415-4461909页。

[13]

A.G.Murzin、S.E.Brenner、T.Hubbard和C.Chothia。Scop：用于序列和结构研究的蛋白质数据库的结构分类。分子生物学杂志，247（4）:536-5401995年4月。

[14]

A.内米洛夫斯基。具有收敛速度的Prox方法o个(1/t吨)研究了具有lipschitz连续单调算子的变分不等式和光滑凹凸鞍点问题。SIAM J.Optim公司。, 15:229-251, 2004.

[15]

Y.内斯特罗夫。一个收敛速度为O（1）的凸规划问题的求解方法/k个²).苏联数学Doklady，27岁第372-376页，1983年。

[16]

J.Qiu、M.Hue、A.B.Hur、J.P.Vert和W.S.Noble。蛋白质结构的结构对齐核。生物信息学, 23(9):1090-1098, 2007.

[17]

J.Shawe-Taylor和N.Cristianini。支持向量机和其他基于核的学习方法剑桥大学出版社，2000年。

[18]

I.N.Shindyalov和P.E.Bourne。通过最优路径的增量组合扩展（ce）进行蛋白质结构对齐。蛋白质工程, 11(9):739-747, 1998.

[19]

P.K.Shivaswamy、C.Bhattacharyya和A.J.Smola。处理缺失和不确定数据的二阶锥规划方法。机器学习研究杂志, 7:1283-1314, 2006.

[20]

J.F.斯特姆。使用SeDuMi 1.02，一个用于对称锥体优化的MATLAB工具箱。优化方法和软件, 11-12:625-653, 1999.

[21]

V.Vapnik。统计学习理论《约翰·威利父子》，纽约，1998年。

引用人

He X公司吴毅(2021)二次扰动机会约束规划的集合压缩过程IEEE信号处理汇刊10.1109/TSP.2020.304720069(682-694)在线发布日期：2021年2月5日
https://dl.acm.org/doi/101109/TSP.20203047200
动力钳Z元D高J王Z(2020)基于完全卷积网络和不确定性框架的路面缺陷检测计算机辅助土木和基础设施工程10.1111/许可1253335:8(832-849)在线发布日期：2020年1月24日
https://dl.acm.org/doi/10.111/mice.12533
库埃兰NS年1月(2019)显式特征映射和大型鲁棒非线性SVM分类器的特征不确定性边界数学与人工智能年鉴2007年10月10日/10472-019-09676-088:1-3(269-289)在线发布日期：2019年11月15日
https://dl.acm.org/doi/10.1007/s10472-019-09676-0
显示更多引用者

索引术语

核矩阵不确定性下鲁棒分类的有效方法
1. 计算方法
  1. 人工智能
    1. 知识表示和推理
      1. 概率推理
      2. 模糊性与模糊逻辑
  2. 机器学习
    1. 学习范式
      1. 监督学习
        分类指导学习
    2. 机器学习方法
      1. 分类和回归树

建议

对称锥上单调线性互补问题的基于核的内点方法

提出了一种求解对称锥上单调线性互补问题（SCLCP）的内点方法，该方法基于由一大类单变量函数定义的障碍函数，称为合格核函数。这门课是。。。
核稳健奇异值分解
摘要
奇异值分解（SVD）是用于降维和执行主成分分析的最广泛的算法之一，是许多模式识别问题中使用的重要工具。然而，在。。。
集锦
- 提出了四种核鲁棒奇异值分解（KR-SVD）算法。
- KR-SVD允许获得奇异值和向量的稳健估计。
- KR-SVD优于标准SVD和其他强大的SVD。。。
基于序列凸双层规划的非线性鲁棒优化

在本文中，我们提出了一种新的序列凸双层规划算法，用于半无限规划中出现的结构化非线性最小-最大问题的数值求解。这里，我们的主要动机是非线性的。。。

评论

信息和贡献者

问询处

发布于

封面图片机器学习研究杂志

机器学习研究杂志第13卷第1期

2012年1月

3712页

国际标准编号：1532-4435

EISSN公司：1533-7928

出版商

JMLR.org网站

出版历史

出版：2012年10月1日

在JMLR中发布体积13,问题1

作者标记

限定符

第条

贡献者

其他指标

查看文章指标

文献计量学和引文

文献计量学

文章指标

5
引文总数
查看引文
107
总下载次数

下载次数（过去12个月）30
下载次数（最近6周）8

反映截至2024年9月22日的下载量

其他指标

查看作者指标

引文

引用人

He X公司吴毅(2021)二次扰动机会约束规划的集合压缩过程IEEE信号处理汇刊10.1109/TSP.2020.304720069(682-694)在线发布日期：2021年2月5日
https://dl.acm.org/doi/101109/TSP.20203047200
动力钳Z元D高J王Z(2020)基于完全卷积网络和不确定性框架的路面缺陷检测计算机辅助土木和基础设施工程10.1111/许可1253335:8(832-849)在线发布日期：2020年1月24日
https://dl.acm.org/doi/10.111/mice.12533
库埃兰NS年1月(2019)显式特征映射和大型鲁棒非线性SVM分类器的特征不确定性界数学与人工智能年鉴2007年10月10日/10472-019-09676-088:1-3(269-289)在线发布日期：2019年11月15日
https://dl.acm.org/doi/10.1007/s10472-019-09676-0
Ho-Nguyen N公司科伦坡-卡赞F(2018)鲁棒凸优化的在线一阶框架运筹学10.1287/2018.1764年10月66:6(1670-1692)在线发布日期：2018年12月11日
https://dl.acm.org/doi/101287/opre.2018.1764
梁Z张L刘杰(2015)一种新的基于Kullback——Leibler发散的多核学习方法神经处理信件2007年10月10日/11063-014-9392-342:3(745-762)在线发布日期：2015年12月1日
https://dl.acm.org/doi/10.1007/s11063-014-9392-3

视图选项

查看选项

PDF格式

以PDF文件查看或下载。

电子阅读器

使用联机查看电子阅读器.

电子阅读器

获取访问权限

登录选项

检查您是否可以通过登录凭据或您的机构访问本文。

完全访问权限

获取此文章

媒体

数字

其他

桌子

查看问题目录