跳到主要内容
10.1145/1835804.1835847acm会议文章/章节视图摘要出版物页面千迪拉姆会议记录会议集合
研究论文

一类融合套索问题的有效算法

出版:2010年7月25日出版历史

摘要

融合的拉索罚函数加强了系数及其连续差异的稀疏性,这对于以某种有意义的方式排序特征的应用是理想的。然而,由于融合拉索罚分既不平滑又不可分离,因此产生的问题很难解决。现有算法计算复杂度高,无法扩展到大型问题。本文提出了一种高效的融合拉索算法(EFLA)来优化这类问题。拟议EFLA中的一个关键构建块是融合拉索信号近似器(FLSA)。为了有效地求解FLSA,我们建议将其重新定义为在最小值处找到融合惩罚的“合适”次梯度的问题,并开发一种次梯度查找算法(SFA)。我们进一步设计了一种重启技术,通过利用原始FLSA问题和重新制定的FLSA问题的特殊“结构”来加速SFA的收敛。我们的实证评估表明,SFA和EFLA都显著优于现有的求解器。我们还演示了融合拉索的几种应用。

跳过补充材料部分

补充材料

kdd2010_liu_eacf_01.mov公司

莫夫

107.8 MB

工具书类

  1. A.Ahmed和E.P.Xing。恢复社会和生物研究中依赖性的时变网络。《美国国家科学院院刊》,106(29):11878-118832009。谷歌学者谷歌学者交叉引用交叉引用
  2. A.Beck和M.Teboulle。线性反问题的快速迭代收缩阈值算法。SIAM成像科学杂志,2(1):183-2022009。谷歌学者谷歌学者数字图书馆数字图书馆
  3. C.Chang和C.Lin.Libsvm:支持向量机库。网址:http://www.csie.ntu.edu.tw/cjlin/libsvm,2001年。谷歌学者谷歌学者
  4. Z.多斯塔尔。带比例和投影的箱约束二次规划。SIAM优化杂志,7(3):871-8871997。谷歌学者谷歌学者数字图书馆数字图书馆
  5. Z.Dostál和J.Schöberl。在收敛速度和有限终止条件下最小化受约束的二次函数。计算优化与应用,30(1):23-432005。谷歌学者谷歌学者数字图书馆数字图书馆
  6. J.Duchi和Y.Singer。使用前向-后向拆分的在线和批量学习。机器学习研究杂志,2009年。谷歌学者谷歌学者数字图书馆数字图书馆
  7. D.J.Evans。求解某些三对角线性方程组的算法。《计算机杂志》,15(4):356--3591972。谷歌学者谷歌学者交叉引用交叉引用
  8. J.Friedman、T.Hastie、H.Höfling和R.Tibshirani。路径坐标优化。应用统计年鉴,1(2):302-3322007。谷歌学者谷歌学者交叉引用交叉引用
  9. T.R.Golub等人。癌症的分子分类:通过基因表达监测进行分类发现和分类预测。科学,286(5439):531-5371999。谷歌学者谷歌学者交叉引用交叉引用
  10. M.Grant和S.Boyd。CVX:Matlab软件,用于严格的凸规划,2009年。谷歌学者谷歌学者
  11. J.Hiriart-Urruti和C.Lemaréchal。凸分析与最小化算法I和II。施普林格·弗拉格,柏林,1993年。谷歌学者谷歌学者交叉引用交叉引用
  12. Höfling先生。融合套索信号近似器的路径算法。arXiv,2009年。谷歌学者谷歌学者
  13. 季S.Ji和叶J.Ye。迹范数最小化的加速梯度法。在2009年国际机器学习会议上。谷歌学者谷歌学者数字图书馆数字图书馆
  14. C.Lemaréchal和C.Sagastizábal。moreau-yosida正则化的实际方面I:理论性质。SIAM优化杂志,7(2):367--3851997。谷歌学者谷歌学者数字图书馆数字图书馆
  15. C.J.Lin和J.J.Moré。求解大型有界约束优化问题的牛顿方法。SIAM优化杂志,9(4):1100-11271999。谷歌学者谷歌学者数字图书馆数字图书馆
  16. 刘J.,陈J.,叶J.。大尺度稀疏logistic回归。在2009年ACM SIGKDD知识发现和数据挖掘国际会议上。谷歌学者谷歌学者数字图书馆数字图书馆
  17. J.Liu,S.Ji和J.Ye。通过有效的L2,1-形式最小化进行多任务特征学习。《人工智能中的不确定性》,2009年。谷歌学者谷歌学者数字图书馆数字图书馆
  18. 刘振英、季思成和叶振英。SLEP:稀疏学习与有效投射。亚利桑那州立大学,2009年。谷歌学者谷歌学者
  19. J.-J.莫罗。这是一个接近和双重的空间。牛市。社会数学。法国,93:273-2991965年。谷歌学者谷歌学者交叉引用交叉引用
  20. A.内米洛夫斯基。凸规划中的有效方法。课堂讲稿,1994年。谷歌学者谷歌学者
  21. Y.内斯特罗夫。凸优化入门讲座:基础课程。Kluwer学术出版社,2003年。谷歌学者谷歌学者数字图书馆数字图书馆
  22. Y.内斯特罗夫。最小化复合目标函数的梯度方法。核心讨论文件,2007年。谷歌学者谷歌学者
  23. Y.内斯特罗夫。凸问题的原对偶次梯度方法。数学规划,120(1):221--2592009。谷歌学者谷歌学者数字图书馆数字图书馆
  24. E.Petricoin等人。前列腺癌检测的血清蛋白质组模式。国家癌症研究所杂志,94(20):1576-15782002。谷歌学者谷歌学者交叉引用交叉引用
  25. F.Rapaport、E.Barillot和J.Vert。基于融合支持向量机的阵列CGH数据分类。生物信息学,24(13):i375-i3822008。谷歌学者谷歌学者数字图书馆数字图书馆
  26. A.里纳尔多。融合套索的特性和改进。《统计年鉴》,37(5B):2922-29522009。谷歌学者谷歌学者交叉引用交叉引用
  27. D.J.罗斯。求解一类特殊的三对角线性方程组的算法。ACM通讯,12(4):234--2361969。谷歌学者谷歌学者数字图书馆数字图书馆
  28. N.Stransky等人。癌症中区域拷贝数无关的转录调控解除。《自然遗传学》,38(12):1386-13962006。谷歌学者谷歌学者交叉引用交叉引用
  29. L.H.托马斯。网络上线性差分方程中的椭圆问题。华盛顿科学计算实验室,哥伦比亚,纽约,1949年。谷歌学者谷歌学者
  30. R.Tibshirani、M.Saunders、S.Rosset、J.Zhu和K.Knight。通过融合套索实现轻盈流畅。英国皇家统计学会期刊B辑,67(1):91-1082005。谷歌学者谷歌学者交叉引用交叉引用
  31. R.Tibshirani和P.Wang。使用融合套索对CGH数据进行空间平滑和热点检测。生物统计学,9(1):18-292008。谷歌学者谷歌学者交叉引用交叉引用
  32. K.Toh和S.Yun。核范数正则化最小二乘问题的加速近似梯度算法。太平洋优化杂志,即将出版,2009年。谷歌学者谷歌学者
  33. 曾荫权(P.Tseng)。不可微极小化的块坐标下降法的收敛性。优化理论与应用杂志,109:474-4942001。谷歌学者谷歌学者数字图书馆数字图书馆
  34. 曾先生和云先生。非光滑可分离极小化问题的坐标梯度下降法。数学规划,117(1):387--4232009。谷歌学者谷歌学者数字图书馆数字图书馆
  35. L.Xiao。正则化随机学习和在线优化的双重平均方法。《神经信息处理系统进展》,2009年。谷歌学者谷歌学者

索引术语

  1. 一类融合套索问题的有效算法

    建议

    评论

    登录选项

    检查您是否可以通过登录凭据或您的机构访问本文。

    登录

    完全访问权限

    • 发布于

      封面图片ACM会议
      KDD’10:第16届ACM SIGKDD知识发现和数据挖掘国际会议记录
      2010年7月
      1240页
      国际标准图书编号:9781450300551
      内政部:10.1145/1835804

      版权所有©2010 ACM

      如果复制品不是为了盈利或商业利益而制作或分发的,并且复制品的第一页载有本通知和完整引文,则允许免费制作本作品的全部或部分数字或硬拷贝以供个人或课堂使用。必须尊重ACM以外的其他人对本作品组成部分的版权。允许赊账提取。要以其他方式复制或重新发布,在服务器上发布或重新发布到列表,需要事先获得特定许可和/或付费。从请求权限[电子邮件保护]

      出版商

      计算机协会

      美国纽约州纽约市

      出版历史

      • 出版:2010年7月25日

      权限

      请求有关此文章的权限。

      请求权限

      检查更新

      限定符

      • 研究论文

      接受率

      总体验收率1,133属于8,635提交文件,13%

      即将召开的会议

      KDD'24款
      第30届ACM SIGKDD知识发现和数据挖掘会议
      2024年8月25日至29日
      巴塞罗那,西班牙

    PDF格式

    以PDF文件的形式查看或下载。

    PDF格式

    电子阅读器

    使用eReader联机查看。

    电子阅读器