鲁道夫·杰纳顿;朱利安·迈拉尔;纪尧姆·奥博金斯基;弗朗西斯·巴赫 分层稀疏编码的近似方法。 (英语) Zbl 1280.94029号 J.马赫。学习。物件。 12, 2297-2334 (2011). 摘要:稀疏编码是将信号表示为从字典中选择的原子的稀疏线性组合。我们考虑这个框架的一个扩展,其中原子被进一步假设嵌入树中。这是通过使用最近引入的树结构稀疏正则化范数实现的,该范数在一些应用中证明是有用的。这个范数导致了难以优化的正则化问题,在本文中,我们提出了有效的算法来解决这些问题。更准确地说,我们证明了与该范数相关的近端算子可以通过对偶方法精确计算,该方法可视为基本近端算子的组合。我们的程序在原子数量上具有线性或接近线性的复杂性,并允许使用加速梯度技术来解决树结构稀疏近似问题,其计算成本与使用\(l_{1}\)-范数的传统方法相同。我们的方法是有效的,并且可以优雅地扩展到数百万个变量,我们在两类应用中进行了说明:首先,我们考虑固定层次小波字典来对自然图像进行去噪。然后,我们将我们的优化工具应用于字典学习的上下文中,在字典学习中,学习的字典元素在预先指定的树状结构中自然自组织,从而在自然图像补丁的重建中获得更好的性能。当应用于文本文档时,我们的方法学习主题的层次结构,从而为概率主题模型提供了一种有竞争力的替代方案。 引用于49文件 MSC公司: 94年12月 信号理论(表征、重建、滤波等) 68T05型 人工智能中的学习和自适应系统 94A08型 信息与通信理论中的图像处理(压缩、重建等) 软件:BSDS公司 PDF格式BibTeX公司 XML格式引用 \textit{R.Jenatton}等人,J.Mach。学习。第12号决议,2297--2334(2011年;Zbl 1280.94029) 全文: arXiv公司 链接