×

分层稀疏编码的近似方法。 (英语) Zbl 1280.94029号

摘要:稀疏编码是将信号表示为从字典中选择的原子的稀疏线性组合。我们考虑这个框架的一个扩展,其中原子被进一步假设嵌入树中。这是通过使用最近引入的树结构稀疏正则化范数实现的,该范数在一些应用中证明是有用的。这个范数导致了难以优化的正则化问题,在本文中,我们提出了有效的算法来解决这些问题。更准确地说,我们证明了与该范数相关的近端算子可以通过对偶方法精确计算,该方法可视为基本近端算子的组合。我们的程序在原子数量上具有线性或接近线性的复杂性,并允许使用加速梯度技术来解决树结构稀疏近似问题,其计算成本与使用\(l_{1}\)-范数的传统方法相同。我们的方法是有效的,并且可以优雅地扩展到数百万个变量,我们在两类应用中进行了说明:首先,我们考虑固定层次小波字典来对自然图像进行去噪。然后,我们将我们的优化工具应用于字典学习的上下文中,在字典学习中,学习的字典元素在预先指定的树状结构中自然自组织,从而在自然图像补丁的重建中获得更好的性能。当应用于文本文档时,我们的方法学习主题的层次结构,从而为概率主题模型提供了一种有竞争力的替代方案。

MSC公司:

94年12月 信号理论(表征、重建、滤波等)
68T05型 人工智能中的学习和自适应系统
94A08型 信息与通信理论中的图像处理(压缩、重建等)

软件:

BSDS公司
PDF格式BibTeX公司 XML格式引用
全文: arXiv公司 链接