Graphical Models, Exponential Families, and Variational Inference

Martin J. Wainwright; Michael I. Jordan

doi:10.1561/2200000001

图形模型、指数族和变分推理

由 马丁·温赖特美国加利福尼亚大学统计系、电气工程与计算机科学系，wainwrig@stat.berkeley.edu|迈克尔·乔丹美国加利福尼亚大学统计系、电气工程与计算机科学系，jordan@stat.berkeley.edu

建议引用

Martin J.Wainwright和Michael I.Jordan（2008），“图形模型、指数族和变分推理”，机器学习中的基础和趋势®：第1卷：第1-2期，第1-305页。http://dx.doi.org/10.1561/220000001

出版日期：2008年11月18日

学科

图形模型

日记帐详细信息

登录以下载免费副本

在本文中：

摘要

概率图形模型的形式化为捕获随机变量之间的复杂依赖关系和构建大规模多元统计模型提供了一个统一的框架。图形模型已经成为许多统计、计算和数学领域的研究热点，包括生物信息学、通信理论、统计物理、组合优化、信号和图像处理、信息检索和统计机器学习。在特定情况下出现的许多问题，包括计算边际和概率分布模式的关键问题，最好在一般环境中进行研究。利用指数族表示，并利用指数族的累积函数和熵之间的共轭对偶性，我们发展了计算可能性、边际概率和最可能配置问题的一般变分表示。我们描述了如何根据这些变分表示的精确或近似形式来理解各种各样的算法，其中包括求和法、簇变分法、期望传播法、平均场法、最大乘积法和线性规划松弛法以及圆锥规划松弛法。变分法为马尔可夫链蒙特卡罗提供了一个补充方案，作为大规模统计模型中推断的近似方法的一般来源。

DOI（操作界面）：10.1561/2200000001

书本详细信息

国际标准图书编号：978-1-60198-184-4

312页125.00美元

购买书籍（pb）

国际标准图书编号：978-1-60198-185-1

312页200.00美元

购买电子书（.pdf）

目录：

1：引言

2：背景

3：指数族图形模型

4:Sum产品、Bethe-Kikuchi和期望传播

5：平均场法

6：参数估计中的变分方法

7：凸松弛和上界

8：最大生产和低压松弛

9：矩矩阵和二次曲线松弛

10：讨论

A：背景材料

B：指数族和对偶性的证明

C：多元高斯函数的变分原理

D：聚类和增广超图

E：其他结果

工具书类

图形模型、指数族和变分推理

概率图形模型的形式主义为捕捉随机变量之间的复杂依赖关系和构建大规模多变量统计模型提供了一个统一的框架。图形模型已经成为许多统计、计算和数学领域的研究热点，包括生物信息学、通信理论、统计物理、组合优化、信号和图像处理、信息检索和统计机器学习。在特定情况下出现的许多问题，包括计算边缘和概率分布模式的关键问题，最好在一般环境中进行研究。利用指数族表示，并利用指数族、图形模型、指数族和变分推理的累积函数和熵之间的共轭对偶性，发展了计算可能性问题的一般变分表示，边际概率和最可能的配置。它描述了如何根据这些变分表示的精确或近似形式来理解各种各样的算法，其中包括求和法、簇变分法、期望传播法、平均场法和最大传播法。变分方法为马尔可夫链蒙特卡罗提供了一种互补的替代方法，作为大规模统计模型中推理的近似方法的一般来源。

1引言
2背景
3指数族图形模型
4 Sum-Product、Bethe–Kikuchi和Expectation-Propagation
5平均场方法
6参数估计中的变分方法
7凸松弛和上界
8整数规划、最大乘积和线性规划松弛
9矩矩阵、半定约束和二次规划松弛
10讨论
致谢
A背景材料
B证明与辅助结果：指数族与对偶
多元高斯的C变分原理
D聚类与增广超图
E其他结果
工具书类

图形模型、指数族和变分推理

免费预览：

分享

日记帐详细信息

摘要

书本详细信息

图形模型、指数族和变分推理