布莱斯:高性能概率的工具包推断
基思·博纳维茨(Keith Bonawitz)、维卡什·曼辛卡(Vikash Mansinghka)和博·克罗宁(Beau Cronin)
愿景
Blaise是一个用于实现高性能概率推理的工具包Java语言。Blaise提供了算法的高效实现和概率计算的表示原语推理,以及支持简单增量的合成方法开发高性能算法。最后,Blaise被设计允许使用复杂的可视化进行轻松的交互式开发工具,以便您可以在开发和在生产执行期间不牺牲性能的情况下进行调试。
Blaise的开发最近专注于随机搜索过程,如马尔可夫链蒙特卡罗(MCMC)和序列蒙特卡罗(粒子滤波)。其他几个功能即将推出添加了,例如多核处理器的自动并行化和基于变分方法的聚类计算和推理方案和消息传递。
使用中的布莱斯
布莱斯曾在NIPS 2006[1,2]以及各种论坛上发表演讲麻省理工学院周围。演示文稿包括现场编码演示,并显示对社区的兴趣。此外,还有几个研究项目目前正在使用Blaise或正在讨论迁移到Blaise。例如,NIPS 2006从关系数据学习带注释的层次结构[3]使用Blaise实现。克罗宁目前正在实施Matlab工具箱,构建在Blaise上,用于对许多类型的神经生理学数据使用层次化、生成性模型。该工具箱的早期版本已成功应用于神经元在视觉神经科学的几个实验范式下收集的记录,这项工作目前正在审查中。最后,博纳维茨和曼辛加一直在使用Blaise执行不同于GenVis的任务,GenVis是一种计算工具视觉项目专注于直接反转基于3D-graphics的生成使用平行回火可逆跳跃MCMC的图像模型粒子滤波和MCMC在非参数推理中的新杂交关系模型,如无限关系模型[4]和CrossCat[5].
贡献
布莱斯在三个方面代表了新技术。首先,做到最好据我们所知,它是唯一一个集成高级推理系统的以完全通用的方式随机搜索原语。例如,每个基于此工具包构建的MCMC搜索可以受益于高级技术比如在保持效率的同时进行平行回火没有其他代码。其次,Blaise为开发提供了原语相比之下,结构化概率域上的推理算法到现有的工具包,这些工具包要么强调对连续参数的推断或者从结构上来说,在贝叶斯网中是自顶向下的。例如,其他工具箱无法轻松构建通用结构化推理方案模型(例如LDA族的折叠Gibbs或Hierarchical的GibbsDirichlet加工混合物)。最后,原语在Blaise中强调了各种非常不同的推理策略。此体系结构支持创建新的混合推理算法,如使用高级MCMC变分推理目标函数的优化技术。
参考文献:
[1] 基思·博纳维茨(Keith Bonawitz)和维卡什·曼辛加(Vikash Mansinghka)。布莱斯:一个交互式系统高性能推理算法的发展.演示在神经信息处理系统会议、温哥华、,加拿大不列颠哥伦比亚省,2006年12月4日。
[2] 基思·博纳维茨(Keith Bonawitz)和维卡什·曼辛加(Vikash Mansinghka)。布莱斯:高性能工具包概率推理。在车间机器学习开源软件2006,在神经信息处理系统会议研讨会,不列颠哥伦比亚省惠斯勒,加拿大,12月9, 2006.
[3] 丹尼尔·罗伊(Daniel M.Roy)、查尔斯·坎普(Charles Kemp)、维卡什·曼辛卡(Vikash Mansinghka)和约书亚·特南鲍姆(Joshua B.Tenenbaum)。从关系数据学习注释层次结构。在预付款神经信息处理系统19.Whistler,B.C,12月2006
[4] Charles Kemp、Joshua B.Tenenbaum、Thomas L.Griffiths、Takeshi Yamada、,和内奥诺里·尤达。具有无限关系的概念学习系统模型。在第二十届全国代表大会会议记录人工智能(AAAI'06)。马萨诸塞州波士顿,2006年7月。
[5] Patrick Shafto、Charles Kemp、Vikash Mansinghka和Joshua B.Tenenbaum。学习类别的交叉系统。在会议记录认知科学学会第二十八届年会. 加拿大不列颠哥伦比亚省温哥华市。2006年7月。
|