×

随机全局优化是一个滤波问题。 (英语) Zbl 1242.90148号

摘要:我们将随机全局优化问题重新表述为一个滤波问题。这种重新制定的动机来自这样一个事实,即对于许多优化问题,我们无法准确评估要优化的目标函数。同样,我们可能无法准确评估迭代优化算法中涉及的函数。例如,我们可能只能访问通过蒙特卡洛采样提供的函数或统计估计的噪声测量。这使得迭代优化算法表现得像随机映射。天真的全局优化相当于进化出这个随机映射的实现集合,并选择具有最佳特性的实现。这促使人们使用过滤技术,以便专注于比其他技术更有前途的实现。特别地,我们根据一种特殊的顺序重要性采样方法(称为粒子滤波器),提出了一种全局优化的滤波重新公式。粒子过滤器的日益普及是基于其实现的简单性和灵活性。我们利用粒子滤波器的灵活性构造了一个随机全局优化算法,该算法可以比朴素全局优化更快地收敛到最优解。给出了几个参数指数密度估计的例子,以证明该方法的有效性。

MSC公司:

90立方厘米 随机规划
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bishop,C.,《模式识别的神经网络》(1995),牛津大学出版社
[2] L.Brown,统计指数族基础,数理统计研究所,加利福尼亚州海沃德,1986年。;L.Brown,统计指数族基础,数理统计研究所,加利福尼亚州海沃德,1986年·Zbl 0685.6202号
[3] Del Moral,P.,Feynman Kac公式-谱系和相互作用粒子系统及其应用(2004),施普林格:施普林格纽约·Zbl 1130.60003号
[4] Crisan,D。;Doucet,A.,《面向从业者的粒子滤波方法收敛结果调查》,IEEE Trans。签署程序。,50, 3, 736-746 (2002) ·Zbl 1369.60015号
[5] (Doucet,A.;de Freitas,N.;Gordon,N.,《序贯蒙特卡罗方法在实践中的应用》(2001),Springer:Springer NY)·Zbl 0967.00022号
[6] 艾本,A.E。;Smith,J.E.,《进化计算导论》(2003),Springer-Verlag·Zbl 1028.68022号
[7] Gelman,A.,使用蒙特卡罗模拟的矩方法,J.Comp。图表。Stat.,4,1,36-54(1995)
[8] 新泽西州戈登。;Salmond,D.J。;Smith,A.F.M.,非线性/非高斯贝叶斯状态估计的新方法,Proc。仪表电气。工程师F,140,2107-113(1993)
[9] 霍斯特,R。;帕尔达洛斯,P.M。;Thoai,N.V.,《全球优化导论》(2000),Kluwer学术出版社·Zbl 0966.90073号
[10] Wainwright,M.J。;Jordan,M.I.,《图形模型、指数族和变分推理》,Found。趋势。机器。学习,1,12,1-305(2008)·Zbl 1193.62107号
[11] Lehmann,E.L.,《点估计理论》(1983),威利:威利纽约·Zbl 0522.62020号
[12] J Kushner,H。;Yin,G.G.,《随机逼近和递归算法及应用》(2003),Springer:Springer NY·兹比尔1026.62084
[13] LeCun,Y。;博图,L。;奥尔·G。;Muller,K.,《高效反向推进器》(Efficient BackProp),(Orr,G.;Muller(K.),《神经网络:交易技巧》(Neural Networks:Tricks of the trade,1998),施普林格出版社)
[14] Liu,J.S.,科学计算中的蒙特卡罗策略(2001),Springer:Springer NY·Zbl 0991.65001号
[15] Nocedal,J。;Wright,S.J.,数值优化(2006),Springer:Springer NY·Zbl 1104.65059号
[16] Papadimitriou,C.H。;Steiglitz,K.,《组合优化:算法与复杂性》(1982),Prentice Hall:Prentice Hall Englewood Cliffs,NJ·Zbl 0503.90060号
[17] Stinis,P.,指数密度估计和重整化的最大似然算法,J.Compute。物理。,208, 691-703 (2005) ·Zbl 1075.65017号
[18] Zhigljavsky,A。;Zilinskas,A.,《随机全局优化》(2008),Springer:Springer NY·Zbl 1136.90003号
[19] E.Zhou,M.C.Fu,S.I.Marcus,随机优化算法的粒子滤波框架,收录于:S.J.Mason,R.R.Hill,L.Mönch,O.Rose,T.Jefferson,J.W.Fowler(编辑),IEEE 2008年冬季模拟会议论文集,第647-654页。;E.Zhou,M.C.Fu,S.I.Marcus,随机优化算法的粒子滤波框架,收录于:S.J.Mason,R.R.Hill,L.Mönch,O.Rose,T.Jefferson,J.W.Fowler(编辑),IEEE 2008年冬季模拟会议论文集,第647-654页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。