×
拉多斯拉夫·哈曼;伦卡·菲洛娃;彼得·里奇塔里克

计算最佳近似实验设计的随机交换算法。 （英语） Zbl 1437.62299号

美国统计协会。 115，编号529，348-361（2020）.
摘要：我们提出了一类用于计算最优近似设计的子空间提升方法，该方法涵盖了现有算法以及新的更有效的算法。在这类方法中，我们构造了一个简单的随机交换算法（REX）。数值比较表明，在广泛的问题结构和规模中，REX的性能与最新方法相当或优于最新方法。我们将重点放在最常用的（D）-最优性准则上，该准则在实验设计之外也有应用，例如构造包含给定数据点集的最小体积椭球体。对于（D）-最优性，我们证明了所提出的算法收敛到最优性。我们还提供了在（A）-最优准则下的最优权重交换公式，使人们能够使用REX和其他一些算法来计算（A）最优和（I）-最优设计。

引用于10文件

理学硕士：

62K05美元 最佳统计设计
68T20型 人工智能背景下的问题解决（启发式、搜索策略等）
62-04 统计相关问题的软件、源代码等
62J05型 线性回归；混合模型

关键词：

\（A\）-最优性;凸优化;\（D\）-最优性;\（I）-最优性;最小体积封闭椭球;实验的最佳近似设计

软件：

R（右）
PDF格式BibTeX公司 XML格式引用
\textit{R.Harman}et al.，J.Am.Stat.Assoc.115，No.529，348--361（2020；Zbl 1437.62299）
全文： 内政部 arXiv公司

参考文献：

[1] Ahipasaoglu，S.D.，“A-最优实验设计问题的一阶算法：数学规划方法”，《统计与计算》，25，1113-1127（2015）·Zbl 1331.62379号
[2] Ahipasaoglu，S.D.，“最小体积估计器的快速算法”，《全球优化杂志》，62351-370（2015）·Zbl 1325.90085
[3] 阿特金森。；顿涅夫，A.N。；托拜厄斯，R.D.，《最佳实验设计》，《SAS》（2007），牛津：牛津大学出版社，牛津·Zbl 1183.62129号
[4] Atwood，C.L.，“序列收敛到实验的D最优设计”，《统计学年鉴》，1342-352（1973）·Zbl 0263.62047号 ·doi:10.1214/aos/1176342371
[5] Böhning，D.，“D-最优设计理论中的顶点交换方法”，Metrika，33337-347（1986）·Zbl 0601.62091号 ·doi:10.1007/BF01894766
[6] 德卡斯特罗，Y。；Gamboa，F。；亨利安，D。；赫斯·R。；Lasserre，J.B.，“多元多项式回归的近似最优设计”，《统计年鉴》，47127-155（2019）·Zbl 1417.62219号 ·doi:10.1214/18-AOS1683
[7] Chambolle，A.、Ehrhardt，M.J.、Richtárik，P.和Schönlieb，C.B.（2017），“具有任意采样和成像应用的随机原始-双重混合梯度算法”，arXiv:1706.04957，1-25·Zbl 06951767号
[8] 库泽，R。；Haines，L.，“组分线性约束混合实验的D-和I-最优设计的构建”，化学计量学和智能实验室系统，171112-124（2017）·doi:10.1016/j.实验室2017.10.007
[9] 库克·R·D。；Nachtsheim，C.J.，“模型稳健，线性优化设计”，《技术计量学》，24，49-54（1982）·Zbl 0483.62063号 ·doi:10.1080/00401706.1982.10487708
[10] Cornell，J.A.，《混合物实验：设计、模型和混合物数据分析》，403（2011），纽约：威利
[11] Csiba，D.和Richtárik，P.（2017），“广义Polyak-Lojasiewicz函数任意块梯度方法的全局收敛性”，arXiv预印本arXiv:1709.03014。
[12] Dette，H。；佩佩利舍夫，A。；Zhigljavsky，A.，“改进计算D-最优设计的乘法算法中的更新规则”，计算统计与数据分析，53，312-320（2008）·Zbl 1231.62141号 ·doi:10.1016/j.csda.2008.10.02
[13] 费多罗夫，V.V.，《最佳实验理论》（1972），纽约：学术出版社，纽约
[14] 费多罗夫，V.V。；Hackl，P.，面向模型的实验设计，125（2012），纽约：Springer Science&Business Media，纽约·兹比尔0878.62052
[15] 费尔科克，O。；Richtárik，P.，“加速、平行和PROXimal坐标下降”，《SIAM优化杂志》，1997-2023年第25期（2015年）·Zbl 1327.65108号 ·数字对象标识代码：10.1137/130949993
[16] 加夫克，N。；Schwabe，R.，“最优近似线性回归设计的拟牛顿算法：矩阵空间中的优化”，《统计规划与推理杂志》，198，62-78（2019）·Zbl 1394.62102号 ·doi:10.1016/j.jspi.2018.03.005
[17] 古斯，P。；琼斯，B。；Syafitri，U.，“混合物实验的I-最优设计”，《美国统计协会杂志》，111899-911（2016）·doi:10.1080/01621459.2015.1136632
[18] Gower，R.M。；Richtárik，P.，“线性系统的随机迭代方法”，SIAM矩阵分析与应用杂志，36，1660-1690（2015）·Zbl 1342.65110号 ·doi:10.1137/15M1025487
[19] Gürbüzbalaban，M.，Ozdaglar，A.，and Parrilo，P.（2015），“为什么随机重组击败随机梯度下降”，arXiv预印本arXiv:1510.08560。
[20] Harman，R.，“计算实验D最优分层设计的乘法方法”，《统计规划与推断杂志》，146，82-94（2014）·Zbl 1279.62152号 ·doi:10.1016/j.jspi.2013.10.03
[21] 哈曼，R。；Pronzato，L.，“D-最优设计算法中移除非最优支持点的改进”，《统计与概率快报》，77，90-94（2007）·Zbl 1106.62080号 ·doi:10.1016/j.spl.2006.05.014
[22] 贾吉，M。；V·史密斯。；塔卡奇，M。；Terhorst，J。；Krishnan，S。；霍夫曼，T。；M.I.乔丹。；加赫拉马尼，Z。；韦林，M。；科尔特斯，C。；劳伦斯，N.D。；Weinberger，K.Q.，《神经信息处理系统的进展》，“通信高效分布式双坐标提升”，3068-3076（2014），纽约州红钩市：科伦联合公司，纽约州红钩市
[23] 科内钦，J。；刘杰。；里奇塔里克，P。；Takáć，M.，“近距离设置中的小批量半随机梯度下降”，IEEE信号处理选定主题期刊，10，242-255（2016）·doi:10.1109/JSTSP.2015.2505682
[24] Lee，Y.T。；Sidford，A.，“求解线性系统的高效加速坐标下降方法和快速算法”，IEEE第54届计算机科学基础年会（2010）
[25] Leventhal，D。；Lewis，A.S.，“线性约束的随机方法：收敛速度和条件”，《运筹学数学》，35，641-654（2010）·Zbl 1216.15006号 ·doi:10.1287/摩尔.1100.0456
[26] 曼达尔，A。；Wong，W.K。；Yu，Y。；院长，A。；莫里斯，M。；Stufken，J。；Bingham，D.，《实验设计与分析手册》，“优化设计的算法搜索”，755-783（2015），佛罗里达州博卡拉顿：CRC出版社，佛罗里达州博卡拉顿·Zbl 1327.62001
[27] 莫尔恰诺夫，I。；Zuyev，S.，“度量空间中的最速下降算法”，统计与计算，1215-123（2002）·doi:10.1023/A:1014878317736
[28] Myers，R.H。；蒙哥马利特区。；Anderson-Cook，C.M.，《响应面方法：使用设计实验优化工艺和产品》（2016），新泽西州霍博肯：新泽西州霍博肯John Wiley&Sons·Zbl 1332.62004号
[29] Necoara，I.、Nesterov，Y.和Glineur，F.（2011），“线性约束大型优化问题的随机坐标下降法”，手稿·Zbl 1370.90145号
[30] Nesterov，Y.，“坐标下降法在大规模优化问题上的效率”，SIAM优化杂志，22，341-362（2012）·Zbl 1257.90073号 ·数字对象标识代码：10.1137/100802001
[31] Pázman，A.，《最佳实验设计基础》（1986），多德雷赫特：雷德尔·Zbl 0588.62117号
[32] Platt，J.，《序列最小优化：训练支持向量机的快速算法》，手稿（1998年）
[33] Pronzato，L.，“Kiefer’s（####）-标准类最优设计支持的界定”，《统计与概率快报》，83，2721-2728（2013）·Zbl 1463.62229号 ·doi:10.1016/j.spl.2013.09.009
[34] Pronzato，L。；Pázman，A.，非线性模型实验设计，212（2013），Springer·Zbl 1275.62026号
[35] Pronzato，L。；Zhigljavsky，A.A.，“凹和可微标准紧集上最优设计的算法构造”，《统计规划与推断杂志》，154141-155（2014）·Zbl 1297.62175号 ·doi:10.1016/j.jspi.2014.04.005
[36] Pukelsheim，F.，“实验的优化设计（应用数学经典）”，（2006），宾夕法尼亚州费城：工业和应用数学学会，宾夕法尼亚州，费城·Zbl 1101.62063号
[37] 曲，Z。；里奇塔里克，P。；张，T。；科尔特斯，C。；劳伦斯，N.D。；Lee，D.D。；杉山，M。；Garnett，R.，《神经信息处理系统的进展》，《石英：随机双坐标任意采样上升》，865-873（2015），纽约州红钩：Curran Associates，Inc，纽约州红钩
[38] R核心团队，R：统计计算的语言和环境（2016），奥地利维也纳：R统计计算基金会，奥地利维也纳
[39] 里奇塔里克，P。；Takáč，M.，“大数据优化的并行坐标下降方法”，《数学规划》，144433-484（2016）·Zbl 1342.90102号 ·doi:10.1007/s10107-015-0901-6
[40] 里奇塔里克，P。；Takáč，M.，“大数据学习的分布式坐标下降方法”，机器学习研究杂志，17，1-25（2016）·Zbl 1360.68709号
[41] Sagnol，G.，“多响应实验的计算优化设计简化为二阶锥规划”，《统计规划与推断杂志》，1211684-1708（2011）·兹比尔1207.62156 ·doi:10.1016/j.jspi.2010.11.031
[42] 萨格诺，G。；Harman，R.，“通过混合整数二阶锥规划计算精确D-最优设计”，《统计年鉴》，432198-2224（2015）·Zbl 1331.62384号 ·doi:10.1214/15-AOS1339
[43] Silvey，S.D。；Titterington，D.H。；Torsney，B.，“设计空间上优化设计的算法”，《统计学中的通信——理论和方法》，第7期，第1379-1389页（1978年）·Zbl 0389.62061号 ·doi:10.1080/03610927808827719
[44] 沙列夫·施瓦茨，S。；Zhang，T.，“正则化损失最小化的随机双坐标上升法”，《机器学习研究杂志》，14，567-599（2013）·Zbl 1307.68073号
[45] Sun，R.和Ye，Y.（2016），“循环坐标下降的最坏情况复杂性：随机版本的差距”，arXiv:1604.07130，第1-39页。
[46] 蒂亚潘，K。；Theera-Umpon，N。；Auephanwiriyakul，S.，“椭球支持向量数据描述”，神经计算与应用，28，337-347（2017）·doi:10.1007/s00521-016-2343-3
[47] Titterington，D.M.，“优化设计：D-优化的一些几何方面”，《生物统计学》，62313-320（1975）·Zbl 0308.62072号 ·doi:10.1093/biomet/62.2.313
[48] Titterington，D.M.，“通过椭球修剪估算相关系数”，应用统计学，27，227-234（1978）·Zbl 0436.62062号
[49] Todd，M.J.，“最小体积椭球体：理论和算法”（2016），宾夕法尼亚州费城：工业和应用数学学会，宾夕法尼亚州，费城·Zbl 1360.90006号
[50] 托德，M.J。；Yildirim，E.A.，“关于Khachiyan计算最小体积封闭椭球体的算法”，《离散应用数学》，1551731-1744（2007）·Zbl 1151.90516号 ·doi:10.1016/j.dam.2007.02.013
[51] 托斯尼，B。；马丁·马丁·R，“计算最优设计的乘法算法”，《统计规划与推断杂志》，1393947-3961（2009）·Zbl 1190.62138号 ·doi:10.1016/j.jspi.2009.05.007
[52] 尤西·滑雪。；Patan，M.，“分布式系统参数估计监测网络的D最优设计”，《全球优化杂志》，39291-322（2007）·Zbl 1180.90173号 ·doi:10.1007/s10898-007-9139-z
[53] 杨，M。；比德曼，S。；Tang，E.，“关于非线性模型的优化设计：一种通用且有效的算法”，《美国统计协会杂志》，1081411-1420（2013）·Zbl 1283.62161号 ·doi:10.1080/01621459.2013.806268
[54] Yu，Y.，“计算最优设计的一般算法的单调收敛性”，《统计学年鉴》，381593-1606（2010）·Zbl 1189.62125号 ·doi:10.1214/09-AOS761
[55] Yu，Y.，“通过鸡尾酒算法进行D-最优设计”，《统计与计算》，21，475-481（2011）·Zbl 1270.62107号
[56] Van Aelst，S。；Rousseeuw，P.，“最小体积椭球”，《威利跨学科评论：计算统计学》，第171-82页（2009年）·doi:10.1002/wics.19
[57] 范登伯格，L。；博伊德，S。；Wu，S.，“线性矩阵不等式约束下的行列式最大化”，SIAM矩阵分析杂志，19499-533（1998）·Zbl 0959.90039号 ·doi:10.1137/S0895479896303430
[58] Wynn，H.P.，“D最优实验设计的顺序生成”，《数理统计年鉴》，411655-1664（1970）·Zbl 0224.62038号 ·doi:10.1214/aoms/1177696809
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。