张泉；周明远 置换和增广的破杆贝叶斯多项式回归。 （英语） Zbl 1473.62259号 J.马赫。学习。物件。 18（2017-2018），论文编号204，33 p.（2018）. 摘要：为了根据类别反应变量的协变量对其进行建模，我们提出了一种排列和增强的断棍结构（paSB），该结构将观察到的类别一一映射到随机排列的潜在木棍。这种新结构将多项式回归转换为对特定于粘性的二元随机变量的回归分析，这些变量因协变量依赖于粘性成功概率而相互独立，并由其相应类别的回归系数参数化。paSB结构允许将任意交叉熵损失二进制分类器转换为贝叶斯多项式分类器。具体来说，我们用一系列协变量相关的软加法函数来参数化木棒失效概率的负对数，以构造非参数贝叶斯多项式软加法回归，并将贝叶斯支持向量机（SVM）转换为贝叶斯多项SVM。这些贝叶斯多项式回归模型不仅能够属于提供概率估计，量化不确定性，增加鲁棒性，产生非线性分类决策边界，但也适用于后验模拟。示例结果表明，它们具有吸引人的特性和性能。 引用于三文件 MSC公司： 62J12型 广义线性模型（逻辑模型） 62G08号 非参数回归和分位数回归 关键词：离散选择模型；逻辑回归；非线性分类；软加回归；支持向量机 软件：ImageNet公司；LIBLINEAR银行；伦敦银行支持向量机；贝叶斯逻辑；e1071号；PMTK公司；预算支持向量机；AlexNet公司；麦克马克塞；利伯里纳 PDF格式BibTeX公司 XML格式引用 \textit{Q.Zhang}和\textit{M.Zhou}，J.Mach。学习。第18号决议，第204号论文，33页（2018年；Zbl 1473.62259） 全文： arXiv公司 链接 参考文献： [1] J.H.Albert和S.Chib。二进制和多光子响应数据的贝叶斯分析。J.Amer。统计师。协会，88（422）：669–6791993年·Zbl 0774.62031号 [2] D.M.Blei和M.I.Jordan。Dirichlet过程混合物的变分推理。贝叶斯分析，1（1）：121-1432006·兹比尔1331.62259 [3] B.E.Boser、I.M.Guyon和V.N.Vapnik。一种最优边缘分类器的训练算法。《第五届计算学习理论年度研讨会论文集》，第144-152页。ACM，1992年。 [4] C.-C.Chang和C.-J.Lin.LIBSVM：支持向量机库。ACM智能系统与技术汇刊，2:27:1-27:272011。 [5] Q.Chang、Q.Chen和X Wang。缩放高斯RBF核宽度以改进SVM分类。2005年神经网络和大脑国际会议，第1卷，第19-22页。IEEE，2005年。1http://www.dabi.temple.edu/budgetedsvm/29 [6] V.Cherkasky和Y.Ma。SVM回归中SVM参数的实际选择和噪声估计。神经网络，17（1）：113-1262004·Zbl 1075.68632号 [7] Y.Chung和D.B.Dunson。带变量选择的非参数贝叶斯条件分布建模。J.Amer。统计师。协会，104:1646–16602009年·Zbl 1205.62039号 [8] C.Cortes和V.Vapnik。支持向量网络。机器学习，20（3）：273–2971995·Zbl 0831.68098号 [9] K.Crammer和Y.Singer。关于基于多类核的向量机的算法实现。J.马赫。学习。2002年第2:265–292号决议·Zbl 1037.68110号 [10] N.克里斯蒂亚尼尼和J.肖-泰勒。支持向量机简介。剑桥大学出版社，2000年·Zbl 0994.68074号 [11] N.Djuric、L.Lan、S.Vucetic和Z.Wang。Budgetedsvm：可扩展SVM近似的工具箱。J.马赫。学习。研究，2013年，14:3813–3817·Zbl 1317.68153号 [12] D.B.Dunson和J.-H.Park，《内核破胶过程》。《生物特征》，95（2）：307–3232008·Zbl 1437.62448号 [13] 范瑞英、张国伟、谢家杰、王晓瑞和林俊杰。LIBLINEAR：大型线性分类库。J.马赫。学习。Res.，第1871–1874页，2008年·Zbl 1225.68175号 [14] T·S·弗格森。一些非参数问题的贝叶斯分析。安.统计师。，1(2): 209–230, 1973. ·Zbl 0255.62037号 [15] James M.Flegal、John Hughes和Dootika Vats。mcmcse：MCMC的蒙特卡罗标准误差。加利福尼亚州河滨市和明尼阿波利斯市，2016年。R包版本1.2-1。 [16] X.Glorit、A.Bordes和Y.Bengio。深度稀疏整流器神经网络。在AISTATS中，第315–3232011页。 [17] W.H.Greene。经济计量分析。新泽西州上萨德尔河：普伦蒂斯大厅，2003年。 [18] J.Grifin和M.Steel。基于阶的依赖狄利克雷过程。J.Amer。统计师。协会，2006年。 [19] B.Gr¨unbaum公司。凸多面体。施普林格，纽约，2013年。 [20] W.M.Hanemann。消费者需求的离散/连续模型。《计量经济学：计量经济学社会杂志》，第541-561页，1984年·Zbl 0554.90004号 [21] T.海勒普特。LiblineaR：基于LiblineaR C/C++库的线性预测模型，2015年。R包版本1.94-2。 [22] R.Henao、X.Yuan和L.Carin。贝叶斯非线性支持向量机和判别因子建模。在NIPS中，第1754-1762页，2014年。 [23] N.L.Hjort、C.Holmes、P.M¨uller和S.G.Walker。贝叶斯非参数，第28卷。剑桥大学出版社，2010年。30 ·Zbl 1192.62080号 [24] C.C.Holmes和L.Hold。二元和多项式回归的贝叶斯辅助变量模型。贝叶斯分析，1（1）：145-1682006·Zbl 1331.62142号 [25] K.Imai和D.A.van Dyk。使用边缘数据增强的多项式概率模型的贝叶斯分析。《计量经济学杂志》，124（2）：311-3342005·Zbl 1335.62049号 [26] H.Ishwaran和L.F.James。破胶前期吉布斯取样方法。J.Amer。统计师。协会，96（453），2001年·Zbl 1014.62006年 [27] A.Jasra、C.C.Holmes和D.A.Stephens。马尔可夫链蒙特卡罗方法和贝叶斯混合建模中的标签切换问题。《统计科学》，第50-67页，2005年·Zbl 1100.62032号 [28] A.Kantchelian、M.C.Tschantz、L.Huang、P.L.Bartlett、A.D.Joseph和J.D.Tygar。大型边缘凸多面体机器。在NIPS中，第3248–3256页，2014年。 [29] M.E.Khan、S.Mohamed、B.M.Marlin和K.P.Murphy。使用潜在高斯模型进行分类数据分析的坚守可能性。AISTATS，第610-618页，2012年。 [30] A.Krizhevsky、I.Sutskever和G.E.Hinton。基于深度卷积神经网络的Imagenet分类。在NIPS中，第1097-11052012页。 [31] K.Kurihara、M.Welling和Y.W.Teh。折叠变分Dirichlet过程混合模型。在IJCAI，第7卷，第2796–2801页，2007年。 [32] Y.LeCun、Y.Bengio和G.Hinton。深度学习。《自然》杂志，521（7553）：436–4442015。 [33] Y.Lee、Y.Lin和G.Wahba。多类别支持向量机：微阵列数据和卫星辐射数据分类的理论和应用。J.Amer。统计师。协会，99（465）：67-812004·Zbl 1089.62511号 [34] S·林德曼、M·约翰逊和R·P·亚当斯。相依多项式模型变得简单：通过P´olya-Gama增强实现了突破。在NIPS中，第3438–3446页，2015年。 [35] 刘传海。Robit回归：逻辑回归和概率回归的简单稳健替代方法。应用贝叶斯建模和不完全数据视角的偶然推断，第227-238页，2004年·Zbl 05274820号 [36] Y.Liu和M.Yuan。增强型多类别支持向量机。计算与图形统计杂志，20（4）：901-9192011。 [37] B.K.Mallick、D.Ghosh和M.Ghosh。利用基因表达数据对肿瘤进行贝叶斯分类。J.R.Stat.Soc:系列B，67（2）：219–2342005·Zbl 1069.62100号 [38] P.McCullagh和J.A.Nelder。广义线性模型，第37卷。CRC出版社，1989年·兹比尔074462098 [39] R.McCulloch和P.E Rossi。多项式概率模型的精确似然分析。《计量经济学杂志》，64（1）：207–240，1994年。31 [40] R.E.McCulloch、N.G.Polson和P.E.Rossi。具有完全识别参数的多项式概率模型的贝叶斯分析。《计量经济学杂志》，99（1）：173-1932000·Zbl 0958.62029号 [41] D.麦克法登。定性选择行为的条件逻辑分析。计量经济学前沿，第105–142页，1973年。 [42] D.Meyer、E.Dimitriadou、K.Hornik、A.Weingessel和F.Leich。e1071：概率理论小组统计部的其他职能（原名：e1071），TU Wien，2015年。统一资源定位地址https://CRAN.R-project.org/package=e1071。R套装版本1.6-7。 [43] K.P.墨菲。机器学习：概率的观点。麻省理工学院出版社，2012年·Zbl 1295.68003号 [44] V.Nair和G.E.Hinton。校正的线性单元改进了受限的Boltzmann机器。在ICML中，第807–814页，2010年。 [45] J.珀尔。智能系统中的概率推理：合理推理网络。Morgan Kaufmann，2014年·Zbl 0746.68089号 [46] J.皮特曼。Blackwell Macqueen骨灰盒计划的一些进展。《统计学、概率论和博弈论：纪念戴维·布莱克威尔的论文》，30:245-2671996年·Zbl 0996.60500号 [47] N.G.Polson和S.L.Scott。支持向量机的数据增强。贝叶斯分析，6（1）：1–232011·Zbl 1330.62258号 [48] N.G.Polson、J.G.Scott和J.Windle。使用P’olya–Gamma潜在变量的逻辑模型贝叶斯推断。J.Amer。统计师。协会，108（504）：1339–13492013年·Zbl 1283.62055号 [49] L.Ren、L.Du、L.Carin和D.Dunson。后勤坚守流程。J.马赫。学习。2011年12月203-239日决议·Zbl 1280.62079号 [50] A.Rodriguez和D.B.Dunson。通过probit突破过程的非参数贝叶斯模型。贝叶斯分析，6（1），2011年·Zbl 1330.62120号 [51] B.Sch–olkopf、C.J.C.Burges和A.J.Smola。核方法的进展：支持向量学习。麻省理工学院出版社，1999年。 [52] J.塞图拉曼。Dirichlet先验的构造性定义。《中国统计》，第639-650页，1994年·Zbl 0823.62007号 [53] C.Soares、P.B.Braddil和P.Kuba。支持向量回归中选择核宽度的元学习方法。机器学习，54（3）：195–2092004·Zbl 1101.68083号 [54] P.索利希。支持向量机的贝叶斯方法：证据和预测类概率。机器学习，46（1-3）：21-522002·Zbl 0998.68098号 [55] S.斯里尼瓦斯。噪声模型的推广。UAI，第208-215页，1993年。 [56] K.E.火车。模拟离散选择方法。剑桥大学出版社，2009年·Zbl 1269.62073号 [57] C.Wang、J.Paisley和D.M.Blei。分层Dirichlet过程的在线变分推理。AISTATS，2011年a。32 [58] Z.Wang、N.Djuri、K.Crammer和S.Vuacetic。可扩展性的交易代表性：用于非线性分类的自适应多超平面机。在KDD中，第24-32页，2011年b。 [59] Z.Zhang和M.I.Jordan。贝叶斯多类别支持向量机。阿联酋，2006年。 [60] 周先生。用于重叠社区检测和链接预测的无限边缘分割模型。AISTATS，第1135–1143页，2015年。 [61] 周先生。Softplus回归和凸多面体。arXiv:1608.063832016年。 [62] M.Zhou、Y.Cong和B.Chen。可增强伽马信念网络。J.马赫。学习。决议，17（163）：2016年1月44日·Zbl 1392.68373号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。