×

线性最小二乘中Tikhonov正则化的随机算法。 arXiv:2203.07329

预印本,arXiv:2203.07329[math.NA](2022)。
总结:我们描述了两种基于草图的有效求解正则化线性最小二乘系统的算法。这些算法为\(最小Ax-b\ |^2_2+\lambda\ |x\ |^2_2)计算预条件,其中\(A\in\mathbb{R}^{m\次n})和\(lambda>0)是正则化参数,这样LSQR在\(mathcal{O}(\log(1/\epsilon)))迭代中收敛,以获得\(\epsiron\)精度。我们将重点放在最优正则化参数未知的情况下,系统必须求解多个参数\(\lambda \)。我们的算法适用于欠定(m\lln)和超定(m\ ggn)设置。首先,我们提出了一种基于Cholesky的草图修复算法,该算法使用“部分精确”草图,并且对于一组(N)正则化参数(lambda)只需要一个草图。求解\(N\)参数的复杂度为\(\mathcal{O}(mn\log(\max(m,N))+N(\main(m,N)^3+mn\log(1/\epsilon)))。其次,我们介绍了一种使用大小为\(\mathcal{O}(\text)的草图的算法{sd}_{\lambda}(A))){sd}_{\lambda}(A)\ll\min(m,n)\)。我们提出的方案不需要计算Gram矩阵,因此在这种情况下比现有算法更稳定。我们可以求解(mathcal{O}(mn\log(max(m,N)))+min(m,N)中的(lambda_i)的值{sd}_{\min\lambda_i}(A)^2+Nmn\log(1/\epsilon))操作。

MSC公司:

65F08个 迭代方法的前置条件
65层22 数值线性代数中的病态性和正则化问题
68瓦20 随机算法
BibTeX公司 引用
全文: arXiv公司
arXiv数据来自arXiv OAI-PMH API.如果你发现了错误,请直接向arXiv报告.