跳到主要内容

分裂DC程序的分裂近似线性化算法及收敛定理

摘要

本文利用分裂近似线性化算法研究分裂DC程序。进一步,在适当的条件下,建立了该算法的线性收敛定理。作为应用,我们首先研究了DC程序(DCP)。最后,我们给出了所提收敛结果的数值结果。

1介绍

首先,我们回顾凸函数的最小化问题:

$$\text{Find}\bar{x}\in\operatorname{arg}\min\bigl\{f(x):x\inH\bigr\}$$
(MP1)

哪里H(H)是一个真正的希尔伯特空间\(f:H\右箭头(-\infty,\infty]\)是一个适当的下半连续凸函数。这是一个具有许多应用的经典凸极小化问题。为了研究这个问题,Martinet[11]介绍了近点算法

$$x_{n+1}=\operatorname{arg}\min_{y\ in H}\biggl\{f(y)+\frac{1}{2\beta_{n}}\Vert-y-x_{n}\Vert^{2}\bigr\},\quad n\in\mathbb{n}$$
(PPA)

并证明了这一点\({x_{n}\}_{n\in\mathbb{n}}\)弱收敛到最小值(f)在适当的条件下。然而,该算法仅适用于凸问题,因为该算法的思想是基于凸函数次微分算子的单调性。因此,考虑非凸问题和近点算法之间的关系是很重要的。

以下是一个众所周知的非凸问题,称为DC程序:

$$\text{Find}\bar{x}\in\operatorname{arg}\min_{x\in\mathbb{R}^{n}}\bigl\{f(x)=g(x)-h(x)\bigr\}$$
(DCP)

哪里\(g,h:\mathbb{R}^{n}\rightarrow\mathbb{R}\)是适当的下半连续凸函数。这里是函数(f)称为DC函数,函数小时被称为(f)在DC程序中,约定\((+\输入)-(+\输出)=+\输入已被采用以避免歧义\((+\输入)-(+\输出)这不引起任何兴趣。众所周知\(x\in\operatorname{dom}(f):=\{x\in\ mathbb{R}^{n}:f(x)<\infty\}\)成为本地最小值(f)\(\部分h(x)\子结构\部分g(x)),其中\(\部分g(x)\)\(\部分h(x)\)是的次微分小时分别(参见定义2.4). 但这个条件很难达到。因此,许多研究人员将注意力集中在寻找这样的点上\(\partial h(x)\cap\ partial g(x)\neq\空集\),其中x个称为临界点(f)[8].

值得一提的是DC函数类的丰富性,它是一个包含较低类的子空间-\(\mathcal{C}^{2}\)功能。特别地,\(\mathcal{DC}(\mathbb{R}^{n})\)包含空间\(\mathcal{C}^{1,1}\)梯度是局部Lipschitz连续的函数。此外,\(\mathcal{DC}(\mathbb{R}^{n})\)在优化中通常考虑的操作下是闭合的。例如,线性组合、有限上确界或两个DC函数的乘积仍然是DC。众所周知直流在紧凸集上定义的函数\(\mathbb{R}^{n}\)在这个集合上的连续函数集中是稠密的。

我们还观察到,在过去几年中,人们对DC函数理论的兴趣大大增加。给出了与DC程序相关的一些有趣的最优性条件和对偶定理(例如,参见[6,7,14]). 提出了一些DC程序的算法来分析和解决各种高度结构化的实际问题(例如,请参阅[13]).

2003年,Sun、Sampaio和Candido[16]给出了以下算法来研究问题(DCP公司).

算法1.1

(接近点算法(DCP公司) [16])

\({\beta_{n}\}_{n\in\mathbb{n}}\)成为一个序列\((0,\infty)\),并让\(g,h:\mathbb{R}^{k}\rightarrow\mathbb{R}\)是适当的下半连续凸函数。\({x_{n}\}_{n\in\mathbb{n}}\)由生成

H_{1}中的$$\textstyle\begin{cases}x{1}\quad\text{被任意选择},部分H(x{n})中的计算}w{n}\text{和集合}y_{n}=x{n{+beta_{n} w个_{n} ,\\x_{n+1}:=(I+\beta_{n}\partial g)^{-1}(y_{n{),四边形n\in\mathbb{n},\\text{stop条件:}x_{n+1}=x_{n}。\结束{cases}$$

2016年,Souza、Oliveira和Soubeyran[15]给出了以下算法来研究DC程序。

算法1.2

(近似线性化算法(DCP公司) [15])

\({\beta_{n}\}_{n\in\mathbb{n}}\)成为一个序列\((0,\infty)\),并让\(g,h:\mathbb{R}^{k}\rightarrow\mathbb{R}\)是适当的下半连续凸函数。\({x_{n}\}_{n\in\mathbb{n}}\)由生成

H_{1}中的$$\textstyle\begin{cases}x{1}\quad\text{被任意选择},部分H(x{n})中的计算}w{n}\x{n+1}:=\operatorname{arg}\min{u\H_{1}\{g(u)+\frac{1}{2\beta{n}}\Vertu-x{n{n}\垂直^{2}-语言w{n},u-x{n}\rangle},四元n\in\mathbb{n},文本{stop准则:}x{n+1}=x{nneneneep。\结束{cases}$$

事实上,如果小时是可微的,则可简化为以下内容:

H_{1}\quad\text{中的$$\textstyle\begin{cases}x{1}\被任意选择},\\x{n+1}:=\operatorname{arg}\min_{u\在H_{1'}\{g(u)+\frac{1}{2\beta{n}}\Vertu-x{n}\Vert^{2}-langle\nabla h(x_{n}),u-x_{n}rangle,quad n in mathbb{n}\文本{停止条件:}x{n+1}=x{n}。\结束{cases}$$

此外,Souza、Oliveira和Soubeyran[15]给出了以下问题的收敛定理(DCP公司).

定理1.1

([15,定理3])

\(g,h:\mathbb{R}^{k}\rightarrow\mathbb{R}\cup\{+\infty\}\) 得体,下半连续,和凸函数, \(g-h\) 从下面限定.假设 ρ-强凸,小时 是可微的, \(纳布拉h(x)) L(左)-利普希茨连续. \({\beta_{n}\}_{n\in\mathbb{n}}\) 是一个有界序列 \(\liminf_{n\rightarrow\infty}\beta_{n}>0\). \({x_{n}\}_{n\in\mathbb{n}}\) 由算法生成 1.2.如果 \(\rho>2L\),然后 \({x_{n}\}_{n}in\mathbb{n}}\) 线性收敛到临界点 问题的(DCP公司).

在本文中,我们想研究拆分DC程序:

在H_1}\text{中$$\text{Find}\bar{x}\,这样在H_1{1}}f_1}(x)\text{and}A\bar{x}\in\operatorname{arg}\min_x\在H_2}}f_2}(y)$$
(SDCP)

哪里\(H_{1}\)\(H_{2}\)是真实的希尔伯特空间,\(A:H_{1}\右箭头H_{2}\)是带伴随算子的非零线性有界映射\(^{*}\),\(g{1},h{1}:h_{1}\rightarrow\mathbb{R}\)是适当的下半连续凸函数,并且\(g{2},h{2}:h{2}\rightarrow\mathbb{R}\)是适当的下半连续凸函数,并且\(f_{1}(x)=g_{1}(x)-h{1}(x)\)为所有人\(x\在H_{1}\中)、和\(f(2)}(y)=g(2)为所有人\(y\在H_{2}\中).

显然(SDCP公司)是问题的概括(DCP公司). 的确,如果\(H_{1}=H_{2}=\mathbb{R}^{n}\),\(A:\mathbb{R}^{n}\rightarrow\mathbb{R}^{n{)是身份映射,\(g{1}=g{2}\)、和\(h{1}=h{2}\),然后是问题(SDCP公司)变成了问题(DCP公司).

如果\(h{1}(x)=0\)\(h{2}(y)=0\)为所有人\(x\在H_{1}\中)\(y\在H_{2}\中),那么(SDCP公司)简化为分裂最小化问题(脱脂奶粉)对于凸函数:

$$\begin{aligned}和\mbox{Find}\bar{x}\ in H_{1}\mbox{这样}g{1}(\bar{x})=\min_{u\ in H_(1})}g_{1{(u)\mbox}和}g_2}(A\bar{x})=\min__{v\ in H_2}}}g_2}(v),\end{alinged}$$
(SMP)

哪里\(H_{1}\)\(H_{2}\)是真实的希尔伯特空间,\(A:H_{1}\右箭头H_{2}\)是带伴随的线性有界映射\(^{*}\),\(g{1}:H_{1}\rightarrow\mathbb{R}\)\(g{2}:H_{2}\rightarrow\mathbb{R}\)是真函数、下半连续函数和凸函数。例如,可以看到[4]以及相关参考文献。

如果\(H{1}=H{2}=H\)\(A:H\右箭头H\)是身份映射,然后是问题(脱脂奶粉)被简化为凸函数的常见最小化问题:

$$\begin{aligned}和\mbox{Find}\bar{x}\ in H\mbox},这样}g{1}(\bar{x})=\min_{u\ in H}g{1'(u)\mbox{和}g{2}(\ bar{x{)=\ min_{v\ in H{g{2{(v),\end{alinged}$$
(CMP)

哪里H(H)是一个真正的希尔伯特空间,\(g_{1},g_{2}:H\rightarrow\mathbb{R}\)是真函数、下半连续函数和凸函数。此外,如果问题的解决方案集(化学机械抛光)不是空的,那么问题就来了(化学机械抛光)相当于以下问题:

$$\在H\mbox{中开始{aligned}&\mbox}查找}\bar{x}\,这样}g{1}(\bar{x})+g{2}$$
(MP2)

哪里H(H)是一个真正的希尔伯特空间,\(g_{1},g_{2}:H\rightarrow\mathbb{R}\)是真函数、下半连续函数和凸函数。这个问题众所周知,并且有许多重要的应用,包括多分辨率稀疏正则化、傅里叶正则化、硬约束不一致可行性以及交替投影信号合成问题。例如,可以参考[5,9]以及相关参考文献。

另一方面,Moudafi[12]引入了分裂变分包含问题,这是问题的推广(脱脂奶粉):

$$\开始{aligned}&\mbox{Find}\bar{x}\在H_{1}\mbox}中,这样}0_{H_1}\在B_{1{(\bar{x})中}0_H2}}\和}0_H_2}在B_}(A\bar{x}),\end{aligned}$$
(SVIP)

哪里\(H_{1}\)\(H_{2}\)是真实的希尔伯特空间,\(B_{1}:H_{1{\多重映射H_{1\)\(B_{2}:H_{2{\多重映射H_{2]\)是集值极大单调映射,\(A:H_{1}\右箭头H_{2}\)是线性有界运算符,并且\(^{*}\)是的伴随词A类.给,\(0_{H_{1}}\)\(0_{H{2}}\)是实希尔伯特空间的零元素\(H_{1}\)\(H_{2}\)分别为。研究问题(SVIP公司),Byrne等人[]在无限维希尔伯特空间中给出了以下算法和相关的收敛定理。

定理1.2

([])

\(H_{1}\) \(H_{2}\) 是实希尔伯特空间,\(A:H_{1}\右箭头H_{2}\) 是非零线性有界算子, \(^{*}\) 表示的伴随算子 A类. \(B_{1}:H_{1}\多映射H_{1}\) \(B_{2}:H_{2{\多重映射H_{2]\) 被设置-值极大单调映射,\(测试版>0), \(\gamma\ in(0,\frac{2}{\VertA\Vert^{2}})\). Ω 是解决方案集(SVIP公司),假设是这样 \(\varOmega\neq\emptyset\). \({x_{n}\}_{n\in\mathbb{n}}\) 由定义

$$x_{n+1}:=J_{\beta}^{B_{1}}\bigl[x_{无}-\γA^{*}\bigl(I-J_{beta}^{B_{2}}\bigr)Ax_{n}\biger],\quad n\in\mathbb{n}$$

然后 \({x{n}) 弱收敛到元素 \(\bar{x}\in\varOmega\).

如果\(B_{1}=\部分g_{1{)\(B_{2}=\部分g_{2}\)(的次微分\(g{i}\),\(i=1,2)),然后是定理给出的算法1.2简化为以下算法:

$$\textstyle\begin{cases}y_{n}=\operatorname{arg}\min_{z\inH_{2}}\{g(z)+\frac{1}{2\beta{n}}\Vertz-Ax{n}\Vert ^{2}\},\\z_{n{}=x_{无}-\γA^{*}(Ax_{n} -年_{n} ),\\x_{n+1}=\operatorname{arg}\min_{y\in H_{1}}\{g(y)+\frac{1}{2\beta_{n}}\Vert-y-z_{n{n}\Vert^{2},\quadn\in mathbb{n}。\结束{cases}$$

在本文中,受以上关于DC程序和相关问题的工作的启发,我们想研究问题(SDCP公司)通过使用分割近端线性化算法:

H_{1}\quad\text{中的$$\textstyle\begin{cases}x{1}\被任意选择},H_2}}中的=\operatorname{arg}\min{v\(v)+\frac{1}{2\beta{n}}\Vertv-Ax{n}\Vert^{2}-\langle\nabla h{2}(Ax{n}),v-Ax{n},\\z{n}:=x_{n} -r(右)_{n} ^{*}(Ax_{n} -年_{n} ),\\x_{n+1}:=\运算符名称{arg}\ min_{u\ in H_{1}}\{g_{1}(u)+\ frac{1}{2\beta\ n}}\ Vert u-z _{n}\ Vert^{2}-\langle\nabla h_{1}(z_{n}),u-z_{n},rangle,quad n in mathbb{n},end{cases}$$

哪里\(H_{1}\)\(H_{2}\)是真实的希尔伯特空间,\(A:H_{1}\右箭头H_{2}\)是带伴随的线性有界映射\(^{*}\),\(g{1},h{1}:h_{1}\rightarrow\mathbb{R}\)是适当的下半连续凸函数,并且\(g{2},h{2}:h{2}\rightarrow\mathbb{R}\)是适当的下半连续凸函数,\(g{1}\)\(g{2}\)是强凸的,\(h{1}\)\(h{2}\)Fréchet是可微的吗,\(纳布拉h{1})\(纳布拉h{2})L(左)-Lipschitz连续,和\(f_{1}(x)=g_{1}(x)-h{1}(x)\)为所有人\(x\在H_{1}\中)、和\(f_2}(y)=g_2}为所有人\(y\在H_{2}\中)进一步,在适当的条件下,建立了所提算法的线性收敛定理。最后,我们给出了所提收敛定理的数值结果。

2准备工作

H(H)是具有内积的(实)希尔伯特空间\(\langle\cdot,\cdot\rangle\)和规范\(\Vert\cdot\Vert\).我们表示\({x_{n}\}_{n\in\mathbb{n}}\)\(x\单位:H\)通过\(x{n}\右箭头x\)\(x_{n}\右箭头x \)分别为。对于每个\(H中的x、y、u、v)\(\lambda\in\mathbb{R}\),我们有

$$\begin{aligned}&&\Vert x+y\Vert^{2}=\Vert x\Vert^{2}+2\langle x,y\rangle+\Vert y\Vert^{2},\end{aligned}$$
(2.1)
$$\开始{aligned}&\bigl\Vert\lambda x+(1-\lambda)y\bigr\Vert^{2}=\lambda\Vert x\Vert|{2}+(1-\ lambda^{2}-\λ(1-\λ)\垂直x-y\垂直^{2},\结束{对齐}$$
(2.2)
$$\开始{aligned}&2\langle x-y,u-v\rangle=\Vert x-v\Vert^{2}+\Vert y-u\Vert^{2}-\垂直x-u\垂直^{2}-\垂直y-v\垂直^{2}。\结束{对齐}$$
(2.3)

定义2.1

H(H)成为一个真正的希尔伯特空间,\(B:H\右箭头H\)是一个映射,并且\(\rho>0\)因此,

  1. (i)

    B类是单调的,如果\(语言x-y,Bx-By语言geq0)为所有人\(x,y\单位为H\).

  2. (ii)

    B类ρ-强单调条件\(语言x-y,Bx-By\rangle\geq\rho\Vert x-y\Vert^{2}\)为所有人\(x,y\单位为H\).

定义2.2

H(H)成为一个真正的希尔伯特空间\(B:H\多映射H\)是带域的集值映射\(\mathcal{D}(B):=\{x\在H:B(x)\neq\emptyset\}\中)因此,

  1. (i)

    B类称为单调,如果\(语言u-v,x-y\rangle\geq0)对于任何\(u在B(x)中)\(B(y)中的v\).

  2. (ii)

    B类如果其图是最大单调的\({(x,y):x\在数学{D}(B)中,y\在B(x)中不正确地包含在任何其他单调映射的图中。

  3. (iii)

    B类ρ-强单调条件\(语言x-y,u-v\rangle\geq\rho\Vert x-y\Vert^{2}\)为所有人\(x,y\单位为H\)以及所有\(u在B(x)中)、和\(B(y)中的v\).

定义2.3

H(H)成为一个真正的希尔伯特空间,并且\(f:H\rightarrow\mathbb{R}\)是一个函数。因此,

  1. (i)

    (f)是适当的,如果\(\operatorname{dom}(f):=\{x\在H:f(x)中<\infty\}\neq\emptyset\).

  2. (ii)

    (f)是下半连续的,如果\(H:f(x)\leq r\}\中的\{x\)每个都关闭\(r\in\mathbb{r}\).

  3. (iii)

    (f)是凸的,如果\(f(tx+(1-t)y)对于每个\(x,y\单位为H\)\(在[0,1]\中).

  4. (iv)

    (f)ρ-强凸(\(\rho>0\))如果

    $$f\bigl(tx+(1-t)y\bigr)+\frac{\rho}{2}\cdot t(1-t$$

    为所有人\(x,y\单位为H\)\(t在(0,1)中).

  5. (五)

    (f)Gáteaux在\(x\单位:H\)如果有\(\nabla f(x)\在H\中)这样的话

    $$\lim_{t\rightarrow0}\frac{f(x+ty)-f(x)}{t}=\bigl\langle y,\nabla f(x)\bigr\rangle$$

    对于每个\(H\中的y\).

  6. (vi)

    (f)Fréchet在x个如果有\(纳布拉f(x))这样的话

    $$\lim_{y\rightarrow0}\frac{f(x+y)-f(x)-\langle\nabla f(x),y\rangle}{\Verty\Vert}=0$$

备注2.1

H(H)成为一个真正的希尔伯特空间。然后\(f(x):=\垂直x\垂直^{2}\)是一个2-强凸函数。此外,我们知道\(g:H\rightarrow\mathbb{R}\)ρ-强凸当且仅当\(g-\frac{\rho}{2}\Vert\cdot\Vert^{2}\)是凸的[1,提案10.6]。

示例2.1

\(g(x):=frac{1}{2}langleQx,xrangle-langlex,brangle),其中\(Q\in\mathbb{R}^{n\timesn}\)是实对称正定矩阵,并且\(b\in\mathbb{R}^{n}\).然后是一个强凸函数。

定义2.4

\(f:H\右箭头(-\infty,\infty]\)是一个适当的下半连续凸函数。然后是次微分¼f属于(f)由定义

$$\部分f(x):=\bigl\{x^{*}\在H:f(x$$

对于每个\(x\单位:H\).

引理2.1

\(f:H\右箭头(-\infty,\infty]\) 是一个适当的下半连续凸函数.然后满足以下条件以下为:

  1. (i)

    ¼f 是一套-值极大单调映射.

  2. (ii)

    (f) Gáteaux在 \(x\in\operatorname{int}(\mathcal{D})\) 当且仅当 \(\部分f(x)\) 由单个元素组成.那就是,\(部分f(x)=[2,提议1.1.10].

  3. (iii)

    假设 (f) 弗雷切特可微吗.然后 (f) 是凸的当且仅当 (f) 是单调映射.

引理2.2

([1,实施例22.3(iv)])

\(\rho>0\),H(H) 成为一个真正的希尔伯特空间 \(f:H\rightarrow\mathbb{R}\) 做一个合适的人,降低-半连续的,和凸函数.如果 (f) ρ-强凸,然后 ¼f ρ-强单调.

引理2.3

([1,提议16.26])

H(H) 成为一个真正的希尔伯特空间 \(f:H\右箭头(\infty,\infty]\) 做一个合适的人,下半连续,和凸函数.如果 \({u_{n}\}_{n\in\mathbb{n}}\) \({x_{n}\}_{n\in\mathbb{n}}\) 序列在中吗 H(H) 具有 \(u{n}\在\部分f(x{n})\中) 为所有人 \(n\in\mathbb{n}\), \(x_{n}\右箭头x \) \(u{n}\右箭头u\),然后 \(u \ in \ partial f(x)\).

引理2.4

([17第114页])

\({a_{n}\}_{n\in\mathbb{n}}\) \({b_{n} be非负实数序列.如果 \(\sum_{n=1}^{\infty}a{n}=\infty) \(sum{n=1}^{infty}a{n}b{n}<infty\),然后 \(\liminf_{n\rightarrow\infty}b_{n}=0\).

引理2.5

([10])

H(H) 成为一个真正的希尔伯特空间,\(B:H\多映射H\) 是一套-值极大单调映射,\(测试版>0), \(J_{\beta}^{B}\) 由定义 \(J_{\beta}^{B}(x):=(I+\betaB)^{-1}(x)\) 对于每个 \(x\单位:H\).然后 \(J_{\beta}^{B}\) 是单身-值映射.

分割近端线性化算法

在本节中,我们使用了以下符号和假设。\(\rho\geq L>0\).让\(H_{1}\)\(H_{2}\)是有限维实希尔伯特空间,\(A:H_{1}\右箭头H_{2}\)是非零线性有界映射,\(^{*}\)是…的伴随物A类,\(g{1},h{1}:h_{1}\rightarrow\mathbb{R}\)是适当的下半连续和凸函数,\(g{2},h{2}:h{2}\rightarrow\mathbb{R}\)是适当的下半连续和凸函数,\(f_{1}(x)=g_{1}(x)-h{1}(x)\)为所有人\(x\在H_{1}\中)、和\(f(2)}(y)=g(2)为所有人\(y\在H_{2}\中)此外,我们假设\(f{1}\)\(f{2}\)从下方限定,\(h{1}\)\(h{2}\)Fréchet是可微的吗,\(纳布拉h{1})\(纳布拉h{2})L(左)-Lipschitz连续,\(g{1}\)\(g{2}\)ρ-强凸。\(beta\在(0,\infty)中\),并让\({\beta_{n}\}_{n\in\mathbb{n}}\)成为一个序列\([a,b]\subseteq(0,\infty)\).让\(在(0,\frac{1}{\VertA\Vert^{2}})中)\({r_{n}\}_{n\in\mathbb{n}}\)成为一个序列\((0,\压裂{1}{\垂直A\垂直^{2}})\).让\(\varOmega_{\text{SDCP}}\)由定义

$$\varOmega_{\text{SDCP}}:=\bigl\{x\in H_{1}:\nabla H_{1{(x)\in \partial g_{1neneneep(x),\nablah_{2}(Ax)\in\partialg_{2{(As)\bigr\}$$

并假设\(\varOmega_{\text{SDCP}}\neq\emptyset\).

3.1号提案

如果 \(\rho>L\) \(\varOmega_{\mathrm{SDCP}}\neq\emptyset\),然后是集合 \(\varOmega_{\mathrm{SDCP}}\) 是独生子女.

证明

如果\(x,y\in\varOmega_{\mathrm{SDCP}}\),然后

$$\boot{aligned}&\ nabla h{1}(x)\ in \ partial g_{1}(x),\ qquad \ nabla h{1}(y)\ in \ partial g_{1}(y),\&&\ nabla h{2}(Ax)\ in \ partial g_{2}(Ax),\ qquad \ nabla h{2}(Ay)\ in \ partial g_{2}(Ay)。\结束{对齐}$$

\(g{1}\)ρ-我们知道,它是强凸的\(\部分g{1}\)ρ-非常单调。因此,

$$\rho\Vert x-y\Vert^{2}\leq\bigl\langle x-y,\nabla h_{1}(x)-\nabla h_{1\}(y)\bigr\rangle\leq\ Vert x-y \Vert\cdot\bigl\ Vert\nabla h _{1neneneep(x)-\nabla h _{1'(y)\ bigr\Vert$$

\(纳布拉h{1})L(左)-Lipschitz连续,我们有

$$\rho\Vert x-y\Vert^{2}\leq\Vert x-y\Vert\cdot\bigl\Vert\nabla h_{1}(x)-\nabla h_{1'(y)\bigr\Vert\leq L\Vert x y\Vert ^{2{$$

\(\rho>L\),我们有\(x=y \)。证明已完成。 □

在本节中,我们通过以下算法研究分裂DC程序。

算法3.1

(分割近端线性化算法)

H_{1}\quad\text{中的$$\textstyle\begin{cases}x{1}\被任意选择},H_2}}中的=\operatorname{arg}\min{v\(v)+\frac{1}{2\beta{n}}\Vertv-Ax{n}\Vert^{2}-\langle\nabla h{2}(Ax{n}),v-Ax{n},\\z{n}:=x_{n} -r(右)_{n} ^{*}(Ax_{n} -年_{n} ),\\x_{n+1}:=\运算符名称{arg}\ min_{u\ in H_{1}}\{g_{1}(u)+\ frac{1}{2\beta\ n}}\ Vert u-z _{n}\ Vert^{2}-\langle\nabla h{1}(z_{n})、u-z_{n}\rangle\}、quad n\in\mathbb{n}。\结束{cases}$$

定理3.1

\(\{r_{n}\}_{n \in\mathbb{n}}\) 成为一个序列 \((0,\压裂{1}{\垂直A\垂直^{2}})\) 具有 \(0<\liminf_{n\rightarrow\infty}r_{n}\leq\limsup_{n\rightarror\infty}r_{n}<\frac{1}{\VertA\Vert^{2}}\). \({x_{n}\}_{n\in\mathbb{n}}\) 由算法生成 3.1.然后 \({x_{n}\}_{n\in\mathbb{n}}\) 收敛到一个元素 \(\bar{x}\in\varOmega_{mathrm{SDCP}}\).

证明

随便拿一个\(w\in\varOmega_{\text{SDCP}}\)\(n\in\mathbb{n}\),并让w个n个被修复。首先,从第二行算法3.1,我们得到

$$0\在\部分g{2}(y{n})+\压裂{1}{\beta{n}}(y_{n} -轴_{n} )-\nabla h_{2}(Ax_{n})$$
(3.1)

签署人(3.1),存在\(u{n}\ in \部分g{2}(y{n})\)这样的话

$$\nablah{2}(Ax{n})=u{n}+\frac{1}{\beta{n}}(y_{n} -轴_{n} )$$
(3.2)

\(w\in\varOmega_{\text{SDCP}}\),我们知道\(部分g_{2}(Aw)中的h_2}(A w)).通过引理2.2,\(部分g{2})ρ-非常单调,然后

$$0\leq\bigl\langle y美元_{n} -啊,u_{无}-\nabla h_{2}(Aw)\bigr\rangle-\rho\垂直_{n} -啊\垂直^{2}$$
(3.3)

签署人(3.2)和(3.3),

$$0\leq\biggl\langle y美元_{n} -啊,\nabla h{2}(Ax_{n})+\frac{1}{\beta_{n}}(Ax_{n} -年_{n} )-\nabla h_{2}(Aw)\biggr\rangle-\rho\垂直_{n} -啊\垂直^{2}$$
(3.4)

因此,通过(3.4),我们有

$$\开始{aligned}0\leq&2\beta_{n}\bigl\langley_{n} -啊,\nabla h_{2}(Ax_{n})-\nabla h _{2{(Aw)\bigr\rangle+2\langle y_{n} -啊,轴_{n} -年_{n} \rangle\\&{}-2\beta_{n}\rho\垂直_{n} -啊\垂直^{2}\\leq&2\beta_{n} L(左)\垂直_{n} -啊\垂直\cdot\垂直轴_{n} -啊\垂直-2\beta_{n}\rho\垂直_{n} -啊\垂直^{2}\\&{}+\垂直轴_{n} -啊\垂直^{2}-\垂直_{n} -轴_{n} \垂直^{2}-\垂直_{n} -啊\垂直^{2}\\leq&\beta_{n}L\垂直_{n} -啊\垂直^{2}+\beta_{n}L\垂直轴_{n} -啊\垂直^{2}-2\beta_{n}\rho\垂直_{n} -啊\垂直^{2}\\&{}+\垂直轴_{n} -啊\垂直^{2}-\垂直_{n} -轴_{n} \垂直^{2}-\垂直_{n} -啊\垂直^{2}。\结束{对齐}$$
(3.5)

签署人(3.5),我们获得

$$\开始{对齐}\垂直_{n} -啊\垂直^{2}\leq&\frac{\beta_{n} L(左)+1} {1+2\β_{n}\rho-\β_{n} L(左)}\垂直轴_{n} -啊\垂直^{2}-\压裂{\垂直_{n} -轴_{n} \垂直^{2}}{1+2\beta_{n}\rho-\beta_{n} L(左)}\\\\leq&\垂直轴_{n} -啊\垂直^{2}-\压裂{\垂直_{n} -轴_{n} \版本^{2}}{1+2 \β_{n}\ rho-\β_{n} L(左)}. \结束{对齐}$$
(3.6)

以同样的方式,一个人获得

$$\垂直x_{n+1}-w\垂直^{2}\leq\垂直z_{n} -w个垂直^{2}-\frac{1}{1+2\beta_{n}\rho-\beta_{n} L(左)}\垂直x_{n+1}-z_{n}\垂直^{2}\leq\垂直z_{n} -w个\垂直^{2}$$
(3.7)

接下来,我们有

$$\开始{对齐}2\Vert z_{n} -w个\垂直^{2}=&2\bigl\langle z_{n} -w个,x个_{n} -r(右)_{n} ^{*}(Ax_{n} -年_{n} )-w\bigr\rangle\\=&2\langle z_{n} -w个,x个_{n} -w个\范围-2r{n}\bigl\langlez_{n} -w个,A^{*}(Ax_{n} -年_{n} )\bigr\rangle\\=&2\langle z_{n} -w个,x个_{n} -w个\范围-2r{n}\langle Az_{n} -啊,轴_{n} -年_{n}\rangle\\=&\垂直z_{n} -w个\垂直^{2}+\垂直x_{n} -w个\垂直^{2}-\垂直x_{n} -z(-z)_{n} \垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n}\垂直^{2}\\&{}-r_{n{\垂直轴_{n} -啊\垂直^{2}+r_{n}\垂直方位角_{n} -轴_{n} \垂直^{2}+r_{n}\垂直_{n} -啊\垂直^{2}。\结束{对齐}$$
(3.8)

签署人(3.6), (3.7)、和(3.8),

$$\开始{对齐}&\垂直x_{n+1}-w\垂直^{2}\\&\四元\leq\Vert z_{n} -w个\Vert^{2}\\&\quad=\Vert x_{n} -w个\垂直^{2}-\垂直x_{n} -z(-z)_{n} \垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n} \Vert ^{2}\\&&\qquad{}-r_{n}\Vert Ax_{n} -啊\垂直^{2}+r_{n}\垂直方位角_{n} -轴_{n} \垂直^{2}+r_{n}\垂直_{n} -啊\垂直^{2}\\&\四元\leq\Vert x_{n} -w个\垂直^{2}-\垂直x_{n} -z(-z)_{n} \垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n} \垂直^{2} -r(右)_{n}\垂直轴_{n} -啊\垂直^{2}\\&\qquad{}+r_{n}\垂直A\垂直^}2}\cdot\垂直z_{n} -x个_{n} 版本^{2}+r_{n}\cdot\frac{\beta_{n} L(左)+1} {1+2\beta{n}\rho-\beta_{n} L(左)}\垂直轴_{n} -啊\Vert^{2}\\&\quad=\Vert x_{n} -w个\垂直^{2}-\bigl(1-r_{n}\Vert A\Vert ^{2}\bigr)\Vert x_{n} -z(-z)_{n} \垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n} 垂直^{2}\\&\qquad{}-r_{n}\biggl(1-\frac{\beta_{n} L(左)+1} {1+2\β_{n}\rho-\β_{n} L(左)}\biggr)\垂直轴_{n} -啊\Vert^{2}\\&\quad=\Vert x_{n} -w个\垂直^{2}-\bigl(1-r_{n}\Vert A\Vert ^{2}\bigr)\Vert x_{n} -z(-z)_{n} \垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n} \垂直^{2}\\&\qquad{}-r_{n}\biggl(\frac{2\beta_{n{(\rho-L)}{1+2\beta_}\rho-\beta_{n} L(左)}\biggr)\垂直轴_{n} -啊\垂直^{2}\\&\四元\leq\Vert x_{n} -w个\垂直^{2}。\结束{对齐}$$
(3.9)

签署人(3.9),\(\lim_{n\rightarrow\infty}\垂直x_{n} -w个\垂直\)存在并且\({x_{n}\}_{n\in\mathbb{n}}\)是一个有界序列。此外,\({Ax_{n}\}_{n\in\mathbb{n}}\),\({y_{n}\}_{n\in\mathbb{n}}\),\({z_{n}\}_{n\in\mathbb{n}}\)是有界序列。签署人(3.9)再一次,我们知道

$$\lim_{n\rightarrow\infty}\垂直x_{n} -w个\垂直=\lim_{n\rightarrow\infty}\垂直z_{n} -w个\垂直$$
(3.10)

$$\lim_{n\rightarrow\infty}\frac{\Vert x_{n+1}-z_{n}\Vert ^{2}}{1+2}β_{n}\rho-\β_{n} L(左)}=\lim_{n\rightarrow\infty}r_{n}\垂直方位角_{n} -年_{n} \垂直^{2}=\lim_{n\rightarrow\infty}\bigl(1-r_{n}\Vert A\Vert^{2{\bigr)\Vert x_{n} -z(-z)_{n} \垂直^{2}=0$$
(3.11)

它源自\({\beta_{n}\}_{n\in\mathbb{n}}\substeq(a,b)\),\(0<\liminf_{n\rightarrow\infty}r_{n}\leq\limsup_{n\rightarror\infty}r_{n}<\frac{1}{\VertA\Vert^{2}}\),以及(3.11)那个

$$\lim_{n\rightarrow\infty}\Vert x_{n+1}-z_{n}\Vert=\lim_{n\right arrow\finfty{\Vert Az_{n} -年_{n}\Vert=\lim_{n\rightarrow\infty}\Vert x_{n} -z(-z)_{n} \垂直=0$$
(3.12)

\({x_{n}\}_{n\in\mathbb{n}}\)有界,则存在子序列\({x_{n_{k}}\}_{k\in\mathbb{n}}\)属于\({x_{n}\}_{n\in\mathbb{n}}\)这样的话\(H_{1}中的x_{n_{k}}\rightarrow\bar{x}\)显然,\(Ax_{n_{k}}\右箭头A\bar{x}\),\(z{n{k}}\rightarrow\bar{x}\),\(Az_{n_{k}}\右箭头A\bar{x}\),\(y_{n_{k}}\右箭头A\bar{x}\)、和\(x{n{k}+1}\rightarrow\bar{x}\)。此外,由(3.2),我们获得

$$\nablah_{2}(Ax_{n_{k}})在部分g_2}(y_{n_n{k})+\frac{1}{\beta_{n_2k}}}(y_{n_1k}}-Ax_{n_{k{}}$$
(3.13)

签署人(3.12), (3.13),引理2.3、和\(β_{n}\}_{n \in \mathbb{n}}\substeq(a,b)\),我们确定

$$\nablah_{2}(A\bar{x})\in\partialg_2}(A \bar{x})$$
(3.14)

同样,我们有

$$\nablah_{1}(\bar{x})\in\partialg_{1{(\bar{x})$$
(3.15)

签署人(3.14)和(3.15),我们知道\(\bar{x}\in\varOmega_{text{SDCP}}\)此外,\(\lim_{n\rightarrow\infty}\垂直x_{无}-\条{x}\Vert=\lim_{k\rightarrow\infty}\Vert x_{n_{k}}-\bar{x}\垂直=0\)因此,证明已完成。 □

备注3.1

  1. (i)

    In算法3.1,如果\(y_{n}=轴{n}\)\(x{n+1}=z{n}),然后\(x{n}=z{n}\),这意味着\(部分g{1}(x{n})\(部分g{2}(Ax{n})中的)因此,\(x_{n}\in\varOmega_{text{SDCP}}\).

  2. (ii)

    In算法3.1,如果\(x{n+1}\neqz{n}),然后\(f{1}(x{n+1})<f{1{(z{n})\)事实上,它源自\(\部分h{1}(z_{n})=\{\nabla h{1}(z_{n})\}\)以及\(x{n+1}\)那个

    $$g_{1}(x_{n+1})-h_{1{(x_{n+1})+\frac{1}{2\beta_{n}}\Vertx_{n+1}-z_{n{}\ Vert^{2}\leq g_{1}$$

    所以,如果\(x_{n+1}\neq z_{n}\),然后\(f{1}(x{n+1})<f{1{(z{n})\).

  3. (iii)

    In算法3.1,如果\(y_{n}\neq轴{n}),然后\(f_{2}(y_{n})<f_{2](Ax_{n{)\)事实上,它源自\(\partial h_{2}(Ax_{n})=\{nabla h_{2](Ax_{n{)\}\)以及\(y{n}\)那个

    $$g_{2}(y_{n})-h_{2{(y_n})+\压裂{1}{2\贝塔{n}}\垂直_{n} -轴_{n} 垂直^{2}\leq g{2}(Ax{n})-h_{2}$$

    所以,如果\(y_{n}\neq轴{n}),然后\(f_{2}(y_{n})<f_{2](Ax_{n{)\).

  4. (iv)

    如果\(\rho>L\),然后它从(3.7)那个(3.9)可以重写为

    $$\垂直x_{n+1}-w\垂直^{2}\leq k_{n}\垂直z_{n} -w个\垂直^{2}\leq k_{n}\Vert x_{n} -w个\垂直^{2}$$

    哪里

    $$k{n}:=\frac{1+\beta_{n} L(左)}{1+2\beta{n}\rho-\beta_{n} L(左)}\英寸(0,1)$$

    因此,\({x_{n}\}_{n\in\mathbb{n}}\)线性收敛到,其中\(\varOmega_{\text{SDCP}}=\{\bar{x}\}\).

备注3.2

从定理证明3.1,我们知道

$$\nabla h_{2}(Ax_{n})+\压裂{1}{\贝塔{n}}(_{n} -年_{n} )\在\部分g{2}(y{n})中$$
(3.16)

这意味着

$$Ax_{n}+\β_$$
(3.17)

哪里\(I_{H_{2}}\)身份映射在上吗\(H_{2}\)。自\(g{2}\)是适当的,下半连续的,凸的,我们知道\(部分g{2})是最大单调的。所以,根据引理2.5,我们确定

$$y_{n}=(I_{H_{2}}+\beta{n}\partial g{2})^{-1}\bigl(Ax_{n{+\beta{n}\nabla H_2}(Ax{n})\bigr)$$
(3.18)

同样,我们有

$$x_{n+1}=(I_{H_{1}}+\beta_{n}\partial g_{1{)^{-1}\bigl(z_{n{+\beta{n}\nabla H_1}(z{n})\bigr)$$
(3.19)

哪里\(I_{H_{1}}\)身份映射在上吗\(H_{1}\)因此,算法3.1可以重写为以下算法:

$$\textstyle\begin{cases}y_{n}:=(I_{H_{2}}+\beta{n}\partialg{2})^{-1}_{n} -r(右)_{n} ^{*}(Ax_{n} -年_{n} ),\\x{n+1}:=(I{H{1}}+\beta{n}\部分g{1})^{-1}。\结束{cases}$$
(算法3.2)

事实上,我们发现算法3.2与Sun、Sampaio和Candido提出的算法相同[16,算法2.3]。因此,可以利用[16,算法5.3]。

备注3.3

根据本节中的假设,考虑以下因素:

$$\textstyle\begin{cases}y:=\operatorname{arg}\min_{v\in H_{2}}\{g_2}(v)+\frac{1}{2\beta}\Vert v-Ax\Vert^{2}-langle\nabla h_{2}(Ax),v-Ax\rangle\},\\z:=x-rA^{*}(Ax-y),\\w:=\operatorname{arg}\min_{u\在h_{1}}\{g_{1{(u)+\frac{1}{2\beta}\Vert-u-z\Vert^{2}-\langle\nabla h{1}(z),u-z\rangle\},\end{cases}$$
(3.20)

也就是说,

$$\textstyle\begin{cases}y:=(I_{H_2}}+\beta\partial g_2})^{-1}(Ax+\beta \nabla H_2}(Ax)),\\z:=x-rA^{*}$$
(3.21)

我们知道这一点

$$Ax=y\quad\text{和}\quad z=w\quad_Leftrightarrow\quad x=z\in\varOmega_{text{SDCP}}$$
(3.22)

证明

对于这个等价关系,我们只需要证明\(x=z\in\varOmega_{\text{SDCP}}\)意味着\(轴=y)\(z=w)确实如此,因为\(x=z\in\varOmega_{\text{SDCP}}\),我们知道\(部分g{1}(z)中的h(1)\(\ nabla h{2}(Ax)\ in \ partial g_{2}(Ax)\).通过引理2.5,

$$\textstyle\begin{cases}(I_{H_2}}+\beta\partialg_2})^{-1}$$
(3.23)

签署人(3.21)和(3.23),我们知道\(轴=y)\(z=w). □

备注3.4

In算法3.1,如果\(\beta{n}=\beta\)\(r{n}=r\)对于每个\(n\in\mathbb{n}\)、和\(x_{N+1}=x_{N}\)对一些人来说\(N\in\mathbb{N}\),然后\(x_{n}=x_{n}\),\(y_{n}=y_{n}\)、和\(z_{n}=z_{n}\)对于每个\(n\in\mathbb{n}\)具有\(不适用).根据定理3.1,我们知道\(\lim_{n\rightarrow\infty}x_{n}=x_{n}\in\varOmega_{text{SDCP}}\)所以,\(x_{n+1}=x_{n}\)可以在算法中设置为停止标准3.1。此外,来自(3.21),我们有

$$\开始{对齐}x=w\quad\Rightarrow&\quad x\in\varOmega_{\text{SDCP}}\\Rightarror&\quade x\in\ varOmega{\text}}\quad\\text{和}\quad y=Ax\\Rightarrow&\ quad x=z\in\warOmega_{\text[SDCP}{and}\quade y=Ax \\Right箭头&\quaid x=z=w\in\varOmega_2{\text{SDCP{}}\quad\text{和}\quad y=Ax\\Rightarrow&quad x=w.end{aligned}$$

这种等价关系对于拆分DC程序很重要。

按备注3.4,我们给出了以下结果。

提议3.2

根据本节中的假设,

$$\textstyle\begin{cases}y:=\operatorname{arg}\min_{v\in H_{2}}\{g_2}(v)+\frac{1}{2\beta}\Vert v-Ax\Vert^{2}-langle\nabla h_{2}(Ax),v-Ax\rangle\},\\z:=x-rA^{*}(Ax-y),\\w:=\operatorname{arg}\min_{u\在h_{1}}\{g_{1{(u)+\frac{1}{2\beta}\Vert-u-z\Vert^{2}-\langle\nabla h{1}(z),u-z\rangle\}。\结束{cases}$$
(3.24)

然后 \(x\in\varOmega_{\mathrm{SDCP}}\) 当且仅当 \(x=w).

接下来,我们在不同的假设下给出了分裂近似线性化算法的另一个收敛定理\({r_{n}\}_{n\in\mathbb{n}}\).

定理3.2

\(\{r_{n}\}_{n \in\mathbb{n}}\) 成为一个序列 \((0,\压裂{1}{\垂直A\垂直^{2}})\) 具有 \(\lim_{n\rightarrow\infty}r_{n}=0\) \(\sum_{n=1}^{\infty}r_{n}=\infty). \({x_{n}\}_{n\in\mathbb{n}}\) 由算法生成 3.1.然后 \({x_{n}\}_{n\in\mathbb{n}}\) 收敛到一个元素 \(\bar{x}\in\varOmega_{mathrm{SDCP}}\).

证明

随便拿一个\(w\in\varOmega_{\mathrm{SDCP}}\)\(n\in\mathbb{n}\),并让w个n个被修复。从定理证明3.1,我们有

$$开始{aligned}&\nablah_{2}(Ax_{n})-\frac{1}{\beta_{n{}}(y_{n} -轴_{n} )\在\部分g _{2}(Ax_{n}),\结束{对齐}$$
(3.25)
$$\开始{对齐}和\nablah{1}(z{n})-\frac{1}{\beta{n}}$$
(3.26)

$$\开始{对齐}\垂直x_{n+1}-w\垂直^{2}\leq&\垂直x_{n} -w个\垂直^{2}-\bigl(1-r_{n}\Vert A\Vert ^{2}\bigr)\Vert x_{n} -z(-z)_{n}\垂直^{2} -r(右)_{n} \垂直方位角_{n} -年_{n} 垂直^{2}\\&{}-r_{n}\biggl(frac{2\beta{n}(\rho-L)}{1+2\beta{n}\rho-\beta_{n} L(左)}\biggr)\垂直轴_{n} -啊\垂直^{2}-\裂缝{1}{1+2\beta{n}\rho-\beta_{n} L(左)}\垂直x_{n+1}-z_{n}\垂直^{2}\\leq&\垂直x_{n} -w个\垂直^{2}。\结束{对齐}$$
(3.27)

此外,还满足以下要求:

$$\textstyle\begin{cases}\lim_{n\rightarrow\infty}\Vert x_{n} -w个垂直文本{exists,}\\{x_{n}\\}_{n\in\mathbb{n}},Ax_{n},{y_{n{n},}_{n\in\mathbb{n{}}n+1}-z_{n}\垂直=0,\\lim_{n\rightarrow\infty}(1-r_{n{\垂直A\垂直^{2})\垂直x_{n} -z(-z)_{n} \垂直^{2}=0。\结束{cases}$$

\(\lim_{n\rightarrow\infty}r_{n}=0\),我们知道

$$\lim_{n\rightarrow\infty}\垂直x_{n} -z(-z)_{n} \垂直=0$$
(3.28)

签署人(3.27),我们有

$$\sum_{n=1}^{\infty}r_{n}\垂直方位角_{n} -年_{n} \Vert ^{2}\leq\sum _{n=1}^{infty}\bigl(\Vert x_{n} -w个\垂直^{2}-\垂直x_{n+1}-w\垂直^{2}\bigr)<\infty$$
(3.29)

签署人(3.29)和引理2.4,我们确定

$$\liminf_{n\rightarrow\infty}\垂直方位_{n} -年_{n} \垂直^{2}=0$$
(3.30)

然后存在子序列\({y_{n_{k}}\}_{k\in\mathbb{n}}\)属于\({y_{n}\}_{n\in\mathbb{n}}\),子序列\({z_{n_{k}}\}_{k\in\mathbb{n}}\)属于\({z_{n}\}_{n\in\mathbb{n}}\)、和\(H_{1}中的\bar{x}\)这样的话\(z{n{k}}\rightarrow\bar{x}\),\(y_{n_{k}}\右箭头A\bar{x}\)、和

$$\liminf_{n\rightarrow\infty}\垂直方位_{n} -年_{n} \Vert^{2}=\lim_{k\rightarrow\infty}\Vert-Az_{n_{k}}-y_{n_n_k}}\Vert_{2}=0$$
(3.31)

显然,\(x{n{k}}\rightarrow\bar{x}\),\(x{n{k}+1}\rightarrow\bar{x}\)、和\(Ax_{n_{k}}\右箭头A\bar{x}\).签署人(3.25)和(3.26),我们知道\(\bar{x}\in\varOmega_{text{SDCP}}\)因此,\(\bar{x}=\hat{x}\)。自\(\lim_{n\rightarrow\infty}\垂直x_{无}-\条{x}\垂直\)存在,我们知道\(\lim_{n\rightarrow\infty}\垂直x_{无}-\条{x}\Vert=\lim_{k\rightarrow\infty}\Vert x_{n_{k}}-\bar{x}\垂直=0\)因此,证明已完成。 □

4DC程序和数值结果的应用

\(\rho>L\geq0\).让H(H)是有限维希尔伯特空间,\(g,h:h\rightarrow\mathbb{R}\)是真函数、下半连续函数和凸函数。此外,我们还假设小时Fréchet是可微的吗,小时L(左)-Lipschitz连续,ρ-强凸。\({\beta_{n}\}_{n\in\mathbb{n}}\)成为一个序列\((a,b)substeq(0,infty)).让\({r_{n}\}_{n\in\mathbb{n}}\)成为一个序列\((0,1)\)具有\(0<\liminf_{n\rightarrow\infty}r_{n}\leq\limsup_{n\rightarror\infty}r_}<1).

现在,我们回顾一下DC程序:

$$\text{Find}\bar{x}\in\operatorname{arg}\min_{x\inH}\bigl\{f(x)=g(x)-H(x)\bigr\}$$
(DCP)

\(\varOmega_{\text{DCP}}\)由定义

$$\varOmega_{\text{DCP}}:=\bigl\{x\ in H:\nabla H(x)\ in \partial g(x)\bigr\}$$

并假设\(\varOmega_{\text{DCP}}\neq\emptyset\).如果\(H{1}=H{2}=H\),\(g{1}=g{2}=g\)、和\(h{1}=h{2}=h\),然后我们从算法中得到以下算法和收敛定理3.1和定理3.1分别是。

算法4.1

H\quad\text{中的$$\textstyle\begin{cases}x{1}被任意选择},H}\{g(v)+\frac{1}{2\beta{n}}\Vertv-x{n}\Vert^{2}-langle\nablah(x{n}),v-x{n{n}\rangle\},\\z{n}:=(1-r{n})x{nneneneep+r_{n} 年_{n} ,\\x_{n+1}:=\operatorname{arg}\min_{u\在H}\{g(u)+\frac{1}{2\beta_{n}}\Vert-u-z_{n{}\Vert中^{2}-langle\nabla h(z_{n}),u-z_{n},\quad n\in\mathbb{n}。\结束{cases}$$

定理4.1

\({x_{n}\}_{n\in\mathbb{n}}\) 由算法生成 4.1.然后 \({x_{n}\}_{n\in\mathbb{n}}\) 收敛到一个元素 \(\bar{x}\in\varOmega_{mathrm{DCP}}\).

事实上,我们可以通过算法得到以下算法和收敛定理4.1和定理4.1分别是。

算法4.2

H\quad\text{中的$$\textstyle\begin{cases}x{1}被给定},\\z_{n}:=\operatorname{arg}\min_{u\inH}\{g(u)+\frac{1}{2\beta_{n{}}\Vertu-x{n}\Vert^{2}-langle\nabla h(x{n}),u-x{n{n}\rangle\},\\y_{n}:=\operatorname{arg}\min_{v\in h}\{g(v)+\frac{1}{2\beta{n}}\Vertv-z{n}\ Vert^{2}-langle\nablah(z{n}),v-z{n{n}\rangle\},\\x{n+1}:=(1-r{n})z{nneneneep+r_{n} 年_{n} ,\四个n\in\mathbb{n}。\结束{cases}$$

定理4.2

\({x_{n}\}_{n\in\mathbb{n}}\) 由算法生成 4.2.然后 \({x_{n}\}_{n\in\mathbb{n}}\) 收敛到一个元素 \(\bar{x}\in\varOmega_{mathrm{DCP}}\).

示例4.1

\(g,h:\mathbb{R}^{3}\rightarrow\mathbb{R}\)由定义\(g(x{1},x{2},x{3}):=2x{1}^{2}+2x{2}^{2]+2x{3{2}\)\(h(x{1},x{2},x{3}):=4x{1{+8x{2{+12x{3}\)为所有人\(((x_{1},x_{2},x_{3})\in\mathbb{R}^{3}\).然后\(\varOmega_{\text{DCP}}:=\{x\ in H:\nabla H(x)\ in \partial g(x)\}=\{(1,2,3)\}\).

示例4.2

\(g{1},h{1}:\mathbb{R}^{3}\rightarrow\mathbb{R}\)由定义\(g{1}(x{1},x{2},x{3}):=2x{1{2}^{2}+2x{2{2}|2x{3{2}\)\(h(1)}(x(1),x(2)},x(3)}):=4x{1}+8x{2}+12x{3}\)为所有人\(((x_{1},x_{2},x_{3})\in\mathbb{R}^{3}\).让\(g{2},h{2}:\mathbb{R}^{2}\rightarrow\mathbb{R}\)由定义\(g{2](y{1},y{2}):=y{1{2}+y{2{2}^{2}\)\(h{2](y{1},y{2}):=28y{1{+64y{2{)为所有人\(((y_{1},y_{2})\in\mathbb{R}^{2}\).让\(A:\mathbb{R}^{3}\rightarrow\mathbb{R}^{2}\)由定义\(A(x{1},x{2},x{3})=为所有人\(((x_{1},x_{2},x_{3})\in\mathbb{R}^{3}\).给,\(垂直A\垂直\approx0.10517\)\(\varOmega_{\text{SDCP}}=\{(1,2,3)\}\).

从表1,我们看到了算法4.2达到要求的错误只需要六次迭代,如果\(β{n}=500\)为所有人\(n\in\mathbb{n}\),但算法4.2达到要求的错误需要73次迭代,如果\(β{n}=0.1)为所有人\(n\in\mathbb{n}\).

表1示例的数值结果4.1.

从表2,我们看到了算法4.2达到所需的错误只需要七次迭代,如果\(β{n}=100\)为所有人\(n\in\mathbb{n}\),但算法4.2达到所需的错误需要72次迭代,如果\(β{n}=0.1)为所有人\(n\in\mathbb{n}\).

表2示例的数值结果4.1.

从表,我们看到了算法3.1达到所需的错误只需要七次迭代,如果\(β_{n}=700)为所有人\(n\in\mathbb{n}\),但算法3.1达到所需的错误需要99次迭代,如果\(β{n}=0.1)为所有人\(n\in\mathbb{n}\).

表3示例的数值结果4.2.

从表和表4,我们看到了算法3.1达到所需的错误需要283次迭代,如果\(\beta{n}=1\)\(r{n}=0.05\)为所有人\(n\in\mathbb{n}\),但算法3.1达到所需的错误需要39次迭代,如果\(\beta{n}=1\)\(r_{n}=0.09\)为所有人\(n\in\mathbb{n}\)另一方面,对于的其他设置\(\贝塔{n}\),我们知道表中的数值结果和表4表明在设置\(\{r_{n}\}_{n \in\mathbb{n}}\).

表4示例的数值结果4.2.

然而,在表中5,如果\(\beta{n}=1\)为所有人\(n\in\mathbb{n}\),那么我们知道数值结果在设置\(\{r_{n}\}_{n \in\mathbb{n}}\).

表5示例的数值结果4.2.

工具书类

  1. Bauschke,H.H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。柏林施普林格出版社(2011)

     谷歌学者 

  2. Butnariu,D.,Iusem,A.N.:不动点计算和无限维优化的全凸函数。诺威尔Kluwer学术出版社(2000年)

     谷歌学者 

  3. Byrne,C.,Censor,Y.,Gibali,A.,Reich,S.:分裂公共零点问题算法的弱收敛性和强收敛性。J.非线性凸分析。13, 759–775 (2011)

    数学 谷歌学者 

  4. Chuang,C.S.:Hilbert空间中分裂变分包含问题的强收敛定理。不动点理论应用。2013,350(2013)

    第条 数学科学网 谷歌学者 

  5. Combettes,P.L.,Wajs,V.R.:通过近端前向-后向分裂恢复信号。多尺度模型。模拟。4, 1168–1200 (2005)

    第条 数学科学网 谷歌学者 

  6. Fujikara,Y.,Kuroiwa,D.:规范DC编程中的拉格朗日对偶性。数学杂志。分析。申请。408, 476–483 (2013)

    第条 数学科学网 谷歌学者 

  7. Harada,R.,Kuroiwa,D.:DC编程中的Lagrange类型。数学杂志。分析。申请。418, 415–424 (2014)

    第条 数学科学网 谷歌学者 

  8. Hiriart-Urruti,J.B.,Tuy,H.:非凸优化论文。数学规划,第41卷。荷兰北部,阿姆斯特丹(1988年)

    谷歌学者 

  9. Levy,A.J.:正信号恢复的快速二次规划算法。IEEE传输。阿库斯特。语音信号处理。31, 1337–1341 (1983)

    第条 谷歌学者 

  10. Marino,G.,Xu,H.K.:广义近点算法的收敛性。Commun公司。纯应用程序。分析。, 791–808 (2004)

    第条 数学科学网 谷歌学者 

  11. Martinet,B.:方程的正则化变量内尔近似级数。Rev.Fr.通知。里奇。作品。4(序列R–3),154–158(1970)

    数学 谷歌学者 

  12. 穆达菲,A.:分裂单调变分包含。J.优化。理论应用。150, 275–283 (2011)

    第条 数学科学网 谷歌学者 

  13. Pham,D.T.,An,L.T.H.,Akoa,F.:DC(凸函数的差异)编程和DCA用真实世界非凸优化问题的DC模型重新审视。安·Oper。物件。133, 23–46 (2005)

    第条 数学科学网 谷歌学者 

  14. Saeki,Y.,Kuroiwa,D.:具有反凸约束的DC规划问题的最优性条件。非线性分析。80, 18–27 (2013)

    第条 数学科学网 谷歌学者 

  15. Souza,J.C.O.,Oliveira,R.P.,Soubeyran,A.:凸函数差分近似线性化算法的全局收敛性。最佳方案。莱特。10, 1529–1539 (2016)

    第条 数学科学网 谷歌学者 

  16. Sun,W.,Sampaio,R.J.B.,Candido,M.A.B.:DC函数最小化的接近点算法。J.计算。数学。21, 451–462 (2003)

    数学科学网 数学 谷歌学者 

  17. 高桥,W.:非线性和凸分析导论。横河出版社,横河出版社(2009)

    数学 谷歌学者 

下载参考资料

致谢

作者感谢裁判对文章的改进提出了许多有用的意见和建议。陈志明教授获得了中华人民共和国科学技术部(No.MOST 107-2115-M-007-008)的资助。

基金

不适用。

作者信息

作者和附属机构

作者

贡献

作者们在撰写这篇论文中做出了同样重要的贡献。作者阅读并批准了最后的手稿。

通讯作者

与的通信陈志明.

道德声明

竞争性利益

作者声明,他们没有相互竞争的利益。

其他信息

出版商备注

Springer Nature在公布的地图和机构关联中的管辖权主张方面保持中立。

权利和权限

开放式访问本文根据Creative Commons Attribution 4.0 International License的条款分发(http://creativecommons.org/licenses/by/4.0/),它允许在任何媒体上不受限制地使用、分发和复制,前提是您对原始作者和来源给予适当的信任,提供知识共享许可的链接,并指明是否进行了更改。

转载和许可

关于本文

检查更新。通过CrossMark验证货币和真实性

引用这篇文章

庄,CS。,Chen,CM。分裂DC程序的分裂近似线性化算法和收敛定理。J不平等申请 2019, 148 (2019). https://doi.org/10.1186/s13660-019-284-9

下载引文

  • 收到以下为:

  • 认可的以下为:

  • 出版以下为:

  • DOI程序以下为:https://doi.org/10.1186/s13660-019-284-9

移动交换中心

关键词