凸编程问题有四种类型-

步骤1- $ min \：f \ left(x \ right)$，其中S $和S中的$ x \是$ \ mathbb {R} ^ n $和$ f \ left(x \ right)$是凸函数。

步骤2- $ min \：f \ left(x \ right)，x \ in \ mathbb {R} ^ n $受

$ g_i \ left(x \ right)\ geq 0，1 \ leq m_1 $和$ g_i \ left(x \ right)$是一个凸函数。

$ g_i \ left(x \ right)\ leq 0，m_1 + 1 \ leq m_2 $和$ g_i \ left(x \ right)$是一个凹函数。

$ g_i \ left(x \ right)= 0，m_2 + 1 \ leq m $和$ g_i \ left(x \ right)$是线性函数。

其中$ f \ left(x \ right)$是凸函数。

步骤3- $ max \：f \ left(x \ right)$，其中S $和S中的$ x \是$ \ mathbb {R} ^ n $和$ f \ left(x \右)$是凹函数。

步骤4- $ min \：f \ left(x \ right)$，其中$ x \ in \ mathbb {R} ^ n $受

$ g_i \ left(x \ right)\ geq 0，1 \ leq m_1 $和$ g_i \ left(x \ right)$是一个凸函数。

$ g_i \ left(x \ right)\ leq 0，m_1 + 1 \ leq m_2 $和$ g_i \ left(x \ right)$是一个凹函数。

$ g_i \ left(x \ right)= 0，m_2 + 1 \ leq m $和$ g_i \ left(x \ right)$是线性函数。

其中$ f \ left(x \ right)$是一个凹函数。

可行方向锥

设S为$ \ mathbb {R} ^ n $中的非空集，令$ \ hat {x} \ in \：Closure \ left(S \ right)$，则S的可行方向圆锥为$ \ hat {x} $，用D表示，定义为$ D = \ left \ {d：d \ neq 0，\ hat {x} + \ lambda d \ in S，\ lambda \ in \ left(0， \ delta \ right)，\ delta> 0 \ right \} $

D $中的每个非零向量$ d \称为可行方向。

对于给定的函数$ f：\ mathbb {R} ^ n \ Rightarrow \ mathbb {R} $，在$ \ hat {x} $处的改善方向圆锥由F表示，并由

$$ F = \ left \ {d：f \ left(\ hat {x} + \ lambda d \ right)\ leq f \ left(\ hat {x} \ right)，\ forall \ lambda \ in \ left( 0，\ delta \ right)，\ delta> 0 \ right \} $$

F $中的每个方向$ d \在$ \ hat {x} $处称为f的改善方向或下降方向。

定理

必要条件

考虑问题$ min f \ left(x \ right)$，使得$ x \ in S $，其中S是$ \ mathbb {R} ^ n $中的非空集。假设f在S $中的$ \ hat {x} \点处是可微的。如果$ \ hat {x} $是局部最优解，则$ F_0 \ cap D = \ phi $其中$ F_0 = \ left \ {d：\ bigtriangledown f \ left(\ hat {x} \ right)^ T d <0 \ right \} $，D是可行方向的锥。

充足的条件

如果$ F_0 \ cap D = \ phi $ f是$ \ hat {x} $的伪凸函数，并且存在$ \ hat {x}，N_ \ varepsilon \ left(\ hat {x} \ right)的邻域，\ varepsilon> 0 $，对于任何$ x \ in S \ cap N_ \ varepsilon \ left(\ hat {x} \ right)$，则$ d = x- \ hat {x} \ in D $ hat {x} $是局部最优解。

证明

必要条件

设$ F_0 \ cap D \ neq \ phi $，即在F_0 \ cap D $中存在一个$ d，使得F_0 $中的$ d和D $中的$ d

由于$ d \ in D $，因此存在$ \ delta_1> 0 $，这样$ \ hat {x} + \ lambda d \ in S，\ lambda \ in \ left(0，\ delta_1 \ right)。$

由于$ d \ in F_0 $，因此$ \ bigtriangledown f \ left(\ hat {x} \ right)^ T d <0 $

因此，存在$ \ delta_2> 0 $使得$ f \ left(\ hat {x} + \ lambda d \ right)

设$ \ delta = min \ left \ {\ delta_1，\ delta_2 \ right \} $

然后$ \ hat {x} + \ lambda d \ in S，f \ left(\ hat {x} + \ lambda d \ right)

但是$ \ hat {x} $是局部最优解。

因此，这是矛盾的。

因此$ F_0 \ cap D = \ phi $

充足的条件

令$ F_0 \ cap D \ neq \ phi $ nd令f为伪凸函数。

设$ \ hat {x}，N _ {\ varepsilon} \ left(\ hat {x} \ right)$的邻域，使得$ d = x- \ hat {x}，\ forall x \ in S \ cap N_ \ varepsilon \ left(\ hat {x} \ right)$

令$ \ hat {x} $不是局部最优解。

因此，在S \ cap N_ \ varepsilon \ left(\ hat {x} \ right)$中存在$ \ bar {x} \，使得$ f \ left(\ bar {x} \ right)

通过$ S \ cap N_ \ varepsilon \ left(\ hat {x} \ right)，d = \ left(\ bar {x}-\ hat {x} \ right)\ D $中的假设

通过f的伪凸，

$$ f \ left(\ hat {x} \ right)> f \ left(\ bar {x} \ right)\ Rightarrow \ bigtriangledown f \ left(\ hat {x} \ right)^ T \ left(\ bar {x}-\ hat {x} \ right)<0 $$

$ \ Rightarrow \ bigtriangledown f \ left(\ hat {x} \ right)^ T d <0 $

$ \ Rightarrow d \ in F_0 $

因此$ F_0 \ cap D \ neq \ phi $

这是一个矛盾。

因此，$ \ hat {x} $是局部最优解。

考虑以下问题：$ min \：f \ left(x \ right)$其中$ x \ in X $这样$ g_x \ left(x \ right)\ leq 0，i = 1,2，…，百万美元

$ f：X \ rightarrow \ mathbb {R}，g_i：X \ rightarrow \ mathbb {R} ^ n $并且X是$ \ mathbb {R} ^ n $中的开放集

设$ S = \ left \ {x：g_i \ left(x \ right)\ leq 0，\ forall i \ right \} $

假设$ \ hat {x} \ in X $，则$ M = \ left \ {1,2，…，m \ right \} $

设$ I = \ left \ {i：g_i \ left(\ hat {x} \ right)= 0，i \ in M \ right \} $，其中我被称为$ \ hat {x处所有活动约束的索引集} $

令$ J = \ left \ {i：g_i \ left(\ hat {x} \ right)<0，i \ in M \ right \} $其中J称为$ \ hat {x处所有活动约束的索引集} $。

设$ F_0 = \ left \ {d \ in \ mathbb {R} ^ m：\ bigtriangledown f \ left(\ hat {x} \ right)^ T d <0 \ right \} $

令$ G_0 = \ left \ {d \ in \ mathbb {R} ^ m：\ bigtriangledown gI \ left(\ hat {x} \ right)^ T d <0 \ right \} $

或$ G_0 = \ left \ {d \ in \ mathbb {R} ^ m：\ bigtriangledown gi \ left(\ hat {x} \ right)^ T d <0，\ forall i \ in I \ right \} $

引理

如果$ S = \ left \ {x \ in X：g_i \ left(x \ right)\ leq 0，\ forall i \ in I \ right \} $并且X是$ \ mathbb {R中的非空开放集} ^ n $。令S $和$ g_i $中的$ \ hat {x} \在$ \ hat {x}中不同，i \ in I $，让$ g_i $其中$ i \ in J $中的$ i \连续在$ \ hat {x } $，然后是$ G_0 \ subseteq D $。

证明

让$ d \进入G_0 $

由于$ \ hat {x} \ in X $和X是一个开放集，因此存在$ \ delta_1> 0 $使得$ \ hat {x} + \ lambda d \ in X $为$ \ lambda \ in \左(0，\ delta_1 \ right)$

同样由于$ g_ \ hat {x} <0 $和$ g_i $在$ \ hat {x}处连续，\ forall i \ in J $，所以存在$ \ delta_2> 0 $，$ g_i \ left(\ hat {x} + \ lambda d \ right)<0，\ lambda \ in \ left(0，\ delta_2 \ right)$

由于$ d \ in G_0 $，因此$ \ bigtriangledown g_i \ left(\ hat {x} \ right)^ T d <0，\ forall i \ in I $因此存在$ \ delta_3> 0，g_i \ left (\ hat {x} + \ lambda d \ right)

设$ \ delta = min \ left \ {\ delta_1，\ delta_2，\ delta_3 \ right \} $

因此，$ \ hat {x} + \ lambda d \ in X，g_i \ left(\ hat {x} + \ lambda d \ right)<0，i \ in M $

$ \ Rightarrow \ hat {x} + \ lambda d \ in S $

$ \ Rightarrow d \ in D $

$ \ Rightarrow G_0 \ subseteq D $

因此证明。

定理

必要条件

令$ f $和$ g_i，i \ in I $在$ \ hat {x} \ in S中不同，$和$ g_j $在$ \ hat {x} \ S $中连续。如果$ \ hat {x} $是$ S $的局部最小值，则$ F_0 \ cap G_0 = \ phi $。

充足的条件

如果$ F_0 \帽G_0 = \披$ f是在$ \一个拟凸函数左(\帽子{X}的G_i 9X \右)，我\在I $是强拟功能在一些$ \ varepsilon $ -附近在$ \ hat {x}中，\ hat {x} $是局部最优解。

备注

• 令$ \ hat {x} $为一个可行点，使得$ \ bigtriangledown f \ left(\ hat {x} \ right)= 0 $，则$ F_0 = \ phi $。因此，$ F_0 \ cap G_0 = \ phi $但$ \ hat {x} $不是最佳解决方案

• 但是如果$ \ bigtriangledown g \ left(\ hat {x} \ right)= 0 $，则$ G_0 = \ phi $，因此$ F_0 \ cap G_0 = \ phi $

• 考虑一下问题：min $ f \ left(x \ right)$这样$ g \ left(x \ right)= 0 $。

  由于$ g \ left(x \ right)= 0 $，因此$ g_1 \ left(x \ right)= g \ left(x \ right)<0 $和$ g_2 \ left(x \ right)=-g \左(x \右)\ leq 0 $。

  令$ \ hat {x} \ in S $，然后$ g_1 \ left(\ hat {x} \ right)= 0 $和$ g_2 \ left(\ hat {x} \ right)= 0 $。

  但是$ \ bigtriangledown g_1 \ left(\ hat {x} \ right)=-\ bigtriangledown g_2 \ left(\ hat {x} \ right)$

  因此，$ G_0 = \ phi $和$ F_0 \ cap G_0 = \ phi $。