Introduzimos a definição das subdiferenciais utilizando cones normais, uma vez que, essa abordagem fornece de maneira clara a idéia de que o conceito das subdiferenciais de uma função é uma extensão do conceito de gradiente desse função, no sentido clássico, visto que, se a função em questão for de Classe C2, então, a subdiferencial passa a ser
um conjunto unitário formado pelo vetor gradiente dessa função. Porém, existem repre- sentações para as subdiferenciais que facilitam as demonstrações de algumas propriedades envolvendo esses conjuntos. Aqui vamos apresentar tais representações.
Proposição 2.3.1. Sejam f : Rn → R ∪ {+∞} semicontínua inferior, ¯x ∈ dom(f) e
ξ∈ Rn. Então, as seguintes afirmações são equivalentes:
1. ξ ∈ ∂Pf (¯x).
2. Existem M > 0 e ǫ > 0 tal que
2.3 Representação Analítica dos Subgradientes proximal e estrito. 60
Demonstração. Vamos mostrar que 1 implica 2. Seja ξ ∈ ∂Pf (¯x), consequentemente,
(ξ,−1) ∈ NP
epi(f )(¯x, f (¯x)). Através da definição de cone normal proximal, podemos repre-
sentar geometricamente o vetor subgradiente normal proximal em (¯x, f(¯x)) como é feito na Figura 1 com as devidas modificações.
Figura 1: Epigrafo de f. Como (ξ, −1) ∈ NP
epi(f )(¯x, f (¯x)), existe 0 < δ ≤ 1 tal que
(¯x, f (¯x))∈ projepi(f )((¯x, f (¯x)) + δ(ξ,−1)) . Logo,
[(¯x, f(¯x)) + δ(ξ, −1)] − (¯x, f(¯x)) ≤ [(¯x, f(¯x)) + δ(ξ, −1)] − (y, α) , ∀(y, α) ∈ epi(f), ou seja, δ(ξ, −1) ≤ [(¯x, f(¯x)) + δ(ξ, −1)] − (y, α) , ∀(y, α) ∈ epi(f).
Em particular, para α = f(y) temos que δ(ξ, −1) ≤ [(¯x, f(¯x)) + δ(ξ, −1)] − (y, f(y)) , consequentemente, δ(ξ, −1) 2
≤ (¯x − y + δξ, f(¯x) − f(y) − δ) 2. Uma vez que para qualquer m ∈ N dado, as normas em Rm são todas equivalentes, vamos considerar as
normas acima como sendo as produzidas pelo produto interno. Desse modo, temos que (δξ, −δ) =$ δξ 2+ ξ 2 e
(¯x − y + δξ, f(¯x) − f(y) − δ) =$ ¯x − y + δξ 2+|f(¯x) − f(y) − δ|2. Logo,
δξ 2+| − δ|2 ≤ ¯x − y + δξ 2+|f(¯x) − f(y) − δ|2, ou seja, δ2 ξ 2+ δ2 ≤ ¯x − y + δξ 2+ (f (¯x)− f(y) − δ)2
e disto segue que, (f (¯x)− f(y) − δ)2 ≥ δ2 ξ 2+ δ2− ¯x − y 2+ 2δξ, y − ¯x .
2.3 Representação Analítica dos Subgradientes proximal e estrito. 61
δ2 ξ 2+ δ2− ¯x − y 2+ 2δξ, y − ¯x > 0 e f(y) − f(¯x) + δ > 0, sendo possível essa última
exigência, já que, por hipótese f é semicontínua inferiormente.
Logo, f (y)≥ g(y) := f(¯x) − δ +$δ2+ 2δξ, y − ¯x − y − ¯x 2 (∗)
para todo y ∈ (¯x + ǫB[0, 1]). Uma vez que g′(y) = 1 2 2δξ + 2(¯x− y) $ δ2+ 2δξ, y − ¯x − y − ¯x 2, então, g ′(¯x) = ξ. Além disso, g′′(y) = 1 2 ⎧ ⎪ ⎨ ⎪ ⎩ −2[δ2+ 2δξ, ¯x − y + ¯x − y 2]12 − [2δξ+2(¯x−y)]2 2√δ2+2δ ξ,¯x−y+ ¯x−y 2 2[δ2+ 2δξ, ¯x − y + ¯x − y 2]32 ⎫ ⎪ ⎬ ⎪ ⎭ .
Como y → [δ2 + 2δξ, ¯x − y + ¯x − y 2]32 é uma função contínua em (¯x + ǫB[0, 1]),
não assume o valor nulo nessa vizinhança de ¯x e o numerador também é uma aplicação contínua segue que g′′ é contínua em (¯x + ǫB[0, 1]), consequentemente g′′ é limitada em
(¯x + ǫB[0, 1]), ou seja, g′′(y) ≤ 2M, para algum M > 0 e qualquer y ∈ (¯x + ǫB[0, 1]).
Caso seja necessário, podemos diminuir ǫ de modo que ǫ ainda seja maior do que zero e uma vez que g é de classe C2, podemos escrever para todo y ∈ (¯x + ǫB[0, 1]) através da
fórmula de Taylor de segunda ordem,isto é, existe z ∈ [¯x, y] ⊂ (¯x + ǫB(0, 1)) tal que g(y) = g(¯x) +g′(¯x), y− ¯x + 1
2g
′′(z)(y− ¯x), y − ¯x ,
ou seja, g(y) = g(¯x) + g′(¯x), y− ¯x + 1
2g′′(z) y − ¯x 2. Como 2M ≥ g′′(z) ≥ −g′′(z)
para todo z ∈ (¯x+ǫB(0, 1)), então, −2M ≤ − g′′(z) ≤ g′′(z) para todo z∈ (¯x+ǫB(0, 1))
e sendo g′(¯x) = ξ segue que
g(y)≥ g(¯x) + ξ, y − ¯x − M y − ¯x 2, para todo y∈ (¯x + ǫB(0, 1)).
Uma vez que f(¯x) = g(¯x), então, g(y) ≥ f(¯x) + ξ, y − ¯x − M y − ¯x 2, para todo
y∈ (¯x + ǫB(0, 1)) e pela desigualdade (∗) segue que para qualquer y ∈ (¯x + ǫB(0, 1)) vale que f(y) ≥ f(¯x) + ξ, y − ¯x − M y − ¯x 2, consequentemente
ξ, y − ¯x ≤ f(y) − f(¯x) + M y − ¯x 2, ∀y ∈ (¯x + ǫB(0, 1)). Reciprocamente, suponha que existem M > 0 e ǫ′ > 0 tal que
2.3 Representação Analítica dos Subgradientes proximal e estrito. 62
Tome 0 < ǫ < ǫ′ tal que,
ξ, y − ¯x ≤ f(y) − f(¯x) + M y − ¯x 2 ∀y ∈ (¯x + ǫB[0, 1]), desse modo, para todo α ≥ f(y) com y ∈ (¯x + ǫB[0, 1]) tem-se que
ξ, y − ¯x ≤ α − f(¯x) + M y − ¯x 2.
Lembrando que aqui estamos denotando ξ, y − ¯x por ξ(y − ¯x) e sendo M|α − f(¯x)|2 ≥ 0
segue que, para qualquer (y, α) ∈ epi(f) ∩ ((¯x, f(¯x)) + ǫB[0, 1]) , vale ξ, (y − ¯x) ≤ α − f(¯x) + M y − ¯x 2+ M α − f(¯x) 2 ⇒
⇒ ξ, (y − ¯x) − 1[α − f(¯x)] ≤ M( y − ¯x 2+|α − f(¯x)|2)⇒ ⇒ (ξ, −1)[(y, α) − (¯x, f(¯x))] ≤ M (y, α) − (¯x, f(¯x)) 2. Portanto, (ξ, −1) ∈ NP
epi(f )∩((¯x,f (¯x))+ǫB[0,1])(¯x, f (¯x)).
Observe que, o cone NP
epi(f )∩((¯x,f (¯x))+ǫB[0,1])(¯x, f (¯x)) está bem definido, pois a intersecção de
conjuntos fechados é um conjunto fechado. Como (ξ, −1) ∈ NP
epi(f )∩((¯x,f (¯x))+ǫB[0,1])(¯x, f (¯x))
então, existe λ > 0 tal que (¯x, f(¯x)) ∈ projepi(f )(λ(ξ,−1)) logo, da Proposição 1.1.5 temos
que, λ(ξ, −1)[(y, α) − (¯x, f(¯x)] ≤ 1
2 (y, α) − (¯x, f(¯x) 2, para todo (y, α)∈ epi(f), ou seja
(ξ,−1)[(y, α) − (¯x, f(¯x)] ≤ 2λ1 (y, α) − (¯x, f(¯x) 2. Tome σ = 1
2λ. Da Proposição 1.1.7
tem-se que (ξ, −1) ∈ NP
epi(f )(¯x, f (¯x). Portanto, ξ ∈ ∂Pf (¯x).
Proposição 2.3.2. Seja f : Rn → R uma função lipschitziana e ¯x, ξ ∈ Rn. Então, as
seguintes afirmações são equivalentes: 1. ξ ∈ ∂Pf (¯x).
2. Existe M > 0 tal que
ξ, (y − ¯x) ≤ f(y) − f(¯x) + M y − ¯x 2, ∀y ∈ Rn.
Demonstração. Suponha que a condição 2 seja satisfeita. Então, em particular, temos que ξ, (y − ¯x) ≤ f(y) − f(¯x) + M y − ¯x 2 ∀y ∈ (¯x + ǫB[0, 1]), com ǫ > 0. Como f é
Lipschitz segue que f é semicontínua inferior. Além disso, f(¯x) ∈ R, ou seja, ¯x ∈ dom(f). Desse modo, da Proposição 2.3.1 temos que ξ ∈ ∂Pf (¯x), ou seja, 1 é satisfeita.
Reciprocamente, suponha que 1 é satisfeita e considere k a constante Lipschitz da função f. Da Proposição 2.3.1 segue que existem M > 0 e ǫ > 0 tal que
2.3 Representação Analítica dos Subgradientes proximal e estrito. 63
ξ, (y − ¯x) + f(¯x) − f(y) ≤ M y − ¯x 2, ∀y ∈ (¯x + ǫB[0, 1]).
Defina N := ǫ−1( ξ + k) e observe que para todo y /∈ (¯x + ǫB[0, 1]) vale que
N y − ¯x > Nǫ = ǫ−1( ξ + k)ǫ = ( ξ + k), logo, N y − ¯x 2 > ( ξ + k).
Como f|{y:y /∈(¯x+ǫB[0,1])} é lipschitziana temos que, para todo y /∈ (¯x + ǫB[0, 1]) segue que
ξ, (y − ¯x) + f(¯x) − f(y) ≤ | ξ, (y − ¯x) + f(¯x) − f(y)| ≤ | ξ, (y − ¯x) | + |f(¯x) − f(y)| = = ξ (y − ¯x) +|f(¯x)−f(y)| ≤ ξ (y − ¯x) +k y − ¯x = ( ξ +k y − ¯x ) ≤ N y − ¯x 2. Assim, obtemos que ξ, (y − ¯x) ≤ f(y) − f(¯x) + M y − ¯x 2, ∀y ∈ (¯x + ǫB[0, 1]) e
ξ, (y − ¯x) ≤ f(y) − f(¯x) + N y − ¯x 2 ∀y /∈ (¯x + ǫB[0, 1]). Tome ˆM := max{M, N},
desse modo, ξ, (y − ¯x) ≤ f(y) − f(¯x) + ˆM y − ¯x 2 para todo y ∈ (¯x + ǫB[0, 1]) e
ξ, (y − ¯x) ≤ f(y) − f(¯x) + ˆM y − ¯x 2 para todo y /∈ (¯x + ǫB[0, 1]), logo
ξ, (y − ¯x) ≤ f(y) − f(¯x) + ˆM y − ¯x 2 para todo y ∈ Rn. Portanto, 1 é satisfeita.
Proposição 2.3.3. Sejam f : Rn → R ∪ {+∞} semicontínua inferior, ¯x ∈ dom(f) e
ξ∈ Rn. Então as seguintes afirmações são equivalentes:
1. ξ ∈ ˆ∂f(¯x). 2. lim sup
y→¯x
ξ,(y−¯x)−(f (y)−f (¯x)) y−¯x ≤ 0.
Demonstração. Suponha que lim sup
y→¯x
ξ,(y−¯x)−(f (y)−f (¯x))
y−¯x ≤ 0 (∗). Tome o : R+ → R+
tal que lim
ǫ↓0 o(ǫ)
ǫ = 0, de modo que arbitrário. De (∗) tem-se que, para qualquer {yi} em
Rn dada, tal que y
i → ¯x quando i → ∞ e exista lim i→∞ ξ,(yi−¯x)−(f (yi)−f (¯x)) yi−¯x ≤ 0 valem as seguintes relações lim i→∞ ξ, (yi− ¯x) − (f(yi)− f(¯x))
yi− ¯x ≤ lim supy→¯x
ξ, (y − ¯x) − (f(y) − f(¯x)) y − ¯x ≤ 0 = limi→∞ o1( yi− ¯x ) yi− ¯x , logo, lim i→∞ ξ, (yi − ¯x) − (f(yi)− f(¯x)) yi− ¯x ≤ limi→∞ o1( yi− ¯x ) yi− ¯x = 0. Seja lim i→∞ ξ,(yi−¯x)−(f (yi)−f (¯x))
yi−¯x = L≤ 0. Então, dado ǫ > 0 existe δ1 > 0 tal que, para todo
yi ∈ Rn com 0 < yi− ¯x < δ1 vale que
ξ, (yi− ¯x) − (f(yi)− f(¯x)) yi− ¯x − L ≤ ǫ 2 (∗∗).
2.3 Representação Analítica dos Subgradientes proximal e estrito. 64 0 < yi− ¯x < δ2, tem-se que 0− o1( yi− ¯x ) yi− ¯x ≤ ǫ 2 (∗ ∗ ∗).
De (∗∗) e (∗ ∗ ∗), tomando δ = min{δ1, δ2} tem-se que, para todo yi ∈ Rn tal que
0 < yi− ¯x < δ vale que ξ, (yi− ¯x) − (f(yi)− f(¯x)) yi− ¯x − L − o1( yi− ¯x ) yi− ¯x < ǫ, ou seja, ξ, (yi− ¯x) − (f(yi)− f(¯x)) yi− ¯x − L − o1( yi − ¯x ) yi− ¯x < ǫ. Uma vez que ǫ > 0 foi escolhido de modo arbitrário segue que
ξ, (yi− ¯x) − (f(yi)− f(¯x)) yi− ¯x − L − o1( yi− ¯x ) yi− ¯x ≤ 0, logo, ξ, (yi− ¯x) − (f(yi)− f(¯x)) yi− ¯x ≤ o1( yi− ¯x ) yi− ¯x .
Portanto, para todo {yi} em Rn com yi → ¯x quando i → ∞, existe δ > 0 tal que para
todo y ∈ Rn com 0 < y
i− ¯x < δ tem-se que é satisfeita. Como {yi} foi escolhida de
modo arbitrário vale que, para todo y ∈ Rn∩(B(¯x, δ) \ {¯x}) , é satisfeita pois, sempre é
possível encontrar {yi} tal que yi → ¯x e yi = y para algum i∈ N suficientemente grande,
de modo que yi ∈ Rn∩ (B(¯x, δ) \ {¯x}) , sendo assim,
ξ, (y − ¯x) − (f(y) − f(¯x)) ≤ o1( y − ¯x )
para todo y ∈ Rn∩ (B(¯x, δ) \ {¯x}) . Uma vez que o
1 : R+ → R+ e para todo α tal que
α≥ f(y) com y ∈ Rn∩ (B(¯x, δ) \ {¯x}) tem-se que
ξ, (y − ¯x)−(α−f(¯x)) ≤ ξ, (y − ¯x)−(f(y)−f(¯x)) ≤ o1( y−¯x ) ≤ o1( y−¯x )+o1(|α−f(¯x)|),
isto é, ξ, (y − ¯x) − (α − f(¯x)) ≤ o1( y − ¯x ) + o1(|α − f(¯x)|), para todo (α, y) em
epi(f )∩[B((¯x, f(¯x)), δ) \ {(¯x, f(¯x))}] . Como o1 :R+ → R+foi tomada de modo arbitrário,
em particular, para o1 :R+→ R+ dada por o1(ǫ) = ǫ2, tem-se que
ξ, (y − ¯x) − (α − f(¯x)) ≤ o1( (y, α) − (¯x, f(¯x)) ),
para todo (α, y) ∈ epi(f)∩[B((¯x, f(¯x)), δ) \ {(¯x, f(¯x))}] . Logo, da Proposição 1.1.9 garan- timos que (ξ, −1) ∈ ˆNepi(f )(¯x, f (¯x)), consequentemente ξ ∈ ˆ∂f (¯x).
2.3 Representação Analítica dos Subgradientes proximal e estrito. 65
suponha que lim sup
y→¯x
ξ,(y−¯x)−(f (y)−f (¯x))
y−¯x > 0. Então, existe {yi} em Rn tal que yi → ¯x
quando i → ∞, com, yi = ¯x para todo i ∈ N tal que lim i→∞
ξ,(yi−¯x)−(f (yi)−f (¯x))
yi−¯x > 0 e pela
permanência do sinal segue que existe α > 0 tal que para todo i ∈ N suficientemente grande tem-se que ξ, (yi− ¯x) − (f(yi)− f(¯x)) ≥ α yi− ¯x . (a)
Reorganizando essa desigualdade obtemos f(yi) ≤ ξ, (yi− ¯x) + f(¯x) − α yi− ¯x , con-
sequentemente, lim sup
i→∞
f (yi) ≤ f(¯x), entretanto, por hipótese, lim inf
i→∞ f (yi) ≥ f(¯x). Por-
tanto, lim
i→∞f (yi) = f (¯x). Defina zi := (yi, f (yi)), assim zi ∈ epi(f) para todo i ∈ N, além
disso, defina λi := zi− (¯x, f(¯x)) e ηi := λ−1i (zi − (¯x, f(¯x))). Observe que, para cada
i∈ N segue que ηi = zi− (¯x, f(¯x)) zi− (¯x, f(¯x)) = 1.
Como ηi ∈ Rnpara cada i ∈ N, então, existe uma subsequência {ηij} de {ηi} de modo que
ηij → η para algum η ∈ R
n, com η = 0. Desse modo, existe {z
ij} ∈ epi(f) e λij ↓ 0 quando
j → ∞, tal que zij−(¯x,f (¯x))
λij → η. Da definição de Cone Tangente de Bouligand temos que
η∈ Tepi(f )(¯x, f (¯x)) e da Proposição 1.3.5 temos que ˆNepi(f )(¯x, f (¯x)) = (Tepi(f )(¯x, f (¯x)))∗ e
como 1 é satisfeita segue que (ξ, −1) ∈ ˆNepi(f )(¯x, f (¯x)), consequentemente, (ξ,−1) · u ≤ 0,
para todo u ∈ Tepi(f )(¯x, f (¯x)). Então, se mostrarmos que (ξ,−1) · η > 0, obteremos uma
contradição e a demonstração estará completa. Afirmação: (ξ,−1) · η > 0.
De fato: Temos que (ξ,−1)·ηij = (ξ,−1)λ −1 ij (yij, f (yij)− (¯x, f(¯x)) = λ−1ij " ξ, (yij − ¯x) −f (yij)− f(¯x) # , ou seja, (ξ,−1)ηij = λ −1" ξ, (y ij− ¯x) −f (yij)− f(¯x) # (b). Entretanto, para todo j ∈ N suficientemente grande temos que f (yij)≤ f(¯x)+ ξ, (yij − ¯x) −α yij−¯x , logo, " f (yij)− f(¯x) # yij− ¯x ≤ ξ, (yij− ¯x) yij− ¯x −α ≤ ξ +α < ∞. Desse modo, existem duas possibilidades
1◦) Existe uma subsequência {y
ijt} de {yij} que é subsequência de {yi} dada ini-
cialmente, tal que, para todo t ∈ N suficientemente grande vale que f (yijt)−f (¯x)
yijt−¯x ≤ pα,
para algum p ∈ R. Logo, f (yijt)−f (¯x)
yijt−¯x ≤ pα := k, ou seja, existe k > 0 tal que
f (yijt)− f(¯x) ≤ k yijt − ¯x , para todo t ∈ N suficientemente grande.
2◦) lim i→∞
f (yijt)− f(¯x)
yijt − ¯x