PROLONGEMENT DES FONCTIONS CONVEXES

YVES DE CORNULIER ET ROMAIN TESSERA

Résumé. Nous donnons un critère sur un point du bord d’un ouvert convexe pour qu’on puisse y prolonger toute fonction convexe sur cet ouvert, majorée au voisinage de ce point.

Nous montrons également, si la dimension est ≥ 2, qu’il existe toujours une fonction convexe non prolongeable en ce point.

Dans tout ce papier, C désignera un convexe ouvert non vide d’un espace vectoriel réel de dimension d, et K = \overline{C} est son adhérence.

On rappelle sans démonstration le classique :

Théorème 1. Soit f convexe sur C. Alors f est continue, et f = sup{u affine, u ≤ f}.

Définition 2. À toute fonction numérique f définie sur C, on associe la fonction

f̃ = sup{u affine, u ≤ f}

définie sur K et à valeurs dans \overline{ℝ}.

On a les propriétés immédiates :

– f̃ ≤ f sur C.

– La fonction f̃ est convexe et s.c.i. sur K.

– Soit f̃ = −∞, soit f̃ > −∞.

– Si f est convexe, alors f̃ est convexe sur K et prolonge f (d’après le théorème).

On a un premier résultat de continuité :

Proposition 3. La fonction f̃ est continue sur tout segment d’intérieur inclus dans C.

Preuve : On se ramène facilement à montrer que si ℱ est un ensemble de fonctions affines sur un segment [a, b] de ℝ, avec a < b, et si la fonction g = sup_{f∈ℱ} f est finie sur ]a, b[, alors g est continue sur [a, b].

Ce résultat est clair, car alors g est s.c.i. comme borne supérieure de fonctions continues, et s.c.s. comme fonction convexe sur un segment et finie sur son intérieur. □

On en déduit notamment que, si f est convexe, f̃est l’unique fonction s.c.i. sur K prolongeant f.

Le contre-exemple suivant montre qu’en général f̃ n’est pas continue :

Exemple 4. Soient D ⊊ C deux boules ouvertes d’un espace euclidien, telles que les sphères s’intersectent en un point A. Notons S le bord de C. Posons

f = sup{u affine, u ≤ 0 sur D, u ≤ 1 sur C}

Alors f = 0 sur \overline{D}, et f = 1 sur S\\{A\}. Notons g la restriction de f à C. Alors g̃ = f, car ces deux fonctions sont égales sur C et sont continues sur tout segment. Ainsi g̃ n’est pas continue.

Définition 5. Nous appellons point conique d’un convexe fermé K un point A ∈ K tel qu’il existe un cône convexe fermé F_{A} de sommet A, coïncidant avec K au voisinage de A, i.e. ∃V voisinage de A tel que K ∩ V = F ∩ V.

On voit qu’on a forcément

F_{A} = ⋃_{B∈K\{A}}[AB)

([AB) désignant la demi-droite). Notons qu’en général, F_{A} n’est pas fermé.

Exemples :

Date: 31 janvier 2003.

– Tout point de l’intérieur de K est conique.

– Si K est une boule euclidienne, tout point du bord est non conique.

– Si K est un polyèdre convexe, alors tout point de K est conique.

Théorème 6. Soit f convexe sur C. Alors f̃ est continue en tout point conique de K au voisinage duquel elle est majorée. Réciproquement, si A n’est pas un point conique, alors il existe f convexe majorée sur C, telle que f̃ n’est pas continue en A.

Preuve : On se ramène, par translation, au cas A = 0.

Supposons 0 conique et f majorée au voisinage de 0. Il faut montrer que f̃ est s.c.s. en 0. Supposons donc qu’il existe une suite x_{n} → 0 telle que \underline{lim}(f(x_{n})) > f(0). Alors, comme 0 est un point conique, \frac{x_{n}}{\sqrt{∥x_{n}∥}} est dans K pour n ≫ 0, et on vérifie alors, par la convexité de f̃, que

f̃(\frac{x_{n}}{\sqrt{∥x_{n}∥}}) tend vers +∞, ce qui nie l’hypothèse de majoration de f au voisinage de 0.

Passons à la réciproque. Elle découle immédiatement des deux lemmes suivants :

Lemme 7. Soit X l’ensemble des points de K par lesquels passent un hyperplan tangent à C et ne contenant pas 0. Alors 0 est dans l’adhérence de X si (et seulement si) 0 est non conique.

Lemme 8. Il existe f convexe s.c.i. sur K, telle que f ≤ 1, f = 1 sur X et f(x) = 0.

Preuve du premier lemme : fixons une structure euclidienne sur l’espace et notons p la projection sur le convexe K. Montrons d’abord que x non conique ⇔ inf_{y∈K\{x}} ℓ([x, y) ∩ K)) = 0 (ℓ désigne la longueur du segment, [AB) est la demi-droite). En effet, si cette borne inférieure est > 0, alors K coïncide avec un cône au voisinage de x, forcément fermé puisque K est fermé. (La réciproque est évidente). Donc, 0 étant non conique, l’ensemble W des points y ∈ K\{x} tels que [0, y)∩K = [O, y] contient 0 dans son adhérence. Maintenant, si x ∈ W, alors p(2x) ∈ X. En effet, soit H l’hyperplan orthogonal à 2x − p(2x) passant par 2x. Alors, comme 2x ∉ H, l’intersection de H avec la droite (0x) est réduite à un point. Comme H est tangent à K et sépare 2x de K, il contient un point de ]x, 2x], donc ne contient pas 0. Par conséquent, X contient 0 dans son adhérence.

Prouvons maintenant le second lemme. Considérons la fonction

f = sup\{u affine, u ≤ 0 sur \frac{1}{2}K, u ≤ 1 sur K\}

Alors f(0) = 0, et f = 1 sur X. En effet soit y ∈ X. On sait déjà que f(y) ≤ 1. Comme y ∈ X, il existe une forme linéaire l telle que l ≥ 1 sur K, avec l(y) = 1. Posons u(x) = 2l(x)−1. Alors u ≤ 0 sur \frac{1}{2}K et u ≤ 1 sur K, et u(y) = 1, donc f(y) ≥ 1. D’autre part, f(0) = 0 est trivial : f(0) ≤ 0 d’après la définition de f, car 0 ∈ \frac{1}{2}K, et f(0) ≥ 0 car f est supérieure à la fonction affine nulle. □

Notons que si x est conique dans K, alors x est conique dans H ∩ K, où H est un hyperplan quelconque passant par x. On en déduit par une récurrence immédiate :

Théorème 9. Tout point de K est conique si et seulement si K est un polyèdre.

Nous appellons ici polyèdre une partie dont l’intersection avec tout cube fermé est une intersection finie de demi-espaces fermés, i.e. nous acceptons qu’il y ait une infinité de faces à l’infini.

Cas des fonctions convexes non localement bornées

Théorème 10. Soit A ∈ ∂K. Alors il existe f convexe sur C telle que, en restriction à tout intervalle ]A, x], f a une limite finie en A, mais f n’est pas majorée au voisinage de K. En particulier, f ne se prolonge pas par continuité en A.

Preuve : On peut supposer, pour alléger, que A = 0, et on se fixe une structure euclidienne sur E. Puisqu’il existe un hyperplan tangent en O, l’ensemble Z des vecteurs u de norme 1 telles que ⟨u, C⟩ ≥ 0 est non vide ; on vérifie facilement qu’il est fermé, donc compact. Sa frontière dans la sphère unité est non vide, car C est non vide. Soit donc u dans cette frontière. Du fait que u est sur la frontière de Z, il une suite x_{n} de C telle que x_{n} → 0 et θ_{n} = arcsin(⟨\frac{x_{n}}{∥x_{n}∥}, u⟩) → 0. Il existe une fonction affine u_{n} négative sur le cône F_{2θ_{n}} = \{x ∈ E, arcsin(⟨\frac{x}{∥x∥}, u⟩) ≥ 2θ_{n}\} et égale à n en x_{n}. Posons f_{n} = sup(0, u_{n}) et f = ∑ f_{n}. Alors f est convexe, finie sur C, n’est pas majorée au voisinage de C, mais, si x ∈ C, f bornée sur ]0, x], car elle y est somme d’un nombre fini de fonctions affines par morceaux : en effet, pour n assez grand, ]0, x] est contenu dans F_{2θ_{n}}, dans lequel cas f_{n} est nul sur ]0, x]. □