Propriété (T)

Yves de Cornulier

Avertissement : l’exposé ci-dessous est adressé aux non-spécialistes. Ce qui suit, à l’exception des éventuelles erreurs, est strictement contenu dans les ouvrages de référence sur la propriété (T) cités dans la bibliographie.

Les groupes considérés ici sont des groupes topologiques localement compacts (i.e. Hausdorff, et tout point admet un voisinage compact), et σ-compacts (i.e. réunion dénombrable de compacts).

Soit U(ℋ ) l’ensemble des opérateurs unitaires d’un espace de Hilbert complexe ℋ . Par représentation unitaire (continue) d’un groupe G, on entend une application π : G → U(ℋ ) telle que ξ → gξ est continue pour tout g ∈ G.

Définition 1. Soit π : G → U(ℋ ) une représentation unitaire de G.

On dit que π possède des vecteurs invariants s’il existe ξ ∈ ℋ tel que |ξ| = 1 et π(g)ξ = ξ pour tout g ∈ G.

Soit ε > 0 et W ⊂ G. On dit qu’un vecteur unitaire ξ est (ε, W)-invariant si

sup_{g∈W} |π(g)ξ − ξ| < ε

On dit que π possède des vecteurs quasi-invariants s’il existe un vecteur unitaire (ε, K)-invariant pour tout ε > 0 et tout K compact de G.

Définition 2 (Kazhdan, 1967). On dit que G a la propriété (T) de Kazhdan (ou est de Kazhdan) si toute représentation unitaire ayant des vecteurs quasi-invariants possède des vecteurs invariants.

Il n’est a priori pas facile d’exhiber des groupes de Kazhdan, car on n’a pas en général d’accès facile à toutes ses représentations unitaires. Le seul cas facile est celui-ci :

Proposition 1. Si G est compact, alors il est de Kazhdan.

Preuve : Soit π une représentation ayant des vecteurs quasi-invariants. Comme G est compact, elle possède un vecteur unitaire v (\sqrt{2}, G)-invariant. Alors ⟨v, π(g)v⟩ > 0 pour tout g ∈ G. Soit

w = ∫_{G} π(g)v dλ(g)

(Cette intégrale a un sens, en tant qu’intégrale sur un compact à valeurs dans un espace de Hilbert). Alors w est invariant, et, de plus, ⟨v, w⟩ > 0, ce qui justifie que w ≠ 0. ■

Exemple 1. On définit la représentation régulière λ_{G} de G dans L^{2}(G) par g.f(x) = f(g^{−1}(x)). Un groupe est moyennable si sa représentation régulière λ_{G} possède des vecteurs quasi-invariants (le prendre éventuellement comme une définition de moyennable). Cela revient à dire qu’on peut, en un certain sens, approximer les fonctions constantes par des fonctions de norme 1. Par exemple, dans G = ℝ^{d}, les vecteurs

f_{n} = \frac{1}{n^{d/2}} 1_{[0,n]^{d}}

sont des vecteurs unitaires quasi-invariants. On a quelque chose d’analogue dans ℤ^{d}. En revanche, ce n’est pas le cas dans un groupe tel que le groupe libre à deux générateurs F_{2} :

inf\{\frac{|∂A|}{|A|}, A ⊂ F_{2} finie non vide\} > 0

où ∂ signifie le bord au sens du graphe de Cayley pour un système de générateurs S : ∂A = {a ∈ A, ∃s ∈ S, as ∉ A}. En d’autres termes, les parties de F_{2} n’ont pas une frontière négligeable.

De façon générale, on montre que les groupes résolubles (en particulier, tous les groupes abéliens) sont moyennables.

D’un autre côté, λ_{G} possède des vecteurs invariants si et seulement s’il est compact : en effet, si λ_{G} possède des vecteurs invariants, cela impose qu’il existe une fonction L^{2} constante non nulle sur G, et donc que G est de volume fini, donc compact.

De l’exemple ci-dessus, retenons la proposition utile :

Proposition 2. Le groupe G est à la fois moyennable et de Kazhdan si et seulement s’il est compact.

Donnons quelques propriétés simples sur la propriété (T).

Proposition 3. Soit p : G → H un morphisme continu d’image dense. Si G a la propriété (T), alors H aussi. En particulier, tout quotient d’un groupe de Kazhdan est de Kazhdan.

Preuve : Soit π une représentation unitaire de H. Si elle a des vecteurs quasi-invariants, π ∘ p aussi, donc il existe des vecteurs invariants par G, donc par son image, et donc par H par densité. ■

Exemple 2. Les groupes libres et les groupes fondamentaux infinis des surfaces n’ont pas la propriété (T) : en effet leur abélianisé est un groupe abélien infini.

Proposition 4. Une extension de groupes de Kazhdan est de Kazhdan.

Preuve : Soit G une extension de groupes de Kazhdan, i.e. il existe H ◁ G (H fermé) tel que H et G/H soient de Kazhdan. Soit π : G → U(ℋ ) une représentation unitaire de G. Si elle a des vecteurs quasi-invariants, sa restriction à H aussi, donc, comme H est de Kazhdan, l’ensemble des vecteurs invariants sous H est un sous-espace fermé 𝒦 non nul de ℋ . Comme H est distingué dans G, 𝒦 est stable sous G. Comme de plus H agit trivialement sur 𝒦 , l’action passe au quotient en une action de G/H, ayant des vecteurs quasi-invariants donc des vecteurs invariants puisque G/H a la propriété (T). Ces vecteurs sont donc invariants sous G. ■

Remarque 1. Il est, en revanche, faux qu’un sous-groupe fermé, même distingué, d’un groupe de Kazhdan est forcément de Kazhdan. Par exemple, on montrera que le produit semi-direct ℝ^{n} ⋊ SL_{n}(ℝ) a la propriété (T) si n ≥ 3, bien que son sous-groupe distingué ℝ^{n} ne l’a pas puisqu’il est abélien non compact.

Proposition 5. Si G a la propriété (T), alors G est compactement engendré. En particulier, si G est discret, alors G est de type fini.

Preuve : Soit (W_{n}) une suite d’ouverts relativement compacts, telle que \overline{W_{n}} ⊂ W_{n+1} pour tout n, et G = ⋃ G_{n}. Soit G_{n} le groupe engendré par W_{n}. On doit montrer que G = G_{n} pour n assez grand. Comme G_{n} est un sous-groupe ouvert de G (car engendré par une partie ouverte), le quotient G/G_{n} est discret, et on le munit de la mesure de comptage. Alors ξ_{n}, fonction caractéristique de 1 dans G/G_{n}, est de norme 1 dans ℓ^{2}(G/G_{n}). L’action de G sur G/G_{n} induit une représentation unitaire π_{n} de G dans ℓ^{2}(G/G_{n}). Soit π = ⨁_{n} π_{n}. On identifie ξ_{n} à son image dans le facteur ℓ^{2}(G/G_{n}) de ⨁_{n} ℓ^{2}(G/G_{n}). Alors les ξ_{n} donnent des vecteurs quasi-invariants. En effet, soit K un compact de G et ε > 0. Alors il existe n tel que K ⊂ W_{n}, et alors ξ_{n} est (K, 0)-invariant, donc (K, ε)-invariant. Comme G est de Kazhdan, il possède donc un vecteur invariant non nul, et donc une de ses projections, disons dans ℓ^{2}(G/G_{n}), est non nulle. Comme G agit transitivement sur G/G_{n}, cela impose que ℓ^{2}(G/G_{n}) possède une fonction constante, et donc G/G_{n} est de volume fini, donc fini. Soit F une partie finie de G qui se surjecte sur G/G_{n}. Alors F est contenue dans un W_{m} pour un m ≥ n. Alors G = G_{m}. ■

Notons que, pour l’instant, les seuls groupes dont nous avons prouvé qu’ils sont de Kazhdan sont les groupes compacts. On peut les considérer comme les seuls exemples triviaux de groupes de Kazhdan. D’un autre côté, avec les propositions ci-dessus, il est très facile de prouver que beaucoup de groupes n’ont pas la propriété (T). On va maintenant s’atteler à montrer que SL_{n}(ℝ) a la propriété (T) si n ≥ 3.

On a besoin de la définition suivante.

Définition 3 (Propriété relative). Soit G un groupe et H un sous-groupe fermé. On dit que la paire (G, H) a la propriété (T) si toute représentation unitaire de G ayant des vecteurs invariants a des vecteurs H-invariants.

Exemple 3. La paire (G, G) a la propriété (T) si et seulement si G a la propriété (T). La paire (G, 0) a toujours la propriété (T). Si (H) a la propriété (T), la paire (G, H) a la propriété (T), mais la réciproque est fausse, comme le montre le théorème suivant.

Théorème 1. La paire (ℝ^{n} ⋊ SL_{n}(ℝ), ℝ^{n}) a la propriété (T) si n ≥ 2.

Avant de le montrer, déduisons-en le corollaire recherché :

Corollaire 1. Le groupe SL_{n}(ℝ) a la propriété (T) si n ≥ 3.

Pour prouver le corollaire (en admettant le théorème), on a besoin d’un lemme sur les représentations

de SL_{n}(ℝ). Soit U = \{(\begin{matrix}1 & x \\ 0 & 1 \end{matrix}) , x ∈ ℝ\}, sous-groupe des matrices triangulaires supérieures unipo-

tentes de SL_{2}(ℝ).

Plus généralement, notons N_{n−1} = \{(\begin{matrix}I_{n−1} & v \\ 0 & 1 \end{matrix})\}, v ∈ ℝ^{n−1} (vecteurs colonnes)\}, où I_{n−1} est

la matrice identité de taille n−1. C’est un sous-groupe abélien de SL_{n−1}(ℝ), puisque (\begin{matrix}I_{n−1} & v \\ 0 & 1 \end{matrix}) (\begin{matrix}I_{n−1} & w \\ 0 & 1 \end{matrix}) =

(\begin{matrix}I_{n−1} & v + w \\ 0 & 1 \end{matrix}) pour tous v, w ∈ ℝ^{n−1}.

Lemme 1. 1) Soit ξ un vecteur U-invariant pour une représentation unitare de SL_{2}(ℝ). Alors ξ est invariant (pour tout SL_{2}(ℝ)).

2) Plus généralement, si ξ est un vecteur N_{n−1}-invariant pour une représentation unitaire de SL_{n}(ℝ). Alors ξ est invariant (pour tout SL_{n}(ℝ)).

Preuve : 1) Posons, pour g ∈ G = SL_{2}(ℝ), φ(g) = ⟨ξ, π(g)ξ⟩. Il suffit de montrer que φ est constante égale à 1 sur G). Remarquons d’abord le phénomène suivant (général aux coefficients de représentations) : si H est un sous-groupe de G tel que φ est H-invariante à gauche, alors φ est aussi H-invariante à droite. En effet :

φ(gh) = ⟨ξ, π(g)π(h)ξ⟩ = ⟨π(h)^{−1}π(g)^{−1}ξ, ξ⟩ = \overline{⟨ξ, π(h)^{−1}π(g)^{−1}ξ⟩} = \overline{⟨ξ, π(g)^{−1}ξ⟩} = ⟨ξ, π(g)ξ⟩ = φ(g)

Comme φ est U-invariante à droite, on peut la voir comme une fonction sur le quotient SL_{2}(ℝ)/U, qui s’identifie naturellement à ℝ^{2}\{0}, pour l’action linéaire habituelle. Comme de plus φ est U-invariante à gauche, elle est constante sous les orbites de U sur ℝ^{2}\{0}, autrement dit les droites horizontales qui ne passent pas par l’origine. Mais, par continuité, cela impose que φ est constante sur la droite horizontale passant par l’origine (privée de l’origine), et donc ϕ est T -

invariante à gauche, donc aussi à droite, où T = \{(\begin{matrix}y & x \\ 0 & y^{−1} \end{matrix}) , x ∈ ℝ, y ∈ ℝ^{∗}\} est le groupe

des matrices triangulaires supérieures de SL_{2}(ℝ). Donc φ peut se voir comme une fonction sur SL_{2}(ℝ)/T = P^{1}(ℝ), constante sur les orbites de T, donc constante puisqu’il y a une orbite dense (qui est même P^{1}(ℝ) privé d’un point). On a bien fini par montrer que φ est constante.

2) Pour en déduire le cas général, on considère le plongement i_{k} : SL_{2}(ℝ) → SL_{n}(ℝ) (1 ≤ k ≤ n − 1) :

(\begin{matrix}a & b \\ c & d \end{matrix}) ↦ (\begin{matrix}I_{k−1} & 0 & 0 & 0 \\ 0 & a & 0 & b \\ 0 & 0 & I_{n−1−k} & 0 \\ 0 & c & 0 & d \end{matrix})

Soit π une représentation unitaire de SL_{n}(ℝ) et ξ un vecteur N_{n−1}-invariant. Alors, en appliquant le cas n = 2 à π ∘ i_{k}, on obtient que ξ est i_{k}(SL_{2}(ℝ))-invariant. Or les i_{k}(SL_{2}(ℝ)) engendrent SL_{n}(R), donc ξ est SL_{n}(ℝ)-invariant. ■

Voici comment en déduire que SL_{n}(ℝ) a la propriété (T). Soit π une représentation unitaire de SL_{n}(ℝ) ayant des vecteurs quasi-invariants. On remarque que le sous-groupe

\{(\begin{matrix}A & v \\ 0 & 1 \end{matrix}) , A ∈ SL_{n−1}(ℝ), v ∈ ℝ^{n−1}

est isomorphe à ℝ^{n−1} ⋊ SL_{n−1}(ℝ). Or, n − 1 ≥ 2, et donc, par le théorème 1, la paire (ℝ^{n−1} ⋊ SL_{n−1}(ℝ), ℝ^{n−1}) a la propriété (T). Donc π a un vecteur N_{n−1}-invariant, donc SL_{n}(ℝ)-invariant par le lemme. Cela démontre que SL_{n}(ℝ) a la propriété (T) si n ≥ 3.

Preuve du théorème 1.

On commence par le lemme technique mais pas difficile :

Lemme 2. Soit π : G → U(ℋ ) une représentation unitaire ayant des vecteurs quasi-invariants. Alors il existe une application linéaire continue : Φ : L(ℋ ) → ℂ vérifiant :

– Φ(Id) = 1

– Φ(T^{∗}T) ≥ 0 pour tout T ∈ L(ℋ )

– Pour tout g ∈ G et tout T ∈ L(ℋ ), on a Φ(π(g)T) = Φ(T π(g)) = Φ(T).

Preuve : comme π possède des vecteurs quasi-invariants, il existe une suite (ξ_{n}) telle que lim_{n→∞} ∥π(g)ξ_{n} − ξ_{n}∥ = 0. On peut voir l’application Φ_{n} qui à T ∈ L(ℋ ) associe ⟨T ξ_{n}, ξ_{n}⟩ comme un élément du produit ℂ^{L(ℋ )} . Plus précisément, en notant D(r) le disque fermé de rayon r dans ℂ, Φ_{n} ∈ ∏_{T ∈L(ℋ )} D(∥T ∥). Ce dernier espace est compact, par le théorème de Tychonov. Donc la suite Φ_{n} admet une valeur d’adhérence, notée (Φ(T))_{T ∈L(ℋ )} . Comme la convergence dans ∏_{T ∈L(ℋ )} D(∥T ∥) n’est autre que la convergence simple, il est immédiat que Φ est linéaire (comme valeur d’adhérence d’une suite s’application linéaires), que Φ(Id) = 1 et que Φ(T^{∗}T) ≥ 0 pour tout T ∈ L(ℋ ). Or pour tout g ∈ G, T ∈ L(ℋ ),

|Φ_{n}(T π(g))−Φ_{n}(T)| = |⟨T π(g)ξ_{n}, ξ_{n}⟩−⟨T, ξ_{n}⟩| = |⟨T (π(g)ξ_{n}−ξ_{n}), ξ_{n}⟩| ≤ ∥T ∥∥π(g)ξ_{n}−ξ_{n}∥ →_{n∞} 0

Donc, par passage “à la limite”, Φ(T π(g)) = Φ(T). L’autre égalité est analogue. ■

Le deuxième lemme, où l’on note S^{1} le cercle unité de ℂ, est le suivant :

Lemme 3. Soit N un sous-groupe distingué abélien de G. On considère l’action de G sur le dual N̂ = Hom(N, S^{1}) de N, induite par l’action de G sur N par conjugaison. On suppose que la seule probabilité finiment additive préservée par G sur N̂ est celle concentrée en zéro (c’est une forme forte d’ergodicité de l’action de G sur N). Alors la paire (G, N) a la propriété (T).

Observons d’abord que le lemme implique le théorème 1 : l’action de SL_{n}(ℝ) sur le dual Hom(ℝ^{n}, S^{1}) de ℝ^{n} s’identifie à celle de SL_{n}(ℝ) sur ℝ^{n} lui-même. On considère la restriction de la probabilité à ℝ^{n}\{0}. Son image sur P^{n−1}(ℝ) est SL_{n}(ℝ)-invariante. Or il est facile de voir que P^{n−1}(ℝ) n’admet aucune probabilité SL_{n}(ℝ)-invariante. Donc cette mesure est nulle, ce qui signifie que la probabilité dont nous sommes partis est concentrée en zéro. Donc la paire (ℝ^{n}⋊SL_{n}(ℝ), ℝ^{n}) vérifie bien les hypothèses du lemme 3. Il ne reste donc plus qu’à prouver ce lemme.

Preuve du lemme 3. Soit π une représentation unitaire de G. Considérons sa restriction à N. On a là une représentation unitaire du groupe abélien N. Le théorème spectral dit alors qu’il existe sur les boréliens de N̂ une unique mesure E à valeurs dans les projections, vérifiant

π(h) = ∫N̂ χ(h)dE(χ), h ∈ N

D’autre part, supposons que π a des vecteurs quasi-invariants. Alors il existe une fonction Φ comme dans le lemme précédent. Si B est un borélien de N̂, on pose m(B) = Φ(E(B)). Les deux premières propriétés de Φ impliquent que Φ est une probabilité finiment additive sur N̂. Montrons qu’elle est G-invariante. Pour tout g ∈ G et h ∈ N, on peut écrire, d’une part

π(g)π(h)π(g)^{−1} = π(ghg^{−1}) = ∫N̂ χ(ghg^{−1})dE(χ) = ∫N̂(g^{−1}χ)(h)dE(χ) = ∫N̂ χ(h)dE(gχ)

et d’autre part

π(g)π(h)π(g)^{−1} = ∫N̂ χ(h)π(g)dE(χ)π(g)^{−1}

Par unicité de la mesure spectrale, π(g)E(B)π(g)^{−1} = E(gB) pour tout borélien B ⊂ N̂. Or, comme Φ(π(g)T π(g)^{−1}) = Φ(T) pour tout T, on obtient bien que m est G-invariante. L’hypothèse du théorème dit que m est concentrée en zéro. Donc E(0) est une projection non nulle, et son image est formée de vecteurs N-invariants. ■

Remarque 2. La preuve ci-dessus s’adapte aisément pour montrer que SL_{n}(ℂ) (n ≥ 3) a la propriété (T). Avec quelques efforts de plus, on montre que SL_{n}(𝕂) (n ≥ 3) a la propriété (T) pour tout corps local 𝕂. Enfin, notons que SL_{2}(𝕂) n’a jamais la propriété (T). La façon la plus standard pour le montrer est d’utiliser le fait qu’il contient un réseau libre.

Références

-Propriété (T) Pierre de la Harpe, Alain Valette, (1989) La Propriété (T) pour les Groupes Localement Compacts. Astérisque 175, S.M.F. Pierre de la Harpe, Alain Valette, Bachir Bekka, (2003) Kazhdan’s Property (T), à paraître, disponible à l’adresse http ://poncelet.sciences.univ-metz.fr/ bekka/. -Analyse fonctionelle Walter Rudin (1973), Functional Analysis, McGraw-Hill. John B. Conway (1990), A Course in Functional Analysis, Springer, Graduate Texts in Mathematics 96.