Intégrales orbitales modulo l pour un groupe réductif p-adique

Marie-France Vignéras

Dédié à F. Hirzebruch, à l’occasion de son 70-ème anniversaire

L’analyse harmonique sur les groupes réductifs p-adiques, développée essentiellement par Harish-Chandra, étudie les distributions invariantes complexes sur le groupe ou sur son algèbre de Lie. Le groupe agit sur lui-même par conjugaison, et sur son algèbre de Lie par la représentation adjointe. Les distributions invariantes sont les formes linéaires sur les coinvariants de l’espace des fonctions complexes localement constantes et à support compact.

Remplacons le corps des nombres complexes par un anneau commutatif intègre où p est inversible. Nous allons étudier les coinvariants du module des fonctions à valeurs dans cet anneau. Nous ne supposons pas le groupe connexe. Nous obtiendrons l’analogue de différents résultats de la théorie de l’analyse harmonique, comme l’existence d’intégrales orbitales pour toute orbite, le théorème de densité des intégrales orbitales, la conjecture de Howe, et le développement en germes de Shalika.

Le résultat essentiel et un peu surprenant est celui-ci :

Soient F un corps local non archimédien de caractéristique 0, de corps résiduel fini de caractéristique p, et \underline{G} un groupe réductif non nécessairement connexe défini sur F, de composante connexe \underline{G}^{o}. On considère le groupe G = \underline{G}(F). Nous notons X le groupe G^{o} = \underline{G}^{o}(F) ou son algèbre de Lie. Soit R un anneau commutatif intègre où p est inversible. L’exemple de base est R = Z[1/p]. Le R-module des fonctions, localement constantes et à support compact, est noté C_{c}^{∞}(X; R) et le R-module des G-coinvariants est noté C_{c}^{∞}(X; R)_{G}.

Théorème Le R-module C_{c}^{∞}(X; R)_{G} est libre.

Nous avons voulu traiter simultanément le groupe et l’algèbre de Lie, et ne pas nous resteindre au cas où R est intègre. Nous avons reculé devant la caractéristique : la caractéristique du corps local F est supposée nulle, mais il est très possible que ce soit inutile.

Notre travail a été grandement facilité par la rédaction récente par De Backer et Sally des démonstrations d’un article de Harish-Chandra. Nous les remercions vivement de nous avoir permis d’utiliser leur travail avant sa publication. Nous remercions Waldspurger, De Backer, Bernstein et Harris de leur intêret et de leurs conseils.

C’est un plaisir et un honneur de dédier cet article à F. Hirzebruch, et une occasion pour le remercier de son amitié sans failles depuis l’époque lointaine de son cours au Collège de France en 1974.

A.M.S. classification 22E50, 11S37 1 Généralités

1.a Espace localement profini muni d’une action d’un groupe localement profini.

Soit X un espace localement profini muni d’une action continue d’un groupe localement profini G (on ne suppose pas l’action lisse).

On note (Y, G) ⊂ (X, G) si Y ⊂ X est constructible, stable par G, et muni de l’action induite de G. On dira que (Y, G) est ? si Y ⊂ X est ?. On dit qu’une partie Y ⊂ X est relativement compacte modulo G s’il existe une partie C ⊂ X compacte tel que Y ⊂ G.C.

On dit que G′ est une extension finie de G par le groupe fini Q s’il existe une suite exacte de groupes 1 → G → G′ → Q → 1. Si l’action de G sur X se prolonge en une action continue de G′, on dit alors que (X, G) ⊂ (X, G′) est une extension finie.

Si X est un groupe localement profini [Vig I.1], muni d’une loi ∘ telle que

g(x ∘ x′) = gx ∘ gx′ (g ∈ G, x, x′ ∈ X)

on dit que (X, G) est un groupe localement profini.

1.b G-coinvariants

Soit R un anneau commutatif (avec unité). Le R-module C_{c}^{∞}(X; R) des fonctions sur X à valeurs dans R, localement constantes (ce que l’on indique par l’exposant ^{∞}) et à support compact (ce que l’on indique par l’indice _{c}), et son dual algébrique D(X, R) := Hom_{R}(C_{c}^{∞}(X; R), R) sont munis d’actions naturelles de G, données par

(1.1)  (g.f)(x) = f(g^{−1}x), < g.L, g.f >=< L, f >

pour tout f ∈ C_{c}^{∞}(X; R), L ∈ D(X; R), g ∈ G, x ∈ X. L’action de G sur C_{c}^{∞}(X; R) est lisse (le fixateur dans G d’un élément de V est ouvert). Notons C_{o}(X; R) le R-sous-module de C_{c}^{∞}(X; R) engendré par les fonctions g.ϕ − ϕ pour tout g ∈ G, ϕ ∈ C_{c}^{∞}(X; R). Le R-module C_{c}^{∞}(X; R) est engendré par les fonctions caractéristiques 1_{C} des parties ouvertes compactes de C de X, le sous-module C_{o}(X; R) est engendré par les g.1_{C} − 1_{C} pour g ∈ G et C ⊂ X ouvert compact. Nous allons étudier le module des G-coinvariants C_{c}^{∞}(X; R)_{G}. On a la suite exacte canonique

(1.2)  0 → C_{o}(X; R) → C_{c}^{∞}(X; R) → C_{c}^{∞}(X; R)_{G} → 0.

1.c Restriction à un fermé Soit (Y, G) ⊂ (X, G) fermé. On a la suite exacte canonique

(1.3)  0 → C_{c}^{∞}(X − Y; R) → C_{c}^{∞}(X; R) → C_{c}^{∞}(Y; R) → 0,

donnée par l’extension par 0 de X − Y à X, et la restriction de X à Y. Le foncteur des G-coinvariants

V → V_{G} : Mod_{R} G → Mod R

de la catégorie Mod_{R} G des représentations lisses de G dans la catégorie Mod_{R} des R-modules est covariant et exact à droite [Vig I.4.7]. Donc la suite exacte (1.3) fournit la suite exacte

(1.4)  C_{c}^{∞}(X − Y; R)_{G} → C_{c}^{∞}(X; R)_{G} → C_{c}^{∞}(Y; R)_{G} → 0.

Si (Y, G) ⊂ (X, G) est fermé et ouvert, alors X est l’union disjointe de X − Y et de Y, et

(1.5)  C_{c}^{∞}(X; R)_{G} = C_{c}^{∞}(X − Y; R)_{G} ⊕ C_{c}^{∞}(Y; R)_{G}.

Si F (R) est un R-sous-module de C_{c}^{∞}(X; R), alors l’image de l’application composée

(1.6)  F (R) → C_{c}^{∞}(X; R) → C_{c}^{∞}(X; R)_{G}

est notée F (R)_{G}. On a la suite exacte

(1.7)  0 → F (R) ∩ C_{o}(X; R) → F (R) → F (R)_{G} → 0.

1.d G-coinvariants relatifs On suppose que X est un groupe localement profini (1.a). Soit L un sous-groupe ouvert compact de X. On note C_{c}^{L}(X; R) le Rsous-module de C_{c}^{∞}(X; R) formé des fonctions bi-invariantes par L. Il est libre, de base les fonctions caractéristiques des doubles classes de X modulo L. Soit Y ⊂ X fermé, stable par G. On dit que

(1.8)  M_{Y}^{L}(R) := (C_{c}^{L}(X; R)|_{Y})_{G}

est le R-module des G-coinvariants de C_{c}^{∞}(X, R) relatifs à (Y, L). L’union de ces modules est le R-module des G-coinvariants :

(1.9)  C_{c}^{∞}(X; R)_{G} = ∪_{L} C_{c}^{L}(X; R)_{G} = ∪_{Y,L} M_{Y}^{L}(R)

où L parcourt une suite décroissante séparée de sous-groupes ouverts compacts L de X et Y parcourt une suite croissante exhaustive de fermés (Y, G) ⊂ (X, G).

Restriction Si (Y′, G) ⊂ (Y, G) est une inclusion de fermés de (X, G), et si L ⊂ L′ est une inclusion de sous-groupes ouverts compacts de X, la restriction de Y à Y′ et l’inclusion de L dans L′ induisent une surjection naturelle res_{Y′,Y}^{L} (R) et

une injection naturelle inj_{Y}^{L,L′}(R)

res_{Y′,Y}^{L} (R) : M_{Y}^{L}(R) → M_{Y′}^{L}(R), inj_{Y}^{L,L′}(R) : M_{Y}^{L′}(R) → M_{Y}^{L}(R).

Pour T ⊂ Z ⊂ Y, on a la transitivité :

(1.10)  res_{T,Y}^{L} = res_{T,Z}^{L} ∘ res_{Z,Y}^{L} .

On a une transitivité analogue avec les sous-groupes ouverts compacts.

2 Changement de base Soient X un espace localement profini, muni d’une action continue d’un groupe localement profini G. Soit ρ : R → S un homomorphisme d’anneaux commutatifs. Alors

a) L’homomorphisme naturel C_{c}^{∞}(X; R)_{G} ⊗ S → C_{c}^{∞}(X; S)_{G} est un isomorphisme.

b) Avec les hypothèses de (1.d), l’homomorphisme naturel M_{Y}^{L}(R) ⊗ S → M_{Y}^{L}(S) est un isomorphisme si S est plat sur R.

Preuve a) Le R-homomorphisme surjectif

ρ^{∗} : C_{c}^{∞}(X; R) → C_{c}^{∞}(X; S) f → ρ ∘ f

envoie 1_{g.C} − 1_{C} ∈ C_{o}(X; R) sur 1_{g.C} − 1_{C} ∈ C_{o}(X; S), pour tout g ∈ G et tout C ⊂ X ouvert compact. Il induit par quotient un R-homomorphisme

ρ_{G}^{∗} : C_{c}^{∞}(X; R)_{G} → C_{c}^{∞}(X; S)_{G}.

Par produit tensoriel, on obtient un diagramme commutatif, où toutes les flèches sont surjectives :

\begin{matrix}C_{c}^{∞}(X; R) ⊗ S ⟶ & C_{c}^{∞}(X; R)_{G} ⊗ S \\ ↓_{k} & ↓_{k_{G}} \\ C_{c}^{∞}(X; S) ⟶ & C_{c}^{∞}(X; S)_{G} \end{matrix}

où k := ρ^{∗} ⊗ id_{S} et k_{G} := ρ_{G}^{∗} ⊗ id_{S}. Le noyau de l’application de la première ligne est le S-sous-module engendré par les (1_{g.C} − 1_{C}) ⊗ 1_{S}. Son image par k est le noyau C_{o}(X; S) de l’application de la seconde ligne. On en déduit que k_{G} est injectif. Donc k_{G} est un isomorphisme.

b) Avec les notations de (1.d), on note V_{G} l’image canonique de

j : M_{Y}^{L}(R) ⊗ S → C_{c}^{∞}(Y; R)_{G} ⊗ S.

L’application j est injective, si S/R est plat. On applique a) à Y au lieu de X, mais on garde les mêmes notations pour les applications. L’isomorphisme k_{G} induit un isomorphisme de V_{G} sur M_{Y}^{L}(S). En effet, l’image par k de l’image canonique V de C_{c}^{L}(X; R)|_{Y} ⊗ S dans C_{c}^{∞}(Y; R) ⊗ S est C_{c}^{L}(X; S)|_{Y}, et la commutativité du diagramme implique k(V_{G}) = M_{Y}^{L}(S). ⋄

2.2 Remarque On dit que X est dénombrable à l’infini si X est union d’une suite de compacts [Bki I.68]. Si X est dénombrable à l’infini, alors on peut montrer que l’homomorphisme canonique C_{c}^{∞}(X; R)⊗S → C_{c}^{∞}(X; S) est un isomorphisme.

3 Ensemble quotient

Si P est un ensemble de nombre premiers, on note Z[P^{−1}] le sous-anneau du corps Q des nombres rationnels engendré par les inverses p^{−1} des nombres premiers p ∈ P. Si K est un groupe profini, on note P (K) l’ensemble des nombres premiers qui divisent le pro-ordre de K [Vig I.1.5].

Soit G un groupe localement profini et K un sous-groupe ouvert compact de G. Alors G a une mesure de Haar à gauche dg à coefficients dans Z[P (K)^{−1}] normalisée par K, i.e. vol(K, dg) = 1 [Vig I.2.3]. Les valeurs du module δ_{G} de G et le volume d’un sous-groupe ouvert compact de K sont des unités de l’anneau Z[P (K)^{−1}].

Soit R un anneau commutatif. On dit que le pro-ordre de K est inversible dans R si l’homomorphisme canonique Z → R s’étend en un homomorphisme d’anneaux

(3.1)  Z[P (K)^{−1}] → R.

Alors G a une R-mesure de Haar à gauche normalisée par K, image de la Z[P (K)^{−1}]- mesure de Haar dg. C’est un générateur du R-module libre des R-mesures de Haar à gauche sur G. Le R-module de G est l’image du module par Z[P (K)^{−1}] → R. On le note toujours δ_{G}.

Théorème Soient G un groupe localement profini, R un anneau commutatif intègre tel qu’il existe un sous-groupe ouvert compact K_{R} de G de pro-ordre inversible dans R, et H ⊂ G un sous-groupe fermé tel que le R-module de H soit la restriction à H du R-module de G :

(3.2)  δ_{H} = δ_{G}|_{H}.

Alors le R-module des G-coinvariants C_{c}^{∞}(G/H; R)_{G} est libre de rang 1.

Preuve On déduit de [Vig I.2.8] que le dual algébrique de C_{c}^{∞}(G/H; R)_{G} est libre de rang 1, ce qui est une propriété plus faible. On va montrer que

(3.3)  C_{c}^{∞}(G/H; R) = R1_{K_{R}H} + C_{o}(G/H; R).

Admettons-le pour l’instant, et terminons la démonstration. Le R-module C_{c}^{∞}(G/H; R)_{G} est engendré par l’image de 1_{K_{R}H}, et s’identifie au quotient R/I, où I est l’idéal de R tel que

R1_{K_{R}H} ∩ C_{o}(G/H; R) = I1_{K_{R}H}

Le dual algébrique de R/I est libre de rang 1. Donc I = 0 car R est intègre, et C_{c}^{∞}(G/H; R)_{G} est libre de rang 1.

Démontrons (3.3). Les fonctions caractéristiques 1_{gKH} des ensembles gKH pour tout g ∈ G et pour tout sous-groupe ouvert compact K ⊂ K_{R} distingué, engendrent C_{c}^{∞}(G/H; R). On a

1_{KH} − 1_{gKH} ∈ C_{o}(G/H; R),

et l’ensemble (H ∩ K_{R})K est un sous-groupe de K_{R}, d’indice m(K_{R}, K) inversible dans R. Une décomposition disjointe

K_{R} = ∪ k(H ∩ K_{R})K

induit une décomposition disjointe

K_{R}H = ∪ kKH.

On a donc

1_{K_{R}H} − m(K_{R}, K)1_{KH} ∈ C_{o}(G/H; R).

On en déduit (3.3). ⋄

4 Nombre fini d’orbites Soit X un espace localement profini dénombrable à l’infini, muni d’une action continue d’un groupe localement profini G, telle que pour tout x ∈ X l’application g → g.x : G → G.x est ouverte. Soit R un anneau commutatif intègre tel qu’il existe un sous-groupe ouvert compact K_{R} de G de pro-ordre inversible dans R. On suppose que

1) Pour tout x ∈ X de centralisateur C_{G}(x) dans G, le Q-module de C_{G}(x) soit la restriction à C_{G}(x) du Q-module de G :

δ_{C_{G}(x)} = δ_{G}|_{C_{G}(x)}.

2) X est l’union d’un nombre fini r d’orbites

X_{1}, …, X_{r}

rangées, telles que X_{i} est ouverte dans ∪_{j≥i}X_{j}, pour tout 1 ≤ i ≤ r.

Alors le R-module C_{c}^{∞}(X; R)_{G} admet r générateurs.

3) Supposons que r est égal à la dimension r(0) de C_{c}^{∞}(X; E)_{G} pour un corps commutatif E de caractéristique 0. Alors le R-module C_{c}^{∞}(X; R)_{G} est libre de rang r.

Pour x ∈ X, l’application g → g.x : G → G.x induit un homéomorphisme [Bki III.12 §2 Prop.15]

G/C_{G}(x) ≃ G.x.

Lorsque X n’a qu’une orbite, on retrouve le théorème (3).

Preuve On démontre par induction sur le nombre r d’orbites que C_{c}^{∞}(X; R)_{G} admet r générateurs. Soit X une orbite ouverte. Alors Y = X − X est une partie fermée stable par G ayant r − 1 orbites. Comme C_{c}^{∞}(X; R)_{G} est libre de rang 1, et comme C_{c}^{∞}(Y; R)_{G} admet r − 1 générateurs par hypothèse d’induction, la suite exacte (1.4) montre que C_{c}^{∞}(X; R)_{G} admet r générateurs.

Supposons r(0) = r. Le module C_{c}^{∞}(X; Z[1/P (K_{R})^{−1}])_{G} sur l’anneau principal Z[1/P (K_{R})^{−1}], de rang r(0) = r, admettant r générateurs, est libre. Par changement de base (2), le R-module C_{c}^{∞}(X; R)_{G} est libre de rang r. ⋄

Nappes La condition 2) du théorème sur la géométrie des orbites signifie que X est une union disjointe finie de nappes G-invariantes

(4.1)  X = X_{1} ∪ X_{2} ∪ … ∪ X_{t}

où X_{i} est l’union finie des orbites ouvertes dans le fermé

(4.2)  Y_{i} := X_{i} ∪ … ∪ X_{t}

pour tout 1 ≤ i ≤ t. En particulier, les orbites de X_{1} sont ouvertes et celles de X_{t} = Y_{t} sont fermées. On a les suites exactes

(4.3)  0 → C_{c}^{∞}(X_{i}; R) → C_{c}^{∞}(Y_{i}; R) → C_{c}^{∞}(Y_{i+1}; R) → 0.

Les suites de R-modules

(4.4)  0 → C_{c}^{∞}(X_{i}; R)_{G} → C_{c}^{∞}(Y_{i}; R)_{G} → C_{c}^{∞}(Y_{i+1}; R)_{G} → 0

(on pose Y_{i+1} = 0 si i = t) sont appelées les suites de G-coinvariants associées aux nappes. La maximalité du rang dans le théorème implique que ces suites sont exactes. La preuve montre que les R-modules figurant dans ces suites sont libres.

Proposition Soient (Y, G) ⊂ (X, G) localement fermé, (X, G) ⊂ (X, G′) une extension finie (1.a). Si (X, G, R) vérifie les trois conditions du théorème, alors (Y, G, R) et (X, G′, R) les vérifient aussi.

Preuve a) La condition sur les Q-modules des centralisateurs reste vérifiée, car C_{G}(x) ⊂ C_{G′}(x) est d’indice fini pour tout x ∈ X et les valeurs d’un Q-module sont des nombres rationnels positifs.

b) La géométrie des orbites reste la même. C’est clair pour Y, car pour toute orbite X ⊂ Y, sa fermeture \overline{X} est contenue dans Y.

C’est un peu moins évident pour G′. Il est clair que l’application naturelle G′ → G′.x est ouverte pour tout x ∈ X, car sa restriction au sous-groupe ouvert G est ouverte. Soit X′ une orbite dans (X, G′). C’est une union finie de G-orbites X_{i} (1 ≤ i ≤ r) qui sont conjuguées par G′. La fermeture \overline{X}′ est l’union des fermetures \overline{X}_{i} de ces G-orbites. Donc \overline{X}′ est une union de nappes comme en (4.1), pour l’action de G. Les nappes sont stables par G′, et \overline{X}′ est une union de nappes pour l’action de G′.

c) La condition de maximalité du rang reste vérifiée. Soit E un corps commutatif de caractéristique 0. La maximalité du rang est équivalente à l’injectivité de l’application

C_{c}^{∞}(X; E)_{G} → C_{c}^{∞}(\overline{X}; E)_{G}

pour tout X. Donc la maximalité du rang est claire pour (Y, G, E).

C’est un peu moins évident pour G′. Soit X′ une orbite dans (X, G′) comme en b). Les orbites X_{i} pour i ≥ 2 ne rencontrent pas \overline{X}_{1}. On choisit une forme linéaire D_{1} sur C_{c}^{∞}(\overline{X}_{1}; E)_{G} non nulle sur C_{c}^{∞}(X_{1}; E). On identifie D_{1} à une forme linéaire sur C_{c}^{∞}(\overline{X}′; E)_{G} nulle hors de \overline{X}_{1}. Notons 1 = g_{1}, …, g_{r} des éléments de G′ représentant les classes de G′ modulo le centralisateur de X_{1} dans G′. La somme D = g_{1}D_{1} + … + g_{r}D_{1} est une forme linéaire sur C_{c}^{∞}(\overline{X}′; E)_{G′}, non nulle sur C_{c}^{∞}(X′; E). Donc la maximalité du rang est démontrée pour (X, G′, E). ⋄

5 Dual Une forme linéaire sur C_{c}^{∞}(X; R) est appelée une R-distribution sur X. Le R-module des R-distributions sur X, noté D(X; R), est muni d’une action naturelle (non lisse) de G (1.1). Le R-module D(X; R)^{G} des distributions G-invariantes sur X s’identifie canoniquement au dual de C_{c}^{∞}(X; R)_{G} :

D(X; R)^{G} ≃ Hom_{R}(C_{c}^{∞}(X; R)_{G}, R)

Soit (Y, G) ⊂ (X, G) fermé. On a la suite exacte duale de (1.4)

(5.1)  0 → D(Y; R)^{G} → D(X; R)^{G} → D(Y − X; R)^{G}.

Le R-module des R-distributions G-invariantes sur X de support contenu dans Y est l’image de D(Y; R)^{G}.

Une R-distribution G-invariante D_{X} sur X de support la fermeture \overline{X} ⊂ X d’une orbite X sera appelée une R-intégrale orbitale sur X. On dit que D_{X} est admissible si sa restriction à C_{c}^{∞}(X; R) engendre le R-module libre D(X; R)^{G}.

Existence d’intégrales orbitales On suppose que (X, G, R) vérifient les trois conditions du théorème (4). Alors pour chaque orbite X, il existe une Rintégrale orbitale admissible D_{X} sur X. On a

(5.2)  D(X; R)^{G} = ⊕_{X} R D_{X} .

Remarque Pour toute orbite X, l’intégrale orbitale D_{X} n’est pas unique. On peut la remplacer par n’importe quel élément de

(5.3)  R^{∗}D_{X} + D(Y; R)^{G}

où R^{∗} est le groupe des unités de R, et Y = \overline{X} − X. Les intégrales orbitales sur X sont les éléments de (R − {0})D_{X} + D(Y; R)^{G}.

Preuve La fermeture \overline{X} vérifie les conditions du théorème 4. La suite de R-modules libres

0 → C_{c}^{∞}(X; R)_{G} → C_{c}^{∞}(\overline{X}; R)_{G} → C_{c}^{∞}(\overline{X} − X; R)_{G} → 0

est exacte. Il existe donc une intégrale orbitale admissible D_{X} sur X. Les suites exactes de G-coinvariants de modules libres associées aux nappes (4.4) montrent

D(Y_{i}; R)^{G} = ⊕_{X ⊂X_{i}}R D_{X} ⊕ D(Y_{i+1}; R)^{G}

pour tout 1 ≤ i ≤ t − 1,et D(Y_{t}; R)^{G} = ⊕_{X ⊂X_{t}}R D_{X}. . On en déduit (5.2) ⋄

6 Densité des intégrales orbitales

Soient R un anneau commutatif, V un R-module, I un ensemble, et (v_{i}^{∗})_{i∈I} des formes linéaires sur V. On dit que les formes linéaires (v_{i}^{∗})_{i∈I} forment un ensemble dense dans le dual de V, si tout v ∈ V qui annule v_{i}^{∗} pour tout i ∈ I, est nul. Si R est un corps, il est équivalent de dire que pour tout sous-espace vectoriel de dimension finie W ⊂ V, la restriction à W des (v_{i}^{∗})_{i∈I} contient une base du dual de W.

Théorème Soit X un espace localement profini muni d’une action continue d’un groupe localement profini G, et soit R un anneau commutatif intègre tel qu’il existe un sous-groupe ouvert compact K_{R} de G de pro-ordre inversible dans R. On suppose que

1) Il existe une application continue p : X → S de X dans un espace localement profini S, telle que les fibres X_{∫} , ∫ ∈ S, soient stables par G.

Alors les restrictions aux fibres fournissent une application injective

(6.1)  C_{c}^{∞}(X; R)_{G} → ∏_{∫∈S} C_{c}^{∞}(X_{∫}; R)_{G}.

2) Les fibres X_{∫} , ∫ ∈ S, vérifient les conditions du théorème (4).

Alors, pour chaque orbite X ⊂ X, il existe une intégrale orbitale admissible D_{X} sur X, et les D_{X} pour toute orbite X ⊂ X forment un ensemble dense dans D(X; R)^{G}.

3) La topologie de X admet une base dénombrable. Alors

a) Le R-module C_{c}^{∞}(X; R)_{G} est libre.

b) Si X est un groupe localement profini, avec les hypothèses de (1.d), le R-module M_{Y}^{L}(R) est libre.

Preuve 1) Soit f ∈ C_{c}^{∞}(X; R) d’image 0 dans C_{c}^{∞}(X_{∫}; R)_{G} pour tout ∫ ∈ S. Comme (X_{∫} , G) ⊂ (X, G) est fermé, toute fonction de C_{o}(X_{∫}; R) est la restriction d’une fonction de C_{o}(X; R). Sur X_{∫}, la fonction f est égale à une fonction ϕ ∈ C_{o}(X; R). Le support de f −ϕ est un compact C qui ne rencontre pas X_{∫}. L’image p(C) de C dans S ne contient pas ∫. Il existe un voisinage ouvert et fermé de ∫ dans S qui ne rencontre pas p(C). L’image inverse V_{∫} de ce voisinage dans X est ouvert, fermé, stable par G, et contient X_{∫}. On a f = ϕ sur V_{∫}.

Le support de f est compact, donc recouvert par un ensemble de V_{∫} pour ∫ dans une partie finie T de S. Pour toute partie non vide J de T, l’intersection

V_{J} = ∩_{∫∈J}V_{∫}

est ouverte fermée et stable par G, la restriction f_{J} de f à V_{J} appartientà C_{o}(V_{J}; R) ⊂ C_{o}(X; R), et l’on a

f = − ∑(−1)^{|J|}f_{J}.

Donc f ∈ C_{o}(X; R).

2) résulte de 1) et de (4), (5).

3) a) Si la topologie de X admet une base dénombrable, alors [Bki I.5, §1 no4 def.6] X est dénombrable à l’infini, et C_{c}^{∞}(X; E) est de dimension dénombrable, pour tout corps commutatif E.

Par le changement de base (2) il suffit de montrer que C_{c}^{∞}(X; R)_{G} est libre pour R = Z[1/P (K_{R})^{−1}]. L’anneau R est alors principal, de corps des fractions Q. Le R-module C_{c}^{∞}(X; R)_{G} est sans torsion et ne contient pas de droite (de Qespace vectoriel de dimension 1). Un R-module sans torsion est plat, et C_{c}^{∞}(X; R)_{G} s’identifie avec son image dans le Q-espace vectoriel C_{c}^{∞}(X; Q)_{G} de dimension dénombrable. On a C_{c}^{∞}(X; Q)_{G} = C_{c}^{∞}(X; R)_{G} ⊗_{R} Q.

Il suffit de démontrer que [Vig1, I.Appendice C.4] : pour tout Q-sous-espace vectoriel V ⊂ C_{c}^{∞}(X; Q)_{G} de dimension finie, le R-module M := V ∩ C_{c}^{∞}(X; R)_{G} est contenu dans un R-module libre de V de rang dim V et contient une base de V. Comme Q est le corps des fractions de R, si (f_{i}) dans C_{c}^{∞}(X; R) relève une base (v_{i}) de V sur Q, on peut choisir r ∈ R tel que les valeurs des (rf_{i}) appartiennent à R, donc (rv_{i}) ∈ M est une base de V.

La densité des intégrales orbitales sur X implique que le dual de V a une base (D_{1}, …, D_{n}) formée de restrictions à V d’intégrales orbitales. L’image de M par une intégrale orbitale est contenue dans R. Soit (D_{1}^{∗}, …, D_{n}^{∗}) la base duale dans V. Alors m ∈ M s’écrit m = ∑ D_{i}(m)D_{i}^{∗} avec D_{i}(m) ∈ R, et M ⊂ ∑ RD_{i}^{∗}.

b) Un anneau intègre a une caractéristique 0 ou l > 0. Posons R_{o} = Z[1/P (K_{R})^{−1}] si la caractéristique de R est 0 et R_{o} = F_{l} (le corps fini à l éléments) si la caractéristique de R est l > 0. L’extension R/R_{o} est plate, donc par changement de base (2), il suffit de montrer que R-module M_{Y}^{L}(R_{o}) est libre. Un sous-module d’un module libre sur un anneau principal est libre. Donc M_{Y}^{L}(R_{o}) est libre, si C_{c}^{∞}(X; R_{o})_{G} est libre. ⋄

Proposition Soit (X, G, R, p : X → S) vérifiant les conditions du théorème. Alors,

a) Pour tout (Y, G) ⊂ (X, G) localement fermé, (Y, G, R, p|_{Y} : Y → p(Y)) vérifie les conditions du théorème.

b) Pour toute extension finie (X, G) ⊂ (X, G′) telle que Q := G′/G agit sur S par une action régulière, p est G′-équivariant, on note S′ = S/Q et p′ : X → S′ le composé de p avec la surjection S → S′. Alors (X, G′, R, p′ : X → S′) vérifie les conditions du théorème.

Preuve Evident. ⋄

7 Conjecture de Howe et développement en germes de Shalika

Théorème On suppose que (X, G) est un groupe localement profini, et que (X, G, R, p : X → S) vérifie les trois conditions de (6). Soit ∫ ∈ S de fibre X_{∫} ⊂ X, et L ⊂ X un sous-groupe L ⊂ X ouvert compact.

1) L’homomorphisme naturel

M_{X_{∫}}^{L} (R) → C_{c}^{∞}(X_{∫}; R)_{G}

est un isomorphisme, si L est assez petit.

2) On suppose que la dimension r_{Z}^{L}(0) du E-espace vectoriel M_{Z}^{L}(E) est finie pour un (Z, G) ⊂ (X, G) ouvert, fermé, relativement compact modulo G, contenant X_{∫}, et pour un corps commutatif E de caractéristique 0.

Alors, il existe (Y, G) ⊂ (X, G) ouvert, fermé, relativement compact modulo G, contenant X_{∫}, tel que le foncteur de restriction

res_{Y}^{L} (R) : M_{Y}^{L}(R) → M_{X_{∫}}^{L} (R).

est un isomorphisme.

Preuve 1) Le Z[1/p]-module C_{c}^{∞}(X_{G.s}; Z[1/p])_{G} est (libre) de type fini (4), engendré par les image f_{C} des restrictions à X_{∫} de 1_{C}, pour un nombre fini de C ⊂ X ouverts compacts. On choisit comme on le peut, L sous-groupe ouvert compact, tel que les C sont bi-invariants par L. Par changement de base ρ : Z[1/p] → R (2), les ρ(f_{C}) engendrent le R-module C_{c}^{∞}(X_{G.s}; R)_{G}. Donc homomorphisme naturel

M_{X_{∫}}^{L} (R) → C_{c}^{∞}(X_{∫}; R)_{G}

est un isomorphisme.

2) On déduit de (6) que les R-modules M_{Y}^{L}(R) et M_{X_{∫}}^{L} (R) sont libres. Par changement de base (2), il suffit de démontrer 2) pour l’anneau R_{o} égal à Z[1/P_{R}] ou le corps fini F_{l}.

Le changement de base de Z[1/P_{R}] à E (évidemment l’extension est plate) montre que le Z[1/P_{R}]-module libre M_{Z}^{L}(Z[1/P_{R}]) est de type fini. L’espace vectoriel M_{Z}^{L}(F_{l}) est un quotient de M_{Z}^{L}(Z[1/P_{R}]) ⊗ F_{l} (voir la preuve du changement de base (2)). Donc la dimension de M_{Z}^{L}(F_{l}) est finie, elle ne dépend que de l, et ≤ r_{Z}^{L}(0)

Comme R_{o} est noetherien, le noyau de la restriction res_{X_{∫} ,Z}^{L} est de type fini. La preuve de 1) en (6) montre qu’il existe Y ouvert fermé stable par G tel que X_{∫} ⊂ Y ⊂ Z et res_{Y,Z}^{L}(R) annule Ker r_{X_{∫} ,Z}^{L}(R). Par transitivité, le noyau de res_{X_{∫} ,Y}^{L} (R) est nul. ⋄

Remarque Si L est assez petit, r_{Y}^{L}(0) = r_{Y}^{L}(l) est le nombre (fini) d’orbites de X_{∫}. A priori, le choix de Y dépend de l.

Dans le théorème, on a quatre conditions : les trois conditions du théorème de (6) et la nouvelle condition 2).

Proposition Si (X, G, R, p : X → S) vérifie les quatres conditions du théorème, pour toute extension finie (X, G) ⊂ (X, G′) comme dans la proposition de (6), (X, G′, R, p′ : X → S′) vérifie les quatres conditions du théorème.

Preuve En effet, une partie ? relativement compacte modulo G′ est relativement compacte modulo G. Le sous-espace M_{?}^{L}(E)′ pour G′ est l’image de l’espace M_{?}^{L}(E) pour G par l’application naturelle C_{c}^{∞}(Y; R)_{G} → C_{c}^{∞}(Y; R)_{G′}. Donc si M_{?}^{L}(E) est de dimension finie, le quotient M_{?}^{L}(E)′ est de dimension finie. ⋄

8 Applications aux groupes réductifs p-adiques et à leurs algèbres de Lie

On considère un “groupe réductif p-adique” G = \underline{G}(F) non nécessairement connexe comme dans l’introduction. On applique les résultats des paragraphes précédents à (X, G, R) où X est le groupe localement profini égal à la partie connexe G^{o} := \underline{G}(F) ou X = Lie G = Lie G^{o} muni de l’action continue de G par conjugaison ou par la représentation adjointe, et R un anneau commutatif intègre où p est inversible. On note S l’ensemble des orbites semi-simples de X, p : X → S l’application qui associe à x ∈ X l’orbite de la partie semi-simple de x.

Théorème (X, G, R, p : X → S) vérifie les conditions du théorème d’existence et de densité des intégrales orbitales (6), de la conjecture de Howe et du développement en germes de Shalika (7).

Preuve Les propositions des paragraphes 6 et 7 permettent de se ramener au cas connexe. Il est bien connu que :

1) La topologie de X admet une base dénombrable.

2) L’action de G sur X est unimodulaire, et pour tout x ∈ X l’application g → g.x : G → G.x est ouverte ([B] III.9.1).

3) Les centralisateurs C_{G}(x) sont unimodulaires.

4) L’application X → X_{ss} qui associe à x ∈ X sa partie semi-simple est continue.

5) Les fibres de p vérifie la condition de géométrie des orbites du théorème (4) ([HC-VD lemma 31, page 71] [HC-DBS 4.10, 4.13]). Le prolongement continu des intégrales orbitales complexes [Rao] implique la condition de maximalité.

6) La condition de finitude du rang des G-coinvariants relatifs du théorème (7) est impliquée par la conjecture de Howe [HC-DBS], [C], [W].

7) Si s, s′ sont semi-simples, alors G.s, G.s′ sont fermés. Si G.s ∩ G.s′ = ∅, soit V_{s} ⊂ X un voisinage ouvert compact de s contenu dans X − G.s′. Alors X − G.V_{s} est un voisinage ouvert et fermé de G.s′.

Le sous-ensemble X_{ss} ⊂ X des éléments semi-simples est fermé, stable par G. On le munit de la topologie induite, et de l’action de G induites par (X, G). On munit S de la topologie quotient. L’application p est continue, comme composée d’applications continues p : X → X_{ss} → S. Il résulte de 7) que S est localement compact et totalement discontinu [Bki I.80, §10, prop. 10]. ⋄.

Remarque Les autres résultats classiques (la densité des intégrales orbitales régulières, ou des transformées de Fourier des intégrales orbitales sur l’algèbre de Lie restreintes aux éléments réguliers, l’indépendance linéaire des germes), ne sont pas valables sans restriction sur R. Une conséquence du théorème est qu’ils sont valables si la caractéristique de R n’appartient pas à un certain ensemble fini de nombres premiers [Vig]’.

Références

[Bki] Bourbaki N. Topologie Générale. Chapitre 1 à 4. Hermann. Paris 1971. Benjamin, New-York 1969.

[B] Borel Armand Linear Algebraic Groups. Benjamin, New-York 1969.

[C] Clozel L. Orbital integrals on p-adic groups: A proof of the Howe conjecture. Annals of Mathematics 129 (1989) 237-251.

[HC-DBS] Harish-Chandra. Admissible invariant distributions on reductive p-adic groups. Collected Papers IV, Springer 1984, 371-438. Notes by DeBacker-Sally 1997.

[HC-VD] Harish-Chandra. Notes by G. van Dijk. Harmonic Analysis on Reductive p-adic Groups. Lecture Notes in Mathematics 162 Springer-Verlag 1970.

[Rao] Rao R. Orbital integrals in reductive groups. Ann. of Math. 96 (1972) 505-510.

[Vig] Vignéras M.-F. Représentations l-modulaires d’un groupe réductif padique avec l ≠ p. Progress in Math 137. Birkhauser 1996.

[Vig]’ Vignéras M.-F. Premiers réguliers de l’analyse harmonique mod l d’un groupe réductif p-adique. Preprint 1998.

[W] Waldspurger J.-L. Une formule des traces locales pour les algèbres de Lie p-adiques. J. reine angew. Math. 465 (1995), 41-99.

Marie-France Vigneras Université de Paris 7 UFR de Mathématiques 2 place Jussieu 75251 Paris Cedex 05 France email: vigneras@math.jussieu.fr