Paquets d`Arthur spéciaux unipotents aux places archimédiennes et

Paquets d’Arthur spéciaux unipotents aux
places archimédiennes et correspondance de
Howe
Colette Mœglin
CNRS, Inst de Math. de Jussieu
En l’honneur de R. Howe
Pour G un groupe classique quasi-déployé sur un corps de nombres, F , Arthur a montré que les représentations automorphes de carré intégrable vérifient
une variante assez forte du théorème de multiplicité un fort qui lui n’est vrai que
pour les groupes généraux linéaires. Plus exactement soit π une représentation
automorphe irréductible de carré intégrable de G(A) ; on fixe S un ensemble
fini de places du corps de nombres tel que pour tout v ∈
/ S, la représentation
πv est non ramifiée. On note n∗ la dimension de la représentation naturelle du
L-groupe de G et pour tout v ∈
/ S, on note πvGL la représentation non ramifiée
∗
de GL(n , Fv ) qui correspond à πv par la correspondance de Langlands non
ramifiée. En utilisant les formules des traces tordues et non tordues, Arthur
a montré qu’il existe une unique représentation π, irréductible, de GL(n∗ , A)
telle que π GL soit une induite d’un représentation de carré intégrable d’un sousgroupe de Levi de GL(n∗ ) et telle que πvGL soit la composante locale de π GL en
toute place v ∈
/ S. Et la partie la plus difficile de [3] (1.5.2 puis 1.5.1), montre
que pour v ∈ S, la représentation πv fait partie d’un ensemble fini de représentations irréductibles de G(Fv ) uniquement déterminé par πvGL , c’est-à-dire que
la composante locale en v de π est dans un ensemble fini uniquement déterminé
par ce qui se passe hors de S mais aussi que cet ensemble fini ne dépend que de
la représentation locale de GL(n∗ , Fv ). En fait Arthur ne voit pas un ensemble
fini de représentations irréductibles, mais un ensemble fini de représentations
semi-simples avec éventuellement des multiplicités, ce que l’on peut appeler des
multiplicités locales, et à l’aide de ces représentations, [3] décrit réciproquement
les représentations globales π ayant hors de S la composante non ramifiée πv
et décrit aussi les multiplicités avec lesquelles ces représentations apparaissent.
On aimerait bien calculer les multiplicités locales et décrire les représentations
locales possibles ; ceci est fait dans le cas des places finies (cf. [15]) mais le cas
des places archimédiennes est largement ouvert même si on a la conjecture précise que les constructions d’Adams-Barbasch-Vogan en [1] coïncident avec celles
de [3]. Mais de toute façon, il faut calculer les multiplicités locales qui ne sont
1
pas faciles à calculer même avec les constructions de [1]. Dans cet article, on
étudie le cas spécial unipotent (c’est la terminologie de [4]), c’est-à-dire le cas
où πvGL est une induite de caractère quadratique d’un sous-groupe de Levi de
GL(n∗ , Fv ) de la forme ×i∈[1,t] GL(ai , Fv ) avec les ai tous de même parité, la
bonne, c’est-à-dire pair si L G est un groupe symplectique et impair sinon. On
montre alors que les représentations semi-simples définies par Arthur sont en
fait sont sans multiplicité et même irréductible si le corps est C. L’irréductibilité est certainement fausse si le corps de base est R mais ce qui est peut-être
général à tout paquet est le fait qu’il n’y ait pas de multiplicité. Pour le montrer
on donne une construction de ces représentations à l’aide de la correspondance
de Howe et cela passe par une globalisation a priori de la situation locale et une
étude de la correspondance theta pour ces représentations globales.
On donne le détail de l’article ; pour étudier les représentations locales, on
peut toujours globaliser les paramètres de façon à ce que ces paramètres soient
très réguliers, c’est-à-dire que la représentation π GL soit une induite de la forme
E(×i∈[1,t] Speh(ρi , ai )), où les ρi sont des représentations cuspidales toutes distinctes de groupes GL(di , A) ; on a écrit E pour l’induite car cette induite est
isomorphe à la représentation définie par ces séries d’Eisenstein, et les représentations Speh(ρi , ai ) sont les représentations de carré intégrable de GL(ai di , A)
associées au couple (ρi , ai ). Dans le premier paragraphe on étudie les représentations automorphes de carré intégrable de G(A) dont le paramètre est très
régulier. On montre que ses représentations, explicitement réalisées dans l’ensemble des formes automorphes de carré intégrable, sont des résidus de séries
d’Eisenstein assez particulières, ce qui ramène l’étude aux représentations cuspidales, surlesquelles on ne peut pas dire grand chose dans cette généralité. Par
contre si on suppose que les représentations ρi sont des caractères quadratiques,
alors on peut utiliser les séries theta pour construire inductivement ces représentations. C’est ce que l’on montre au chapitre 3 après avoir défini au chapitre
2 ces correspondances theta. En effet les correspondances theta pour des représentations qui sont de carré intégrable et non nécessairement cuspidales ne
peuvent pas se définir pour toute paire réductive duale, il faut des conditions
analogues à celles de l’article de Weil [22]. Au chapitre 3, on a besoin d’un critère
généralisant celui de Kudla-Rallis ([10]) pour savoir quand une représentation
cuspidale est dans l’image des séries theta pour un groupe plus petit ; c’est un
critère avec l’existence de pôles à certaines séries d’Eisenstein démontrée en [12]
dans un cas particulier, repris dans [8] dans un cadre plus général. On a admis
ici que ce critère est aussi vrai pour les paires (groupe métaplectique, groupe
orthogonal impair) où le groupe métaplectique est de rang plus grand que le
groupe orthogonal ; ceci n’est pas écrit même si dans [23] la formule du produit
intérieur de Kudla-Rallis est écrite dans ce cadre (ce qui est la base de la généralisation). Finalement au chapitre 4, on tire les conséquences locales qui nous
intéressent et dont on a parlé ci-dessus.
Ce travail est motivé par un projet plus général commencé avec N. Arancibia
et D. Renard (cf. [2]). Je les remercie tous les deux, tout spécialement David
Renard avec qui nous continuons à travailler pour essayer de comprendre la
situation aux places archimédiennes. Grâce aux résultats de cet article et ceux
2
de [4] on peut maintenant décrire totalement explicitement les constructions de
[3] aux places complexes. C’est l’objet de l’article [19] et ce qui est utilisé dans
[19] est la propriété de multiplicité un est démontrée ici en 4.2.1 et le théorème
4.2.3 qui le précise. Ici on ne considère que les paquets unipotents et dans [19]
on généralise à tous les paquets, le théorème 4.2.3 avec l’hypothèse que le corps
de base est C.
Ce travail a été exposé à la conférence en l’honneur de Roger Howe qui s’est
tenue à Yale. C’est avec un très grand plaisir et un grand honneur que j’ai fait
cet exposé. Je remercie les organisateurs de cette conférence de m’avoir donné
cette possibilité d’exposer. Durant la rédaction de ce texte, j’ai bénéficié des
excellentes conditions de travail de l’ESI à Vienne et je remercie aussi chaleureusement S. Kudla et J. Schwermer qui sont à l’origine de cette invitation à
l’ESI.
Je remercie aussi le référé pour sa relecture constructive qui m’a évité quelques
”fautes de frappe” gênantes.
1
1.1
Formes automorphes de carré intégrable associées à des paramètres très réguliers
Notations
Dans tout ce qui suit, on utilise la notation suivante : soit GL(`) un groupe
général linéaire de rang `. On fixe un corps de nombres d’où un anneau d’adèles,
A et soit s ∈ C ; on note | |s le caractère de GL(`, A) qui vaut |detGL(`) |s .
Soit ρ une représentation cuspidale d’un groupe GL(dρ , A), on utilisera la
notation dρ sans commentaire et si ρ est plutôt noté ρi avec un indice i, on
notera di au lieu de dρi .
Un paramètre d’Arthur, ou du moins, sa forme primaire, est une représentation automorphe irréductible d’un groupe GL(m, A) qui est une induite d’une
représentation automorphe de carré intégrable d’un sous-groupe de Levi de ce
groupe. Ainsi, cette représentation détermine une collection de couples (ρi , ai )
pour i ∈ [1, t] (un intervalle de N ) où chaque ρi est une représentation automorphe cuspidale unitaire d’un groupe GL(di , A) et où les ai sont des entiers. Au
couple (ρi , ai ) correspond une représentation de carré intégrable de GL(di ai , A)
notée traditionnellement Speh(ρi , ai ), et c’est le produit tensoriel de ces représentations que l’on
P induit pour trouver la représentation de GL(m, A), bien sûr
il faut que m = i∈[1,t] ai di .
L
On notera formellement ψ := i∈[1,t] ρi r[ai ] un tel paramètre d’Arthur.
On dit que ce paramètre est très régulier quand il vérifie en plus la condition
que ρi 6= ρj pour tout i 6= j ∈ [1, t].
3
Soit G un groupe classique défini sur un corps de nombres. On suppose ici que
G est quasi-déployé pour pouvoir utiliser [3]. A une représentation automorphe
de carré intégrable de G(A), Arthur associe un paramètre comme ci-dessus avec
des propriétés restrictives : la plus simple est que m est la dimension de la
représentation naturelle du L-groupe de G ; cette propriété est une conséquence
assez facile de la stabilisation de la formule des traces tordue et elle est montrée
en [3]. Il est aussi montré en [3] que chaque ρi avec les notations précédentes
sont des représentations autoduales et ce qui est
Lvraiment difficile qu’en toute
place locale v du corps de nombres, les localisés i∈[1,t] ρi,v r[ai ] est conjugué
d’un morphisme de WF0 v × SL(2, C) (où WF0 v est le groupe de Weil-Deligne de
Fv ) à valeurs dans L G.
Le but de cette section est de montrer que les formes automorphes de carré
intégrable de G(A) associées via la correspondance d’Arthur ([3]) à un paramètre très régulier peuvent se décrire de façon assez simple comme résidu de
séries d’Eisenstein donc à partir de représentations cuspidales, ayant les mêmes
propriétés de régularité, pour des sous-groupes de Levi de G et en particulier que
ces représentations de carré intégrable ont des termes constants très particuliers
et c’est ce qui nous intéresse.
Parfois, on note G(n) au lieu de G pour faire apparaître le rang n de G et
ainsi si a est un entier inférieur ou égal à l’indice de Witt de la forme bilinéaire
définissant G, G(n − a) est le groupe des automorphismes de V ⊥ /Va où V est
l’espace sur lequel G agit muni de ”sa” forme bilinéaire symétrique ou antisymétrique, Va est un espace isotrope de dimension a de V et V ⊥ est l’orthogonal
de Va dans V . Evidemment V ⊥ /Va est muni de la forme bilinéaire symétrique
ou antisymétrique qui se déduit de celle de V .
On a encore besoin de la définition suivante ; on dit qu’une représentation
automorphe irréductible de G(A) a tous ses exposants négatifs si pour tout
terme constant cuspidal de cette représentation automorphe,
donc relatif à un
P
parabolique de la forme ×j∈[1,t] GL(dj , A) × G(n − j∈[1,t] dj ) et à une représentation cuspidale irréductible de ce Levi, cette représentation est de la forme
⊗j∈[1,t] τj |det|xj × π0 où les τj sont des représentations cuspidales unitaires les
xj sont des réels strictement négatifs et π0 est une représentation cuspidale.
Remarquons qu’une représentation automorphe ayant tous ses exposants négatifs est de carré intégrable et que la réciproque n’est évidemment pas vraie.
Cette notion est la variante globale de la notion de représentation tempérée
strictement positive de [13]. Le théorème ci-dessous ne donne pas une classification des représentations à exposants tous négatifs bien qu’une telle classification
est sans doute possible mais le théorème ci-dessous montre que les formes automorphes de carré intégrable associé à des paramètres très réguliers à exposants
tous négatifs et donne une classification des formes automorphes de carré intégrable associé à des paramètres très réguliers.
Soit π comme ci-dessus explicitement réalisé (et les données du théorème
dépendent au moins a priori de la réalisation). On suppose que l’on a ordonné
les couples (ρi , ai ) intervenant dans le paramètre de telle sorte que a1 ≥ a2 ≥
· · · ≥ at , ce qui laisse plusieurs choix en général.
4
Pour pouvoir travailler aussi avec des groupes non quasi-déployés, on utilise
le fait qu’à toute représentation automorphe de carré intégrable de G(A), on
peut associer un paramètre ψ comme ci-dessus, c’est à dire une collection de
couples (ρi , ai ) tel que hors d’un ensemble fini de places S de F , πv pour v ∈
/S
est non ramifiée associée par la correspondance de Langlands locale défini par
le paramètre ψv . On ne sait pas ici ce qui se passe dans S ni que les couples
(ρi , ai ) sont tous disctincts. Cette propriété est une conséquence facile de la
stabilisation de la formule des traces pour G et des résultats d’Arthur pour les
données endoscopiques elliptiques de G à qui on peut appliquer [3].
1.2
Classification dans le cas très régulier
On dit simplement qu’une représentation automorphe irréductible de carré
intégrable, π, de G(A) est associée à un paramètre très régulier s’il existe ψ
comme ci-dessus avec les ρi tous distincts, ce qui règle l’un des problèmes mentionnés et que pour toute place v de F , le paramètre ψv se factorise (à conjugaison près) par L G (ce qui ne règle pas le deuxième problème, mais peu nous
importe ici).
Théorème 1.2.1 (i) On fixe ψ un paramètre très régulier. Pour tout i ∈ [1, t]
fixons `P
i ∈ [0, [ai /2]] et fixons πcusp une représentation
L cuspidale irréductible de
G(n − i∈[1,t] `i , A) dont le paramètre associé est
i∈[1,t] ρi r[ai ]. Alors les
séries d’Eisenstein
Y
(
(si − (ai − `i )/2))
i∈[1,t];`i 6=0
E(×i∈[t,1];(`i )6=0 (Speh(ρi , `i )| |si ◦ detGL(`i ) × πcusp )
sont holomorphes en les hyperplans si = 0 pour tout i tel que `i 6= 0 à condition
de les calculer successivement sur ces hypeplans pris dans l’ordre croissant des
indices. Et l’évaluation de ces séries d’Eisenstein suivant ces hyperplans définit
une représentation automorphe de carré intégrable (non irréductible en général)
dont tous les exposants sont négatifs.
(ii) Soit π une représentation automorphe de carré intégrable associée à un
paramètre très régulier comme ci-dessus. Alors il existe des choix comme en (i)
de `i pour i ∈ [1, t] et de πcusp tel que π soit une sous-représentation de l’espace
engendré par les séries d’Eisenstein :
Y
(
(si − (ai − `i )/2))E(×i∈[t,1];(`i )6=0 (Speh(ρi , `i )| |si × πcusp ),
i∈[1,t];`i 6=0
évalués sur les hyperplans si = 0, i ∈ [t, 1]; `i 6= 0 pris dans l’ordre croissant des
indices, à chaque étape on évalue une fonction holomorphe en le point considéré.
Montrons (i) ; on doit montrer que les séries d’Eisenstein écrites sont holomorphes calculées successivement sur les hyperplans décrits. On note i0 le plus
5
petit entier (s’il existe sinon il n’y a rien à prouver) tel que `i0 6= 0. On considère
les séries d’Eisenstein
E(×k∈[1,`i0 ] ρi0 | |xk × πcusp ),
(1)
au voisinage de point x`0 = (ai0 −2`i0 +1)/2, xk = xk+1 +1 pour tout k ∈ [1, `i0 [
et on va montrer que multipliées par le polynômes
Y
(x`i0 − (ai0 − 2`i0 + 1)/2)
(xk − xk+1 − 1)
(2)
k∈[1,`0 [
ces séries d’Eisenstein deviennent holomorphes en le point qui nous intéresse.
L’hyperplan x`i0 − (ai0 − 2`i0 + 1)/2 ne peut être singulier que pour la sous-série
d’Eisenstein E(ρi0 | |xi0 × πcusp ). On sait alors d’après Langlands repris en [16]
1.2.3 que l’hyperplan x`i0 − (ai0 − 2`i0 + 1)/2 est un pôle d’ordre un au plus.
Les hyperplans xk − xk+1 + 1 ne sont pas singuliers pour la série d’Eisenstein
E(ρi0 | |xj × πcusp ) pour tout j ∈ [1, `i0 [ au voisinage du point défini par l’intersection de tous les hyperplans (cf [16] 1.3). Par contre cet hyperplan est singulier
dans les groupes linéaires convenables soit quand on fait l’échange :
ρi0 | |xk × ρi0 | |xk+1 → ρi0 | |xk+1 × ρi0 | |xk ,
soit quand on fait l’échange
ρi0 | |−xk+1 × ρi0 | |−xk → ρi0 | |−xk × ρi0 | |−xk+1 .
On prend la description explicite des éléments du groupe de Weyl et on voit
que pour un tel élément donné un seul des deux échanges, au plus, a lieu. D’où
le fait que l’hyperplan est singulier d’ordre un au plus. On multiplie les séries
d’Eisenstein (1) par le polynôme (2) et elles sont donc holomorphes au voisinage
des hyperplans considérés. On peut donc calculer ces séries d’Eisenstein sur les
hyperplans dans l’ordre que l’on veut. On calcule d’abord xk = xk+1 + 1. On
trouve
x `i
(x`0 − (ai0 − 2`i0 + 1)/2)E(Speh(ρi0 , `i0 )| |
0
+(`i −1)/2
0
× πcusp ).
On pose si0 := x`i0 (`i0 − 1)/2 et on trouve donc
(si0 − (ai0 − `i0 )/2)E(Speh(ρi0 , `i0 )| |si0 × πcusp ).
Et on a montré que cette expression est holomorphe sur l’hyperplan si0 = (ai0 −
`i0 )/2.
Il n’est pas difficile de calculer les termes constants cuspidaux de la représentation définie par ces résidus de séries
P d’Eisenstein, il n’y en a qu’un, il est relatif
au parabolique GL(di0 ) × G(n − i∈[1,t] `i ) et à la représentation cuspidale
⊗k∈[1,`i0 ] ρi0 | |−(ai0 −2k+1)/2 ⊗ πcusp .
On a donc bien une représentation à exposants strictement négatif et il n’y a
qu’un terme constant cuspidal.
6
On fixe i1 ∈ [1, t] et on suppose que l’on a montré le théorème si `i = 0
pour tout i ≥ i1 et on le montre si `i = 0 pour tout i > i1 . Notons π1 la
représentation qui se réalise dans les résidus de séries d’Eisenstein décrites en
(i) mais avec `i = 0 pour tout i ≥ i1 . On note π10 = π1 sauf si G = SO(2n) et
`i1 dρi1 est impair ouPon note π10 l’image de π1 par l’automorphisme extérieur
définit par O(2(n − i∈[1,i1 [ `i )). On commence par remarquer que l’opérateur
d’entrelacement standard qui correspond au morphisme
M (w0 , si1 ) := Speh(ρi1 , `1 )| |si1 × π1 →
Speh(ρi1 , `1 )| |−si1 × π10
admet si1 − (a1 − `i1 )/2 comme hyperplan singulier avec un pôle d’ordre un
au plus. Pour cela il suffit de remarquer que pour tout j ∈ [−(`i1 , (`i1 − 1)/2)]
l’opérateur d’entrelacement standard
ρi1 | |j+si1 × π1 → ρi1 | |−si1 −j × π10
est holomorphe sur cet hyperplan sauf éventuellement si j = −(`i1 − 1)/2 où
l’ordre de la singularité est au plus un (ceci est prouvé dans [16] 1.2.3, en effet
l’ordre des pôles de l’opérateur d’entrelacement est inférieur ou égal à l’ordre des
pôles des séries d’Eisenstein dans notre situation régulière). Ensuite on vérifie
que les termes constants cuspidaux des séries d’Eisenstein de (i), (en faisant `i =
0 pour tout i ∈]i1 , t]) correspondent à un couple formé des éléments
P du groupe
de Weyl réduit à une application w0 de [1, `i1 ] dans [±1, · · · , ± i∈[1,i1 ] `i ] vérifiant w0 (α) > 0 pour toute racine positive α dans GL(di1 `i1 ) et d’un terme
constant cuspidal de π1 ; ce couple permet de construire un opérateur d’entrelacement standard (cf [17] II.1.6, II.1.7). Si w0 vérifie w0 (1) < 0 alors w0 (j) < 0
pour tout j ∈ [1, `i1 ]. On définit w par w0 w = w0 et w est comme dans ce
qui précède l’énoncé. Il faut se rappeler que les termes constants cuspidaux
de π1 sont obtenus par la procédure décrite dans l’énoncé et l’opérateur d’entrelacement associé à w sur ces termes constants est alors holomorphe. Ainsi
M (w0 , si1 ) = M (w, si1 )M (w0 , si1 ) a au plus les singularités de M (w0 , si1 ). Et le
terme constant alors obtenu après multiplication par l’équation de l’hyperplan
éventuellement singulier a les propriétés annoncées.
Il reste à montrer que si w0 (1) > 0 alors le terme constant obtenu n’a pas
de pôle : fixons un tel w0 et notons k0 le plus grand entier de [1, `i1 ] tel que
0
0
0
w−
où w−
est l’identité sur [1, k0 ] et vaut w0 sur
w0 (k0 ) > 0. On écrit w0 = w+
]k0 , `i1 ]. On écrit
Speh(ρi1 , `1 ) ,→
Speh(ρi1 | |−(`i1 −1)/2 , ρi1 | |−(`1 −1)/2+k0 ) × Speh(ρi1 | |−(`i1 −1)/2+k0 , ρi1 | |(`1 −1)/2 ).
0
On montre avec cela que les termes constants cuspidaux associés à w−
et un
terme constant cuspidal de π1 sont holomorphe sur l’hyperplan si1 −(ai1 −`i1 )/2 :
en effet on définit l’opérateur d’entrelacement standard
M (w00 , si1 ) : Speh(ρi1 | |−(`i1 −1)/2+k0 , ρi1 | |(`1 −1)/2 )| |si1 × π1 →
7
Speh(ρi1 | |−(`i1 −1)/2 , ρi1 | |(`1 −1)/2 − k0 )| |−si1 × π10 .
Lui est holomorphe sur l’hyperplan qui nous intéresse et ensuite on procède
0
comme ci-dessus. Quant à l’opérateur d’entrelacement associé à w+
lui ne fait
que des échanges
ρi1 | |x+si1 × ρ0 | |−y → ρ0 | |−y × ρi1 | |x
où x+si1 et y sont des réels strictement positifs quand on fait si1 = (ai1 −`i1 )/2
et où ρ0 est une représentation cuspidale unitaire. Si ρ0 est non isomorphe à ρi1 ,
il n’y a pas de singularité et si ρ0 est isomorphe à ρi1 alors en calculant en
si1 = (ai1 − `1 )/2, x + si1 et y sont deux éléments distincts de l’intervalle
[(ai1 − 2`i1 + 1)/2, (ai1 − 1)/2]. Comme (ai1 − 2`i1 + 1)/2 ≥ 1/2 et que y est
demi-entier non entier si ce nombre est demi-entier, on a bien x + y > 1. Il n’y
a donc pas de pôle le long de l’hyperplan considéré.
Cela termine la preuve de (i).
Montrons (ii). Soit π une représentation automorphe irréductible de carré
intégrable de G(A) et on suppose que le paramètre d’Arthur de cette représentation est très régulier. Si π est cuspidal, (ii) est trivialement vrai avec `i = 0 pour
tout i ∈ [1, t] et πcusp = π. Supposons donc que π ne soit pas cuspidal, alors
d’après [16] théorème de 1.3 (c’est le premier cas qui s’applique par régularité),
il existe i0 ∈ [1, t] avec ai0 ≥ 2L
et une représentation
Lici nécessairement de carré
intégrable, π− de paramètre
ρ
R
ρi0 Rai0 −2 tel que π se
ai
i∈[1,t],i6=i0 i
réalise dans l’espace (bien défini)
s
(s − (ai0 − 1)/2)E(ρi0 | | × π− )
.
(3)
s=(ai0 −1)/2
On applique le (ii) par récurrence à π− : pour i = [1, t] on obtient des données
`i,− et πcusp ; on pose `i = `i,− si i 6= i0 et `i0 = `i0 ,− + 1 et on va montrer
que ces données plus πcusp répondent aux conditions de (ii). On note it le plus
grand des indices tel que `i,− 6= 0.
Il faut distinguer les trois cas suivant : it = i0 , it 6= i0 mais ait = ai0 et le
cas restant.
On fixe encore une représentation π 0 de carré intégrable de G(n−di0 −dit `it − )
de paramètre
M
M
M
ρi R[ai ]
ρi0 R[ai0 − 2]
ρit ⊗ r[ait − 2`it ]
i∈[1,t];i6=i0 ,it
tel que π 0 se réalise comme sous-représentation irréductible de l’espace
sit
0
sit − (at − `it ,− )/2)E(Speh(ρit , `it ,− )| | × π
,
sit =(ai −`i,− )/2
où l’évaluation se fait dans l’ordre croissant des indices et telle que π− se réalise
dans l’espace des résidus :
sit
0
(sit − (ait − `it ,− )/2)E(Speh(ρi , `it , −)| | × π )
.
sit =(ai0 −`it ,− )/2
8
Le cas où it < i0 et où donc `i0 = 1 est complètement évident. On traite
maintenant le cas où it = i0 . On montre que les séries d’Eisenstein
(s − si0 − (`0 + 1)/2)(si0 −(ai0 −`i +1)/2 )E(ρi0 | |s ×i∈[t,i0 [ Speh(ρi0 , `i0 − 1)| |si0 × π 0 )
sont holomorphes au voisinage des hyperplans si0 = ((ai0 − `i + 1)/2) et s −
si0 − (`0 + 1)/2 : en effet au voisinage de l’hyperplan s − si0 = (`i0 + 1)/2, les
seuls pôles viennent des opérateurs d’entrelacements échangeant soit ρi0 | |s et
ρi0 | |si0 +(`i0 −2)/2 soit ρi0 | |−si0 −(`i0 −2)/2 et ρi0 | |−s puisque la série d’Eisenstein
E(ρi0 | |s × π 0 ) est holomorphe près de cet hyperplan. Un seul des deux échanges
peut avoir lieu d’où un pôle au plus simple le long de cet hyperplan. Au voisinage
de l’hyperplan si0 = ((ai0 − `i0 + 1)/2), ce sont uniquement les pôles de la série
d’Eisenstein E(Speh(ρi0 , `i0 − 1)| |si0 × π 0 )) qui comptent. D’où l’assertion.
Ainsi on peut d’abord calculer sur l’hyperplan s − si0 = (`0 + 1)/2 et on obtient alors exactement E(Speh(ρi0 , `i0 )| |si0 +1/2 × π 0 ) d’après la description faite
ci-dessus des opérateurs d’entrelacement ayant un pôle sur l’hperplan considéré.
Après un changement de si0 +1/2 en la variable si0 on trouve le résultat annoncé.
Considérons maintenant le cas où i0 < it mais ait = ai0 ; ici la difficulté
réside dans le fait que pour π− le paramètre où l’on remplace ai0 par ai0 − 2
n’est plus ordonné ; il faut déplacer i0 pour rétablir l’ordre. En ayant fait ce
déplacement on se retrouve dans le cas précédent et on trouve qu’il existe π 0 tel
que π se réalise dans les résidus de séries d’Eisenstein
Y
(si − (ai − `i )/2)
i;ai =ai0 ;`i 6=0
E(×i ; ai = ai0 ; `i 6= 0)Speh(ρi , `i )| |si × π 0 )
calculé suivant les hyperplans dont l’équation est dans le polynôme écrit. On
remarque que ces séries d’Eisenstein sont holomorphes au voisinage des hyperplans considérés et que les opérateurs d’entrelacement standard qui échangent
les Speh(ρi , `i )| |si sont holomorphes bijectifs près de ces hyperplans par l’hypothèse que ai = ai0 pour tous ces indices. On peut donc modifier l’ordre et
démontrer aussi (ii) dans ce cas.
Il reste le cas où ai0 > ait . On fixe encore π 0 tel que π− se réalise dans les
séries d’Eisenstein
(sit − (ait − `it )/2)E(Speh(ρit , `it )| |sit × π 0 )
calculées sur l’hyperplan sit − (ait − `it )/2 = 0. Ainsi π se réalise dans l’espace
des résidus
(s − (ai0 − 1)/2)(sit − (ait − `it )/2)E(ρi0 | |s × Speh(ρit , `it )| |sit × π 0 ),
(1)
calculé d’abord sur l’hyperplan sit − (ait − `it )/2 = 0 puis sur l’hyperplan
s = (ai0 − 1)/2. On vérifie que les séries d’Eisenstein écrite sont holomorphe au
voisinage de ces hyperplans car ai0 ≥ ait et ρi0 6∼ ρit . Les séries d’Eisenstein
(s − (ai0 − 1)/2)(sit − (ait − `it )/2)E(Speh(ρit , `it )| |sit × ρi0 | |s × π 0 ),
9
(2)
sont elles holomorphes si on les calcule d’abord sur l’hyperplan s = (ai0 − 1)/2
puis sur l’autre hyperplan. On a aussi un opérateur d’entrelacement dans le bon
groupe linéaire :
ρi0 | |s × Speh(ρit , `it )| |sit → Speh(ρit , `it )| |sit × ρi0 | |s
qui est holomorphe près des hyperplans considérés. On vérifie que les termes
constants cuspidaux des séries d’Eisenstein (1) s’obtiennent en appliquant cet
opérateur d’entrelacement aux termes constants des séries d’Eisenstein (2) :
ce sont les équations fonctionnelles. Et en calculant d’abord sur l’hyperplan
s = (ai0 − 1)/2 puis sur l’autre hyperplan, ce qui permet d’évaluer les séries
d’Eisenstein (2) sans modifier ce que l’on trouve en (1), on voit que π est une
sous-représentation de la représentation de carré intégrable obtenue en évaluant
(2) d’abord en s = (ai0 −1)/2 puis en sit = (ait −`it )/2. Pour conclure, on admet
le (ii) de la proposition pour les représentations de carré intégrable incluses dans
(s − (ai0 − 1)/2)E(ρ| |s × π 0 )
calculés en s = (ai0 − 1)/2 et cela donne (ii) pour π.
1.3
Calcul des termes constants dans le cas très régulier
L
On fixe comme dans la section précédente un paramètre i∈[1,r] ρi r[ai ] où
toutes les représentations cuspidales ρi sont distinctes. On a classifié les représentations ayant ce paramètre, exactement on a montré qu’elles se réalisaient (si
elles n’étaient pas cuspidales) comme sous-représentations de certains résidus de
séries d’Eisenstein : soit π une représentation irréductible de carré intégrable,
explicitement réalisée, c’est-à-dire pas uniquement sa classe d’isomorphie fixée,
alors il existe pour tout i ∈ [1, r] des entiers L
`i ∈ [1, [ai /2]] et une représentation
cuspidale, πcusp , irréductible de paramètre i∈[1,r] ρi r[ai − 2`i ] tel que
π ,→
Y
(si −(ai −`i )/2)E(×i∈[r,1] Speh(ρi , `i )| | ×πcusp )
si
, (1)
si =(ai −`i )/2;i∈[1,r]
i∈[1,r]
où ci-dessus seuls les `i 6= 0 interviennent.
On considère l’opérateur d’entrelacement standard :
×i∈[r,1] Speh(ρi , `i )| |si × πcusp → ×i∈[r,1] Speh(ρi , `i )| |−si × πcusp ;
il y a comme
P d’habitude une petite difficulté dans le cas des groupes orthogonaux
pairs si i di `i est impair, il faut alors soit que πcusp dans l’espace d’arrivée
soit remplacé par son image par un élément du groupe orthogonal soit si πcusp
est trivial que l’on change le parabolique induisant. C’est insignifiant comme
modification.
Cet opérateur d’entrelacement n’est holomorphe près
Q des hyperplans si =
(ai − `i )/2 qu’après avoir multiplié par le polynôme i∈[1,r];`i 6=0 (si − (ai −
10
`i )/2) et même comme cela, il faut se placer successivement sur les hyperplans
indiqués pris dans l’ordre croissant des indices. On note N (w0 ) le résultat de
ces évaluations.
P
On note W l’ensemble des permutations à i∈[r,1] `i éléments croissantes
sur chaque sous-segment associé
P à i ∈ [r, 1] tel que `i 6= 0. Les opérateurs d’entrelacements locaux de GL( i di `i , Fv ) pour toute place locale v de F associé
à un élément de W sont holomorphes de
×i∈[r,1] Speh(ρi,v , `i )| |v−si
dans la bonne induite au voisinage des hyperplans si = (ai − `i )/2 sont holomorphes quand on les a normalisés à la Langlands-Shahidi (cf[18]) ; on les note
Nv (w) et on note N (w) le produit sur toutes les places des opérateurs Nv (w).
Le facteur de normalisation qui, lui, est global n’a pas de pôle près de ces hyperplans car tous les ρi sont supposés distincts et on a donc un opérateur M (w)
en évaluant le long de ces hyperplans, en fait l’évaluation peut se faire dans
n’importe quel ordre par holomorphie.
Théorème 1.3.1 L’opérateur N (w0 ) passe au quotient pour définir un opérateur sur la représentation (1) d’image une sous-représentation semi-simple de
l’induite
×i∈[r,1];`i 6=0 Speh(ρi , `i )| |−ai /2+`i /2 × πcusp .
(2)
L’opérateur N (w0 ) ainsi défini par passage au quotient est alors injectif. Les
termes constants cuspidaux des séries d’Eisensteine calculés comme expliqué
ci-dessus sont inclus dans l’espace
X
N (w)N (w0 )f,
(2)
w∈W
où f ∈ ×i∈[r,1] Speh(ρi , `i )| |(ai −`i )/2 × πcusp
Le fait que N (w0 ) passe au quotient comme annoncé est clair par les définitions.
On démontre
que son image est bien incluse dans l’induite écrite par récurrence
P
sur i (`i ). Si cette somme est nulle, il n’y a pas de séries d’Eisenstein et il n’y
a rien à démontrer. On suppose donc que cette somme est non nulle et on note
i1 , le plus grand entier tel que `i1 6= 0. On applique le théorème au paramètre
qui se déduit de celui fixé en remplaçant ai1 par ai1 − 2, ce qui change `i1 en
`i1 − 1. On a alors un opérateur N (w00 ) qui a par récurrence pour image une
représentation de carré intégrable incluse dans l’analogue de (2) ; on note τ son
image et on considère l’opérateur d’entrelacement standard global
M (s) : ρi1 ||s × τ → ρi1 ||−s × τ.
On s’intéresse au comportement de cet opérateur sur l’hyperplan s = (ai1 −1)/2 ;
son pôle est d’ordre au plus un (cf. [16], 1.2.3) et on note N0 la valeur de cet
opérateur sur cet hyperplan. Si `i1 = 1 , N (w0 ) = N0 N (w00 ) et le résultat
cherché est clair. Si `i1 > 1, on écrit
τ ,→ Speh(ρi1 , `i1 − 1)||−(ai1 −`i1 −1)/2 × τ 0 ,
11
où τ 0 est une représentation de carré intégrable obtenu en remplaçant a1 par
ai1 − 2`i1 . On vérifie que M (s) se factorise en
ρi1 ||s × Speh(ρi1 , `i1 − 1)||−(ai1 −`i1 −1)/2 × τ 0 →
Speh(ρi1 , `i1 − 1)||−(ai1 −`i1 −1)/2 × ρi1 ||−s × τ 0
→ ρi1 ||−s × Speh(ρi1 , `i1 − 1)||−(ai1 −`i1 −1)/2 × τ 0 .
Le premier opérateur est holomorphe sur l’hyperplan s = (ai1 − 1)/2 toujours
avec la même référence à [16] et le deuxième est un opérateur d’entrelacement
dans GL(`i1 , A) et il a un pôle d’ordre un exactement sur l’hyperplan considéré
et son image est exactement Speh(ρi1 , `i1 )||−(ai1 −`i1 )/2 . Il ne reste qu’à vérifier
que N (w0 ) a son image incluse dans l’image de N0 N (w00 ), ce qui résulte des
constructions. Avant de démontrer l’injectivité de N (w0 ), on calcule les termes
constants cuspidaux des séries d’Eisenstein écrites en (1) : ces termes constants
sont les résidus des termes constants cuspidaux pour des séries d’Eisenstein.
Ces termes constants sont donc indexés par certains éléments du groupe de
Weyl de G. On identifie les éléments du groupe de
P Weyl intervenant à des
applications, σ de ∪i∈[r,1];`i 6=0 [1, `i ] dans {±j; j ∈ [1, i∈[r,1];`j 6=0 `j ]} qui vérifie
pour tout i ∈ [r, 1] et tout k < k 0 ∈ [1, `i ] σ(k) − σ(k 0 ) > 0. On a déjà vu que
le résidu de l’opérateur d’entrelacement associé à σ est nul s’il existe i ∈ [r, 1]
et [k ∈ [1, `i ] tel que σ(k) > 0. Ainsi σ est nécessairement de la forme ww0 avec
w ∈ W. Comme N (w) est holomorphe sur l’image de N (w0 ) et qu’il coïncide
a un fontion holomorphe non nul près à l’opérateur d’entrelacement standard
global, le calcul de l’évaluation de l’opérateur :
Y
(si − (ai − `i )/2)M (ww0 , si )
i∈[1,r];`i 6=0
le long des hyperplans si = (ai − `i )/2 pris dans l’ordre croissant des indices
vaut N (w)N (w0 ). D’où la deuxième partie du théorème.
Montrons maintenant que N (w0 ) défini sur la représentation (1) est injectif :
en effet soit π une sous-représentation irréductible de (1) dans le noyau de N (w0 )
(s’il en existe). On vient de voir que tous les termes constants cuspidaux de π
sont nuls et cela force la nullité de π d’où la contradiction qui termine la preuve
du théroème.
2
2.1
La correspondance theta pour les représentations de carré intégrable
Définition de la correspondance theta
On commence par le cas où G = O(W ) et H = Sp(2n) ; on note rW l’indice
de Witt de W . La représentation de Weil est une représentation de G(A) ×
H(A) comme automorphismes de Cc∞ (X(A) ⊗ W (A)). Pour toute fonction φ ∈
12
Cc∞ (X(A) ⊗ W (A)) on définit θφ en sommant sur les points rationnels et pour
tout g ∈ G(A), h ∈ H(A), on pose θφ (g, h) := θ(g,h).φ .
En [22], Weil a montré que sous l’hypothèse n << rW (en loc.cite l’hypothèse
est plus faible), on peut intégrer θφ (g, h) sur H(A)/H(F ) et que l’intégrale est
absolument convergente. Soit π une représentation irréductible automorphe et
de carré intégrable de H(A), on va vérifier que, pour toute forme automorphe
fπ dans l’espace de π, on peut aussi intégrer θφ (g, h)fπ et que l’intégrale est
absolument convergente. On note d := dim W .
Proposition 2.1.1 Avec les notations précédentes, l’intégrale de θφ (g, h)fπ sur
l’espace G(F )\G(A) converge absolument.
On prend pour modèle de la réprésentation de Weil le modèle de Schrödinger
donc les fonctions lisses à support compact sur X 0 ⊗ W où X 0 est un lagrangien
de l’espace symplectique. Les éléments de GL(X 0 ) ⊂ Sp(2n) agissent sur ces
fonctions par l’action naturelle tordue par le caractère |det|d/2 . Un domaine de
Siegel pour Sp(2n) est, après avoir fixé un nombre réel C grand, l’ensemble des
éléments de la forme
A
0
0
u
k
0 A −1
où u parcourt un ensemble compact de U (A) s’envoyant surjectivement sur
U (A)/U (F ), k est dans un compact maximal de Sp(2n, A) et A est une matrice
diagonale (a1 , · · · , an ) (A0 = (an , · · · , a1 )) avec les ai ∈ R+ pour tout i ∈
[1, n] vérifiant ai /ai+1 > C pour tout i ∈ [1, n − 1] et an > C. Intégrer sur
Sp(2n, A)/Sp(2n, F ) revient au même que
d’intégrer sur ce domaine de Siegel
A
0
0
)−1 .
avec la mesure dudkd∗ aδB (
0 A −1
−1
A
0
A
0
0
0
reste dans un compact dépenu
Puisque
0 A −1
0 A −1
dant uniquement de C, pour les questions de majorationsseule compte l’intéA
0
0
gration en A. Tout ceci est déjà dans [22]. On pose g :=
et on
−1
0
A
P
a par définition θφ (g) = ξ∈X 0 ⊗W (F ) (g.f )(ξ). Comme g est diagonale, il suffit
P
P
évidemment de majorer |a1 · · · an |d/2 w1 ,··· ,wn ∈W (F ) φ( i∈[1,n] ai wi ) et cela se
Q
P
ramène encore à un produit de sommes i∈[1,n] ξ∈F φi (ai ξ) pour des foncP
tions φi convenables. On se ramène encore à majorer ξ∈Z φi,R (ai ξ) pour des
fonctions φi,R à décroissance rapide sur R. Puisque ai > C pour tout i ∈ [1, n],
la somme en ξ 6= 0 est à décroissance rapide en ai . Il reste le termeQen ξ = 0 qui
ne dépend pas de ai . Ainsi on a une majoration de |θφ (g)| par | i∈[1,n] ai |d/2
(multiplié par une constante convenable évidemment).
On rappelle les majorations de fπ sur un domaine de Siegel (cf [17] 1.4.11).
Dans la preuve de la proposition de cette référence, on montre que
Y
|fπ (g)| ≤ δB (g)1/2
|ai |−ci
i
13
où les −ci sont les exposants (dont certains peuvent être nuls) mais qui vérifient
la condition de [17] 1.4.11, d’être dans la chambre de Weyl obtuse négative,
c’est-à-dire c1 > 0, c1 + c2 > 0, · · · , c1 + · · · + cn > 0. D’où
Y
δB (g)−1 |fπ (g)||θφ (g)| << δB (g)−1/2
|ai |d/2−ci .
i∈[1,n]
Q
On remplace encore δB (g)1/2 par sa valeur c’est-à-dire i∈[1,n] |ai |n−i+1 . La
question est donc de savoir si l’intégrale :
Z
Y
Y
|ai |i−n−1+d/2−ci
d∗ ai
a1 /a2 >C,···an−1 /an >C;an >C i∈[1,n]
est convergente. On pose ai = bi bi+1 · · · bn pour tout i ∈ [1, n] et l’intégrale
devient le produit des intégrales
Z
|bi |1+···+i−c1 −···−ci +i(d/2−n−1) d∗ bi .
bi >C
Celle-ci converge si l’exposant est strictement négatif, c’est-à-dire
X
i(i + 1)/2 −
cj + i(d/2 − n − 1) ≤ 0.
j∈[1,i]
Il suffit donc que i + 1 < −d + 2n + 2 pour tout i ∈ [1, n] et donc que d ≤ n + 1.
0
On suppose maintenant que rW >> 2n et on prend comme
modèle Cc∞ (X
 ⊗

A 0
0
0  un
W0 ⊕ V ⊗ Y 0 ) où V est l’espace symplectique. Soit h :=  0 h0
0
0 0 A −1
élément de O(W ), où A est une matrice diagonale comme ci-dessus avec rW
éléments diagonaux. L’action de h se fait par :
h.φ(x0 ⊗ w0 + v ⊗ y 0 ) = |det(A)|n (h0 .φ)(x0 ⊗ w0 + v ⊗ A0 y 0 ).
Et comme ci-dessus, on obtient une majoration de |θφ (h)| par |det(A)|n . La
question est de savoir si (on pose r := rW et les ci sont les exposants de la
représentation automorphe de carré intégrable comme ci-dessus)
Y
Y
δB (h)−1/2
|ai |r−ci
d∗ ai
i∈[1,r]
i∈[1,r]
est intégrable sur un domaine de Siegel que l’on va décrire.
On doit séparer suivant que W0 = 0 ou non ; supposons d’abord que W0 6= 0,
alors le domaine de Siegel qui dépend encore d’un nombre réel
Q C est défini par
ai /ai+1 > C pour tout i ∈ [1, r[ et ar > C. Ici δB (h)1/2 = i∈[1,r] |ai |r−i+d0 /2 ,
où d0 = dim W0 . Le même calcul que ci-dessus, donne alors la condition, pour
tout i ∈ [1, r] :
(i + 1)/2 + n − r − d0 /2 ≤ 0
14
et ces conditions sont satisfaites exactement quand n ≤ (r − 1)/2 + d0 /2 c’està-dire 2n < r + d0 .
Si d0 = 0, la condition d’être dans le domaine de Siegel devient ai /ai+1 > C
pour tout i ∈ [1, r[ et ar ar−1 > C. La condition sur les exposants est :
c1 < 0, c1 + c2 < 0, · · · , c1 + · · · + cr−1 + cr < 0, c1 + · · · + cr−1 − cr < 0.
Pour transformer l’intégrale à étudier en un produit d’intégrales, on pose pour
tout i ∈ [1, r[, ai = bi bi−1 · · · b1 et ar = br−1 b−1
r . On obtient les intégrales
précédentes pour i ≤ r − 2 et on a aussi à étudier les intégrales :
Z
|br−1 |1+··· ,r−c1 −···−cr +r(n−r) d∗ br−1 ,
br−1 >C 1/2
Z
br
|br−1 |1+··· ,r−c1 −···−cr−1 +cr −r
2
+(r−2)n ∗
d br .
>C 1/2
On trouve encore les conditions
r(r + 1)/2 + r(n − r) ≤ 0; r(r + 1)/2 − r2 + (r − 2)n ≤ 0.
Elles sont satisfaites si r > 2n. Cela termine la preuve.
2.2
Comportement des séries théta
On a défini, dans certains cas,
Z
θφ (h, fπ ) :=
dg θφ (g, h)fπ (g).
G(F )\G(A)
Proposition 2.2.1 Sous les hypothèses de convergence de 2.1 où l’intégrale de
la valeur absolue |θφ (g, h)fπ (g)| sur G(F )\G(A) est définie, cette intégrale est
à croissance lente en h ∈ H(A).
On reprend la démonstration précédente. Comme dans celle-ci, il s’agit de majorer
X
θφ (g, h) =
(g, h).f (ξ).
ξ∈X∈X 0 ⊗W (F )
Pour démontrer ce que l’on veut, il suffit de supposer que g et h sont dans des
domaines de Siegel. On en vient rapidement à majorer l’expression ci-dessus
pour g et h dans des tores déployés maximaux de Sp(2n) et O(W ). On fixe un
espace isotrope maximal, W0 de W , défini sur k, stable sous le tore déployé de
O(W ) fixé ; on note W0 un sous-espace anisotrope maximal de W et W00 le dual
de W0 vu comme sous-espace de W . On fixe une base de W0 sur laquelle h agit
par multiplication, dont on note wj pour j ∈ [1, rW ] (rW est l’indice de Witt de
W ) et, avec les notations de la preuve précédente, il faut majorer
X
X
X
i∈[1,n],j∈[1,rW ],j 0 ∈[1,rW ] ξi,j ∈F wi,00 ∈W00 (F )
15
φ(ai bj ξi,j wi,j + ai b−1
j ξi,j 0 wi,j 0 + ai wi,00 ).
Comme dans la démonstration précédente, on majore cette somme en remplaçant φ par un produit de fonctions à décroissance rapide en une variable qui
sont de l’un des trois types suivant :
X
X
X
φ0 (ai bj ξ);
φ0 (ai b−1
φ0 (ai ξ).
j ξ);
ξ∈F
ξ∈F
ξ∈F
Quand on fait ξ = 0 dans ces fonctions on retrouve celles de la preuve précédente
et elles sont indépendante des bj . On considère donc les sommes pour ξ 6= 0. La
dernière fonction est celle déjà trouvée dans la preuve précédente et la première
est
rapide en ai et en bj pour tout ξ 6= 0. Il reste les fonctions
P aussi 0à décroissance
−1
φ
(a
b
ξ).
Elles
sont à décroissance rapide en ai et après intégration,
i j
ξ∈F ∗
en ai avec le facteur δB qu’il faut rajouter (cf. la preuve précédente) le résultat
est à croissance lente en bj . D’où l’assertion.
Corollaire 2.2.2 (i) Sous les hypothèses de 2.1 la représentation de H(A) dans
l’espace défini par les fonctions θφ (h, fπ ) est une représentation automorphe.
(ii) La projection de l’espace défini en (i) sur l’ensemble des fonctions cuspidales de H(A) est nul sauf exactement quand il existe une représentation cuspidale irréductible πH de H(A) tel que π soit l’image de πH par la correspondance
theta de H vers G. Cette projection contient alors πH .
(i) On a vu dans la proposition précédente que les fonctions θφ (h, fπ ) sont à
croissance lente. Le centre de l’algèbre enveloppante de H y agit par un caractère : en effet R. Howe a montré qu’il existe une application du centre de l’algèbre
enveloppante de H dans celui de G de sorte, qu’en les places archimédiennes,
cette application est compatible à la représentation de Weil, c’est-à-dire que si
zH a pour image zG par cette application et si l’on note momentanément ω la
représentation de Weil en une place archimédienne, on a pour tout fonction f
dans l’espace de cette représentation ω(zG )f = ω(zH )f .
(ii) Soit τ une représentation automorphe cuspidale irréductible de H(A) ;
on a vu (avec les notations précédentes) que les fonctions de H(A), θφ (h, fπ )
sont à croissance lente, on peut donc les intégrer contre des éléments fτ dans
l’espace de τ . D’où l’existence des intégrales :
Z
Z
dh
dg θφ (g, h)fπ (g)fτ (h).
H(F )\H(A)
G(F )\G(A)
On a vu que l’intégrale en (g, h) est absolument convergente puique fτ est à
décroissance rapide. Supposons que cette double intégrale n’est pas nulle. On
peut échanger l’ordre d’intégration, d’après ce que l’on vient de voir et l’image
de fτ par la correspondance theta n’est pas nulle. Notons τ l’image de π par
la projection sur l’espace des formes automorphes cuspidales de H(A) de la
correspondance θ. On vient de supposer que cette représentation est non nulle,
on peut même supposer que τ est une sous-représentation irréductible de l’image
de la correspondance theta de π. Ainsi π est dans l’image de τ . Le fait que π est
16
exactement l’image de τ n’a en fait aucune importance pour nous mais résulte
de la conjecture de Howe locale maintenant démontrée en toute généralité par
[7].
2.3
Termes constants des séries theta
On reprend les constructions de Rallis faites en [20] mais on intégre une
série theta contre une forme automorphe de carré intégrable non cuspidale.
Donc au résultat de [20], il faut rajouter la contribution des termes constants
de la forme automorphe de carré intégrable. On considère en détail la paire
G = Sp(V ), H = O(W ) avec dim V = 2n, dim W = m d’indice de Witt r. Et
on suppose que r >> 2n. Les autres cas sont absolument analogues. Toutefois,
on se limite ici au cas le sous-groupe parabolique est maximal avec un facteur
de son sous-groupe de Levi isomorphe à GL(1, F ) car c’est le seul cas que nous
utiliserons.
On fixe π une représentation automorphe irréductible de carré intégrable de
H(A) et pour tout fπ dans l’espace de la représentation, on considère la série
theta θφ (fπ , g) qui dépend de φ dans l’espace de la représentation de Weil et de
g ∈ G(A).
Soit P un sous-groupe parabolique de G dont les sous-groupes de Levi sont
isomorphes à GL(1) × Gn−1 où Gn−1 = Sp(2n − 2). Pour fixer P , on fixe x01 un
élément non nul de X 0 et P est le stabilisateur dans Sp(2n) de x01 . Pour fixer
un sous-groupe de Levi, on fixe x1 un élément de X non dans l’orthogonal de
x1 . Alors un sous-groupe de Levi de P est l’intersection du stabilisateur de x01
avec le stabilisateur de x1 . On pose X 00 := (x1 )⊥ ∩ (x01 )⊥ .
On note Q un sous-groupe parabolique de H dont les sous-groupes de Levi
sont isomorphes à GL(1) × Hr−1 où Hr−1 est dans la même tour de Witt que
H mais d’indice de Witt r − 1 ; en d’autres termes on fixe w1 ∈ W un vecteur
isotrope et Q est le stabilisateur de ce vecteur. Pour déterminer un sous-groupe
de Levi de H = O(W ) on fixe un vecteur w−1 engendrant un supplémentaire
de (w1 )⊥ et on note W 00 := (w1 )⊥ ∩ (w−1 )⊥ .
Soit φ ∈ X 0 ⊗ W , on note alors φ1 la restriction de φ à X 0 ⊗ (w1 )⊥ et on
pose pour g ∈ Sp(2n)(A) :
Z
X
00
θ(g.φ)
:=
dx0
(g.φ1 )(z + x0 ⊗ w1 ).
1
(X 0 ⊗w1 )(A)
z∈(X 00 ⊗W 00 )(F )
Sur UQ (A)Q(F )\H(A) il existe une mesure de Haar qui à une constante près
s’identifie au produit de la mesure de Haar sur O(W 00 )(F )\O(W 00 )(A) × K où
K est un sous-groupe compact
maximal
R
P de O(W )(A).
On pose aussi θφ00 := x0 ⊗W dw z∈(X 00 ⊗W )(F ) φ(z + x01 ⊗ w).
1
Proposition 2.3.1 (θφ (fπ , g))P =
Z
O(W 00 )(F )\O(W 00 )(A)×K
00
dh dkθh.(k.(g.φ))
f (hk)
1 π,Q
17
(1)
Z
+
dh θ(g,h)φ00 fπ (h)
(2)
O(W )(F )\O(W )(A)
Dans [20] seul le deuxième terme intervient ; le premier est nul puisque la représentation π était supposée cuspidale.
Avant de faire la démonstration, remarquons que sur les deux termes le
radical unipotent de Q agit trivialement ; par contre l’action du facteur de GL(1)
n’est pas la même. Dans le deuxième termes, ce facteur agit par un caractère
qui n’est autre que ηW | |(2n−dim(W ))/2−1 , où ηW est le caractère quadratique
déterminé par le discriminant de la forme W , par les bonnes normalisations que
nous avons inévitablement prises. Et dans le premier facteur, la diagonal du
groupe GL(1) × GL(1) produit des deux facteurs GL(1) de P et Q agit par un
caractère qui est trivial, toujours en intégrant les décalages dans les définitions.
Le calcul des caractères est le même dans le cas global que dans le cas local et
il a donc déjà été fait par exemple en [9].
On fait la démonstration en suivant de près [20] : d’abord il faut remarquer
que l’on peut échanger l’ordre des intégrales car la double intégrale est absolument convergente. On commence donc par intégrer sur le radical unipotent. On
fait encore cette intégrale en trois temps ; on commence par intégrer sur le sousgroupe central formé des éléments dont la différence avec l’identité a pour image
la droite de x1 ; la série theta, c’est-à-dire la somme sur les éléments rationnelles
de X 0 ⊗ W est en fait finie puisque les fonctions sont à support compact et la
contribution de chaque terme à cette intégrale dépend de deux cas : premier cas,
l’élément vu comme un homomorphisme de X dans W envoie x1 sur un élément
non isotrope de W : la contribution est nulle. Dans le deuxième cas, l’homomorphisme envoie x1 sur un vecteur isotrope éventuellement nul. L’intégrale donne
un volume. Ensuite on intégre sur le sous-groupe des éléments de UP (A)/UP (F )
qui moins l’identité envoie X 0 sur x1 . Comme ci-dessus ne contribue que les homomorphismes envoyant X dans l’orthogonal de l’image de x1 . Si l’image de x1
est nulle, il n’y a pas de restriction et on obtient ensuite rapidement le deuxième
terme de l’énoncé. Le premier cas donne le premier terme de l’énoncé, où on
a utilisé le fait que O(W )(F ) agit transitivement sur les vecteurs isotropes de
W (F ).
Remarque 2.3.2 Le deuxième terme de la proposition ci-dessus est nul pour
tous les choix, si et seulement si la représentation π ne provient pas par séries
theta d’une représentation automorphe du groupe Sp(2n − 2).
On va vérifier que les premiers termes de la proposition ci-dessus sont nuls
pour tous les choix possibles si et seulement si le terme constant πQ de π ne provient pas par séries theta du groupe Sp(2n − 2) : plus exactement πQ considérer
comme une représentations de GL(1, A) × O(W 00 )(A) est une représentation de
carré intégrable, semi-simple et de longueur finie, c’est ici que l’on utilise l’hypothèse de régularité sur le paramètre d’Arthur. On peut donc calculer l’image
par séries theta de cette représentation vers le groupe Sp(2n − 2), la condition
de convergence est encore satisfaite et cela a donc un sens de dire que l’image
de cette représentation par séries theta est nulle ou non.
18
Proposition 2.3.3 Le premier terme de la proposition précédente est identiquement nul pour tous les choix possibles si et seulement si l’image de πQ par
séries theta vers Sp(2n − 2) est nulle.
Le seul problème est l’intégrale sur K dont on doit montrer qu’elle n’annule pas
l’image par série theta de πQ vue comme représentation de GL(1, A)×O(W 00 )(A)
si celle-ci est non nulle ; on peut évidemment supposer g = 1. Ce qui compte
dans l’intégrale est la valeur de k.φ sur le sous-espace des homomorphismes de
X dans l’orthogonal de w1 où w1 est l’image de x1 . Donc ce qui compte est la
valeur des fonctions sur la sous-variété des morphismes λ : X → W vérifiant
λ(x1 ) 6= 0 et λ(X) ⊂ λ(x1 )⊥ . Cette variété s’écrit
∗ 0
00
⊥
A (x1 ⊗ w1 ) ⊕ (X ⊗ (w1 ) )(A) ×K∩Q K.
(1)
Les fonctions Cc∞ sur cette variété s’étendent en des fonctions Ccinf ty (X 0 ⊗ W ).
Ainsi on fixe une fonction sur (A)∗ (x01 ⊗ w1 ⊕ X 00 ⊗ (w1 )⊥ (A)) se transformant
suivant un K ∩ Q type fixé irréductible. On fixe un K-type irréductible dans
l’induite de ce K ∩ Q-type et il existe une fonction sur (1) dont l’intégrale
contre une fonction sur K se transformant suivant ce K-type est la fonction
de départ. Et cette fonction est la restriction d’une fonction Ccinf ty (X 0 ⊗ W ).
On revient à l’intégrale définissant le premier terme de la proposition : dans
on fixe fπ,Q et on peut évidemment supposer que fπ,Q se transforme suivant
un K-type irréductible dans l’induite d’un K ∩ Q type irréductible. On fixe φ
dont la restriction à (1) se transforme suivant le même K-type. On intégre sur
K et à une constante près on obtient une intégrale sur X 00 ⊗ w1 (A) puis sur
UQ (A)Q(F )\Q(A) de toutes les fonctions possibles la seule restriction étant le
K ∩ Q-type. Mais si les termes constants de πQ ont une images par les séries
theta comme expliqué avant l’énoncé, on peut trouver une fonction telle que
l’intégrale soit non nulle.
La réciproque est évidente.
2.4
Définition des correspondances theta
On fixe η un caractère quadratique ; les correspondances theta relatives à
η sont les paires G, H où l’un des groupes est un groupe symplectique (ou
métaplectique suivant le contexte) et l’autre est un groupe spécial orthogonal
sur un espace orthogonal de discriminant η et de dimension paire (ou impaire
suivant le contexte). Il reste donc comme indeterminé, en plus des dimensions
qui seront toujours claires d’après le contexte, des objets que l’on détaille ainsi.
D’abord l’invariant de Hasse de la forme orthogonale (dans le cas global
c’est une donnée pour chaque place avec la formule de multiplicativité) et, dans
le cas global, la signature à la place réelle. Et quand l’espace orthogonal est
fixé l’ensemble des caractères quadratiques du groupe orthogonal triviaux sur
le groupe spécial orthogonal, c’est-à-dire les caractères signes.
On a une représentation π de G(A), en général ; on considère alors les correpondances theta pour π c’est à dire que soit G est un groupe symplectique,
19
alors c’est le choix d’un espace orthogonal de discriminant η comme ci-dessus,
soit G est un groupe special orthogonal et c’est le choix d’un relèvement de
π au groupe orthogonal : dans tous les cas que nous considérerons, en toute
place v du corps de nombres, πv sera invariante par l’automorphisme extérieur
définit par le groupe orthogonal, c’est donc le choix d’une action de O(A) sur
l’espace de π. Et ce choix est uniquement déterminé par le fait que l’on veut
que πv avec l’action locale de O(Fv ) est dans l’image de la correspondance de
Howe pour un groupe symplectique (ou métaplectique) plus petit ; avec les lois
de conservations ([11] et [21]) cela détermine uniquement l’action locale. Pour
les groupes non connexes on utilise [17], appendice IV.
3
3.1
Image par séries theta
Formes automorphes presque cuspidales
Soit π une L
représentation automorphe irréductible de carré intégrable et on
considère ψ = i∈[1,t] ρi r[ai ] son paramètre d’Arthur. On ne suppose pas ici
que ce paramètre est très régulier, on suppose uniquement que l’ensemble des
(ρi , ai )est sans multiplicité. C’est automatique d’après les résultats de [3] si G
est quasi-déployé. On suppose que l’ensemble des couples (ρi , ai ) est ordonné de
telle sorte que a1 ≥ · · · ≥ at . Soit T un entier, on a :
Lemme 3.1.1 il existe une représentation de carré intégrable πT d’un groupe
de même type que G mais de rang celui de G plus T tel que πT est l’unique
quotient irréductible de l’induite
×k∈[T,1] ρ1 | |(a1 −1)/2+k × π.
Cette représentation se réalise exactement dans la représentation
s − (a1 + T )/2)E(Speh(ρ1 , T ) × π)
.
s=(a1 +T )/2
Ce lemme est bien connu des spécialistes car la démonstration est très simple. On
doit calculer les termes constants de ces séries d’Eisenstein. Elles font intervenir
des opérateurs d’entrelacement globaux, standard. Les analogues locaux de ces
opérateurs d’entrelacement sont holomorphes là où on les calcule car on est
en position de Langlands. Donc les pôles éventuels sont parmi les pôles des
fonctions L-partielles qui contrôlent le produit de ce qui se passe aux places non
ramifiées. Ces fonctions L partielles sont très faciles à calculer et à analyser,
elles ont des pôles d’ordre au plus un et n’ont de pôles que si le résidu fournit
un exposant dans la chambre de Weyl obtuse négative. Ensuite il n’est pas
difficile de vérifier que le résidu est non nul en considérant le terme constant
pour le parabolique qui sert à induire. La représentation qui se réalise dans les
résidus est irréductible car elle est semi-simple et nécessairement un quotient
de la représentation induite qui permet de construire les séries d’Eisenstein.
20
Cette représentation est en position de Langlands en toute place, elle a donc
un unique quotient irréductible en toute place, le quotient de Langlands. On va
faire ci-dessous un cas un peu plus difficile et on n’insiste donc pas.
On va aussi utiliser une assertion un peu moins immédiate. On suppose
qu’il existe ` ∈ [0, [a1 /2]] et une représentation cuspidale πcusp de G(n − `) de
paramètre d’Arthur
M
ρ1 ⊗ r[a1 − 2`]
ρi r[ai ]
i∈[2,t]
où ` est aussi tel que pour tout i tel que ρi = ρ1 , on ait a1 − 2` > ai , alors
Lemme 3.1.2 (i) Pour tout r ≥ 1, les séries d’Eisenstein
s
s − (a1 − 2` + r)/2)E(Speh(ρ1 , r)| | × πcusp )
sont holomorphes sur l’hyperplan s = (a1 − 2` + r)/2 et quand on les calcule sur
cet hyperplan, soit elles ne donnent que 0, soit elles définissent une représentation de carré intégrable de G, notée π−`+r .
(ii) Pour tout r ≥ ` la représentation π−`+r si elle n’est pas nulle est irréductible.
C’est l’hypothèse a1 − 2` > ai pour tout i tel que ρi ' ρ1 qui permet de
démontrer (i) sans difficulté, c’est alors la même démonstration que le tout
début de la preuve de 1.2. Montrons (ii) ; il suffit de démontrer que pour tout
entier r tel que r ≥ ` l’induite
Speh(ρ1 , r)| |r−`+(a1 −1)/2 × πcusp
a un unique quotient irréductible, ce sera alors nécessairement π−`+r si cette
représentation est non nulle. Il faut donc montrer qu’en toute place v la représentation
1 −2`+r)/2
Speh(ρ1,v , r)| |(a
× πcusp,v
(1)
v
a un unique quotient irréductible. On utilise le fait que les exposants de πcusp,v
sont inférieurs ou égaux à (a1 − 1)/2 + où < 1/2. On remarque alors que
(a −2`+r)/2
est l’unique quotient irréductible de l’induite dans un
Speh(ρ1,v , r)| |v 1
groupe GL convenable :
ρ1,v ||r−`+(a1 −1)/2 × · · · × ρ1,v ||(a1 +1)/2−` .
Le premier exposant r − ` + (a1 − 1)/2 est donc supérieur ou égal (à près qui
ne compte pas n’étant pas un entier) aux exposants de πcusp,v . Cela permet de
réaliser (1) comme quotient du module standard dont l’unique quotient irréductible est le sous-quotient de Langlands de l’induite (1) (cf. par exemple [16] 3.5,
c’est un résultat dans les groupes GL qui vient de [18]).
21
Définition 3.1.3 On appelle π une représentation automorphe presque cuspidale si elle satisfait aux conditions
L du lemme précédent c’est-à-dire, le paramètre
d’Arthur de π est de la forme i∈[1,t] ρi r[ai ] tel qu’il existe ` ∈ [0, [ai /2]] tel
que pour tout i ∈]1, t] on ait a1 ≥ ai et si ρi = ρ1 alors a1 − 2` > ai et π se
réalise dans la représentation
s − (a1 − `)/2)E(Speh(ρ1 , `)| |s × πcusp )
.
s=(a1 −`)/2
3.2
Non nullité de certaines images par séries theta, le cas
presque cuspidal
On fixe G qui ici ne peut être un groupe métaplectique et on fixe π une
représentation de carré intégrable irréductible de G(A) ; on suppose que π est
presque cuspidale avec dans la définition, ρ1 un caractère quadratique, noté
plustôt η, ce qui est évidemment très restrictif.
Proposition 3.2.1 Avec les hypothèses faites sur π, il existe une correspondance theta relative au caractère η, d’oùPun groupe H dont la représentation
naturelle du L groupe est de dimension i∈[2,t] ai di et tel que pour T grand,
l’image de πT par série theta contient une représentation automorphe cuspidale
irréductible τ de H (indépendante de T ).
On reprend πcusp la représentation cuspidale qui intervient dans les propriétés
de π. Cette représentation satisfait le critère de [12], [8] et [23] pour avoir une
image par série theta pour un groupe H comme dans l’énoncé et cette image
étant une représentation cuspidale que nous notons τ . Evidemment l’image de
τ par la correspondance theta est πcusp pour la même paire. Dans [20], il est
montré que l’image de πcusp pour tout groupe G(n+T ) est alors non nulle et est
un quotient de l’induite Speh(η, ` + T )| |(a1 +T )/2 × πcusp . Comme cette induite a
un unique quotient irréductible, l’image de τ est πT . D’après le (ii) du corollaire
de 2.2, cela montre que l’image de πT par série theta contient τ dans son image.
D’où la proposition.
Remarque 3.2.2 On connaît l’action de l’algèbre de Hecke sphérique de H(Fv )
en presque toute place v où tout est non ramifiée. En particulier via les inclusions
naturelles de L-groupe (en identifiant le L-groupe d’un groupe métaplectique au
groupe symplectique de même rang), le paramètre de τv n’est L
autre que celui de
la représentation du bon groupe linéaire associé au paramètre i∈[2,t] ρi r[ai ].
En particulier si H n’est pas un groupe métaplectique le paramètre d’Arthur de
τ est celui que l’on vient d’écrire.
3.3
Définitions ad hoc pour les groupes métaplectiques
On ne dispose pas des paramètres d’Arthur pour les groupes métaplectiques,
ce qui complique la situation. En particulier on ne peut pas étendre les propriétés
22
des séries d’Eisenstein que l’on a démontrées pour les groupes classiques. Il faut
donc prendre des définitions ad hoc pour certaines formes automorphes.
Ici G est un groupe métaplectique, qui comme cela est bien connu, n’est pas
un groupe algébrique mais est une extension non scindée
1 → {±1} → Mp(2n, A) → Sp(2n, A) → 1,
dans laquelle Sp(2n, F ) se relève canoniquement ainsi que les compacts maximaux, Sp(2n, Ov ) en toute place finie v de caractéristique résiduelle différente de
2. On renvoit à [17] pour la définition et les propriétés des formes automorphes
sur Mp(2n, A) puisque [17] inclut le cas des revêtements des groupes réductifs
connexes.
L
Soit ψ :=
i∈[1,t] ρi r[ai ] un paramètre d’Arthur qui en toute place se
factorise par Sp(2n, C). Soit π une représentation automorphe de Mp(2n, A) ici
on dit simplement que ψ est le paramètre d’Arthur de π si en presque toute place
v où πv est non ramifiée, le paramètre de Langlands de πv est obtenu grâce à
ψv ; cela a bien un sens. On dit que ψ est régulier sur pour i 6= j, ρi 6= ρj . On
suppose toujours que a1 ≥ · · · ≥ at .
On dit qu’une représentation automorphe, π, irréductible
de carré intégrable
L
de Mp(2n, A) est associé à un paramètre régulier ψ := i∈[1,t] ρi r[ai ] si ψ est
le paramètre de π et si en plus π vérifie :
(1) les exposants de π sont tous négatifs
(2) pour tout i ∈ [1, t], il existe
P `i ∈ [0, [ai /2]] et il existe une représentation cuspidale πcusp de Mp(2n − i∈[1,t] di `i ) telle que la projection des termes
constants de π sur le support cuspidal (cf. [5] et le résultat principal de [6]) de
la représentation
×i∈[t,1];`i 6=0 Speh(ρi , `i )| |−(ai −`i )/2 × πcusp
est non nulle.
A partir de maintenant, on laisse tomber le cas général et on se concentre
sur le cas des paramètres quadratiques unipotents réguliers, c’est-à-dire que l’on
considère les paramètres :
M
ηi r[ai ]
(3)
i∈[1,t]
où les ηi pour i ∈ [1, t] sont des caractères quadratiques tous distincts.
Soit π une représentation de Mp(2n, A) associé à un tel paramètre ; pour T
un entier grand, on définit πT : pour cela on remarque qu’en utilisant (2), on
réalise π comme sous-module de l’induite écrite. Cela force les exposants de π
à être tous inférieur ou égaux à (a1 − 1)/2. Ainsi, pour tout T ∈ N, l’induite
Speh(η1 , T )| |(a1 +T )/2+1 × π
a un unique quotient irréductible. La série d’Eisenstein
E(Speh(η1 , T )| |s+(a1 +T )/2+1 × π)
23
a certainement un pôle d’ordre exactement un en s = 0 car les fonctions L
partielles en ont un et les opérateurs d’entrelacement standard sont holomorphes
non nuls. On vérifie aisément que le résidu est de carré intégrable et est donc
isomorphe à πT . Ainsi on définit aussi dans le cas des groupes métaplectique, la
représentation πT pour tout T .
3.4
Le cas des groupes orthogonaux non quasi-déployés
Le cas des groupes orthogonaux non quasi-déployés n’est pas complètement
traité dans [3] comme on l’a déjà expliqué. Contrairement au cas des groupes
métaplectiques, on sait associer un paramètre d’Arthur à toute représentation
irréductible de carré intégrable grâce à la stabilisation de la formule des traces ;
on l’a déjà utilisé car cela permet d’avoir au moins dans le cas très régulier,
les résultats voulus pour les résidus de séries d’Eisenstein. Mais ici comme dans
le cas des groupes métaplectiques, on n’a besoin que de savoir ce qu’est une
représentation automorphe de carré intégrable associé à un paramètre écrit en
3.3 (3). On prend les mêmes définitions qu’en 3.3. Ici on ajoute le résultat
suivant : on suppose que G est un groupe spécial orthogonal impair et que ψ
est irréductible, c’est-à-dire t = 1, alors il existe une unique représentation de
carré intégrable de G(A) qui presque partout correspond via la correspondance
de Langlands non ramifié à ψ, c’est la représentation triviale. C’est très facile à
vérifier car une représentation irréductible qui se réalise comme sous-module des
formes automorphes et qui est un caractère en une place finie est un caractère.
Ceci est aussi vrai pour les
Lgroupes orthogonaux pairs avec la condition que ψ
est de la forme χ1 r[a1 ] χ2 r[1].
Soit π une représentation de carré intégrable de G(A) associé à un paramètre
ψ et soit T grand. On définit πT comme dans 3.3.
3.5
Non nullité des images par la correspondance theta
On garde la notation (3) ci-dessus. On considère une correspondance theta
pour une paire G, H en fixant une représentation π de G(A) ; on suppose que π
est de carré intégrable associée à un paramètre quadratique unipotent régulier
comme en (3) ci-dessus. On fixe T de sorte que la condition de convergence pour
la paire G(n + T ), H soit satisfaite. On a en vue le théorème suivant
Théorème 3.5.1 L’image par série theta de πT est non nulle et c’est une représentation
automorphe de carré intégrable de H(A) associée au paramètre
L
η
r[a
i
i ]. De plus elle est irréductible et indépendante de T satisfaii∈[2,t]
sant la condition de convergence.
A π sont associées une collections d’entiers
P `i pour i ∈ [1, t] et on démontre le
théorème par récurrence sur `+ (π) := i∈[2,t] `i . On commence la récurrence
par le cas où `+ π = 0 ; c’est le cas presque cuspidal. Si G n’est pas le groupe
métaplectique, on a déjà démontré qu’il existe une représentation cuspdidale τ
de H(A) indépendante de T est irréductible tel que pour tout
LT suffisamment
grand τ soit l’image de πT . Et τ est associée au paramètre
i∈[2,t] ηi r[ai ].
24
Dans le cas où G est un groupe métaplectique, le résultat n’est pas encore
écrit, c’est donc ici que l’on fait une hypothèse comme annoncé à la fin de
l’introduction ; une fois l’hypothèse connu, on obtient, un groupe orthogonal
(non nécessairement
quasi-déployé évidemment) une représentation cuspidale,
P
notée τ O de O( i∈[2,t] ai , A) et on note τ la restriction de cette représentation
P
à SO( i∈[2,t] ai ) ; τ O s’obtient à partir de τ et d’un caractère signe. Dans le cas
où G est un groupe symplectique, on note aussi τ O la représentation du groupe
orthogonal et τ la restriction au groupe spécial orthogonal, cette restriction est
irréductible.
On suppose maintenant que `+ (π) 6= 0. On note i0 le plus grand entier tel
que `i0 6= 0. On calcule les termes constants des séries theta construites avec πT
pour le parabolique P de sous-groupe de Levi isomorphe à GL(1) × H(m − 1)
si H = H(m) est de rang m. On note Q le sous-groupe parabolique de G(n) de
sous-groupe de Levi isomorphe à GL(1) × G(n − 1). Le terme constant (π)Q a
une projection non nulle sur le caractère ηi0 | |−(ai0 −1)/2 et cette projection est
dans l’induite
ηi0 | |−(ai0 −1)/2 × π 0 ,
(1)
où π 0 est une représentation de carré intégrable de G(n−1) associé au paramètre
qui se déduit de celui de π en remplaçant r[ai0 ] par r[ai0 − 2], les `i associés se
déduisent de ceux associés à π en remplaçant uniquement `i0 par `i0 − 1.
On note QT e sous-groupe parabolique de G(n + T ) de sous-groupe de Levi
isomorphe à GL(1)×G(n+T −1). Alors (πT )T a pour projection sur le caractère
ηi0 | |−(ai0 −1)/2 l’analogue de (1), c’est-à-dire
ηi0 | |−(ai0 −1)/2 × πT0 .
(2)
On a vu dans la remarque de 2.3 que la projection des termes constants pour le
parabolique P des θφ (h, fπT ) sur le caractère ηi0 | |−(ai0 −1)/2 de GL(1, A) est non
nul si l’image par série theta de πT0 est non nul. On a ce résultat par l’hypothèse
de récurrence. On note τ 0 l’image par série théta de πT0 et par récurrence on
sait que c’est une représentation irréductible, indépendante du choix de T et de
paramètre associé
M
ηi r[ai ] ⊕ ηi0 r[ai0 − 2].
i∈[2,t],i6=i0
Avant de continuer, on montre que l’image de πT par série theta est nécessairement de carré intégrable. Pour cela on montre que les exposants cuspidaux de
ses termes constants sont tous négatifs. Pour les exposants par rapport à des
paraboliques ne contenant comme facteurs GL que des GL(1) cela résulte de la
même propriété pour πT conformément au calcul de 2.3.
On montre ensuite que les termes constants de l’image pour un Levi de
la forme GL(d) × H(m − 2d) avec d > 1 et cuspidaux sur GL(d) sont nuls :
on reprend la démonstration de Rallis. Dans [20] un tel termes est nul par ce
que la représentation qui remplace πT est cuspidal mais ici on a la nullité en
intégrant sur le radical unipotent du parabolique et sur GL(d, A) contre une
25
fonction cuspidale de GL(d, A) puisque πT n’a pas de termes constants pour
un Levi GL(d) × G(n + T − d) cuspidaux sur GL(d). L’auteur reconnaît que
cette démonstration est un peu rapide et en donne donc une plus sophistiquée :
on sait en fait a priori que les termes cherchés sont nuls. En effet, on utilise la
notion de support cuspidal pour les formes automorphes grâce aux résultats de
Franke ([5]) repris et détaillés en [6]. Un support cuspidal est la donné d’un sousgroupe de Levi, M , (ici de H) et d’une représentation cuspidale irréductible,
τ , de M (A). Les données M et τ sont fixées à conjugaison près. Les formes
automorphes sur H(A) de support cuspidal M, τ sont exactement les dérivées
des séries d’Eisenstein que l’on peut construire avec M et τ (il faut rendre
holomorphe évidemment avant de dériver comme expliqué dans les références
données). L’espace des formes automorphes de H(A) se décompose alors en
somme directe suivant ces supports cuspidaux. Donc l’image par série θ de πT
se décompose en somme suivant cette décomposition. Mais comme on connaît
maintenant grâce à [7] la conjecture de Howe en toute place, la décomposition
ne peut avoir qu’un seul terme non nul.
On a donc démontré que l’image de πT par séries theta est de carré intégrable ; elle est donc irréductible par [7] en tant que représentation de O(m) si
H est un groupe orthogonal. A fortiori cela entraîne l’irréductibilité quand on
restreint à SO mais c’est un résultat plus fort que nous utiliserons.
Remarque 3.5.2 La correspondance θ telle que l’image de πT soit non nulle
ne dépend que de la classe d’isomorphie de π. De plus la classe d’isomorphie de
l’image de πT ne dépend, elle aussi, que de la classe d’isomorphie de πT donc
de π.
Faisons le cas le plus difficile où G = Sp ou Mp ; il faut montrer que la forme du
groupe orthogonal qui convient est uniquement déterminée par la classe d’isomorphie de π. La dimension est déterminé par le paramètre de π et le discriminant de la forme orthogonal est aussi déterminé par ce paramètre, c’est η1 . On
fixe une place v et il faut montrer qu’il existe une unique forme orthogonal en
cette place v tel qu’il existe une représentation τ (v) pour le groupe orthogonal
correspondant qui admette πT,v comme image dans la correspondance de Howe.
Aux places archimédiennes l’unicité de la forme orthogonale possible résulte des
lois de conservation de [21] thm 7.6. Aux places non archimédiennes, on peut
utiliser le fait que, comme on est en rang très inégal, πT,v est déterminé par une
formule totalement explicite en fonction de τ (v) aux places non archimédiennes
en [14] 5.1 et on voit que si on change de groupe orthogonal (c’est-à-dire d’invariant de Hasse) on change de πT,v (c’est le caractère sur le bloc (η1,v , a1 + 2T )
dans la paramétrisation de πT,v . Cela termine la preuve de la première partie
de la remarque. La deuxième partie résulte du fait que pour toute place v, en
notant τv la composante locale de l’image, τv est dans l’image de πT,v pour la
correspondance de Howe et ne dépend donc que de πT,v et non de la réalisation
de π.
26
3.6
Certains résultats de multiplicité un
Théorème 3.6.1 Soit G l’un des groupes Sp, Mp ou O et soit π une représentation automorphe irréductible de carré intégrable de G(A) attachée à un
paramètre quadratique unipotent régulier. Alors π intervient avec multiplicité
un dans l’ensemble des formes automorphes de carré intégrable de G(A).
On démontre ce théorème par récurrence sur le t du paramètre de π. Si t = 1,
la représentation associée à π est nécessairement un caractère et le résultat est
connu.
Soit π général comme dans l’énoncé ; si π n’a pas multiplicité un, il en est
de même de πT pour tout T .P
Il suffit donc de montrer que πT a multiplicité un
pour T grand par rapport à i∈[2,t] ai . Pour un tel T et pour toute réalisation
de πT , l’image de πT par série theta pour une correspondance θ (avec un groupe
H) qui ne dépend que de la classe d’isomorphie de π, est non nulle. Et la
classe d’isomorphie de cette image ne dépend pas de la réalisation de π mais
uniquement de la classe d’isomorphie de π. Ainsi la multiplicité de l’image de
πT dans l’ensemble des représentations automorphe de carré intégrable de H(A)
est supérieure ou égale à la multiplicité de πT . Or l’image de πT a les propriétés
de l’énoncé du théorème pour le paramètre de π dont on a enlevé le premier
bloc, c’est-à-dire η1 r[a1 ]. On peut donc appliquer le théorème par récurrence à
l’image de πT . Cette image a donc multiplicité un par l’hypothèse de récurrence.
Cela force πT à avoir aussi multiplicité un et donc aussi π. D’où le théorème.
Proposition 3.6.2 Soient π et π 0 des représentations de carré intégrable de
G(A) irréductibles et isomorphes en toute place sauf éventuellement une place
finie. Alors π = π 0 .
Notons v0 la place finie où on ne sait pas que πv0 ' πv0 0 . On fixe T grand,
d’où πT et πT0 . On sait que ces représentations ont des images non nuls par
série theta pour une bonne correspondance qui dépend de la représentation ;
on a vu que la correspondance dépend des composantes locales de π et π 0 .
Ces correspondances sont donc les mêmes en toutes places sauf éventuellement
la place v0 . Considérons d’abord le cas où G n’est pas un groupe orthogonal.
En la place v0 , il faut déterminer la forme orthogonale qui convient, c’est-àdireP
son invariant de Hasse, puisque le discriminant est η1,v0 et la dimension
est i∈[2,t] ai . Mais, à cause de la formule de produit, l’invariant de Hasse est
uniquement déterminé en la place v0 par le produit des invariants de Hasse hors
de cette place. Si G est un groupe orthogonal, c’est un caractère signe qu’il faut
déterminer, mais là aussi, on a une formule de produit.
On peut donc démontrer la proposition comme le théorème précédent par
récurrence sur t : le cas t = 1 est facile mais pas trivial si G est un groupe
orthogonal (il faut encore la formule de produit). Et ensuite on obtient le résultat
facilement par récurrence.
27
4
4.1
Conséquence pour les paquets d’Arthur quadratiques unipotents, cas archimédien
Hypothèses pour ce paragraphe
On continue avec G un groupe symplectique ou orthogonal, que l’on suppose quasi-déployé c’est-à-dire que l’on se met sous les hypothèses de [3]. Ici
la situation est locale c’est-à-dire que l’on fixe F un corps local archimédien.
On fixe aussi un morphisme de WF × SL(2, C) dans leLL-groupe de G trivial
sur C∗ vu comme sous-groupe de WF . On écrit ψ := i∈[1,t] i r[ai ] où les
i sont des caractères quadratiques et où a1 ≥ · · · ≥ at . Les caractères i sont
nécessairement triviaux si F est le corps C et sont soit le caractère trivial soit
le caractère signe si F = R.
On dit que π, une représentation irréductible de G(R) est dans le paquet associé à ψ si pour une globalisation de ψ en un paramètre quadratique unipotent
régulier, notée, Ψ, il existe une représentation automorphe irréductible de carré
intégrable, Π, de G(A) de paramètre Ψ et telle que π soit la composante locale
de Π en une place archimédienne de localisation
PF . Et on écrit π ∈ Π(ψ).
On note π GL (ψ) la représentation de GL( i∈[1,t] ai , F ) associée au paramètre ψ, c’est-à-dire l’induite irréductible du caractère du sous-groupe de Levi
×i∈[1,t] GL(ai , F )
qui sur le facteur GL(ai , F ) vaut le composé de i avec le déterminant.
Cette représentation
est invariante sous l’action de l’automorphisme extéP
rieur de GL( i∈[1,t] ai , F ) qui à g associe t g −1 et on note traceθ π GL (ψ) la trace
de l’action du groupe tordu par l’automorphisme extérieur ; c’est évidemment
indépendant du choix et du parabolique avec lequel on induit et de l’automorphisme extérieur modulo les automorphismes intérieurs. On utilise la notion
de transfert endoscopique tordu introduite par Langlands, Kottwitz-Shelstad et
Labesse et utilisé par [3] ; en [3], il est montré que cette trace tordue est obtenue comme transfert endoscopique tordu d’une combinaison linéaire, stable, à
coefficients dans Z, de représentations de n’importe quel groupe endoscopique
elliptique de la situation tordue par le L-groupe duquel, ψ se factorise. Il faut
préciser ici, que le transfert n’étant pas canoniquement défini localement, ceci
est vrai à un scalaire près que l’on peut imposer en fixant un peu plus de normalisation (cf. [3]). En particulier, avec nos hypothèses, [3] démontre qu’il existe
une unique combinaison linéaire, à coefficients dans Z, stable, de représentations irréductibles de G dans le paquet associé à ψ, dont le transfert tordu est
traceθ π GL (ψ).
4.2
Les résultats
P
Théorème 4.2.1 La somme π∈Π(ψ) π est, à un signe près, une représentation
P
stable de G dont la trace a pour transfert tordu à GL( i∈[1,t] ai , F ) la trace
tordue de π GL (ψ).
28
Ce théorème s’appuie fortement sur [3]. En effet, en [3] 1.5.1 pour tout caractère
η du centralisateur de ψ dans la composante neutre du groupe dual de G, Arthur associe une représentation πη (qui peut être nulle) qui est une somme avec
éventuellement des multiplicités de représentations irréductibles unitaires de G
et qui est uniquement déterminée car elle vérifie des propriétés sur les transferts
endoscopiques. Arthur procède, en fait, dans l’autre sens, il démontre l’existence de rerésentation unitaires semi-simples non nécessairement disjointes, en
général, avec une application de cet ensemble dans l’ensemble des caractères du
centralisateur de ψ ; ici πη est la fibre de cette application. Et la représentation
stable de G qui a pour transfert la trace tordue de π GL (ψ) est (cf. (2.2.6) dans
[3] 2.2.1)
X
η(s0 )πη ,
η
où s0 est l’image de l’élément non trivial du centre de SL(2, C). Ici ψ envoie le
centre de SL(2, C) dans le centre du groupe dual et η à une restriction à ce centre
qui est fixée par la forme de G. Donc η(s0 ) est un signe indépendant de ψ et de
η. Il nous suffit donc de démontrer, d’abord, que les représentations πη , si elles
ne sont pas nulles, sont une combinaison linéaire sans multiplicité d’éléments
de Π(ψ) et que quand η varie, ces représentation sont disjointes. Enfin il faut
démontrer que toute représentation de Π(ψ) est bien composante de l’une de
ces représentations πη .
On commence par le sens direct.
Nous allons utiliser les propriétés des représentations πη pour les formules de
multiplicité globale prouvée dans [3] 1.5.2. On globalise la situation en fixant un
corps de nombres F0 qui a une place, v0 où son localisé est F et on fixe des caractères quadratiques χi pour tout i ∈ [1, t] que l’on suppose tous
L distincts se localisant en i à la place v0 . On a alors le paramètre global ψ0 := i∈[1,t] χi r[ai ] qui
se localise en la place v0 en le paramètre ψ. On a fixé en la place v0 le caractère
η et en toute place v on fixe ηv un caractère du centralisateur de ψ0,v ; on peut
prendre n’importe quel caractère du moment que πηv n’est pas nul à la condition
que le produit de tous ces caractères vu comme un caractère du centralisateur
de ψ soit le caractère trivial. Il n’y a aucune difficulté car aux places finies on
connaît parfaitement les représentations πη,v avec [15], aucune n’est nulle du
moment que la restriction de η au centre du groupe dual est le caractère imposé
par la forme du groupe G (c’est-à-dire trivial si G est déployé et non trivial si
G est quasi-déployé non déployé) et, de plus, les πη,v sont tous distincts si v est
une place finie. On construit une représentation de G(AF0 ) en fixant en chaque
place une représentation dans πη,v . Cette représentation se réalise dans l’espace
des formes automorphes de carré intégrable d’après la formule de multiplicité
globale de [3]. D’autre part la multiplicité de cette représentation dans l’espace
des formes automorphes de carré intégrable est certainement supérieure ou égal
à la multiplicité des représentations locales dans les représentations πη,v d’après
la formule de multiplicité globale. Comme on a montré dans le théorème 3.6.1
que cette multiplicité est un, on vient de montrer que les représentations πη,v
sont sans multiplicité et ceci est en particulier vrai en la place v0 .
29
On montre maintenant que les représentations πη sont disjointes quand η
varient. Fixons η, η 0 des caractères distincts tels que πη et πη0 ont une composante en commun, π0 . On globalise encore, la place qui nous intéresse étant
v0 . On peut s’arranger pour qu’il existe une place finie, v1 de F0 où G(F0,v1 )
est déployé si G(F ) l’est et quasi-déployé, non déployé si c’est le cas de G(F ).
On fixe en toute place v un caractère ηv0 du centralisateur de ψv en prenant
ηv0 = ηv si v 6= v1 et v 6= v0 . En v0 on fixe ηv0 = η et ηv0 0 = η 0 . En v1 on fixe
des caractères ηv1 et ηv0 1 tels que la condition globale de [3] 1.5.2 soit satisfaite,
c’est-à-dire ηv1 = η et ηv0 1 = η 0 de façon assez formelle. En toute place v où
ηv = ηv0 , on fixe une représentation irréductible πv = πv0 dans πηv . On construit
ainsi deux représentations Π et Π0 qui sont les produits tensoriels restreints des
représentations πηv et πηv0 ; ces deux représentations sont de carré intégrable
et coïncident en toute les places sauf en la place finie v1 . Ceci est impossible
d’après la proposition 3.6.2.
Montrons maintenant le sens réciproque qui est essentiellement une reformulation tautologique des résultats de [3] : soit π une représentation dans Π(ψ) ;
par définition, il existe une globalisation de ψ en ψ0 comme ci-dessus et une
représentation automorphe de carré intégrable, Π, associée à ψ0 de composante
locale π en la place v0 . La description de Π qui est un cas particulier du résultat
principal de [3] 1.5.2, entraîne qu’il existe un caractère η du centralisateur de ψ
tel que π soit une composante de πη . D’où le théorème. On écrit sous forme de
corollaire, le début de la preuve
Corollaire 4.2.2 On fixe ψ et un caractère η du centralisateur de ψ dans L G,
comme précédemment. La représentation πη (cf. ci-dessus et [3] 1.5.1) est nulle
ou sans multiplicité et toutes ces représentations sont dijointes.
C’est exactement ce que l’on a démontré.
Théorème 4.2.3 On suppose ici que le corps de base est C. Soit ψ comme
précédemment et η un caractère du centralisateur de ψ, alors la représentation
πη associée par [3] 1.5.1 (a) à ψ et η est nulle ou irréductible. Si η 6= η 0 , soit
πη = πη0 = 0 soit πη 6= πη0 .
Ce qui reste à montrer par rapport au théorème 4.2.1 est le fait que les représentations πη sont irréductibles, on a simplement démontré qu’elles étaient nulles
ou sans multiplicité et toutes disjointes. Pour avoir l’irréductibilité, il faut avoir
la proposition 3.6.2 sans supposer que la place fixée est finie. La seule difficulté
est que l’invariant de Hasse et le discriminant et la dimension ne détermine
pas uniquement une forme orthogonale d’un espace réel. Par contre il n’y a
pas de problème pour un espace complexe à l’instar de ce qui se passe sur un
corps p-adique, aux places complexes la dimension suffit. Donc le cas des corps
complexes, pour les paramètres quadratiques unipotents est le même que celui
des corps p-adiques et on a bien l’irréductibilité des πη . Il n’est d’ailleurs pas du
tout clair qu’aux places réelles ces représentations soient irréductibles, en tout
cas, nous ne l’avons pas démontré.
30
Références
[1] J. Adams, D. Barbasch, D. Vogan The Langlands Classification and
Irreducible Characters for Real Reductive Groups Progress in Mathematics
104. Birkhauser, Boston-Basel-Berlin, 1992.
[2] N. Arancibia, C. Mœglin, D. Renard Paquets d’Arthur des groupes
classiques et unitaires prépublication (2015) arXiv :1507.01432
[3] J. Arthur The endoscopic classification of representations : orthogonal and
symplectic Groups, http ://www.claymath.org/cw/arthur/
[4] D. Barbasch, D. Vogan Unipotent representations of complex semisimple
Lie groups Annals of Mathematics Vol. 121, No. 1 (1985), 41-110
[5] J. Franke Harmonic analysis on weighted L 2 spaces Ann ENS, 31 (1998)
pp. 181-279
[6] J. Franke, J. Schwermer A decomposition of spaces of automorphic
forms, and the Eisenstein cohomology of arithmetic groups Mathematische
Annalen (1998) Volume 311, Issue 4, pp 765-790
[7] W. T. Gan, S. Takeda A proof of the Howe duality conjecture dans ce volume
[8] D. Ginzburg, D. Jiang, D. Soudry Pôles of L-functions and theta liftings
for orthogonal groups, II. On certain L-functions, Clay Math. Proc., 13,
Amer. Math. Soc., (2011), 141-158
[9] S. Kudla On the local theta-correspondence, Invent. Math. 83 (1986),
229–255.
[10] S. Kudla and S. Rallis A regularized Siegel-Weil formula : the first term
identity, Ann. Math. 140 (1994), 1–80.
[11] S. Kudla, S. Rallis On first occurrence in the local theta correspondence,
Automorphic representations, L-functions and applications : progress and
prospects, Ohio State Univ.
[12] C. Mœglin Non nullité de certains relêvements par séries theta, J. of Lie
Theory 7 (1997), 201–229.
[13] C. Mœglin Sur la classification des séries discrètes des groupes classiques
p-adiques : paramètres de Langlands et exhaustivité, Journal of the European Mathematical Society, volume 4 issue 2 (2002), 143-200
[14] C. Mœglin Conjecture d’Adams pour la correspondance de Howe et filtration de Kudla in Arithmetic Geometry and automorphic forms, Advanced
in Math vol XIX ed J. Cogdell, J. Funke, M. Rapoport, T Yang, (2010)
[15] C. Mœglin Multiplicité 1 dans les paquets d’Arthur aux places p-adiques,
in On Certain L-Functions, Clay Math. Proceedings, vol 13, in honor of F.
Shahidi, (2011) pp. 333-374
[16] C. Mœglin Formes automorphes de carré intégrable non cuspidales Manuscripta Math., 133, Numbers 1-2 (2010), pp. 41-82
[17] C. Mœglin, J.-L. Waldspurger Spectral decomposition and Eisenstein
series, Cambridge Univ. Press, Cambridge, New York, and Melbourne, 1995,
335 pages
31
[18] C. Mœglin, J. L. Waldspurger Le spectre résiduel de GL(n) Annales
scientifiques de l’École Normale Supérieure 22.4 (1989), 605-674.
[19] C. Mœglin, D. Renard Paquets d’Arthur des groupes classiques complexes à paraître dans Contemporay Mathematics, Proceedings of the conference Around Langlands Correspondences, édité par Farrell Brumley, Maria
Paula Gomez Aparicio, Alberto Minguez.
[20] S. Rallis On the Howe duality conjecture, Compositio Math. 51 (1984),
333–399.
[21] B. Sun, C. B. Zhu Conservation relations for local theta correspondence,
J. Amer. Math. Soc. 28, (2015), 939-983
[22] A. Weil, Sur la formule de Siegel dans la theorie des groupes classiques,Acta Math. 113 (1965) 1–87.
[23] C. Wu On Rallis inner product formula, Preprint
32