C. R. Acad. Sci. Paris, t. 328, Skrie I, p. 375-380, 1999 ThCorie des groupeslGroup Theory

Analyse harmonique sur le demi-plan de Poincark fini tordu

Jorge SOTO-ANDRADE +l, Jorge VARGAS b32

a Depto. Matemiticas, Farultad de Ciencias, Universidad dr Chile, Casilla 653. Santiago, Chili Court-k1 : sotoandr@abrllo.dic.uchile.~l

” FAMAF, Univrrsidad National de C6rdoba, Ciudad Univrrsitaria, Cbrdoba, Argentina Courriel : vargas@mate.unc9r.edu

(Rrg~ le 18 aotit 1998, accePti. aprbs r&vision le 10 novembrr 1998)

RCsumC. Nous dkmontrons que la reprksentation induite d’un caractbre non trivial du tore de Coxeter de GL(2, F), F corps fini, est saris multiplicitCs et nous dkcrivons de manike uniforme et explicite les fonctions sphkriques (tordues) associkes. 0 AcadCmie des Sciences/Elsevier, Paris

Harmonic analysis on the twisted finite Poinca&‘s upper half plane

Abstract. We prove that the induced represent&on from N non-trivial character of the Coxeter torus qf GL(2: F), for a finite jieid F, is multiplicity-free and we give a un$)rm and explicit description qf the corresponding (twisted) spherical,functions. 0 AcadCmie des Sciences/Elsevier, Paris

Abridged English Version

Let F be the finite field with Q elements, and let E be its unique quadratic extension. Put G = GL(2, F) and denote by K the Coxeter torus of G, realized as the subgroup of all matrices m,

(z E EX) of the maps w H zw (w E E) with respect to a fixed F-basis of E. Recall that the finite homogeneous space 3-1 := E - F N G/K is endowed with the symmetric G-invariant analogue D of the hyperbolic distance defined by D(z,w) = w, for z, ‘UJ E X, if w # Z, and D(z,Z) = M, for z E ‘FI. Then Image(D) = F - { 1) U {x} and D c assifies the orbits of the homographic action 1 of G on 7-1 x ‘H (see Proposition 1 in the french version below). So the space ‘FI may be looked upon as the finite analogue of (the double cover of), classical Poincar?s upper half plane (see [S]).

Classical harmonic analysis on ‘H means to decompose the induced representation, 1~1:. 1, from the unit character of K to G and to compute the class one of spherical functions. We are interested here

Note prksentke par Jacques TITS.

0764~4442/99/03280375 0 AcadCmie des Sciences/Elsevier, Paris 375

j. Soto-Andrade, J. Vargas

in the “twisted’ version of this, i.e. the decomposition of the induced representation Indg@ from a non (necessarily) trivial character Cp of K to G. The real analogue of this was studied in [2].

We prove that this induced representation is multiplicity-free, taking advantage of the fact that this is so for Indg 1 (see [5]) and reducing the computation of the multiplicities in Indg@ to those in IndEw 1. We further show that the dimension of the intertwining algebra for IndgQ, is either q or q - 1 depending on whether Q = @q or not.

Then, we give an explicit description of the corresponding (twisted) spherical functions, assuming that char F # 2. We fix to, a nonsquare in F, and B a square root of to in E. We set p = D(.‘c, 0) for :I: E 3-1. Notice that every $1 E G may be writen in a unique way as 9 = kgX with X: E K, x E ‘FI, where

First, computing the twisted spherical functions as @-weighted averages of characters, we obtain the formulae in Theoreme 1 below, but later on, looking upon them as characters of the commuting algebra of Indg@,, we rewrite them in a way ressemblant of the character formulae for the commuting algebra of Gel’fand-Graev representation given by Curtis in [l].

More precisely, we introduce first the special function 5’: defined in Section 5 below, by formulae (4) to (7). Then, for A = E‘ x F or A = E, we define a map C;1 from G to L1(AX ) by the rule

for 9 = kg,. E G. Then the character of the algebra Lk(G: K) associated to the spherical function pE parameterized by the character < of AX may be written as the composition of the algebra homomorphism CaJ : f H [G/-l CyEG f(n)C,(y) from Li(G,K) to L1(AX) with the canonical extension of < to an algebra homomorphism from L1(AX) to C.

1. Introduction

Soient F le corps fini a q elements, E son unique extension quadratique et N (resp. Tr) la norme (resp. la trace) de E sur F. Nous posons G = GL(2, F) et notons K le tore de Coxeter de G, realise comme le sous-groupe des matrices m, (Z E 13’) des applications w H zw (w E E) par rapport a une F-base fixee de E. Rappelons que l’espace homogene fini ‘7-l = G/K, qui s’identifie a E - F, peut etre regard6 comme l’analogue fini du trecouvrement a deux feuillets du) demi-plan de Poincare classique (c$ [5]). L’analyse harmonique sur X revient a d&composer la representation induite Indgl du caractere unite 1 de K a G. Nous nous interessons ici a la version <c tordue D de ceci, c’est-a-dire a la decomposition de la representation induite Indg@ d’un caractere non trivial @ de K a G. L’analogue reel de ce cas a Ct.5 etudie dans [2]. Nous montrons que cette representation est sans multiplicites, a l’aide du fait qu’il en est de m&me pour Indgl (c$ [5]), en ramenant le calcul des multiplicites de IndgQ a celles de Indzl . Nous donnons alors une description explicite et uniforme des fonctions spheriques (tordues) correspondantes, qui ressemble a la description des caracteres de l’algebre commutante de la representation de Gel’fand-Graev obtenue par Curtis dans [l].

2. Indg Q, n’a pas de multiplicitCs : le cas @ = 1

Nous considerons tout d’abord le cas special @ = 1, oti l’absence de multiplicites decoule d’un argument geometrique. On a, en fait, Indgl 2: (L2(‘FI), T), ou L’(X) denote l’espace de toutes les

376

Analyse harmonique sur le demi-plan de Poincarb fini tordu

fonctions complexes sur ‘H muni du produit scalaire canonique, et ou T designe la representation naturelle de G dans L’(X), detinie par (~,f)(.z) = f(g-’ . ) z , oti z H g I z est l’action homographique de G sur IFI, donnee par 9 . z = s pour g = (z i) E G, x E ‘H.

PROPOSITION 1. - Pour x,w rz X, posons D(x, w) = 33 si w # 2, et D(z,Z) = oo. Alors D est un invariant syme’trique qui classijie les orbites de l’action homographique de G duns ‘H x ‘F1, dont l’image est F - { 1) U { CQ}.

COROLLAME 1. - L’aigkbre commutante de (L*(B), ) T es commutaative, de dimension q t

En effet, comme D est symetrique, il en est de m&me des orbites qu’il classifie. Si l’on realise notre algebre commutante comme l’algbbre de convolution de tous les noyaux (c’est-a-dire, des fonctions complexes sur X x X) invariants par G, il s’ensuit qu’elle est formee de noyaux symetriques, d’oti sa commutativite. Enfin, sa dimension coincide avec le cardinal de l’image de D. 0

Nous conjecturons que l’algebre commutante de (L2( ‘H), ,r) est toujours engendree par un operateur de moyenne M, convenable (r # &co), dcfini par (k&f)(z) = & C1UEC,,(2) S(w) pour f E L’(31), z E ‘l-t, oti C,.(z) = {w E ‘FI 1 D(.z, w) = r}. Rappelons que cette propriete a et& Ctablie dans le cas d’un espace quadratique fini, lorsque le corps de base est premier, dans [7].

3. Ind$B n’a pas de multiplicitCs : le cas de Cp quelconque

Soit I$ la restriction de @ a FX. On note .T : z H z = 24 l’automorphisme de Frobenius de E SIX F . Now prouvons qu’en lordant par un taractiire gCnCralisk % + W de K la restriction A K d’une representation irreductible de G, on obtient la restriction 1 K de la somme de deux representations irreductibles de G.

Notations pour les repksentations irrkductibles de G. - En suivant [3] ou [6], nous notons rrg la representation irreductible de G de dimension d et de parametre un caractere 0. Les valeurs possibles pour d et 0 sont donnees par les cas suivants :

(i) 7r$ = 7r$i N 7r;;‘n’ (serie principale de parametre (a,,#} c (FX)“‘, cy # ,8) ; (ii) z$! = x$ (repr&entation de Steinbug de pram&e a E (FX)“) ;

(iii) $4J = T,, b-1 Q o felt (representation unidimensionnelle de parametre Q E (FX)*) ; (iv) fl$ = 7;:\ N rh4 (s&e discrete de parametre {A,A’J} c (EX)*, A # A”).

Dans les cas degentres, nous possons $$’ = rr$ + rr: , TT~SA = rr: - T:? (a E (Fx )*). Nous notons, dans tous les cas, & le caractere de la representation r$, de G.

LEMME 1. - Sur K, on a

(@ + @q>x: = x&+ + xg, *

(@ + Qq)x:$ = x;:,p + x:-y& 1 (@ + Qq)x,t = x;z,‘a - X&:oN) , (Q + @‘Q)x:-I = xz&’ + x&); f

A partir de ce lemme, nous obtenons la

PROPOSITION 2. - La reprksentation Indg+ n’a pas de multiplicit&.

Dkmonstration. - En effet, la restriction a K de tout caractere x de G etant invatiante par F, la multiplicite ma(r) de rr dans Indg@ est Cgale a $ll(lP1 x,(5 + 5”)~~. c’est-a-dire a la moyenne des muhiplicites dans lndgl de deux representations de G (dont I’une peut $tre virtuehe !). 11 suffit alors de noter que les multiplicites des representations irreductibles de G dans Ind$l sent au plus Cgales a 1 et que les multiplicites des cas degeneres sont donnees par rn,(n’$i) = 8cuz,1, ml(rZ$) = L,, - S,,l (a E (FX)A) . 0

377

J. Soto-Andrade, J. Vargas

Dans le tableau 1 ci-dessous, X dCnote la restriction du caracdre A B (FX )“.

Tableau I. - Les multiplicitts m+(r&) de r,$ dans IndE@ (a E (EX)“).

Remarque 1. - Notons que la dimension de l’algkbre commutante de Indz@, qui est done commutative, est Cgale g 4 si Cp = Cl@ et g q - 1 sinon.

4. Les fonctions sphkriques tordues : construction gCnCrale par moyennes

Dans ce paragraphe, G dCsigne un groupe fini arbitraire, K un sous-groupe de G et @ une reprksentation de dimension 1 de K. Notons que si Ind$@ est saris multiplicitks alors ses fonctions sphkriques, c’est-a-dire les idempotents primitifs de son alg8bre commutante (qui est alors commutative), s’obtiennent comme des moyennes pondknies des caracdres de G. Plus gtkkalement :

PROPOSITION 3. - Soit L1 (G) 1 ‘alg2bre de groupe de G, rbaliske comme 1 ‘algdbre de convolution des fonctions complexes sur G et soit L$,(G, K) l’alg2bre commutante de la reprksentation induite Indg.Qi! rkalisbe comme la sous-alg2bre de L’ (G) f orme’e desfonctions f v&-@ant f(kgk’) = Q(k)f(g)@(k’): quels que soient g E G, k, k’ E K. On pose (P*f)(g) =: h CkEK V’(k)f(k,g), quels que soient

f E L’(G) et g E G. (i) Soit x le caractt?re d’une reprksentation irrkductible x de G. Alors pour que T apparaisse dans

IndE+, il faut et il sufJit que Pa(x)(e) # 0. (ii) L’application Pa est un t+pimorphisme d’algtbres du centre Z(L1 (G)) de l’algt?bre de

convolution L1(G) sur le centre Z(Lk(G, K)) de l’algtbre de convolution Li(G, K). (iii) En particulier, si l’induite Indg@ n’a pas de multiplicit& alors Pa est un kpimorphisme de

Z(L1 (G)) sur L&(G, K), qui envoie chaque idempotent primitif sur un idempotent primitif (c’est-h-dire une fonction sphe’rique) ou 0.

(iv) Dans ce cas, pour qu’une double classe KgK appartienne au support d’un idempotent primitif de Li(G, K), il faut et il su$‘it que le caract2re Q, coiiicide avec son conjugue* @ par g sur K n gKg-?

5. Les fonctions sphkiques tordues : formules explicites

Nous supposons dorenavant que carF # 2. Nous dksignons par to un non-carr6 fix6 de F et par 0 une racine carrke de to dans E. Alors tout g E G s’tcrit de man&e unique sous la forme g = kg, aveckEK,zE’H,otig,= (7 “/), avec z = z1 +13x2 = gz.O (21 E F,x, E FX). Nous posons dans toute la suite p = D(z, 8). Soit @ E k et soit x le caractkre d’une reprksentation irrkductible de G apparaissant dans Indg+. D’aprks la proposition 3., (iii), la fonction sphkrique ‘p: associke a x est donnCe, sur g = kg, E G (k E K, 5 E IFI), par

(1)

Posons A” = F x F ou A = E et sgn(A) = 1 (resp. - 1) si A = F x F (resp. A = E). Notons 3 : a H 8 la conjugaison de A relative ti F, donnCe par ti = u4 si A = E, et par a = (u2, al) si

378

Analyse harmonique sur le demi-plan de Poincark fini tordu

a = (aI, az) E F x F. Dans chaque cas, le corps F s’identifie au sous-corps lixe de 3. Si < E (AX)“, on notera < 3 le caractkre conjuguC E o F de <. Pour a E A, posons trA(a) = a + ic, nA = aa, M(a) = aSi-l et notons Sol”(p, a) l’ensemble des solutions z E E du systkme l+(z) = trA(a), N(z) = nA(u>(l -P)-‘, oti p E Image(D) - {CQ} et a E A ‘. Remarquons que Sol”(p, u) est stable par F et que ISolA(p,u)l 2 2. Plus pr6cisCment,

JSol”(p,~)l = (I- c)[m(u)(tr.4(U(o) - s))] (a &f F): (2)

Isol”(~> u)l = (1 - 6) (A) (a E F), (3)

oti 6 dksigne le caractbre signe de F, qui vaut 1 sur les car&s, -1 sur les non-car&, et s’annule sur 0. Notons en particulier que SolE(O, u) = {a, a}, quel que soit a E E, et SolFxF(O, a) est rCduit B {u} si a E F et vide sinon.

DCfinissons maintenant la fonction spkiale S$ par :

S$(p>u) = C %I b E Im(D),p # 0, m), (4) ZESOIA (p,n)

St(O, u) = (sgn(A)q + l)-(a) (a E F),

sp(o,u) = c 5(z) (u E A,u # n), zGkJl”(O,a) S,“(w a) = &r.&L),O c %41

aESol~(:~,a)

(5)

(6)

(7)

oti Sol$(co,u) dksigne l’ensemble des z E E tels que N(z) = -nA(u), pour a E A, trA(a) = 0. Les fonctions sphkriques pz+ , sont alors donnkes dans le thkorbme suivant, oh l’on convient que

(a(O) = 1. 0

TH~OR&ME 1. - Pour chaque caract&e < de AX, on pose, pour g = kg,: E G (k E K, .2: E B.),

w(A) cpdd = n--1 c S&w) t(n) . ISEA* 1

Alors, les fontions sphe’riques cp* d valent ma (T;) sur g = Id et sont donnkes par les formules suivantes (oti l’on e’crit ip = $0 o NE d%s le cas 00 Cp = W) :

(i) skrie disc&e : pz:-, = cp~ pour A = E et < = A E (EX)‘, A # A”; en particuiier,

i+(Id) = 1, w$(g-s) = -&,,4$(~)+0(-1).

(ii) se’rie principale : pE’+; = ‘pc pour A = F x F et’[ = (cI,~) E (FX x FX)“,a # ,O; en

particulier, pE,+i(Id) = 1, ‘vzLt:(.w) = &.~a(-1).

(iii) repr&entations de Steinberg et unidimensionnelles : cpEz = ~(~Co,oij + (P(~~~)), pz: =

hn,n) - (P(~~N)), en particulier, pour g = kg, E G,

‘p;; (c/j = ’ @ 2(q2 - 1) ~sgn!A) c Si(~,a)(aonA)(a) , A ,IEAX 1

379

J. Soto-Andrade, J. Vargas

Dbmonstrution. - Cela rksulte de (I), B I’aide de la table de caract&res de [3]. 0

Remarque 2. - Notons que l’on peut rkinterpreter le calcul des fonctions sphk-iques de la man&e suivante, B la Curtis [l] : pour chaque choix de A, on note CA l’application de G dans L1(AX) dkfinie par :

CA(g) : a H 3 a k’g S,A(p,.), ( 1

pour g = kg, E G. Alors le caractke de l’alg2bre commutante J&(G, K) associk B la fonction sphCrique Q peut s’Ccrire comme la composke de l’homorphisme CA : f I-+ IGJ-l CSEG f(g)C,(g) de Lk (G, K) dans L1 (Ax ) avec le prolongement nature1 de < ti un homomorphisme de L1 (A x ) dans 43.

’ subvention& par FONDECYT (Projets 1960696 et 1980829), par la CoopCration fran$aise (Programme ECOS-Chili et

PICS 340 CNRS-CONICYT) et par le Grant NSF DMS-9022140 au MSRI

* subventionnt par CONICET, CONICOR, SecytUNC (Argentine), ICTP et TWAS (Italie) et PICS 340 CNRS

RCf&ences bibliographiques

[I] Curtis C.W., On the Gel’fand-Graev representation of a reductive group over a finite field, J. Algebra 157 (1993) 517-533. [2] Galina E., Vargas J., Eigenvalues and eigenspaces for the twisted Dirac operator over SU(n, 1) and Spin(2n, 1). Trans.

Amer. Math. Sot. 345 (1994) 97-113. [3] Helversen-Pasotto A., Representation de Gel’fand-Graev et identitks de Barnes, Enseign. Math. 32 (1986) 57-77. [4] Katz N., Estimates for Soto-Andrade sums, J. Reine Angew. Math. 438 (1993) 143-161. [5] Soto-Andrade J., Geometrical Gel’fand Models, tensor quotients and Weil representations, Proc. Sympos. Pure Math.,

Vol. 47, AMS, Providence, 1987, pp. 305-316. [6] Soto-Andrade J., Representations de certains groupes symplectiques, MCm. 55-56, Sot. Math. France, 1975. [7] Soto-Andrade J., Vargas J., Intertwining Operators for L’(E), Comm. in Algebra 26 (1998) 1419-1427.

380