Modern Birkhauser Classics Birkhauser Classics Many of the original research and survey monographs in pure and applied mathematics published by Birkhauser in recent decades have been

Modern Birkhauser Classics

Many of the original research and survey monographs in pure and applied mathematics published by Birkhauser in recent decades have been groundbreaking and have come to be regarded as foundational to the subject. Through the MBC Series, a select number of these modern classics, entirely uncorrected, are being re-released in paperback (and as eBooks) to ensure that these treasures remain accessible to new generations of students, scholars, and researchers.

The Grothendieck Festschrift Volume II

A Collection of Articles Written in Honor of the 60th Birthday of

Alexander Grothendieck

P. Cartier

L. lUusie

N.M. Katz

G. Laumon

Yu.I. Manin

K.A. Ribet

Editors

Reprint of the 1990 Edition

Birkhauser Boston • Basel • Berlin

Pierre Cartier Institut des Hautes Etudes Scientifiques F-91440 Bures-sur-Yvette France

Luc lUusie Universite de Paris-Sud Departement de Mathematiques F-91405 Orsay France

Nicholas M. Katz Princeton University Department of Mathematics Princeton, NJ 08544 U.S.A.

Yuri I. Manin Max-Planck Institut ftir Mathematik D-53111 Bonn Germany

Gerard Laumon Universite de Paris-Sud Departement de Math6matiques F-91405 Orsay France

Kenneth A. Ribet University of California Department of Mathematics Berkeley, CA 94720 U.S.A.

Originally published as Volume 87 in the series Progress in Mathematics

Cover design by Alex Gerasev.

Mathematics Subject Classification (2000): 00B15, 00B30, 01A60, 01A75 (primary); 11F37, 11F72, 11G05,11G40,11M41,11R29,11R34,11S23,11S31,11S37,12H05,13K05,13N10,14A99,14B15, 14C17, 14D05, 14E20, 14F05, 14F20, 14F30, 14F32, 14F35, 14F40, 14F99, 14G05, 14G10, 14H25, 14H40,14L05,14L15,14M10,14M15,17B10,17B67,18A99,18B40,18E30,18F20,20F34,20F36, 20L05, 22E35, 22E50, 32C15, 32C38, 32S50, 32S60, 57M07, 58G25. 58G26, 58J50, 58J52 (secondary)

Library of Congress Control Number: 2006936966

ISBN-10: 0-8176-4567-5 ISBN-13: 978-0-8176-4567-0

e-ISBN-10: 0-8176-4575-6 e-ISBN-13: 978-0-8176-4575-5

Printed on acid-free paper.

©2001 Birkhauser Boston BirkhdUSCr All rights reserved. This work may not be translated or copied in whole or in part without the written permission of the pubUsher (Birkhauser Boston, c/o Springer Science-f Business Media LLC, 233 Spnng Street, New York, NY 10013, USA), except for brief excerpts m connection with reviews or scholarly analysis. Use in connection with any form of information storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now known or hereafter developed is forbidden. The use in this publication of trade names, trademarks, service marks and similar terms, even if they are not identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to proprietary rights.

9 8 7 6 5 4 3 2 1

www. birkhauser. com (IBT)

p. Cartier L. Illusie N.M. Katz G. Laumon Y. Manin K.A. Ribet Editors

The Grothendieck Festschrift A Collection of Articles Written in Honor of the 60th Birthday of Alexander Grothendieck

Volume II

1990 Birkhauser Boston • Basel • Berlin

Pierre Cartier Institut des Hautes Etudes Scientifiques 91440 Bures-sur-Yvette France

Luc Illusie Departement de Mathematiques Universite de Paris-Sud Centre d'Orsay 91405 Orsay Cedex France

Nicholas M. Katz Department of Mathematics Princeton University Princeton, NJ 08544 USA

Gerard Laumon Departement de Mathematiques Universite de Paris-Sud Centre d'Orsay 91405 Orsay Cedex France

Yuri Manin Steklov Institute Vavilova 42 Moscow, 117966-GSPl USSR

Kenneth A. Ribet Department of Mathematics University of California Berkeley, CA 94720 USA

Printed on acid-free paper.

© Birkhauser Boston, 1990. All rights reserved. No part of this publication may be reproduced, stored in a retrieval system, or transmitted, in any form or by any means, electronic, mechanical, photocopying, recording or otherwise, without prior permission of the copyright owner. Permission to photocopy for internal or personal use, or the internal or personal use of specific clients, is granted by Birkhauser Boston, for libraries and other users registered with the Copyright Clearance Center (CCC), provided that the base fee of $0.00 per copy, plus $0 20 per page is paid directly to CCC, 21 Congress Street, Salem, MA 01970, U.S.A. Special requests should be addressed directly to Birkhauser Boston, 675 Massachusetts Avenue, Cambridge, MA 02139, U.S.A. 3428-2/90 $0.00 + .20

ISBN 0-8176-3428-2 ISBN 3-7643-3428-2

ISBN 0-8176-3429-0 ISBN 3-7643-3429-0

Three-volume set Three-volume set

Printed and bound by Edwards Brothers, Inc., Ann Arbor, Michigan. Pnnted in the U.S.A.

9 8 7 6 5 4 3 2 1

CONTENTS

VOLUME II

Une nouvelle interpretation de la formule des traces de Selberg 1 PIERRE CARTIER et ANDRE VOROS

Jacobiennes generalisees globales relatives 69 C. CONTOU-CARRERE

Categories tannakiennes I l l P. DELIGNE

On The Adic Formalism 197 TORSTEN E K E D A H L

F-Isocrystals on Open Varieties: Results and Conjectures 219 GERD FALTINGS

Representations p-adiques des corps locaux 249 JEAN-MARC FONTAINE

Rectified Homotopical Depth and Grothendieck Conjectures 311 HELMUT A. HAMM and LE DUNG TRANG

Automorphisms of Pure Sphere Braid Groups and Galois Representations 353 YASUTAKA IHARA

Ordinarite des intersections completes generales 375 Luc ILLUSIE

V

vi CONTENTS

Kazhdan-Lusztig Conjecture for a Symmetrizable Kac-Moody Lie Algebra 407 MASAKI KASHIWARA

Euler Systems 435 V.A. KOLYVAGIN

Descent for Transfer Factors 485 R. LANGLANDS and D. SHELSTAD

VOLUME I

Bibliographie D'Alexander Grothendieck

De L'Analyse Fonctionnelle aux Fondements de la Geometrie Algebrique JEAN DIEUDONNE

The presentation functor and the compactified Jacobian ALLEN B. ALTMAN and STEVEN L. KLEIMAN

Some Algebras Associated to Automorphisms of Elliptic Curves M. ARTIN, J. TATE, and M. VAN DEN BERGH

Cohomology of a Moduli Space of Vector Bundles V. BALAJI and C.S. SESHADRI

Sur les hypersurfaces dont les sections hyperplanes sont a module constant ARNAUD BEAUVILLE

Aomoto Dilogarithms, Mixed Hodge Structures, and Motivic Cohomology of Pairs of Triangles on the Plane A.A. BEILINSON, A .B . GONCHAROV, V.V. SCHECHTMAN, and A.N. VARCHENKO

Theorie de Dieudonne cristalline IIL theoremes d'equivalence et de pleine fidelite PIERRE BERTHELOT and WILLIAM MESSING

Complex Immersions and Arakelov Geometry JEAN-MICHEL BISMUT, HENRI GILLET, and CHRISTOPHE SOULE

CONTENTS vii

L-Functions and Tamagawa Numbers of Motives SPENCER BLOCK and KAZUYA KATO

Bitorseurs et Cohomologie Non Abelienne LAWRENCE BREEN

Non-commutative Ruelle-SuUivan type currents J E A N - L U C BRYLINSKI

VOLUME III

Anneau de Grothendieck de la variete de drapeaux ALAIN LASCOUX

New Results on Weight-Two Motivic Cohomology S. LICHTENBAUM

Symmetric Spaces Over a Finite Field GEORGE LUSZTIG

Le theoreme de positivite de Tirregularite pour les 2);j^-modules ZOGHMAN MEBKHOUT

The Convergent Topos in Characteristic p ARTHUR OGUS

Finiteness Theorems and Hyperbolic Manifolds A.N. PARSHIN

p-groupes et reduction semi-stable des courbes MICHEL RAYNAUD

Drawing Curves Over Number Fields G.B. SHABAT and V.A. VOEVODSKY

Sur les proprietes numeriques du dualisant relatif d'une surface arithmetique L. SZPIRO

Higher Algebraic K-Theory of Schemes and of Derived Categories R.W. THOMASON and THOMAS TROBAUGH

viii CONTENTS

Solitons elliptiques A. TREIBICH and J.-L. VERDIER, with an Appendix by J. OESTERLE

Linear Simple Lie Algebras and Ranks of Operators Yu G. ZARHIN

line nouvelle interpretation de la formule des traces de Selberg

PIERRE CARTIER ET ANDRE VOROS

A Alexander Grothendieck^ pour son 60e anniversaire

SOMMAIRE

Introduction 1. La formule sommatoire de Poisson 2. Enonce de la formule des traces de Selberg 3. Determinants d'operateurs 4. Une extension de la formule des traces de Selberg 5. Une nouvelle interpretation de la formule des traces 6. Fonction zeta de deux variables.

Bibliographie

I n t r o d u c t i o n

La formule des traces de Selberg, pour une surface de Riemann com-pacte, a courbure constante negative, est presentee habituellement comme une relation por tant sur la transformee de Fourier des distributions liees aux longueurs des geodesiques periodiques, et aux valeurs propres du lapla-cien. De maniere plus precise, soit X une telle surface de genre f > 2, mu-nie d'une metrique riemannienne, avec une courbure constante normalisee par K = — 1 . On note V Tensemble des geodesiques periodiques orientees primitives sur X , et r (p) la longueur d'une telle geodesique p. On note aussi A x I'operateur de Laplace-Beltrami sur X , et la suite des valeurs propres de —Ax est representee sous la forme

0 = Ao < Ai < A2 < • • • < A„ < An+i < •. •.

Pour tout n > 0, on choisit une des racines carrees pn de A^ — ;|. Sous forme symbolique, on peut ecrire comme suit la formule de Selberg

(1) ^ c o s r / ? „ = - | ( 5 f - l ) -n = 0

cosh r / 2

sinh^ r / 2

T{P)

\ 5 S * ™ M I " . M P ) / 2 ) ' < ^ - " " " ' *

2 CARTIER ET VOROS

les deux membres de cette formule contiennent des series qui convergent au sens des distributions.

La formule de Selberg possede une certaine analogie avec la formule sommatoire de Poisson, que Ton pent ecrire sous la forme

(2) Yl ^'^" = 27r ^ 6{T - 27rm). neZ m€Z

De fait, il existe une formule de Poisson generale pour les varietes rieman-niennes qui se specialise en les formules (1) et (2); on notera simiplement que les valeurs propres du laplacien sur le cercle S^ sont les carres

0, 1^, ( - I f , 22, (-2)2, . . .

et que les geodesiques fermees sur S^ ont pour longueur 27rm, avec m = 0, ± 1 , ±2, • • •. Cette formule generale rend bien compte des termes exponen-tiels dans le membre de gauche de (1) ou (2), ainsi que des termes singuliers en S au membre de droite. Mais elle n'explique pets la forme particuliere du terme —^{g — l)(coshr/2)/(sinh r /2) dans la formule de Selberg : un tel terme, qui est regulier en dehors de 0, est absent dans la formule de Poisson, a moins de considerer qu'il est un avatar de S{T).

Si Ton introduit une fonction-test h(p) et sa transformee de Fourier

/

4-00

hip)e"'>dp, -CXD

la formule de Selberg prend la forme

(4) I îHPn) + K-p„)] = {g-l) ptanh np h{p)dp

4sinh(|m|r(p)/2)

n = 0

celle de Poisson prend la forme

(5) J2 ^(^) ^^'^YJ M27rm). neZ meZ

Voici une difference importante. Pour que la somme sur les longueurs des geodesiques soit convergente dans (4), il faut imposer a h{p) une condition assez restrictive, par exemple de s'etendre en une fonction holomorphe dans une bande \Im p\ < c de largeur 2c strictement plus grande que

LA FORMULE DES TRACES DE SELBERG 3

1. Par contre, la formule de Poisson (5) est valable pour des fonctions h{p) appartenant a Tespace de Schwartz S{R). On peut meme, avec quelques precautions, Tappliquer a une distribution du type h{cr) = 6(<T — p) et obtenir une formule de Poisson duale

(6) '£^(P-'')=J2'"""'• neZ meZ

On notera que les deux formules de Poisson duales (2) et (6) coincident a un changement de variable pres. Dans le cas de Selberg, il y a une complete dissymetrie enire le spectre des valeurs propres, et celui des longueurs des geodesiques^ et il est done hautement desirable d'obtenir une forme duale de la formule (1) portant sur une somme du type Yln^=o ^(P ^ Pn)-

Notre ambition, dans ce travail, est de mieux comprendre les analogies entre les formules de Selberg et de Poisson, Nous pourrons ainsi donner des formes nouvelles de la formule de Selberg, plus flexibles, et applicables a des fonctions-test plus varices.

La premiere partie est consacree a un examen de la formule de Poisson, interpretee de maniere microlocale. Le point essentiel est que la fonction Tr/tanhTT/c est une fonction meromorphe de la variable complexe /c, avec des poles aux points in, pour n parcourant I'ensemble Z des entiers relatifs. De plus, on peut ecrire

J, ^ g - 2 7 r K

( 7 ) ; = TT—^ r — = TT + 27r > ^ ^ tanhTTAC l - e - 2 ' r « ^

— 27rm/c

m = l

et done obtenir un developpement en serie d'exponentielles qui converge dans le demi-plan Re K > 0. Par symetrie, la fonction impaire Tr/tanhTTK a un developpement analogue dans le demi-plan iie K < 0. En un sens, la demonstration de la formule de Poisson que Ton obtient n'est autre que celle que Cauchy donnait par le calcul des residus.

Dans la deuxieme partie, on explicite completement diverses formes de la formule de Selberg. Parmi les points moins classiques, notons les deux formes donnees au terme intermediaire

(8) j^,,,,^.,Hip)dp=-[^^.

On introduit aussi la fonction zeta de Selberg, par le produit infini

oo

(9) 2x(s)=nn(i-^~'^'^^'"'*^) p£V k=Q

4 CARTIER ET VOROS

qui converge absolument dans le demi-plan Re s > 1. On conclut cette partie par Tenonce de Tune des formes de la formule de Selberg

(10) E ^ ( ^ T T ^ ) = (2 - ^9)^îh + «) + i^)' log Zxil + «)• n=0 '^^

La fonction 1/5(5) est egale a T'{s)/T{s). Dans la troisieme pariie, nous montrons comment nous debarrasser des

derivees en AC dans la formule precedente. Nous nous appuyons sur la theorie des determmanis infinis regularises par la methode de la fonction zeta, due a Ray et Singer [RS]. II s'agit d'obtenir un produit infini a la Hadamard pour la fonction entiere Zx{s), portant sur ses zeros. De delicates questions de constantes de normalisation se posent. La formule suivante a ete obtenue precedemment par Tun d'entre nous [V2]

(11) 2 ; , ( i + K ) = {e« 'de t ( ( -As . + ^ ) ^ / ' + K ) } ' ^ - 2 d e t ( ( - A x - i ) + K');

il faut prendre les determinants au sens regularise. Notre resultat fondamental est contenu dans la quatrieme partie. Au

lieu de considerer une fonction paire h{p) holomorphe dans une bande horizontale | /m p\ < c^ nous considerons cette fois une fonction holomorphe dans un secteur \Arg p\ < f- + £, contenant I'axe imaginaire. On pose

/ . ^ x , / X h(—iK) — h(iK)

(12) h.(K) = -^ L • pour K>Q.

Voici notre version de la formule des traces (13)

Y^h{pn) = {2g-2) / pUnh7rph{p)dp-i- / /i_ («:)dlog 2:^(1 + «:).

Pour la premiere fois, le choix des racines carrees pn n'est pas indifferent; nous distinguerons deux cas :

— si An > ^, on prendra pour pn la racine carree positive de A„ — ;|; — si 0 < An < ;|, on prend Tune ou I'autre des racines carrees de A^ — : ;

alors \pn\ est un pole de Z'^(^-\-K)/Zx{^ + K,), et le chemin d'integration dans

/»oo

(14) / /i_(Ac)^^(i + f^)Zx{^ -f f^y^dK Jo

contourne \pn\ vers la droite ou la gauche selon que Ton a Arg pn —

LA FORMULE DES TRACES DE SELBERG

" 2 "

ou Arg pn = -f f. On a suppose que le cas A„ = ; ne se presentait pas, pour simplifier. Le

point essentiel est que Tintegrale (14) represente un procede de resommation du terme hyperbolique

i:i:4si„h(l'(p)ffl'*<"'^"'»-^*'-"'^'^»'^

On notera Tanalogie avec la methode de resommation de Borel pour les series de puissances.

Dans les cinquieme et sixieme parties^ nous donnons les principales applications du theoreme fondamental. On introduit la serie theia

oo

(15) ex{t)^'êxpi-pj). n=0

Si I'on applique sans precaution la formule (4) a la fonction h{p) = e~'^'*, on trouve Qx{i) = Si{t) + 5//(/) avec les definitions suivantes

(16) S,ii) = (^9-m-' + 2j:^^^^} m = l ^ '

(17) SH{t) E E 2 s i n h ( m r ( p ) / 2 ) 7 r ( i 2 + mV(p)2)-

On s'attend done que la fonction 0 X ( O J d^finie initialement dans le demi-plan Re t > 0 par la serie (15), se prolonge en une fonction meromorphe dans tout le plan; les poles sont evidents sur les formules (16) et (17). La serie Si{t) se somme au moyen de formules classiques, mais la serie SH{^) est divergenie. Cependant, I'application de notre theoreme principal donne un moyen de resommer SH{^) par la formule

/•oo

(18) SH{t) = T^~^ siviKt d\ogZx{^-\-K). Jo

On pent alors justifier les assertions sur la structure de Qxi^)- De plus, il est clair que Sjfii) est une fonction impaire de t, d'ou Vequation fonctionnelle

(19) Qx{t) + Qx{-t) = Sj{t) + Sji-t) = ig- 1 ) ^ ^ . sm t/2

6 CARTIER ET VOROS

Les singularites de 0 x ( O ^^^ ^^^ interpretation interessante. Les poles de Snii) sont les singularites de 0 x ( O ^^^ 1 theorie generale de la formule de Poisson sur les varietes attribue aux geodesiques periodiques reelles. La theorie de Balian ei Block suggere par ailleurs que les singularites de Qx{^) proviennent des geodesiques periodiques reelles ei complexes. Dans notre probleme, les poles de Si{t) correspondent exactement aux periodes complexes du flot geodesique complexifie. Or, le flot geodesique sur X, apres le changement de temps de t en it^ devient le flot geodesique sur la sphere S^. II est remarquable que la formule des traces de Selberg contienne la formule de Poisson de la sphere S^, cachee dans le terme ayant 2g — 2 en facteur. Nous avons la un nouvel exemple dêffet tunnel quantique.

Un travail oil il est question de fonctions zeta, de leurs zeros, de leurs equations fonctionnelles, de surfaces de Riemann et de leur genre, nous semble particuherement approprie dans un volume dedie a Grothendieck. Le jeu subtil des influences entre la geometric et la theorie des nombres — la lettre p n'a pas etc choisie au hasard — a toujours fascine Grothendieck; peut'itre avons-nous apporte une petite lumiere supplement aire dans ce grand Mystere.

Notat ions generales

Z ensemble des entiers rationnels R ensemble des nombres reels C ensemble des nombres complexes Re A par tie reelle du nombre complexe A Im A partie imaginaire du nombre complexe A Arg A argument du nombre complexe A

1. La formule soininatoire de Poisson

1.1. Dans ce travail, nous considerons des paires de fonctions reciproques h{p) et /i('r), liees par la transformation de Fourier

r+oo

/

-h-oo

h{T)e-'^^dT, -oo

/

+ 00

h{p)e'^^dp. -oo

Si les fonctions h et h sont continues et integrables, ces deux formules sont equivalentes. Un exemple typique, frequemment utilise dans la suite, est le


suivant

9K-

(1-3) ^^f^^-^^ ' M r ) - « " ' ' ' ' ' ;

le parametre « est un nombre complexe tel que Re K > 0.

1.2. La formule sommaioire de Poisson a rexpression suivante

(1.4) J2 ^(^) = ^^Y^ h{27rm). nel. meZ

Si a est un parametre reel, on peut remplacer dans la formule precedente h{p) par h{p -f a), done ft(r) par A(r)e~*^^; on obtient la formule en apparence plus generale

(1.5) J2 ^(^ + a) = 27r ^ ^(27^m)e-2'^*•^^ neZ m€Z

Cette formule suggere la demonstration suivante (qui est classique): le mem-bre de gauche represente une fonction de la variable a, qui est periodique, avec la periode 1. On peut done la developper en une serie de Fourier ^ m e Z ^m,^~'^^^^^\ le eoeffieient de Fourier c^ se ealeule faeilement et Ton trouve

/

+ 00

/i(a)e2''*^^rfa = 27rft(27rm). -oo

Nous ne nous attaeherons pas a obtenir des conditions analytiques mini-males pour assurer la validite de la formule de Poisson.

1.3. Appliquons la formule sommatoire de Poisson au eas partieulier evoque dans la formule (1.3). Apres sommation d'une serie geometrique, on obtient la formule suivante, deja demontree par Euler

2/c ^ oo (^ „\ TT i -^-^

tanh TT/c K ^ KP- -{- 'n? n = l

On pour rait Teerire de maniere plus symetrique sous la forme

(1-8) -4— = E - ^ . tanh TT/c ^—^ K-\- in

8 CARTIER ET VOROS

mais la serie n'est pas convergente, et Ton doit sommer symetriquement

en interpretant YIUGZ P^^ ^^^ /_-/ * ^^ fbrmule (1.7) provient, par ^"^ \n\<N

derivation logarithmique, d'une autre formule d'Euler

oo

(1.9) sinh TTK = TT/c J J (1 -f /c^/n^), n = l

qui donne le developpement en produit infini de la fonction entiere sinh TT/C. Utilisant plutot la variable complexe A = —/c , on reecrit la formule precedente sous la forme

n=i ^vA

Cette relation pent s'interpreter comme le calcul d'un determinani de Fredholm, comme nous I'avons prouve dans [V2].

1.4. Montrons maintenant comment lôn pent redemonirer la formule generale (1.4) a partir du cas pariiculier (1.7); ce dernier pent done etre considere comme une sene generairice. Nous ferons sur la fonction h{p) les deux hypotheses suivantes :

a) il exisie un nombre e > 0 iel que la fonction h{p) s'eiende en une fonction holomorphe dans la bande \Im p\ < e\

b) pour \p\ iendant vers Vinfini dans cette bande, on a la majoration h{p) = 0{\p\-^-^), ouS>0 est fixe.

Nous evaluerons de deux manieres differentes Tintegrale de Cauchy

(1.11) I{h) = (27ri)-^ / h{-iK)d\ogsmh Jc

TTK:

le contour d'integration C est represente sur la figure 1. On suppose que Ton a 0 < ? < 6:; remarquer que Tintegrale J^ \h{—iK)\dK est finie d'apres la majoration h{p) == 0{\p\~^~^).

La formule (1.7), ou la forme equivalente (1-8), s'ecrit encore

(1.12) c? log sinh TT/c = Y^ —; K) — in

la sommation est effectuee de maniere symetrique lim N , et la N-*oo ^—'

|n |<Ar

serie obtenue converge sur le contour C. On pent integrer terme a


terme Tintegrale obtenue en remplagant dans I{h) la forme differentielle dlogsinhTTK par sa valeur donnee par (1.12). Mais, d'apres la formule de Cauchy, on a

f (IK

(1.13) (27r2)-' / h{-iK) = h{n), JQ K — in

d'ou

(1.14) I{h) = J2h{n).

Im

- e

1 r

o\

i

I7j

i

e ^

1 ^

C

Figure 1

La deuxieme methode d'evaluation repose sur Tintroduction des deux series geometriques

(1.15)

(1.16)

G"(«) = i+E^" m = l

oo

G-i-) = --2-E

2'KmK

,+27rm«

m = l

10 CARTIER ET VOROS

La serie G'^{K) converge dans le demi-plan defini par iê /c > 0, et la serie G~{K) lorsque Re K < 0. Ces deux series representent la meme fonction meromorphe (2tanh7rAc)~^ dans les deux demi-plans consideres. Cette fonction est impaire, ce qui se traduit par la formule G'^{—K,) = —G~{K)

lorsque Re K < 0. On a done la relation

(1.17) (27ri)-'c/logsinh7r«= ( ' J tS" )^ ' " ^ ^ ^ ' ( —iG {K)dK

iî^«.o;v.u _^ _ / —iG^{K)dK lorsque Re K > 0, lorsque Re K <0.

Reportons ceci dans la formule (1.11) et faisons le changement de variable K = ip. On obtient

h{p)G+iip)dp- / h{p)G-{ip)dp. •oo — ir) J — oo-\-iri

II est maintenant legitime d'integrer terme a terme les integrales obtenues en remplaânt G'^{ip) et G~{ip) par les series (1.15) et (1.16) respective-ment. On pent ensuite faire tendre rj vers 0. Le result at obtenu est le suivant

OO CXD

(1.19) I{h) = {nh{0) + 2TrJ2 h{-2irm)} + {nh{0) + ^ h{2wm)}. m = l m = l

Autrement dit, on a

(1.20) I{h) = 27r ^ h{27rm).

La formule sommatoire de Poisson resulte de la comparaison des formules (1.14) et (1.20).

1.5. La demonstration precedente montre que la formule sommatoire de Poisson est une consequence des proprietes generales des integrales de contour a la Cauchy, et des proprietes particulieres suivantes:

a) La sine | + X^^-i^""^^ converge dans le demi-plan Re t > 0^ ei definii une fonction holomorphe Q{t) dans ce demi-plan.

b) La fonction Q{t) se prolonge en une fonction meromorphe dans le plan C des nombres complexes.

c) On a Vequation fonctionnelle Q{t) + Q{—t) = 0. d) Les poles de la fonction Q{t) sont situes aux points 27rin, pour n

parcourant Z; ils sont simples, avec un residu egal a 1.

1.6. Depuis rinvention des distributions, on salt reformuler la formule sommatoire de Poisson dans ce cadre. En effet, la formule de Poisson est


valable pour toute fonction h{p) dans Tespace de Schwartz S{R) (et la fonction /i(r) appartient necessairement au meme espace). Or, on a

(1.21) Yl /»(") = E / °° ''(p'>^(p - ")'^^

par definition de la distribution 6 de Dirac, et

/

+ 00

d'apres la formule de transformation de Fourier (1.2). On pent done ecrire de maniere symbolique la formule de Poisson comme suit

(1.23) Y,Sip-n)=Yl 2ximp.

neZ

les deux membres representent des series convergentes dans Tespace S'{R) des distributions temperees.

Explicitons le lien entre la theorie des distributions et celle des fonctions holomorphes. Notons Pi{p) la distribution de Poisson ICneZ ^(^ ~ ^ ) ' c'est la forme lineaire h \-^ Yln^Z ' C ) ' ^^ I'espace 5(R). Cherchons a la representer sous la forme microlocale^ c'est-a-dire comme la difference entre les valeurs au bord d'une fonction H^{ip) holomorphe dans le demi-plan inferieur Im p < 0 et d'une fonction H~(ip) holomorphe dans le demi-plan superieur Im p > 0. Utilisons la notation classique

(1.24) F{p ± iO) = lim F{p ± is) {e>0).

On a alors la representation microlocale du 6 de Dirac

(1.25) S{p) = {27ri)-'[(p-i0)-' - (/> + iO)-^].

Autrement dit, pour toute fonction h{p) dans I'espace S{R)j on a

h{p)[{p-ie)-^-{p-\-is)-^]dp. •oo

On obtient la representation microlocale

(1.27) P,ip) = H+iiip - iO)) - H-{i{p + iO))

12 CARTIER ET VOROS

pour Pi{p) = Ylne^ ^{p~''^) ^^ sommant sur n la formule deduite de (1.25) en remplaQant p par p — n. Explicitement, on a

(1.28) H-^{K) = (27r)-^ X l (' ~ ^^)~^ P^^^ Re K>0 neZ

(1.29) i7-(/c) = (27r)-^ ^ ( / c - f i n ) - ^ pour Re K < 0

neZ

(sommation symetrique sur n). Posons

(1.30) P2{p) = J2 «'"'"''• rngZ

On pent resommer cela en

oo oo

(1.31) Pîp) = V^+Y1 e-'"""'} + (i + E «'""'>• m = l fn = l

Compte tenu des definitions (1.15) et (1.16), on obtient immediatement la forme microlocale de P2{p)

(1.32) pîp) = G+{iip - m - G-{i{p+m.

La formule sommatoire de Poisson a ete traduite dans (1.23) sous la forme Pi{p) = P2{p)' Compte tenu des representations microlocales (1.27) et (1.32), elle equivaut done a

(1.33) G + ( K ) = i/+(/c) , G-{K) = H-{I^).

En utilisant les relations de symetrie

(1.34) G+(/c) = -G-{-K) , H^{K) = - i f - ( - K ) ,

tout est ramene a la relation G^{K) = H^{K). En derniere analyse, tout repose sur le fait que la fonction (2tanh7r«)~^ admet dans le demi-plan Re K > 0 les deux developpements en serie

l+ê-^^^'^ et {2n)-^ ^{K - in)-\ m = l „g2

On retrouve la formule (1.8) et la boucle est bouclee.


2. Enonce de la formule des traces de Selberg

2.1. Fixons les notations generales. On note X une surface hyperholique^ c'est-a-dire une variete compacte de dimension 2, munie d'une metrique riemannienne de courhure constante negative K. La courhure K, le genre g et Vaire A de X sont lies par la formule de Gauss-Bonnet

(2.1) A\K\ = Ai:{g-l).

Comme A et |A'| sont des nombres positifs, on a f > 2. Pour simplifier, on normalisera la metrique de sorte quôn ait K = —1, sauf eventuellement pour quelques remarques.

2.2. A la surface X est associe le spectre de I'operateur de Laplace-Beltrami Ax- Comme X est compacte, cet operateur elliptique autoadjoint possede un spectre discret. Nous enumererons les valeurs propres de —Ax sous forme d'une suite de nombres reels

0 zz Ao < Ai < A2 < • • • < A„ < . . .

avec lim A„ = +00; chaque valeur propre est repetee un nombre de fois

egal a sa multiplicite. La valeur propre AQ = 0 correspond aux fonctions const antes sur X, qui sont les seules solutions de I'equation A x / = 0 (principe du maximum).

On note Af{X) le nombre de valeurs propres A^ telles que A„ < A; c'est la fonction s-pectrale. EUe satisfait a Vestimee de Courant et Weyl[C]S\ [BGM]

(2.2) ^ (A) - ^ A = (^ - 1)A pour A ^ -f-00. 47r

On associe a X la fonction zeta Zx{s) de Minakshisundaram-Pleijel; dans le demi-plan Re s > 1, elle est donnee par la serie de Dirichlet Yl^=i ^n^ -On a done la representation integrale

(2.3) Zx{s) = r X-'dM{\) = s r ^^^l~^X-'dX Jo Jo X

dans ce demi-plan. II est connu que Zx{s) se prolonge en une fonction meromorphe dans le plan C des nombres complexes. Le seul pole est 5 = 1, et le residu de Zxis) pour 5 = 1 se deduit facilement des formules (2.2) et (2.3); il vaut ^ - 1 .

2.3. Nous met tons maintenant en place les constituants de la formule des traces de Selberg.

14 CARTIER ET VOROS

Definissons une suite auxiliaire (pn) par la relation An = \ + Pnl pour le moment, pn est Tune des deux racines carrees de An — ^. Par exemple, po est egal a | ou a - - | , et les />n sont situes sur Taxe reel, ou sur le segment d'extremites ~ | et j -

ti/2

SL

f -i/2

Re

Figure 2

Choisissons une fonction h(p) satisfaisant aux proprietes suivantes: a) // exisie une consiantee > 0 telle que la fonction h{p) soit holomorphe

dans la bande definie par \Im p\ < ^ -{- s. b) Dans cette bande, on a une majoration h{p) = 0{\p\~'^~^) pour \p\

tendant vers Vinfini (avec une constante S > 0). c) La fonction est paire : h{p) = h{—p).

Comme la fonction h est paire, on a /i(pn) — h{~Pn) ^^ 1 choix de la racine carree pn est sans importance.

D'apres Testimee de Courant et Weyl, on a Yl^=i ^n^ < +^^ si 5 > 1 est reel; on en deduit que Yl'nzzo |Pn|~^~* est fini. D'apres Thypothese b), la serie J2^=o ^{pn) converge absolument. On pose

(2.4) Q{h) = Y,KPn)\ n = 0


comme les valeurs propres A^ de — A ^ s'interpretent comme des niveaux d'energie en Mecanique quantique, on pourra appeler Q{h) le "terme quantique".

2.4. Definissons le spectre des periodes de X. Soit c une courbe fermee sur X, parametree par c{t) pour 0 < / < 1; on note c{t) le vecteur Vitesse correspondant et T(C) la longueur JQ |c(/)|c?t de la courbe c. Notons V I'ensemble des geodesiques fermees orientees p, qui sont primitives (parcourues une seule fois, la fonction t h-> p{t) est injective sur Tintervalle [0,1[). Bien entendu, on ne distingue pas deux geodesiques qui ne different que par la parametrisation. Toute geodesique periodique 7 est un multiple (d'ordre m > 1) d'une geodesique primitive p, et Ton a T(J) = mT(p). On appelle spectre des periodes de X I'ensemble des nombres mT(p)j ou p parcourt "P, et m I'ensemble des entiers 1,2,

La fonction de repartition Q{T) est definie ainsi : c'est le nombre de geodesiques periodiques 7 telles que T{J) < r . Le flot geodesique est hyperbolique, et Ton en deduit [HU] que G{T) satisfait a revaluation asymptotique

(2.5) S{T) ^ e^/r pour r -^ +00.

Par utilisation de la transformation d'Abel (qui revient a une integration par parties comme dans la formule (2.3)), on prouve facilement que la serie J2pev Sm=i e" ' ^^^) converge absolument pour toute constante c > 1.

Faisons maintenant les hypotheses suivantes sur la transformee de Fourier A(r) de h{p) :

a') La fonction /i(r) est definie et continue sur la droite reelle R. b') On a une condition de croissance h{T) = 0(e~^'^') pour \T\ tendant

vers Vinfini, avec une constante c > ^. c') La fonction est paire : h{T) — h{—r).

De la discussion precedente, on deduit la convergence absolue de la serie

00

(2.6) H{h) = J2Y1 Kp,mh{mTip)) peVm=l

ou la constante Kp^m est egale a r(p)/2sinh(mr(p)/2). On dit que H(h) est le "terme hyperboUque".

2.5. II nous reste a definir le "terme intermediaire". Auparavant, nous etablirons la formule suivante

/

+00 r+00

f(p)ta.nhTrpdp= / (sinhf ) - V > ) d r , -00 J — 00

16 CARTIER ET VOROS

ou /(/>) et / ( r ) forment une paire de fonctions reciproques; elles sont supposees continues, integrables et impaires. De plus, on suppose que I'integrale f_ ^ \p\\f{p)\dp est finie, ce qui assure que f{r)/T a une limite pour r tendant vers 0, et done que Tintegrale au second membre de (2.7) est convergente. Comme f{p) est impaire, on a

(2.8) /(r)-— / msmrpdp;

d'apres le theoreme de Fubini, on a

(sinh § ) - V ( r ) d r = - / fip)dp / - ^ d r . -oo ^^ J-oo J-oo Sinn J

II s'agit done d'etablir la relation

/»oo / s m TO

(2.10) / -T-r^dr = TrtanhTrp. 7o sinh ^

Pour cela, on remarque que (sinh ^)~^ est la somme de la serie

oo 2yê-(n+l/2)T^

n = 0

Le theoreme de convergence dominee de Lebesgue montre qu'on peut integrer terme a terme, en vertu des majorations (*)

/•oo ^

|sinr/>| < lr/>| , / . , _ dr < +oo. Jo smh Y

On obtient done, en utilisant la formule (1.8):

/ •GO • CO f>.

/ s in Tp j ^ 2p

Jo sinh^ ^~± : r ; 0 sinhf £ . . 2 + („+i/2)2 n = 0

=E /? - 272 - in

tanh(7r/? — 7rz72)

^TTtanhTT/?.

(*) Ces majorations montrent que la fonction / (p) sin r/?/sinh ^ des variables r , p est

integrable dans R , ce qui justifie I'utilisation du theoreme de Fubini dans (2.9).


2.6. Resumons les hypotheses a faire sur les fonctions h(p) et ^ ( T ) : a) On a une paire de fonctions reciproques h{p) et ^(r) . b) Les fonctions h{p) et /i(r) sont continues et paires. c) La fonctton h(p) s'eiend en une fonction holomorphe dans une bande

\Im p\ < c et satisfait a la majoration h{p) = 0{\p\~^) pour une constante a > 3, lorsque \p\ tend vers Vinfim dans la bande.

d) On a une majoration ft(r) = 0(e~^l^l) pour \T\ tendant vers Vinfim dans R.

Dans les hypotheses c) et d), la constante c est la meme, et Ton suppose qu'on a c > | . Noter que les hypotheses faites ne sont pas completement independantes; elles assurent rintegrabilite des fonctions h{p) et h{T) sur Taxe reel R. En fait, la fonction /(/)) = ph{p) est integrable et continue sur R, et sa transformee de Fourier est / ( r ) = —idh{r)/dT. L'hypothese a > 3 entraine meme que pf{p) = p'^h{p) est une fonction integrable de p et done que /i(r) est deux fois continuement derivable.

Nous introduisons deux nouvelles fonctionnelles :

(2.11) I{h) =z (2g - 2) / /?tanh7r/> h{p)dp Jo

(2.12) , (A, = ( 2 - 2 , ) / ° ° | a .

La formule (2.7) s'ecrit alors simplement I{h) — J(h). Apres tons ces preliminaires, la formule des traces de Selberg s'ecrit sous

la forme generale

(2.13a) Q{h) = J{h)^H{h),

ou encore

(2.136) Q{h)-L{h) = H{h).

De maniere explicite, on a

OO y.00

(2.13c) ^ h{pn) = {2g - 2) / ptanh irp h{p)dp n=0 •'0 , V^ V-" ^(P) If ( ^

P€ - ^ ^ 2 s i n h ( m r ( p ) / 2 )

2.7. Au chapitre 1, nous avons montre comment deduire la formule sommatoire de Poisson du cas particulier suivant :

(2.14) h{p) = {p^ + «2)-i , h{T) = e-'=l^l/2/c

18 CARTIER ET VOROS

(la constante /c satisfait k Re K > 0). Pour la formule des traces de Selberg, les fonctions h(p) et h{T) doivent satisfaire aux hypotheses c) et d) du no 2.6, qui ne sont pas remplies dans le cas particulier (2.14). Par contre, si Ton suppose que Ton a

(2.15) Re K>^,

la fonction /i^ (/?) definie par

(2.16) h,{p) = ^ (/>2 + /C2)2

satisfait a la condition 2.6, c). EUe se deduit de h{p) = (p^ + K^)~^ par application de Toperateur difFerentiel (—l/2/<;)5/5/c, d'ou la transformee de Fourier

Avec ces definitions, toutes les hypotheses a), b), c) et d) du n° 2.6 sont satisfaites pour toute constante c telle que ^ < c < Re K.

Nous evaluons maintenant le terme intermediaire J{h^). Rappelons d'abord quelques formules classiques pour la fonction F. On note ip{s) la derivee logarithmique F'(5)/F(5) et 7 la constante d'Euler; on a les representations suivantes dans le demi-plan i e 5 > 0

(2.18) ^ * + T = / 1 , dx = - - + 2 ] ( - - —rz^ JQ i — X s ^^ n 5 + n

Remarquons que la derivee de hK,{T) par rapport a r est egale a ~:^^""'^'^ J on en deduit

(2.20) , ( S j = ( 2 , - 2 ) ^ ' ° j ^ . . .

Faisant le changement de variable x = e"" , et utilisant la formule (2.19), on obtient finalement

(2.21) j(ft^) = ( 2 < , - 2 ) ^ V ( | + «);


nous ecrivons, ici et dans la suite, d/dK^ pour Toperateur differentiel {l/2K)d/dK (noter qu'on a d/c = 2K,dK).

2.8. Pour evaluer de maniere analogue le terme hyperbolique H{h^), il convient d'introduire la fonciion zeia de Selberg Zx{s), a ne pas confondre avec la fonction Zx{s) introduite au n° 2.2.

On sait que le nombre G(T) de geodesiques periodiques de longueur < r satisfait a revaluation asymptotique G{T) ^ e^'/r. II est facile de deduire de la que le produit infini

oo

(2.22) Zxis) = n 11(1 - e-^(P)('+*)) pev k=o

converge dans le demi-plan Re s > 1, et definit dans ce demi-plan une fonction holomorphe sans zeros.

Le logarithme de Zx{s) est une fonction holomorphe dans ce demi-plan. On choisira la branche qui est reelle sur Tintervalle ]l,4-oo[ de R. Alors log Zx{s) tend vers 0 lorsque s tend vers -hoc; de maniere plus precise, on a

(2.23) \ogZx{s) = 0{s-^) pour 5 - ^ + 0 0

quel que soit Tentier N > 0. La. formule de produit infini se traduit sous forme de la serie

p£Vm = l

La fonction A(T) = e"'^'^' satisfait aux conditions a'), b') et c') du n° 2.4, pourvu qu'on ait iie K > | . La formule (2.24) s'ecrit aussi sous la forme

A dK

Compte tenu de la formule (2.17), on obtient immediatement

A

(2.25) —logZx{^-{-K) = H{h) pour ReK>^.

(2.26) i f ( / i ^ ) ^ _ ( _ - ) 2 i o g Z x ( | + K) pour Re K > ^

2.9. Ecrivons maintenant la formule des traces de Selberg sous la forme Qihn) = J(/i«) + i^(Ât) pour le cas particulier h^{p) = (/?^-f-K^)"^. Si Ton prend en compte les relations (2.21) et (2.26), on obtient la formule

1 d d

20 CARTIER E T VOROS

Cette relation est valable pour Re K > ^ et sert de base a toute la suite de ce travail. On pourrait I'obtenir directement en considerant la resolvante de I'operateur elliptique —Ax (voir par exemple [EL], [HE2] ou [MK]).

3. D e t e r m i n a n t s d 'operateurs

3.1. A titre d'orientation, considerons le cas elementaire des operateurs en dimension finie. Soient done V un espace vectoriel complexe de dimension finie d, L un operateur lineaire agissant dans F , et 5 son spectre (ensemble des valeurs propres). On note D{\) le determinant de I 'operateur L -\- X (pour A dans C). On a

(3.1) D{\)^l[{X + ar^''\

ou la multiplicite m(cr) de la valeur propre a est la dimension de I'espace des vecteurs annules par une puissance convenable de L — a. Par consequent, les zeros du polynome D(X) sont les nombres —<7, pour a parcourant S, et la multiplicite d'un tel zero est m{a).

Le fait que D(X) soit un polynome en A pent se caracteriser comme suit : la fonction entiere D(X) satisfait a une condition de croissance

(3.2) P ( A ) | < a + 6|A|^

ou a > 0,6 > 0 sont des const antes reelles, et N un entier positif. On decompose D{X) sous la forme Y[n=ii^~^^n)j de sorte que A i , . . . , A^

est la famille des valeurs propres de L, chacune comptee un nombre de fois egal a sa multiplicite. Le logarithme de D(X) est egal a X^„_i log(A + An), ou Ton choisit la branche principale du logarithme complexe; par suite, log D{X) est definie dans le plan complexe C coupe le long des demi-droites ho r i zon ta l s joignant —oo a — A i , . . . , —A^ respectivement.

On en deduit que, pour A tendant vers -j-oo, on a un developpement asymptotique

oo

(3.3) l o g £ > ( A ) ~ c < , l o g A + ^ c „ A - ' " m = l

avec les valeurs suivantes des constantes

(3.4) Co = dimV = d


(3.5) Cm = i-ir-'Tr{L'")/m = {-ir'^X^ + • • • + Ay)/m.

On note en general Tr{M) la trace d'un operateur M. On remarquera que, dans laformule (3.3), il n'y a pas de terme constant,

proportionnel a A". Cela correspond au fait que le polynome D(X) est unitaire, de la forme A"* + aiA''"^ + • • •.

Im

-I 4

- /

• - ' .

- c Re

d = 4

Figure 3

3.2. Passons au cas d'un operateur L en dimension infinie, dont on nomme S le spectre. On fait les deux hypotheses suivantes:

(Si) La muHiplicite m{a) de chaque valeur propre a est finie. De plus, pour tout nomhre reel c, il n'y a qu'un nombre fini de valeurs propres a telles que Re a < c. {S2) II exisie un nombre eniierm > 1 tel que la serieY^m{a)\a\~^, etendue aux valeurs propres <T ^ 0, soii convergenie.

On note m(0) la multiplicite de 0, egale par convention a 0 si 0 n'est pas dans le spectre S. On enumere les elements non nuls de S sous la forme

Documents

Modern Birkhauser Classics Birkhauser Classics Many of the original research and survey monographs in pure and applied mathematics published by Birkhauser in recent decades have been