C. R. Acad. Sci. Paris, t. 327, Skrie I, p. 143-148, 1998 Analyse complexelComp/ex Analysis

Annulation de la cohomologie pour les fib&s semi-positifs

Vincent KOZIARZ

Institut E. Cat-tan, URA 750, CNRS, faculti: des sciences, UniversitC Henri-Poincar6, B.P. 239, 54506 Vandueuvre-l&-Nancy cedex, France Courriel : koziarz@iecn.u-nancy.fr

(ReCu le 4 juin 1998, accept6 le 15 juin 1998)

R&urn& I\ partir de deux thCorbmes gCn&raux (1 et 2), nous montrons quelques rCsultats d’annulation de cohomologie dans des configurations oti l’on n’obtient en gCnCra1 que de la finitude. Nous donnons en particulier des preuves simples de thCor&mes de H. Grauert et 0. Riemenschneider [6], et de K. Takegoshi [IO]. En exploitant une idCe de ce demier [ 111, nous Ctablissons Cgalement des annulations dans des situations relatives ; nous obtenons en corollaire une g&nCralisation d’un thCorbme de S. Nakano [9]. 0 AcadCmie des SciencesMsevier, Paris

Vanishing theorems for semi-positive bundles

Abstract. From two general theorems (1 and 2) we deduce vanishing theorems in situations where only jiniteness is usually obtained. We give in particular simple proofs of theorems of H. Grauert and 0. Riemenschneider [6], and of K. Takegoshi [lo]. Following an idea of [ 111, we also obtain results in the relative case; as a consequence, we get a generalization of Nakano’s theorem [9]. 0 AcadCmie des SciencesiElsevier, Paris

A bridged English Version

Notations and conventions are as in [2]. First, we prove two general results.

THEOREM 1. - Zf (X, w) is a complete Hermitian manifold, K c X, a compact subset, and 0 := [k(E), A] + Td is semi-positive in bidegree (T, s), satisfying 1 . 1~ 5 A4 j . 1 on X\K, where M is a positive constant, then for any g E LF,,(X, E) such that D”g = 0, there exists f E Lz,,-,(X! E) such that D”f = g and llfl12 2 C . llg112, where C only depends on w and the metric on E.

DEFINITION 1. - Let (X, w) be a Hermitian manifold and E --+ X a holomorphic vector bundle. If T, s 2 0, the set of Hermitian metrics h on E such that 0 = 0h is semi-positive on /jr,’ T*X 8 E, strictly positive at one point, is denoted by M(T: s). We say that there are enough metrics in M(r, s)

Note prksenthe par Jean-Pierre DEMAILLY.

0764-4442/98/03270143 0 AcadCmie des ScienceslElsevier, Paris 143

V. Koziarz

if M(r, s) is directed by the ordering hr 5 h2 w LF,lc(X: E, hl) c LF.,(X, E, h2) for Ic = s - 1, s

and if UhEhil(r.s) Lz,,(X, E, h) = L:,,(X, E,loc) for k = s - 1; s.

DEFINITION 2. - Let (X, w) be a complete Hermitian manifold and E a vector bundle on X. We say that (X, E) verifies A(r, s) for T: s 2 0 if H’+(X, E) is Hausdorff, and if there are enough metrics in M(r!s).

THEOREM 2. - Zf (X, E) verifies A(T: s) and X is connected, then H’~“(X, E) = 0. From Theorem 1, we deduce in particular results of [6], [lo] and slightly improve a result of [2].

Theorem 2 leads to the following two results.

THEOREM 6. - Let T : X + Y be a proper morphism of irreducible analytic spaces, with dim X = n. Suppose that T is bimeromorphic to a proper Kiihler morphism (see [5]). rf L + X is a line bundle such that L 2, 0 and ic( L) h as r-generically n - rk x -p+ 1 strictly positive relative eigenvalues, then

THEOREM 7. - Let T : X - Y be a proper morphism of irreducible analytic spaces, with dim X = n.

Suppose that T is bimeromorphic to a proper Kahler morphism. If E - X is a vector bundle of rank d such that E >,,,, 0, strictly r-generically, then

Rjn*(Kx @ E) = 0 for j > 1 and m > min (n - j + 1, d).

In the following corollary which is easily obtained from Theorem 7, the case where X is smooth, Kahler, compact, and Y is a point, corresponds to Nakano’s theorem [9].

COROLLARY 1. - Let T : X - Y be a proper morphism of irreducible analytic spaces, with dimX = n. Suppose that T is bimeromorphic to a proper Kahler morphism. If E --+ X is a Hermitian vector bundle such that E L,,, 0, strictly r-generically, then

H”(X, K.Y CL% E) = 0 ,for s > rk rr.

Zf T(X) is noncompact, the result is also true for s = rkr.

1. Deux thkorkmes gCnCraux

Dans ce paragraphe, (X, w) designe une variete analytique hermitienne de dimension n, et E ---+ X un fibre holomorphe hermitien (de rang d). Nous renvoyons a [2] pour les notions standards (en particulier pour la notion de m-(semi-}positivite’ tensorielle notee E >m 0 (E 2, 0) et les operateurs a domaines denses D”, S” ou A”). Nous admettons le resultat classique suivant.

THBORGME 0. - On suppose que (X, w) est une varie’te’ hermitienne complete. Alors D.,,(X, E) est dense, pour les normes du graphe respectives, dans DomD”, Dom S” et Dom D” n Dom 6”; (D”)* = 6” et (,“)* = D” au sens de Von Neumann; on a ((A”u,u)) = JID”n])’ + ~/S”UI]~ pour tout u E Dom A” et A” est auto-adjoint, On a en outre des decompositions orthogonales :

Lf,,(X, E) = ‘H’,‘(X, E) @ Im D” @ Im S” et Ker D” = ?P,‘(X, E) @ Im D”,

ori 7+*(X, E) = { u E L:.,(X; E) 1 A”~L = 0 >

c CF.(X, E).

144

Annulation de la cohomologie pour les fib& semi-positifs

Rappelons I’identite dite de Bochner-Kodaira-Nakano [3] (que l’on citera sous (BKN)) A” = A: + [k(E), A] + Tw, oti AL est positif, auto-adjoint et T, = [.I: [A! id’d”w]] - [d’w, (d/w)*].

Si B := [k(E), A] + T, est semi-positif sur A”” T*X @ E et si a E A”’ T*X 8 E, (a(~ est le plus petit nombre positif (ou nul), tel que [(u, p)I” 5 (a\2,(0p: /?) pour tout p E A”’ T*X @ E.

Pour le thCor&me 1 et le 92, X sera suppoke saris composante connexe compacte. On trouvera le d&ail des dCmonstrations dans [8].

THI~OR~ME 1. - Si (X, in) est compldte, K c X est compact et t) >_ 0 en bidegre’ (r, s), avec 1 . 1~ 5 M ) . ) sur X\K, oh M est une constante positive, alors, pour toute g E L:,,(X, E) telle que D”,g = 0, il existe f E Lf,,-,(X, E) telle que D”S = g et ljfj12 5 C . ((,9j12 avec C ne dkpendunt que de w et de la me’trique sur E.

De’monstration. - Si S et T sont les opkateurs g domaine dense habituels, il suffit de montrer qu’il existe C > 0 telle que, pour toute u E DomT” n DomS, l\~\\~ < C((IT*uj\’ + \ISUJ~~) (t) pour en dCduire les estimations a priori classiques. Tout d’abord, ‘W,“(X! E) = 0 car si h E W’,“(X; E), alors d’aprt% (BKN), l’(BhJ /l) dV 2 0. Or, B est semi-positif, difini-positif sur X\K, ce qui implique que k est ti support compact done nulle (voir [l]). Ainsi, d’aprks le thCor&me 0, Ker S = 1111 T. Puisque d’autre part, KerT* = (ImT)l, KerT* n Ker S = (0).

Si (t) n’est v&-ifiCe pour aucune constante C > 0, il existe une suite uk E Dom T* nDom S telle que ll~kll = 1 et T*uk --+ 0 (resp. Suk ---) 0) dans L$,-,(X: E) (resp. Lz,,+,(X, E)). Quitte B prendre une sous-suite, (u~c) converge dans L:,,(K: E) par le lemme de Rellich. Ensuite, (a I’aide du thCor?me 0

et de (BKN)), l/u(1’ 5 JK luj2dV + M2()(T*~((2 + ~ISU\I’)~‘~ pour tout u E DomT* n DornS. Vu cette inCgalitC, il est clair que (ok) admet une limite u dans Lz,,(X: E). Alors, ((u(( = 1 et T*u = Sv = 0, ce qui contredit Ker T” n Krr S = (0). El

DEFINITION 1. - Soient (X, w) une variCtC analytique hermitienne et E - X un fibrt holomorphe. Pour T, s 2 0, on note M(r; s) l’ensemble des mktriques hermitiennes h sur E telles que, lorsqu’il agit sur A\I”” T*X C?.G E, 0 = f?h est semi-positif sur X, strictement positif en un point. Nous dirons qu’il y a assez de me’triques dans M(T, R) si M(r, s) est un systhme inductif pour la relation d’ordre hl 3 h2 ( LF,,(X, E, hl) c Lz;k(XY E, h2) pour k = s - 1,s et si UheM(r,s) L:,,(X, E, h) = LF,JX, E,loc) pour k = s - 1. s.

D&INITION 2. - Soient (X, w) une variCt4 analytique hermitienne complkte et E un fibrC holomorphe sur X. Nous dirons que (X, E) vkrifie A(r: s) pour 7’: s >_ 0 si H“+(X, E) est Hausdorff, et s’il y a assez de mCtriques dans M(r, s).

TH~OR~~ME 2. - Si (X, E) ve’r$e A(r, s) et X est connexe, alors H”>“(X, E) = 0

De’monstration. - Nous prenons g nouveau les notations T et S en prkcisant la mktrique en indice. Comme H’+(X, E) est Hausdorff, pour toute h E M(r: s) le morphisme Ker Sh - H’,” (X! E) est continu et de noyau ferm6 (on utilise le complexe de Dolbeault des formes LfO,. pour rep&enter la topologie des groupes de cohomologie). Comme ce noyau contient ImTt,, ,nous obtenons aprks factorisation un morphisme W.“(X, E 3 h,) 21 Ker Sh/Im Th + H’,” (X, E) Les hypothkses sur M(T-: s) entrainent que le morphisme induit, 2 W~“(X, E, h) --+ H“,“(X, E),

hEM(F,S)

est un isomorphisme. Enfin, pour toute h E M(r, s), 0h 2 0, strictement en un point done ~‘H’+(X, E: h) = 0 (voir [l]). 0

145

V. Koziarz

2. Aplications du thCor&me 1

DEFINITION 3. - Soit (X,w) une variete analytique hermitienne. Nous dirons qu’une fonction cp E C”(X, W) est hyper q-convexe en z- E X si la somme de q valeurs propres distinctes quelconques de id’d”cp(z) p ar rapport a w est strictement positive.

X est dite hyper q-convexe s’il existe une exhaustion cp et un compact K de X tels que cp est hyper q-convexe sur X\K. En particulier, X est une variete fortement q-convexe; l’hyper q-convexite de X est Cvidemment lice au choix de w.

Dans la suite, on choisira les fonctions p, X E C”(W, R) pour que p o cp et x o cp soient constantes sur K. Les ouverts { 2 E X 1 ‘p(z) < c} sont notes X,.

THCORBME 3 (voir [6]). - Soit (X, w) une variete’ hermitienne hyper q-convexe de dimension ‘n. Supposons qu’il existe c E Iw telle que K c X, et telle que w est kiihlerienne sur X,. Si E -+ X est un $bre de rang d avec E 2, 0 sur X, alors,

H”+(X, E) = 0 pour s 2 q et m 2 min (n - s + 1, d).

Demonstration. - On pose W := eP+‘w et E, designe le fibre E muni de la metrique obtenue en multipliant sa metrique par e-X“+‘. Lorsqu’il agit sur An” T*X @ E, 0, := [ic(E,)? h] + T; >

[ic( E), x] + T; + (x’ o cp) e-p (yi + . . . + rs) @ IdE si y1 5 . . . 5 7n sont les valeurs propres de id’d”cp par rapport a w. On choisit d’abord p de sorte que W soit complete puis, si g E C,q(X, E) est D”-ferntee, X convexe croissante de man&e a compenser la torsion due a W et rendre L2 la forme g, afin d’appliquer le thtoreme 1. 0

THBORPME 4 (voir [lo]). - Soient (X, w) une varie’te’ kiihle’rienne faiblement 1-convexe de dimension n et L - X UR jibre en droites semi-positij tel qu’en dehors d’un compact K, it(L) a partout n - q + 1 valeurs propres strictement positives. Alors,

H”,“(X, L) = 0 pour s 2 q.

Demonstration. - Nous reprenons integralement une idee de [4]. I1 s’agit de considerer comme ci-dessus le fibre L, et de prendre w~,~ = id’d”(X o cp) + exp(-p o ‘p) w. Le passage cl6 est que I’on peut rendre L2 n’importe quelle g E C,ys(X, E) tout en controlant la torsion. 0

Dans le meme esprit, nous avons le theoreme qui vient, oti I’unique (et leg&e) difference avec [2] est que E est strictement m-positif hors d’un compact et non globalement.

TH~OR~ME 5. - Soient (X, w) une varie’te’ ktihle’rienne faiblement 1-convexe de dimension n et E - X un jbre’ de rang d m-semi-positiJ strictement m-positif hors d’un compact K. Alors,

H”+(X, E) = 0 pour s 2 1 et m > min (n - s + 1, d).

3. Applications du thCorGme 2

Ici, l’espace X, de dimension n, n’est pas forcement lisse. Soit K x le faisceau coherent defini par Kzy = ??*fl$ oti, ii : X --+ X est une desingularisation quelconque de X (voir [7]).

Dans [5] est defini le bime’romorphisme entre applications analytiques. On a la

PropriM 1. - Si 7r : X - Y est bimeromorphe a un morphisme kahltrien propre, il existe une modification propre f : X’ -+ X telle que r o f est kahlerien propre et X’ lisse.

Remarque 1. - Un morphisme 7r : X + Y est en particulier bimeromorphe a un morphisme kahltrien lorsque X est kahltrien ou modification propre d’un espace kahlerien.

146

Annulation de la cohomologie pour les fib& semi-positifs

Supposons momentanCment X lisse et soit WI, une metrique hermitienne sur Y. Nous dirons que E ---+ X est m-tensoriellement positif relutivement & T en 2 E X, s’il existe A, 2 0 telle que (it(E) U, U) + A, (7r*wIT @ IdE U, U) > 0 pour tout u E T,X 18 E, non nul s’ecrivant ‘1~ = Cf=, (1 ~3 sj, (<j E T,X, sj E E,) avec k < m,. Nous avons la notion correspondante de m-semi-positivite’ tensorielle relative. On note E >T,nl 0 et E >,,, 0.

En outre, si E est un fibre en droites tel que E >=,I 0 (on Ccrit sans ambiguZ E 2, 0), on dira que it(E) a p valeurs propres relatives strictement positives en 5 si pour A, >> 0, it(E) + A, TOWS- a y + rg7r valeurs propres strictement positives en 2.

Si X est singulibe (reduite), ces notions sont definies sur l’ouvert (dense) de ses points lisses Reg X. Lorsque E est dit m-semi-positif relativement B K sur X, il faut comprendre que pour tout n: E X, il existe un voisinage U, et une constante A, 2 0 tels que (it(E) U, U) + A, (~“~17 @ IdE U, U) > 0 sur Reg U, (avec u comme dans le cas lisse).

Enfin, la d&nomination c -ir-generiquement D signifiera CC en au moins un point lisse de chaque composante connexe de tout ouvert 7r-sature de X >>.

A l’aide du theoreme 2 on montre d’abord la

PROPOSITION 1. - Soit f : X --+ Y une modijcation propre entre espaces analytiques irreductibles, avec X lisse de dimension n, kiihltrienne. Si E + X est hermitien alors,

H’(X. K,Y @ f”E) N H’(Y? KI, @ E) pour j > 0.

TH~OR~ME 6. - Soit T : X - Y un morphisme propre entre espaces analytiques irreductibles 02 X est de dimension n. On suppose que T est bime’romorphe 2 un morphisme kiihlerien propre. Si L - X est unfibre’ en droites tel que L 2, 0 et it(L) a n - rg K - p + 1 valeurs propres relatives strictement positives T-generiquement, alors

R’r*(Kx @ L) = 0 pour ,j > p.

TH~OR~ME 7. - Soit T : X d Y un morphisme propre entre espaces analytiques irreductibles ou X est de dimension n. On suppose que T est bime’romorphe 13 un morphisme kiihlerien propre. Si E - X est un$bre’ de rang d tel que E >,,,, 0, strictement T-generiquement, alors

R3r,(KAx @a E) = 0 pour j > 1 et m > min (n - j + 1, d).

Les preuves de ces deux thtoremes font principalement appel au theoreme 2, a la proposition 1 et a la propriete 1.

Nous deduisons du theorttme 7 une generalisation du theoreme d’annulation de Nakano [9], ce dernier correspondant dans 1’CnoncC suivant a la situation ou X est lisse, kahlerienne compacte et Y est un point (done E Lx& 0, strictement en un point).

COROLLAIRE 1. - Soit T : X - Y un morphisme propre entre espaces analytiques irreductibles 02 X est de dimension n. On suppose que T est bimeromorphe & un morphisme ktihle’rien propre. Si E + X est un jibre’ hermitien tel que E >,;, 0, strictement K-generiquement, alors

H”(X, K-x @ E) = 0 pour s > rgr.

Si r(X) n’est pas compacte, l’annulation est egalement vraie pour s = rgr.

147

V. Koziarz

Remerciements. Je remercie J.-P. Demailly pour ses remarques et ses suggestions.

Rkf&-ences bibliograpbiques

[1] Aronszajn N., A unique continuation theorem for solutions of elliptic partial differential equations or inequalities of second order, J. Math. Pures Appl. 36 (1957) 235-249.

[2] Demailly J.-P., Estimations L2 pour l’operateur 3 d’un fibre vectoriel holomorphe semi-positif au-dessus d’une variete kahltrienne complete, Ann. Sci. Ecole Norm. Sup. 15 (1982) 457-511.

[3] Demailly J.-P., Sur I’identite de Bochner-Kodaira-Nakano en gtometrie hermitienne, Lect. Notes in Math. 1198, Springer-Verlag, 1984, pp. 88-97.

[4] Demailly J.-P., Sur les theoremes d’annulation et de tinitude de T. Ohsawa et 0. Abdelkader, Lect. Notes in Math. 1295, Springer-Verlag. 1984, pp. 48-58.

[5] Fujiki A., On the Douady space of a compact space in the category C, Nagoya,Math. J. 85 (1982) 189-21 I, [6] Grauert H., Riemenschneider 0.; Klhlersche Mannigfaltigkeiten mit hyper y-konvexem Rand, Problems in Analysis: a

Symposium in honor of S. Bochner, 1970, pp. 61-79. [7] Grauert H., Riemenschneider O., Verschwindungssltze fur analytische Kohomologiegruppen auf komplexen Raumen,

Invent. Math. 11 (1970) 263-292. [8] Koziarz V., Plongement des espaces y-Stein, These de I’UniversitC de Nancy I, 1998. [9] Nakano S., On complex analytic vector bundles, J. Math. Sot. Japan 7 (1955) l-12.

[IO] Takegoshi K., A generalization of vanishing theorems for weakly l-complete manifolds, Pub]. R.I.M.S. Kyoto Univ. 17 (1981) 311-330.

[1 1] Takegoshi K., Relative vanishing theorems in analytic spaces, Duke Math. J. 52 (1985) 273-279.

148