Theorie Des Fonctions Holomorphes de Plusieurs Variables

Thorie des fonctions holomorphes de plusieurs variables
CHEZ LE MME DITEUR
Dans la mme collection
Oprateurs pseudo-diffrentiels et thorme de Nash-Moser, par G. Alinhac. 1991, 192 pages. Gomtrie algbrique, par D. Perrin. 1995,316 pages. Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995, 164 pages. Photons et atomes. Introduction l'lectrodynamique quantique, par C. Cohen-Tannoudji, J. Dupont-Roc, G. Grynberg. 1987,422 pages. Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. DupontRoc, G. Grynberg. nouveau tirage, 1988,648 pages. Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages. lments de chimie quantique l'usage des chimistes, par J. L. Rivail. 1994, 2e dition, 456 pages. Astrophysique 528 pages.
:
mthodes physiques de l'observation, par P. Lna. 1996, 2e dition,
Thorie des fonctions holomorphes de plusieurs variables
Christine Laurent-Thibaut
Professeur l'universit Joseph Fourier (Grenoble 1)
S A V O I R S
A C T U E L S
Interditions / CNRS ditions
f DANGER I
PHOTOCOPILLAGE . TUELELIVRE
Ce logo a pour objet d'alerter le lecteur sur la menace que reprsente pour l'avenir de l'crit, tout particulirement dans le domaine universitaire, le dveloppement massif d u photocopillage >). Cette pratique qui s'est gnralise, notamment dans les tablissements d'enseignement, provoque une baisse brutale des achats de livres, au point que la possibilit mme pour les auteurs de crer des uvres nouvelles et de les faire diter correctement est aujourd'hui menace. Nous rappelons donc que la reproduction et la vente sans autorisation, ainsi que le recel, sont passibles de poursuites. Les demandes d'autorisation de photocopier doivent tre adresses l'diteur ou au Centre franais d'exploitation du droit de copie : 20, rue des Grands-Augustins,75006 Paris. Tl. : O1 44 07 47 70.
(t
O 1997, Interditions, 5, rue Laromiguire, 75241 Paris Cedex 05
et CNRS ditions, 20/22, rue Saint-Armand, 75015 Paris. Tous droits d e traduction, d'adaptation et d e reproduction par tous procds, rservs pour tous pays. Toute reproduction ou reprsentation intgrale ou partielle, par quelque procd que ce soit des pages publies dans le prsent ouvrage, faite sans l'autorisation de l'diteur, est illicite et constitue u n e contrefaon. Seules sont autorises, d ' u n e part, les reproductions strictement rserves l'usage priv d u copiste et non destines une utilisation collective, et d'autre part, les courtes citations justifies par le caractre scientifique ou d'information de l'uvre dans laquelle elles sont incorpores (art. L. 122-4. L. 122-5 et L. 335-2 du Code d e la proprit intellectuelle). Des photocopies payantes peuvent tre ralises avec l'accord de l'diteur. S'adresser au : Centre franais d'exploitation d u droit d e copie, 3, rue Hautefeuille, 75006 Paris. Tl. : O 1 43 26 95 35.
ISBN : 2-7296-0660-2 ISSN : 2-271-05501-6
Table des matires
......................... Introduction . . . . . . . . . . . . . . . . . . . . . . . . . .
Avant-propos
I
i x
x i
Proprits lmentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . .

1 Notations et dfinitions . . . . . . . . . Formule de Cauchy dans les polydisques . . 3 Thorme de l'application ouverte . . . . 4 Suites de fonctions holomorphes . . . . . 5 Applications holomorphes . . . . . . . 6 Quelques thormes d'extension holomorphe
2
. . . .
. . . 1 . . . 4 . . . 8 . . 10 . . . . . . . . . 11 . . . . . . . . . 13
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
II
Courants. structures complexes . . . . . . . . . . . . . .

1 2
21
21
3
4
6
7
Courants . . . . . . . . . . . . . . . . . Rgularisation . . . . . . . . . . . . . . . Indice de Kronecker . . . . . . . . . . . . Varits analytiques complexes . . . . . . . . Structures complexes . . . . . . . . . . . . Formes diffrentielles de type ( p .q ) . . . . . . Oprateur cohomologie de Dolbeault . . . . Espace tangent complexe au bord d u n domaine .
. . . . . .
. . . . . .
. . . . . . .
a.
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
28 38 43 46 47 49
51
III Noyau et formule de Bochner-Martinelli . Applications . . . 55

1 NoyauetformuledeBochner-Martinelli-Koppelman . Rsolubilit du 8 pour une donne support compact . 3 Rgularit du 8 . . . . . . . . . . . . . . . . . 4 Phnomne de Hartogs . . . . . . . . . . . . .
2
. . . . . . . . . .
55
. . . .
. . . . .
61 66 69
vi
Table des matires
IV Transforme de Bochner-Martinelli et extension de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73 1 Transforme de Bochner-Martineili . . . . . . . . . . . . . 73 2 Fonctions C R sur une hypersurface relle . . . . . . . . . . 77 3 Thorme de Bochner . . . . . . . . . . . . . . . . . . 79
4
Formule de Stokes pour les fonctions C R . . . . . . . . . . .
83
5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un thorme d'extension de fonctions CR . . . . . . . . . . 87
Extension de fonctions holomorphes et de fonctions CR dans les varits . . . . . . . . . . . . . . . . . . . . .

2
91
1 Cohomologie support compact et phnomne de Hartogs . . . 91 Extension de fonctions C R de classe C" . . . . . . . . . . . 94 3 FormuledeCauchy-Fantappi-LemmedeDolbeault . . . . . . 96 4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101 5 Thorme de Bochner et extension de fonctions C R dans les varits . . . . . . . . . . . . . . . . . . . . . 105
VI Domainesd'holomorphieetpseudoconvexit
. . . . . . . 109
1 Domainesdholomorphieetconvexitholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexit . . . . . . . . . . . . . . . . . . . . 129
VI1 Problme de Levi et rsolution du dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . 143
1 Rsolution du d avec estimations holdriennes dans les ouverts strictement convexes . . . . . . . . . . . . . . . . . . . 2 Approximation uniforme locale des formes d-fermes dans les domaines strictement pseudoconvexes . . . . . . . . . . . 3 Finitude de la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . . 4 Invariance de la cohomologie de Dolbeault par les extensions strictement pseudoconvexes . . . . . . . . . . . . . . . . 5 Thorme d'annulation pour la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . 6 Formule intgrale pour rsoudre le avec estimation holdrienne 144 153 155 157 161
danslesdomainesstrictementpseudoconvexes . . . . . . . . 163 7 Problme de Levi dans cc" . . . . . . . . . . . . . . . . . 170

8 Problme de Levi dans les varits analytiques complexes
. . . .
174
Table des matires
vii
VI11 Caractrisation des singularits illusoires pour les fonctions CR sur un bord strictement pseudoconvexe . . . . . . . . 189
Rduction au cas des fonctions continues . . . . . 2 Cas de la dimension 2 . . . . . . . . . . . . 3 Caractrisationcohomologiqueendimensionn 2 2 4 Caractrisationdessingularitsillusoiresfaibles . .
1
. . . . . . 189 . . . . . . 190 . . . . . . 192 . . . . . . 194
Annexe A
..........................
203
1 Varits diffrentiables . . . . . . . . . . . . . . . . . . 203 2 Partitions de lunit . . . . . . . . . . . . . . . . . . . 205 3 Espace cotangent en un point - Formes diffrentielles de degr 1 . 207 4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208 5 Algbre des formes diffrentielles . . . . . . . . . . . . . . 211 6 Intgration des formes diffrentielles . . . . . . . . . . . . 216 7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220
.......................... Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . Index des notations . . . . . . . . . . . . . . . . . . . . . Index terminologique . . . . . . . . . . . . . . . . . . . .

Annexe B
223 231
235 239 243
Avant-propos
Lorigine de cet ouvrage est un cours fondamental de 3e cycle donn lInstitut Fourier en 1994-95. Son objet est dinitier la thorie des fonctions holomorphes de plusieurs variables complexes dans C et dans les varits analytiques complexes. I1 sadresse en priorit des tudiants en DEA ou dbutant une thse. I1 suppose connus les fondements de la thorie des fonctions holomorphes dune variable complexe. Par contre, les bases de gomtrie diffrentielle et de thorie des courants ncessaires ltude de lanalyse pluricomplexe sont rappeles dans lannexeA et le chapitre II de ce volume. Nous utilisons la mthode des reprsentations intgrales couple avec la technique des bosses de Grauert. Ce point de vue a lavantage de proposer un prolongement naturel en plusieurs variables des techniques dune variable complexe et de conduire rapidement dimportants rsultats globaux tout en vitant lintroduction de trop nombreux outils nouveaux. Ayant acquis ces mthodes, prsentes ici dans le cadre de la pseudoconvexit, le lecteur pourra aborder sans trop de difficults la thorie dAndreotti-Grauert, tant dans les varits analytiques complexes que dans les varits C R (cf. [He/Le2] et [L-T/Lel). Pour les applications, laccent est mis sur les problmes globaux dextension de fonctions C R : phnomne de Hartogs-Bochner, tude des singularits illusoires pour les fonctions
CR.
La plupart des thmes traits tant classiques, puisquils font partie des fondements de lAnalyse Complexe, il est difficile dtre original. Ce travail sest donc largement inspir douvragesexistants. Les sources utilises ainsi que quelques repres historiques sont prciss la fin de chaque chapitre. La bibliographie ne se propose pas dtre exhaustive, cest pourquoi de nombreux travaux fondamentaux en relation avec le sujet trait ny sont pas inclus. Le lecteur intress par des notes historiques prcises et une bibliographie beaucoup plus complte pourra consulter les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra]. Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5 du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu, disparu prmaturment en dcembre 1996.
Avant-propos
Pour finir je voudrais remercier tous ceux qui mont aide dans la rdaction de ce livre et plus particulirement Alain Dufresnoy et Jrgen Leiterer. Cest grce leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa forme finale. Un grand merci gaiement Myriam Charles pour la saisie dun texte particulirement riche en formules mathmatiques et Arlette Guttin-Lombard pour ses conseils Tg-niques.
Introduction
Au dbut du sicle E Hartogs a mis en vidence les proprites particulires dextension des fonctions hoiomorphes de plusieurs variables complexes en exhibant un domaine de C2 qui nest pas le domaine dexistence d u n e fonction holomorphe (de tels ouverts nexistent pas dans C). La comprhension de ce phnomne est alors devenue un des principaux problmes danalyse pluricomplexe. I1 fallait trouver de bonnes caractrisations des domaines dexistence des fonctions holomorphes, appels domaines dholomorphie. Les premiers travaux sur ce sujet, dus E Hartogs [Har] en 1906 et E.E. Levi [Lev] en 1910, montrent que les domaines dholomorphie satisfont certaines proprits de convexit, que nous appellerons gnriquement pseudoconvexit. Lquivalence entre les diffrentes notions de pseudoconvexit, qui sont apparues au ! temps, a t prouve par K. Oka [Okl dans les annes 40. Les outils adapts I du ltude de la pseudoconvexit sont les fonctions plurisousharmoniques introduites indpendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les annes 30, H. Cartan et P. Thuilen [Ca/Th] ont trouv une caractrisation intrinsque globale des domaines dholomorphie en termes de convexit par rapport lalgbre des fonctions holomorphes sur le domaine. Cette convexit holomorphe est un des concepts fondamentaux de lAnalyse Complexe. La caractrisation des domaines dholomorphie en termes de pseudoconvexit, encore appele solution du problme de Levi, a t donne indpendamment par K. Oka [Ok],H. Bremmermann [Brl] et E Norguet [No] au dbut des annes 50 pour les domaines de Cn et par H. Grauert [Gr] en 1958 pour les varits analytiques complexes. Elle a ncessit la mise en uvre de la thorie des faisceaux analytiques cohrents, qui sest avre tre un outil puissant pour ltude des espaces analytiques. La solution du problme de Levi, que nous prsentons ici, suit les ides de Grauert mais sappuie sur la thorie des reprsentations integrales pour rsoudre les problmes techniques. La thorie des reprsentations intgrales en Analyse Complexe trouve son origine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi,He1,2, Ram] au dbut des annes 70. Depuis, cette thorie na cess de se dvelopper. Elle a permis de rsoudre des problmes inaccessibles par les mthodes antrieures et de retrouver, en les prcisant, les principaux rsultats de la thorie des fonctions
xii
Introduction
holomorphes de plusieurs variables obtenus par dautres mthodes. I1 sagit principalement de construire de bons oprateurs intgraux pour rsoudre lquation de Cauchy-Riemann. La rsolution de cette quation est au cur de la plupart des problmes dAnalyse Complexe. Dans le cas de la rsolution du problme de Levi, elle est la base de la construction de la fonction holomorphe qui ne se prolonge pas. Le rsultat de Hartogs pose galement le problme de lextension des fonctions holomorphes dfinies au voisinage de tout le bord ou dune partie du bord dun domaine et plus gnralement des fonctions C R (cest--diredes traces de fonctions holomorphes) dfinies sur tout ou partie du bord dun domaine dune varit analytique complexe. Une dmonstration rigoureuse du rsultat de Hartogs a t donne indpendamment par S. Bochner [Bo]et E. Martinelli [Ma21vers 1940 laide dune formule intgrale, appele aujourdhui formule de Bochner-Martinelli. Depuis cette poque, cette formule joue un rle fondamental dans ltude de lextension des fonctions C R dans Cn , mais ne permet malheureusement pas de rsoudre les problmes globaux dextension dans les varits analytiques complexes. Le lien entre le phnomne dextension de Hartogs-Bochner et la rsolution de lquation de Cauchy-Riemann avec condition de support a t remarqu par L. Ehrenpreis [Eh]en 1961. Cest un point cl de ltude de lextension des fonctions C R dans les varits. Au milieu des annes 80, G. Lupacciolu et G. Tomassini [Lu/To]ont tudi dans un cas particulier le problme de lextension dune fonction C R dfinie sur une partie du bord d u n domaine. De nombreux mathmaticiens ont contribu la rsolution de ce problme dextension au cours des dix dernires annes. Les rsultats que nous prsentons ici sont principalement dus G. Lupacciolu [Lu1,2]. Ces problmes dextension globale sont bien sr lis la rcchcrche denveloppe dholomorphie, mais galement un problme plus gomtrique. I1 sagit de la construction de chanes holomorphes de bord donn. En effet si on considre le phnomne de Hartogs en termes de graphe, le graphe de lextension holomorphe est une chane holomorphe dont le bord est la varit C R maximalement complexe dfinie par le graphe de la fonction C R donne initialement. Le livre est organis comme suit : Le chapitre I dveloppe les proprits lmentaires locales des fonctions holomorphes de plusieurs variables complexes qui se dduisent de la thorie des fonctions holomorphes d u n e variable. Dans une premire partie, le chapitre II introduit les courants. La notion dindice de Kronecker de deux courants permet dobtenir une formule de Stokes dans un cadre assez gnral. La seconde partie est consacre aux varits analytiques complexes et la dfinition des diffrentes notions lies aux structures complexes : formes diffrentielles de type ( p , q ) , oprateur et cohomologie de Dolbeault.
Dans le chapitre III, nous dmontrons la premire formule de reprsentation intgrale : la formule de Bochner-Martinelli-Koppelman. La dmonstration donne
Introduction
XII1
...
ici sappuie sur la formule de Stokes pour lindice de Kronecker. laide de la formule de Bochner-Martineili-Koppelman nous commenons ltude de lquation de Cauchy-Riemann. Le chapitre IV tudie le problme de lextension des fonctions C R dfinies sur le bord d u n domaine born de C. Le thorme dextension de Bochner est dmontr et un cas particulier dextension lorsque la fonction nest dfinie que sur une partie du bord du domaine est galement considr. Le chapitre V traite du problme de lextension des fonctions CR dfinies sur tout ou sur une partie du bord dun domaine relativement compact d u n e varit analytique complexe. Nous tudions la relation entre ces phnomnes dextension et lannulation de certains groupes de cohomologie de Dolbeault. Dans le chapitre Vi nous dfinissons les notions de domaine dholomorphie, convexit holomorphe et pseudoconvexit pour les ouverts de Cn. Nous prouvons lquivalence entre domaine dholomorphie et domaine holomorphiquement convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe. La rciproque, appele problme de Levi, est tudie au chapitre ViI. Le chapitre VI1 est consacr la rsolution du problme de Levi. La mthode sappuie sur la rsolution locale du avec estimations holdriennes et sur ltude de linvariance de la cohomologie de Dolbeault par la technique des bosses de Grauert. Loriginalit de la dmonstration donne ici est lutilisation dun rsultat d Laufer [Lau] qui permet de dduire lannulation des groupes de cohomologie - de Dolbeault des thormes de finitudes obtenus par la rsolution locale du Le chapitre se termine par la rsolution du problme de Levi dans les varits analytiques complexes et lnonc de plusieurs thormes dannulation pour la cohomologie de Dolbeault qui permettent de donner des conditions gomtriques suffisantes pour les phnomnes dextension de fonctions C R tudis dans le chapitre V.
a.
Le chapitre VI11 donne des conditions ncessaires et suffisantes pour lextension des fonctions CR dfinies sur une partie du bord d u n domaine strictement pseudoconvexe. Pour faciliter le travail du lecteur notons les faits suivants :
- Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 laborent lensemble de la thorie qui permet la rsolution du problme de Levi, cest-dire lidentit entre domaine dholomorphie et ouvert pseudoconvexe dans C et lidentit entre varit de Stein et varit possdant une fonction dexhaustion strictement plurisousharmonique dans le cas des varits. - Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du chapitre Vi1 et le chapitre VI11 sont consacrs ltude des phnomnes globaux dextension des fonctions CR.
Chapitre I
Proprits lmentaires locales des fonctions holomorphes de plusieurs variables complexes
Ce chapitre est consacr l'tude des proprits locales des fonctions holomorphes de plusieurs variables complexes qui se dduisent directement de la thorie classique des fonctions holomorphes d'une variable complexe. L'lment de base de cette tude est une formule de Cauchy dans les polydisques qui gnralise la formule de Cauchy classique. La plupart des thormes prouvs dans ce chapitre tendent au cas de plusieurs variables des rsultats bien connus pour les fonctions holomorphes en dimension un (Thorme de l'application ouverte, Principe du maximum, Thorme de Montel, Thorme d'inversion locale). Nanmoins, dans le cadre de l'tude de quelques problmes d'extension holomorphe apparat un phnomne spcifique la dimension n, n 2 2, c'est le phnomne de Hartogs dont un cas particulier est expos la fin de ce chapitre. Ce phnomne sera tudi en dtail dans le chapitre III.
1. NOTATIONS ET DFINITIONS
On note N l'ensemble des entiers naturels, I le corps des nombres rels et R C le corps des nombres complexes. Si n E N est un entier strictement positif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si z = (z1, . . . ,z,) E cc",la norme de z est Iz( = (1.~11~ . . . + -+ On dfinit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour z = ( ~ 1 , . . , z,,) E Cn, = xj iyj s i j = 1,.. . ,n. . zj
I. Proprits lmentaires locales
Les oprateurs de drivation holomorphe et antiholomorphe sont dfinis par
Si a = ( a l , .. . ,an)E P et ,8 = (pl,.. ,&) E P . on si 2 = ( 5 1 , . . . ,xn)est un point de R", pose
lV sont des multi-indices et
JaJ a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x= x " l . . ' x : " , = a 1
On crira D" la place de Dao et Dp la place de 0'0 lorsqu'il n'y aura pas de risque de confusion. Si D est un ouvert de R", l'espace vectoriel des fonctions continues sur D valeurs complexes est not c'(O) ouC(D), celui des fonctions k fois continment diffrentiables (IC E N,k > O) est not Ck(D). runion des espaces Ck(D), La IC E N,est l'espace C"(D) des fonctions indfiniment diffrentiables sur D. On vrifie aisment que f E c ' C ( D ) si et seulement si ~ a p E C ( D ) f pour tout couple (a,/?)E lV x i tel que I C I ] V 11 5 k. Si k E N,l'espace vectoriel des fonctions 0 f contenues dans C k ( D ) dont les drives Da f ,lal<IC,sont continues sur n e s t et not Ck et C ( D )dsigne l'espace des fonctions indfiniment diffrentiables " sur D dont toutes les drives sont continues sur E.
(n)
Si D CC
R" et si f
C k( D ) , k
N,on dfinit la norme C k de f sur D par
Dfinition 1.1. Soit D un ouvert de cc" . Unefonction f dfinie sur D valeurs dans C est dite holomorphe sur D si f E C1 ( D )et si f vrifie
(1.3)
8.f -(z)
azj
=O
pourtout
z E D ettoutj = 1 , . . . ,n.
Le systme d'quations aux drives partielles (1.3) s'appelle le systme de CauchyRiemann homogne.
Remarque:il est clair que si f est holomorphe, alors f est holomorphe sparment par rapport chaque variable. Plus prcisment, si t = (z1) . . . ,zn) E D est fix, posons Di = { t E C 1 (21,. . . , ~ j - l , t , ~ j + l. ,.,.z,) E D } , .
I. Notations et dfinitions
alors la fonction fj : Dj holomorphe.
+ @ dfinie part
++f (XI,. . . , z j - l , t , z j + l , .
. . ,zn) est
On note O ( D )l'ensemble des fonctions holomorphes sur l'ouvert D de Cn. Le rsultat suivant est une consquence directe de la Dfinition 1.1. Thorme 1.2. Soit D un ouvert de cc",O(D ) est une algbre sur C et si f E O(D ) satisfait f ( z ) # O pour toutz E D alors f E O(D).
Si D est un ouvert de Cn = R2" et f une fonction de classe C' dans D , notons df ( a ) sa diffrentielle en a E D ; c'est l'unique application R-linaire IR2" + R2 telle que f ( z + a ) = f ( a )+ df (a)(.) + O( 1x1) lorsque z tendvers O dans Cn.
Par un calcul simple on obtient
Une fonction f E C ' ( I l ) est donc holomorphe sur D si et seulement si
pour tout a E D. Thorme 1.3. Une fonction f E C' ( D ) satisfait le systme de Cauchy-Riemann homogne en un point a E D si et seulement si sa diffrentielle df ( u ) au point a est C-linaire. En particulier f E O ( D )si et seulement si sa diffrentielle en chaque point de D est C-linaire. Dmonstration. Soient f E C 1 ( D )et a E D. D'aprs (1.4), on peut dcomposer l'application IW-linaire df ( a )de @" dans C en
df ( a ) = Sa
+Ta
L'application Sa est clairement @-linaire et Ta est la conjugue de l'application

n -
C-linaire Ta dfinie par Ta =

j=l
$$(u)dzj(a). Comme toute application R-
linaire de @* dans C possde une dcomposition unique de ce type, d f ( u ) est @-linairesi et seulement si Ta O, c'est--dire si f satisfait le systme de CauchyRiemann homogne. O
2. FORMULE DE CAUCHY DANS LES POLYDISQUES
Un sous-ensemble P de Cn est un polydisque ouvert, (respectivement :ferm), s'il existe des disques ouverts, (respectivement: ferms), Pl, . . . ,P, de C tels que P = Pi x . . . x P,. Si < j est le centre de Pj, le point [ = (CI,. . . ,Cn) est appel centre de P et si rj est le rayon de Pj alors T = ( T I , . . . ,T,) est appel muftirayon de P. L'ensemble d0P = aPl x . . . x aP, est le bord distingude P. Remarquons que doP n'est pas gal la frontire de P ds que n > 1.On note P = P(<,T) le polydisque de centre et de multirayon T . Soit P = P ( < , T un polydisque de Cn et g E C(d0P)une fonction continue ) sur le bord distingu de P. L'intgrale de g sur oP = aP1 x . . . x aP, est dfinie Par
lop
g(C)dCl. . . dCn = inr1 . . . T ,
o ~ ( = (Cl(e),...,<,(e)) etCj() = )
Si T et T' E R" on dira que T 1,.. .,n.
sj
s+
g(C())eisl . . . eiendl ... d, rjeieJ p o u r j = 1 , . . .,n.
[0,2Kl"
<
T'
si et seulement si, rj
<
T;
pour tout j =
Le thorme suivant donne une formule de Cauchy pour les fonctions holomorphes de plusieurs variables complexes qui gnralise la formule de Cauchy classique. C'est un outil fondamental qui permet de gnraliser au cas de plusieurs variables les proprits lmentaires locales des fonctions holomorphes d u n e variable complexe. Thorme 2.1. Soient P = P(u,r) un polydisque de C" et f E C(P)une fonction holomorphe sparment par rapport chaque variable dans P , alors
Dmonstration. Montrons tout d'abord par rcurrencesur le nombre de variables que la formule (2.1) est vraie pour tout polydisque P = P(u,T),O < T < T , contenu dans P. Considrons l'assertion
(Cn) soit P un polydisque de Cn et f une fonction continue et sparment holomorphe au voisinage de P , alors la formule (2.1) est valide.
Pour n = 1, (CI)est la formule de Cauchy classique que l'on suppose connue. Supposons que, si n > 1, (Cn-l) est satisfaite. Fixons z = (21,. . . ,z,) E P et appliquons (C,- 1) relativement aux ( n- 1) dernires variables pour le polydisque P' = P x . . . x P de CY-'. On obtient alors 2 n
2. Formule de Cauchy dans les polydisques
Pour (Cz,.. . ,Cn)fixdansdoP',lafonctiong dfinieparg(<)=f (<&, . . . , , < ) est holomorphe au voisinage de Pl, on peut donc lui appliquer la formule de Cauchy. On a alors
L'assertion (C,) se dmontre en substituant (2.3) dans (2.2) et en appliquant le Thorme de Fubini aprs avoir paramtr aP1 et &PI. Si f satisfait aux hypothses du Thorme 2.1 pour le polydisque P = P(u,T), elle vrifie les hypothses de l'assertion (C,) pour tout polydisque P = P(a,T), O < T < T et la formule (2.1) est valide pour soit
P,
f (C) sur LafonctionC (cl-zi)...(c n - z n ) tant continue- P\ { z ) on peut appliquer le Thorme de Lebesgue aprs avoir paramtr &P et faire tendre T vers T pour O obtenir (2.1).
Corollaire 2.2. Soit D un ouuert de C" et f E C ( D ) une fonction holomorphe sparment par rapport chaque variable, alors f est de classec" dans - et par consD quentf E O ( D ) .Depluspourtouta E W , D"'f E O ( D )etDaflf Odsque lBl # 0. Dmonstration. Pour tout a E D, soit Pa un polydisque tel que Pa CC D. On peut alors appliquer le Thorme 2.1 f et au polydisque Pa.La fonction ( ( , z ) M f (O tant continue sur doPa x Pa et de classe C" par rapport z ,
(Ci-zi)...(Cn-Zn)
il suffit de driver sous le signe dans la formule (2.1) (ce qui est possible) aussi souvent que ncessaire pour obtenir le corollaire. O Thorme 2.3. Ingalits de Cauchy. Soient P = P(u,T) polydisque de C" et un f E O ( P ( a , r ) ) fonction holomorphe sur P. Alors pour touta E W , on a une
o 2 dsigne le multi-indice (2,2, . . . ,2) E W Dmonstration. Fixons p tel que O < p < T et appliquons la formule de Cauchy (2.1) f et au polydisque P(a,p). Aprs drivation sous le signe on obtient
o 1 dsigne le multi-indice (1,1,. . . ,1) E IV. On a alors la majoration
et on en dduit la formule (2.4)en faisant tendre p vers T .
En multipliant les deux membres de (2.6)par pa+n et en intgrant par rapport

p, on obtient
P a f ().I
pafndpi . . . d pn <
x . . . x [O,rnl
[O,l-i]
&io
,.il
dpi.. 'dpn
T"+2
x ... x [ O I T n ]
If(c(o))lpi.. 'pndei . * * d e n
[OJTI"
d o lD"f
(.)I
(ai
+ 2)
. . ( a n + 2) < ( 2 ~ ) " -
-/
If(<)ldV
p(a,.)
en utilisant le Thorme de Fubini et un passage en coordonnes polaires.
Corollaire 2.4. Pour tout (Y E W , p tel que 1 5 p 5 cc et tout ouvert R CC D , il existe uneconstantec = C(cw,p,R,D)telleque
Io fl 2 5 l " lf
cllfIILP(D) p0urtout.f E o ( D )
Lp(D).
Dmonstrarion. Fixons 6 tel que O < 6 < dist(0,bD) et soit T = 6alors pour Jn tout a E Cl,P(a,r) CC D et on aestimation (2.5).Comme de plus
llfllL1(P(a,r)) 5 C p l l f l I ~ P ( ~ ( a , r ) ) p l l f l I ~ P ( ~ ) C
le corollaire est dmontr.
Une des applications principales de la formule de Cauchy (2.1) est l'analyticit des fonctions holomorphes de plusieurs variables. Pour prouver ce rsultat nous avons besoin de la notion de convergence pour une srie indexe par IV. Soit ( u , ) , ~ w "une famille de nombres complexes, on dira que la srie
,EN("
a,
est absolument convergente si
laal = sup
,EN"
{
ffEF
laal : F
c w finie < +cc.
Sous cette condition il existe un lment unique A de C tel que
On crit alors A =
,EN"
(T
a, et A est appele somme de la srie

aEW
a,. De plus, si
est une permutation de I , srie Vla

,EN"
an(,) est convergente et sa somme est
2. Formule de Cauchy dans les polydisques
indpendante de la permutation
(T.
On a galement
OEM"
a, =
kEM
c(c
a,).
Icrl=k
Si ( f,),Epqn est une famille de fonctions continues sur un ouvert D de Cnet K un compact de D. On dira que la srie f a converge normalement sur K si la srie sup If a (2) I est convergente.
,EN"
zEK
aENn
Considrons plus particulirement le cas o f a ( 2 ) est un monme, c'est--dire = a,za = a,zyl . . . 2:". Comme dans le cas d u n e variable on a le Lemme d'Abel :
f,
(2)
Lemme 2.5. Supposons que pour E Cn, avec & # O pour tout j , la srie a,<, soit absolument convergente. Alors la srie aaza converge nor,EN"
<
malementsurlepolydisque{z 6 Cn
1 lzjl 5 I&/}.
aEW
Thorme 2.6. Soient D c Cn un ouvert et f E Q ( D ) une fonction holomorphe sur D , alors f est dveloppable en srie entire au voisinage de chaque point de D , Le. si< E D , il existe un voisinage V de< dansCn tel que, pour toutz E V ,on a
De plus la srie du second membre converge normalement vers la fonction f sur tout polydisque f e r m p C D centr en<. Dmonstration. Soit E D et P CC D un polydisque centr en <. Pour tout z E P e t < E doP
<
Le second membre converge normalement par rapport sur doP. On peut alors intgrer terme terme dans la formule de Cauchy (2.1) applique f et au polydisque P. Si z E P , on a donc
<
De plus en drivant sous le signe
dans la formule (2.1), on obtient
La deuxime assertion du thorme est une consquence du Lemme 2.5.
Corollaire 2.7. Principe du prolongement analytique. Soit D C @" un ouvert connexe. Si f E O ( D )et s'il existe a E D tel que D a f ( a ) = O pour tout Q E W , alors f ( z ) = O pour tout z E D. En particulier, s'il existe un ouvert non vide U C D tel que f (2)= O pour toutz E U alors f _= O sur D.
Dmonstration. Daprs le Thorme 2.6, lensemble
R = { z E D I D f ( z ) = Opourtouta E W }
est ouvert. Par continuit des fonctions D f , 0 est aussi ferm. Louvert D tant O connexe et R # 0,on a R = D. On dduit aisment de la Dfinition 1.1 et des Thormes 2.1 et 2.6 la caractrisation suivante des fonctions holomorphes de plusieurs variables :
Corollaire 2.8. Soient D un ouvert de Cn et f une fonction de D dans @. Les asser-
tions suivantes sont quivalentes. uf E O(D), 2) f E C( D ) et f est sparment holomorphe en z1, . . . ,zn, 3) pour tout polydisque P cc D, f vrifie la formule de Cauchy (2.i), 4) pour tout z E D, f est dveloppable en srie entire au voisinage de z.
En fait lhypothse f E C ( D )peut tre supprime dans 2). Lquivalence entre 1) et 2) ne ncessite aucune rgularit par rapport lensemble des variables, cest le thorme de Hartogs [Har].
Thorme 2.9. Soit D un ouvert de
a?,
f E O ( D )si et seulement si f est holo-
morphe sparment par rapport chaque variable.

Un tel rsultat est faux pour les fonctions de plusieurs variables relles comme le prouve le contre-exemple suivant : Soit f : R2 + R dfinie par
La fonction f est analytique relle sparment par rapport chaque variable mais eiie est non borne au voisinage de O.
3. THORME DE LAPPLICATION OUVERTE
Le thorme de lapplication ouverte et le principe du maximum qui sen dduit stendent sans difficult aux fonctions holomorphes de plusieurs variables.
Thorme 3.1. Soit D un ouvert connexe de Cn et f unefonction holomorphe sur D.
Si f nest pas constante alors lapplication f : D ouvert de D est un ouvert de Cl.
-+ @ est ouverte (i.e. limage d u n
Dmonstration. Soient a E D et U un voisinage convexe de a, contenu dans D . Daprs le principe du prolongement analytique flu $ f ( a ) car f nest
3. Thorme de lapplicationouverte
pas constante et D est connexe. Soit b E U tel que f ( b ) # f ( a ) , considrons R = {z E C I a z(b - a ) E V }etposonsg(z) = f ( u z(b - a ) )pourz E R. Louvert R est convexe et contient O et 1, de plus g(0) = !(a) # f(b) = g(1). Daprs le thorme classique en dimension 1, g(R) est un voisinage de f(u). Comme f (U ) 3 g(R) le thorme est dmontr. O
Corollaire 3.2. Principe du maximum. Soient D un ouvert connexe born de Cn et f une fonction holomorphe dans D et continue dans D. Si f nest pas constante, on a pour tout z E D
Dmonstration. La continuit de f sur D et le thorme de lapplication ouverte impliquent que f ( D ) = U est un ouvert born. Soit w E dU, alors w = lim f (z,,) o ( Z , , ) , , ~ N est une suite de points de D dont on peut extraire
,,-io0
une sous-suite qui converge vers un point de d D , car f est ouverte. Par cons-
Corollaire 3.3. Soit f une fonction holomorphe sur un ouvert connexe D de C . Si If 1 possde un maximum relatifen zo E D alors f est constante sur D. Dmonstration. Soit V un voisinage ouvert connexe de zo dans D tel que pour tout z E V , If (.)I 5 I f (.O)[. Supposons que f ne soit pas constante sur V , alors daprs le Thorme 3.1, f ( V )est un ouvert contenu dans le disque ferm de centre O et de rayon If (zo) 1, il est donc ncessairement contenu dans le disque ouvert, ce qui est absurde. Par consquent f est constante sur V et D tant connexe f est constante sur D par le principe du prolongement analytique. O Terminons ce paragraphe par une version du Lemme de Schwarz pour les fonctions holomorphes de plusieurs variables. Thorme3.4. Soitf unefonctionholomorphesurB(0,R)= { z E C I IzI < R}. On suppose que f admet lorigine comme zro dordre IC, i.e. le dveloppement de Taylor de f en O ne comporte pas de termes dordre strictement infrieur IC, et que If I estbornpar uneconstanteM s u r B ( 0 , R ) .Alors
Dmonstration. Pour z # O fix dans B(0,R)et u E C tel que lu1 < R on pose cp(u) = f ( u 6 ) . La fonction cp ainsi dfinie est holomorphe sur le disque D(0,R) de C et IqI est born par M sur ce disque. De plus cp sannule lordre k en O. On elle est holomorphe sur D(0,R) et peut dors considrer la fonction 9 ( u ) =
9,
10
si O < T < R, on a 1Q(u)1 5 si lu1 = T . D'aprs le principe du maximum u 1 appliqu q ,on a encore IQ(u)I 5 $, si l 5 T . En particulier si on choisit
T
9,
2 1x1 e t u
IzI onobtient lQ(lzl)l 5

T
$ ouencore If(.)[
5
T
5 Ml:l
. Cette
ingalit tant valable pour tout k obtientdonclf(z)l 5 M I % [ .
tel que IzI
< R, en passant la limite on

O
4. SUITES DE FONCTIONS HOLOMORPHES
Soit D un ouvert de C". On dit qu'une suite ( f J ) 3 Ec C ( D )converge unifor~ mment sur tout compact de D s'il existe une fonction f E C ( D ) telle que, pour tout compact K de D, la suite (f j ) j G N converge uniformment sur K vers f .
Nous allons dfinir une structure d'espace vectoriel topologique mtrisable sur
C( D ) pour laquelle la convergence des suites est quivalente la convergence uniforme sur tout compact. Un systme fondamental de voisinages de O pour cette topologieest donnparles ensembles V K ,= {f E C ( D ) 1 supzEKl f ( z ) I < E } , o ~ K dcrit la famille des compacts de D et E varie dans E. Comme D est runion t ; dnombrable de compacts, la topologie ainsi dfinie est mtrisable. Plus prcisment, soit
O
(Kj)jE~ une
suite exhaustive de compacts de D , i.e. D =

=
j=i
u Kj et
Kj CKj+i (avecparexempleKj
{z E D
d(z,dD)
2 +,Iz/ 5
j } ) . Pour
la topologie ci-dessus. L'espace C ( D )muni de cette topologie est complet, c'est un espace de Frchet. On munit le sous-espace vectoriel O ( D )de C ( D )de la topologie induite par celle deC(D).
Thorme4.1. O ( D ) est un sous-espacefermdeC(D)etpour touta E I lesopV
rateurs Da sont continus de O ( D ) dans lui-mme. Plus prcisment si ( f j ) j E N C O(D) converge uniformment sur tout compact de D vers une fonction f E C( D ) , alors f E O ( D ) et pour toutcu E W , la suite ( D af j ) j E N converge uniformment sur tout compact de D vers D a f .
Dmonstration. Elle est analogue la dmonstration dans le cas de la dimension 1. I1 suffit de remplacer la formule de Cauchy classique par la formule de Cauchy dans les polydisques. O
Dfinition 4.2. Un sous-ensemble S de O ( D ) est born si et seulement si pour tout compact K c D on a
5. Applications holomorphes
11
Nous donnons maintenant une caractrisation des parties compactes de O ( D ) qui s'apparente ceile des compacts des espaces vectoriels topologiques de dimension finie.
Thorme 4.3. Thorme de Montel. Un sous-ensemble S de O ( D )est compact si et seulement s'il est ferm born.
Drnonstra tion
1) Condition sufisante: supposons que S est ferm born, O ( D )tant mtrisable il suffit de montrer que de toute suite d'lments de S on peut extraire une sous-suite convergente. Soit (fv)vEN une suite d'lments de S. Puisque pour tout v E N, v E O ( D ) , dduit des ingalits de Cauchy que les drives premires f on des fv sont uniformment bornes sur tout compact de D. Le Thorme d'Ascoli permet alors de conclure.
2) Condition ncessaire: soit K un compact de D , alors l'application II . I I K de C ( D )dans B, qui f fait correspondre supzEKIf (.)I est continue. Puisque S est compact, l'ensemble {II f l l ~f , E S } est un compact de B et par consquent sup{ II f l l ~f , E S } < +m, qui prouve que S est born. De plus S tant comce pact, il est naturellement ferm. O
5. APPLICATIONS HOLOMORPHES
L'tude des applications holomorphes va nous conduire la dfinition des sous varits analytiques complexe de C" . Nous verrons au chapitre II qu'une sous varits analytiques complexe de C" est une varit analytique complexe au sens abstrait.
Dfinition 5 1 Soit D un ouvert de <c", une application f , f = (fi,. . . ,f m ) : .. D + Cm est holomorphe dans D , si les fonctions f i , . . . ,f m E O ( D ) .On note O(D,P), l'espacedesapplications holomorphesdeD dans?. Si f E O ( D , P ) et a E D , la matrice
est appelematrice jacobienne de f au pointa.

Proposition 5.2. SoientD c C? un ouvertet f = tout a E D
(fi,.
. . ,fm) O(D,Cm), E pour
(5.1)
f (a +) .
.
f ( a )+ Jf (a). + 4 4 )
lorsque t tend vers O dans C"
12
Dmonstration. D'aprsleThorme 1.3,si f E O ( D , P ) ladiffrentielie de f en , a, df ( a )est une application C-linaire de C" dans Cm dont la matrice relativement aux bases canoniques de C" et Cm est donne par J f ( a ) .Par dfinition de @ ( a ) on a donc la formule (5.1). O Thorme 5.3. Soient f : D C C" + R c Cm et g : R c Cm Ce deux applications holomorphes. Alorsg O f : D -+ Ce est une application holomorphe et pour tout a E D on a
(54
JsofW
J d f(.))JI(.).
Dmonstration. D'aprs les rsultats classiques du calcul diffrentiel, la diffrentielle de g O f au point a vrifie
(5.3) d(g O f)(a) = & ( f ( a ) ) O df ( a ) . Mais puisque f et g sont des applications holomorphes leurs diffrentielles d f ( a ) et dg( f ( a ) )sont des applications C-linaires dont les matrices relativement aux bases canoniques sont respectivement J f ( a ) et Jg(f ( a ) ) .Par consquent d(g O f)( a ) est C-linaire pour tout a E D , ce qui signifie que g O f est une application holomorphe, et la formule (5.2) rsulte de (5.3). O
Dfinition 5.4. Soient D un ouvert de Cn, f une application holomorphe de D dans C" et a un point de D. On dira que f est biholomorphe au voisinage de a s'il existe un voisinage U de a tel que f soit une bijection de U surf ( U )et que (f u) soit une application holomorphe de f ( U )sur U .
I -'
Thorme 5.5. Inversion locale. Soient U un voisinage de a E Cn et f E O(U , P ). Alors f est biholomorphe au voisinage de a si et seulement si det ( J f ( a ) )# O. Dmonstration. L'hypothse det(Jf(a)) # O implique que df ( a ) est inversible. D'aprs le thorme d'inversion locale classique f est un C1-diffomorphismelocal au voisinage de a et df -'( f (y)) = (df(y))-l pour tout y assez voisin de a. Comme df (y) est C-linaire car f est holomorphe son inverse (df (y))-' est galement C-linaire ce qui implique que f est holomorphe au voisinage de f ( a )car df -Yf (Y)) = (df(d)-'.
-'
Corollaire 5.6. Si X est un sous-ensemble de Cn et si kE{ 1,2, . . . ,n- 1}, les conditions suivantes sont quivalentes : i) Pour tout point E X , il existe une application biholomorphe f = (f1, . . . ,fn) dfinie sur un voisinage U de 5 telle que
XnU={zE
fk+l(~)="'=fn(~)=O}.
ii) Pour tout point t E X , il existe un voisinage V de E dans Cn et une applitelleque cation holomorpheg V -+ rgJ,(J) = n - k et X
nV = { z E V I g ( z ) = O}.
6. Quelques thormes d'extension holomorphe
13
iii) Pour tout point ( E X , il existe un voisinage W de 5 dans C", un ouvert R dans Ck et une application h : R -+ C" holomorphe telle que rgJh(E) = k et X n W = h(R). Drnonstrarion. il + ii) et iiil est immdiat. Prouvons maintenant iil + i). Soient V et g satisfaisant iil, notons G l'applicationlinaire cc" + dfinie par Jg(E). Puisque r g J g ( [ )= n- IC, l'application G est surjective et il existe A : C" -+ Cktelle que A @ G : Cn -+ C" dfinie par I A @ G ( z ) = (A(z),G(z)) soit bijective (on peut dfinir A comme la projection de C" sur ker G aprs identification de ker G et Ck par le choix d'une base). Posons f ( z ) = (A(z),g(z))pourz E V.Alorsdet J f ( E )= det(A@G) # 0,doncdaprs le Thorme 5.5, f est biholomorphe sur un voisinage U de ( contenu dans V. De plus par dfinition de f on a
x n U = {Z E U I fk+l(~) = . . . = fn(z) = O } .
Montrons pour terminer que iii) + ii]. Soient W et h satisfaisant iii), notons H l'application linaire Ck -+ C" dfinie par J h ( ( ) . Puisque r g J h ( ( ) = k , l'application H est injective. Si z E C" = ck x Cnpkon pose z = (z'"''), alors l'application Q> dfinie par @ ( z ) = H ( z ' ) + ( 0 , ~ " ) une bijection de C" dans est C".~osonscp(z)= h ( d ) + ( ~ , z " ) p o u r z R x C n - k . ~ o r s ~ ~ ( h - l ( ( =, Q> ) E ) ~ est inversible, donc d'aprs le Thorme 5.5, cp et biholomorphe au voisinage de (h-'(c),O). Posons f = cp-', f est dfinie et biholomorphe sur un voisinage V de ( contenu dans W et vrifie f ( h ( z ' ) )= (z',O).I1 suffit alors de poser g = p O f o O p est la projection de C" sur qui envoie z sur z". Dfinition 5.7. Soit D un ouvert de C". Un sous-ensemble X de D est une sousvarit analytique complexe de Cn si les conditions quivalentes i), ii) etiii) du Corollaire 5.6 sont remplies. Si de plus X est ferme dans D , alors X est une sous-varit ferme de D.
6 QUELQUES THORMES D'EXTENSION HOLOMORPHE .
A. Thorme d'extension de Riemann
Nous voulons gnraliser au cas de plusieurs variables le rsultat d'extension holomorphe des fonctions holomorphes bornes d'une variable complexe dans un disque point. Dans C un point peut tre considr comme l'ensemble des zros d u n e fonction holomorphe. Nous allons nous intresser ici l'extension des fonctions holomorphes bornes sur un ouvert de C" priv de l'ensemble des zros d u n nombre fini de fonctions holomorphes.
Dfinition 6 1 Soient D un ouvert de C" et A c D. On dit que A est un ensemble .. analytique si pour tout a E D, il existe un voisinage U de a et un nombre fini de
14
I . Proprits lmentaires locales
fonctions holomorphes . . . = f&) = O}.
fi,
. . . ,f p sur U telles que A n U
= {z E U
fl(z) =
Proposition 6.2. Soient D un ouvert connexe de et A C D un ensemble analy? tique alors i) A est ferm dans D , ii) si A # D, D \ A est dense dans D, iii) D \ A est connexe.
Dmonstration i) Par dfinition tout point a E D possde un voisinage U tel que A n U soit ferm car les fonctions fj j = 1, . . . ,p, sont continues. Par consquent A est ferm dans D.
O
ii) Raisonnons par labsurde. Supposons que B = A est non vide. On va prouver que B est ferm dans D et comme B est ouvert, non vide et D connexe on aura A = D. Soient a E B, un voisinage ouvert connexe de a dans D et fi, . . . ,fp des U lmentsdeO(U)telsqueAnU= { Z E U I fl(z)=...= f,(z) =O}.Chaque fonction fj ,j = 1, . . . ,p sannule sur louvert B n U ; U tant connexe, daprs le principe du prolongement analytique, chaque fj j = 1, . . . ,p, est identiquement nulle sur U et donc U c A . De plus U tant ouvert, U CA= B et puisque a E U , onaaE BetdoncB=B.
O
\ A # 0 et montrons tout dabord : (*) tout point a E D a un voisinage connexe U tel que U \ A est connexe.
iii) Supposons que D Fixons a E D. Soit U un voisinage convexe de a sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que U n A = { z E U I f l ( z ) = . .. = f,(z) = O}. Soient ~ 0 ~ x 1 \ A et V = {A E C I AZO (1 - A)x1 E U } ; V est E U une partie convexe de C car U est convexe et il existe j E (1, . . . ,p} tel que la fonction gj(A) = fj(Ax0 (1 - A)zl)ne soit pas identiquement nulle sur V et quen particulier g j ( 0 ) # O. La fonction g j tant holomorphe, lensemble de ses zros A est discret dans V .Donc V \ A est connexe. Mais A contient lensemble {A E C I (Ax0 (1 - A)x1) E A n U } .Supposons que fj(x1) # O, alors O et 1 sont dans V \ A, qui est connexe, et par consquent il existe un arc yx : [0,1]I+ C joignant O 1 dans V \ A. Si fj ( X I )= O, alors 1 E A, mais puisque A est discret il existe E > O tel que le segment [illE] n A = { 1). On construit alors un chemin y joignant O 1 contenu dans (V \ A) U { 1) en joignant O 1 E par un arc y1 : [O,;] + V \ A puis 1 E 1 par72 : [;,il -+ (V \ A) {1} avec y 2 ( t ) = - 2 ~ t 1 2 ~Lapplication y : t I+ y(t)zo (1 - y(t))xl est alors un . arc joignant xo x1 dans U \ A et donc U \ A est connexe.
+ +
Montrons maintenant que (*) implique iii). Raisonnons par labsurde. Supposons que D \ A = Ui Uz o les U j ,j = 1,2,sont des ouverts non vides disjoints.
15
D'aprs ii) D = D \ A = 2. Comme D est connexe n 2 # 0. Soit , 1 a E 1 n u et U un voisinage de a tel que U \ A soit connexe (il en existe d'aprs 2 (*)).Alors U \ A = (U n U1) U ( ( U n U2).L'ensemble U \ A tant connexe et A ferm, l'un des (U n U j ) ,j = 1,2 est vide, par exemple (U n U1) = 0, ce qui est O impossible puisque U est un voisinage de a E u1. Corollaire 6.3. SoientD un ouvert connexedep et f etg desfonctions holomorphes sur D. Si f et g concident sur une partie S de D pour laquelle il existe un ouvert connexe V de D tel que V \ S ne soit pas connexe, alors f etg concident sur D.
Dmonstration. Soit A l'ensemble des zros de f - g dans D . Supposons que A soit distinct de D . D'aprs la Proposition 6.2, V \ A est connexe et V \ A est dense dans V donc dans V \ S . Par consquent V \ S doit tre connexe ce qui contredit O l'hypothse. On a donc A = D.
Exemple: si S est une hypersurface relle de D , c'est--dire S = f - l ( O ) avec V f # O sur S et f E C'(D,R), par exemple, S satisfait la condition du Corollaire 6.3. En effet D \ S = {x E D I f (x)> O} {x E D I f (x)< O}.
Thorme 6.4. Thorme de Riemann. Soient D un ouvert de Cn et A un ensemble analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que tout pointa E A possde un voisinage U dans D tel que f (U\A soit borne. Alors il existe une unique fonction F sur D tellequeFID\A = f .
Dmonstration. L'unicit est une consquence immdiate du principe du prolongement analytique.

Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est borne et holomorphe dans le disque point { z E C I O < IzI < R } , alors f se prolonge holomorphiquement au disque { z E @. I 1x1 < R } , car en dimension 1 les ensembles analytiques sont discrets. Considrons le dveloppement de Laurent de f sur le disque point { z E C I O < (21 < R }
< O, aw -+ O quand T + O car f est born et puisque a, est indpendant d e r , a,z". a , = O. On a donc le rsultat en posant F ( z ) =
Si v
,>O
Passons au cas gnral. Pour a E A, soit V un voisinage connexe de a tel que f IV\ A soit born et sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que h = f i $ O et aprs un ventuel changement de coordonnes affine de Cn que a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel
16
que h ( 0 , . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , . . ,zn-l). Soit E . tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considre la fonction
>0
Remarquons que pour Iz'I I E et I1 = 6, le point (z',t) E V \ A et que g est t holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fix avec Iz'I < E , la fonction t +-+ f ( z ' , t ) possde une extension holomorphe au disque { t E C I It1 < 6). En effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un nombre fini de zros sur { z , E C I Iz,I < S} et f tant borne au voisinage de ces zros, il suffit d'appliquer le cas n = 1.Grce la formule de Cauchy en une variableonag(z) = f ( z ) s i z E V\A,lz'l < E, I z , I < 6.Lafonctionfadmetdonc une extension holomorphe au voisinage de chaque point de A et grce l'unicit le O thorme est dmontr.
B. Thorme de Rad0
.. Thorme 6 5 Thorme de Rado. Soit f une fonction continue sur un ouvert D de C . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D. " Dmonstration. La fonction f tant continue, il suffit, d'aprs le Corollaire 2.8, de prouver que f est sparment holomorphe. De plus la notion d'holomorphie tant locale, il suffit de montrer le thorme pour une fonction d u n e variable sur le disque unit A de @. Supposons que f est une fonction continue sur et que f est holomorphe sur U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est de classe C" dans A, ce qui nous donne aisment le rsultat cherch. En effet, est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ouvert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe dans A tout entier. Lemme 6.6. Si g est une fonction continue sur et holomorphe sur U , pour tout z E uj 19(z)I I SupCEaanau b(C) I. Dmonstration. Considrons pour n E M*,fix, la fonction g n ( z ) f ( z ) . C'est une fonction holomorphe sur U ,donc d'aprs le principe du maximum
pour tout z E U , car f s'annule sur A n dU. En prenant la racine nime deux des membres de la dernire ingalit et en faisant tendre n vers l'infini on obtient le O rsultat.
17
Lemme 6.7. L'ouvert U est dense dans A. Dmonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans A. I1 existe dors a E A n U et une suite ( a u ) v E ~ points de A \ qui converge de vers a. Considrons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holomorphes sur U et continues dans .De plus, grce au Lemme 6.6, si z E U et si v est assez grand
'
1 2 < CEaAnau IC - avl - d ( a , d A )

sup
~ ~
Mais comme a E ,la suite (=),,!gq1 U , d'o la contradiction.
ne peut pas tre uniformment borne sur

O
Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par consquent f est de classec" sur A. Dmonstration. D'aprs le Thorme de Stone-WeierstraR, toute fonction continue f sur d A est limite uniforme sur d A de polynmes trigonomtriques :
Pn
n+m
lim Q n ( 0 ) o
Qn =
k=- P n
ck,neiks
Pn
Alors Re Q n ( 0 ) =
k=O
ak,n
cos k0
+ bk,,
sin k0 avec ak,n,bk,n E R et si on pose
Pn
Pn(z)=
Re( f
-
(ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et

k=O
P,) converge uniformment vers sur A.
Soit E
> O, fix,alors il existe IC0 tel que si IC 2 ko

lepk-fl 5 eE et
lef-"k
I -< eE
sur dA. Les fonctions ef-Pk et ePk-f tant continues sur V et holomorphe sur U , on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko lePk-fl
5 eE et
lef-PkI
- eE <
Par consquent 1 Re(Pk - f ) l 5 E sur et puisque est dense dans A, sur I Re(Pk - f )I est major par E sur A car f et les P k sont continues sur A. On a donc prouv que Re f est limite uniforme sur A des fonctions Re P qui k sont harmoniques. Le Thorme de Harnack implique alors que Re f est harmonique sur A. En remplaant f par if on montrerait de mme que Im f est harmonique sur A. La fonction f est donc harmonique sur A et en particulier de classe
u.
C".
18
C. Phnomne de Hartogs
Dans ce paragraphe nous donnons un cas particulier du phnomne de Hartogs dans @" ,n 2 2. Le cas gnral du phnomne de Hartogs dans un ouvert de @" , n 2 2, sera tudi en dtail au chapitre IV Thorme6.9.SoientD unouvertconnexede@", et& = {w E @ I T < ll < R } , w O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un point a E D tel que f se prolonge holomorphiquement un voisinage de { u } x A, A = { w E @ I /w < R } .Alors f se prolonge holomorphiquement D x A . I Dmonstration. Notons (z,w) les points de D x Q . Remarquons que sil'extension F de f D x A existe, pour z E D et p E]T,R [
par la formule de Cauchy en une variable. Pour tout p , tel que T
< p < R, considrons la fonction
w Elle est continue sur D x { w E @ I 1I O tel que f ( z , w ) s'tend en une fonction holomorphe, que nous noterons encore f ( z , w ) , < T O } . Choisissons p tel que T < p < T O alors l'ouvert {Iz - al < E , I w I f (z,w) = f f ( z , w ) si Iz - al < E et II < p , d'aprs la formule de Cauchy en w une variable. L'ouvert D x {w E @ 1 T < II < p } tant connexe, on peut appliw quer le principe du prolongement analytique f et ff et donc f et f p concident sur D x {w E @ I T < II < p } . Par consquent F dfinie par F ( z , w ) = f (z,w) w sur D x Q et par F ( Z , W ) = f p ( z , w ) sur D x {w E c I I W / < p } est l'extension cherche. O
Exemples 1) Soient D un ouvert de @" ,n 2 2, et u un point de D , toute fonction holomorphe sur D \ { u } s'tend en une fonction holomorphe sur D . 2 ) Soient K un compact de @",n 2 2, et f une fonction holomorphe dans @" \ K alors f admet une extension holomorphe C" tout entier. 3) Soient P le polydisque {(zi,. . . ,zn) E @" I li < r,l 5 i 5 n } et Q = zl {(XI,. . . ,zn) E P I 1i < f , l 5 z 5 n - 1 ou Iz, zl I 2 f } , n 2 2. Toute fonction holomorphe sur Q s'tend en une fonction holomorphe sur P. Ces rsultats sont faux si n = 1,il suffit, par exemple, de considrer la fonction
19
Corollaire 6.10. a) Soit f une fonction holomorphe sur un ouvert D de @" , n 2 2. L'ensemble des zros de f ne contient pas de points isols. b) Si f est une fonction holomorphe dans @" , n 2 2, l'ensemble des zros de f n'est pas born. Dmonstration. On raisonne par l'absurde et on applique la fonction tions dcrites dans les exemples 1) et 2).
$ les situaO
Commentaires.L'origine de la thorie locale des fonctions holomorphes de plusieurs variables se trouve dans les travaux de K. Weierstrass,H. Poincar et E! Cousin, qui ont tudi les fonctions dans les domaines produits de C" la fin du sicle dernier. En 1906, Hartogs [Harl a dcouvert des domaines de C2 pour lesquels toute fonction holomorphe s'tend holomorphiquement un domaine plus grand, ce qui ne se produit jamais en une variable.
Les rsultats que nous venons d'exposer sont trs classiques. Ils sont donns dans la plupart des volumes relatifs lu thorie des fonctions de plusieurs variables complexes. Le lecteur intress pourra consulter les livres suivants : [HO2], [Krl, [Nall, [Ra]. Le Thorme de Hartogs sur l'analyticit spare est dmontr dans [HO21 (Th. 2.2.8).
Chapitre II
Courants, structures complexes
Ce chapitre introduit deux notions : lune de nature diffrentiable, la notion de courant, et lautre de nature analytique, la notion de varit analytique complexe et les structures complexes associes, que nous utiliserons abondamment dans la suite de ce volume. Nous dfinissons tout dabord les courants, qui sont lquivalent pour les formes diffrentielles des distributions pour les fonctions, puis nous nous intressons au problme de la rgularisation des courants dfinis sur une varit diffrentiable de classe Ce problme, qui a une solution simple dans le cas de IR grce la convolution, ncessite Iintroduction de noyaux ayant des proprits voisines de celles des noyaux de convolution. Nous tudions gaiement lindice de Kronecker de deux courants qui est la gnralisation de laccouplement dun courant et dune forme diffrentielle, ce qui nous permet de prouver une formule de Stokes assez gnrale qui sera utilise dans les chapitres III et IV. Ensuite nous introduisons la notion de varit analytique complexe et nous dcrivons les structures complexes naturelles qui apparaissent sur lespace tangent de telles varits, ce qui nous conduit dfinir la notion de forme diffrentielle de type (p, 4 ) . loprateur ainsi que le complexe de Dolbeault et les groupes de cohomologie associs. Les phnomnes dextension holomorphe que nous tudierons au chapitre V sont lis lannulation de certains de ces groupes de cohomologie. Des thormes dannulation seront donns au chapitre VIL Nous terminons par la dfinition de lespace tangent complexe au bord dun domaine dune varit analytique complexe qui interviendra dans la dfinition des fonctions C R (chap. IV) et dans la dfinition de la pseudoconvexit (chap. VII).
c.
1. COURANTS
On dsigne par X une varit diffrentiable de classe Cm, de dimension n, orientable et oriente et on note V ( X )lespace vectoriel des formes diffrentielles de classe C, de degrp, O 5 p 5 n, support compact dans X. Nous aiions dfinir une topologie localement convexe sur D P ( X ) ,puis nous tudierons son dual.
22
II. Courants,structure complexe
A. Topologie de D p ( x )
Supposons tout dabord que X est un ouvert de R" et notons &(X)l'espace vectoriel des fonctions de classe C" sur X . Si K est un compact de X et a E W , on pose, pour f E &(X)
Les p ~ , sont des semi-normes sur E ( X ) .Considrons la topologie de ( X ) dfi, nie par ces semi-normes. Un systme fondamental de voisinages de zro pour cette topologie est donn par les ensembles
VK,m,E =
{f E E(X) I va,lal I m , ~ ~ , a<( Ef) .)
Puisque X est un ouvert de R",il possde une suite exhaustive de compacts ( K p ) p et la famille (VK,,,,~,,)~,~~N,~~N. E~ forme une base dnombrable de voisinage de O. La topologie que nous avons dfinie est donc mtrisable. On vrifie aisment qu'une suite d'lments de E(X) converge vers O pour cette topologie si elle converge uniformment vers O sur tout compact de X ainsi que toutes ses drives. Muni de cette topologie & ( X )est un espace de Frchet (espace vectoriel topologique localement convexe, mtrisable et complet). Si cp est une forme diffrentielle de classe C", de degrp dans X, cp s'crit
cp=
il <az<...<i,
cprdxi
IIl=p
o c p ~E E ( X ) e t s i I = ( i l , . . . , E (1,...,n } P , d x ~= d z i , A . . . A d x i p . O n ip) pose alors pour K compact de X et a E W

PK,,(cp) = sup{pK,,(cpI),I = ( i l , . . . ,iP) E
(1,. . . , n } P , i 1
< 22 < . ' . < ip}.
Les semi-normes fi,,a, K compact de X , a E W , dfinissent une topologie d'espace de Frchet sur l'espace vectoriel &p(X)des formes diffrentielles de classe C" et de degr p sur X. Si Y est un autre ouvert de R" et f un diffomorphisme de classe C" de X sur Y ,l'application f* : E P ( Y ) -4P ( X )
cp
est un homomorphisme linaire.
f*cp
Considrons maintenant le cas o X est une varit. Soit A un atlas de X. On dfinit la topologie de EP(X) par les semi-normesju,K,, dfinies pour U domaine de la carte (U,h) E A, K compact de U et a E W par
au,K,a(cp>= P K , a ( ( h - l ) * c p l u ) pourcp E
E(X).
Cette topologie est indpendante du choix de l'atlas A, c'est la moins fine qui rende continueles applications ( k - l ) * : E ( X ) -+ E ( k ( V ) )pourtoutecarte (V,k) X. de Puisque X est dnombrable l'infini, on peut supposer que l'atias A est form d u n
I . Courants
23
nombre dnombrable de cartes et donc la topologie que nous venons de dfinir est mtrisable. De plus on vrifie aisment que EP(X)muni de cette topologie est un espace de Frchet. le Si K est un compact de X, on note Vg(X) sous-espace vectoriel de E p ( X ) form des formes diffrentielles de classe Cw, de degrp, support dans K . Cest un ferm de EP (X) et donc si on le munit de la topologie induite par ceiie de P ( X ) on obtient un espace de Frchet. On met alors sur VP(X) = U 2 (X)la topologie ) : despace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions Vg(X)+ V p ( X ) , K compact de X .
K
Remarques: Une suite de formes diffrentielles ( c p j ) j G w c DP(X) converge vers cp E vp(x) pour la topologie que nous venons de dfinir si et seulement si 1) les supports des formes cpj sont tous contenus dans un mme compact K de X. 2) ( c p j ) j G w convergevers cp d a n s V g ( X ) .
B. Courants
Dfinition 1.1. On appelle courant de dimensionp sur X touteforme linaire contin u e s u r V P ( X ) On noteDL(X) lensembledes courantsdedimensionp s u r X , cest . X). un @-espace vectoriel, le dual topologique de VP(
Soit T E Vp( ) , T est une forme linaire sur VP (X) donc pour toutes formes X pi. p2 E VP(X) on a
T(cpl+ 9 2 ) = T(cp1)+ T(cp2)

et pour tous X E @ et cp E VP(X)
T(Xcp)= XT(cp).
T est continue sur DP (X), qui signifie que pour tout compact K de X, TI ( D o K ) ( x ) ce
est continue. Cest galement quivalent lassertion suivante : Pour toute suite ( c p 3 ) 3 E ~dlments de P ( X ) qui converge vers O, la suite T(cpj)converge vers O dans @. Dans toute la suite on crira ( T ,cp) la place de T (cp).
Exemples de courants 1) La masse de Dirac 6,, IC E X, dfinie par &,(y) = cp(x) si cp E v o ( X ) , est un courant de dimension O. 2) Si w est une forme diffrentielle localement sommable de degr q sur X, elle dfinit un courant T, de dimension n - q par
(Tu,) = y
w A p s i cp E
DnPq(X).
24
Il. Courants, structure complexe
Dans cette identification, on utilise de faon essentielle que X est oriente. 3) Si Y est une sous-varit ferme oriente de classe C de X de dimensionp, de elle dfinit un courant [ Y ] dimensionp sur X par
o i est linjection Y
L)
X . Le courant [ Y ] sappelle courant dintgration sur Y .
Si K est un compact de X et k E N un entier, on note ( C k ) P ( X )lespace des formes diffrentielles de classe C k , de degr p , support dans K . On le munit de la topologie dfinie par les semi-normes I ~ K , ~ , I < Y I5 k. On dfinit (Cc)P(X) comme la runion, pour K compact de X , des (C&).( X ) , cest lespace des formes diffrentielles de classe Ck, degr p , support compact dans X . On le munit de de la topologie despace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions
(CK)(X) (cc)p(x). Considrons linclusion D p ( x ) ~ ) ( C c ) p ( X ) , une application continue dimacest ge dense. On note (Cc)L(X) dual topologique de (C,k)P(X), un sous-espace le cest vectoriel de D L ( X ) .Ses lments sont appels courants dordre k, de dimensionp surX.
Exemple: Si Y est une sous-varit ferme oriente de classe C 1 de X , le courant dintgration sur Y est un courant dordre nul.
C. Support dun courant
Nous allons voir que de la connaissance locale d u n courant, on peut dduire une connaissance globale de ce courant par recollement.
Si R est un ouvert de X et si T E D ; ( X ) , on peut dfinir TI, (on devrait dire TIDp(,)) (Tl,,cp) = (T,?) pour toute cp E Dp(R),o (p E D p ( X )est dfinie par par? = cpsurRetG = OsurX\R.
Proposition 1.2. Soient(R,),EI un recouurementouuertdeX etpour touti E I , des courantsT, E VP(R,) telsqueT,I,,nR, = TJl,,n,, p our tout (i,j). Alors il existe ununiquecourantT E V k ( X )telqueTl,? = T, pourtouti E I .
Dmonstration. Considrons une partition de lunit, ( c y i ) i localement finie su~ bordonne au recouvrement ( R i ) i E ~ . cp E DP(X),cp = Si aicp et la somme
iEI
du second membre na quun nombre fini de termes non nuls. Si T existe, il doit vrifier pour cp E P ( X )
iEI
car le support de ai est contenu dans Ri.
1 . Courants
25
Rciproquement cette formule dfinit une forme linaire sur V p ( X )et elle est continue. En effet, soit ( ( P , ) , ~ N une suite d'lments de V * ( X ) , converge vers qui O, il existe alors un compact K tel que supp 'p, c K pour tout J E Di et pour tout z E I , la suite (cY,(P,),~N convergevers O dans (C&suppa,)p(X). Donc T,(cr,cp,) converge vers O et comme sur K seul un nombre fini de az'p,sont non nulles pour T,(a,'p,) tend vers zero quand J tend vers l'infini. La forchaque J , T('p,) = mule (1.1) dfinit donc bien un courant T de dimension p sur X . Vrifions que TIot = T,. Pour cela soit 'p E V(R,),
( T z , ~ )c(Tz>ak(P) =
kI
Corollaire 1.3. Si T est un courant de dimension p sur X , il existe un plus grand ouvert R contenu dans X tel que T = O.
Dfinition 1.4. SiT 'D;(X),on appellesupport d e T le complmentaire du plus grand ouvert sur lequel T est identiquement nul.
Exemple :Si Y est une sous-varit ferme oriente de classe C" de X , le support du courant [ Y ] Y . est Remarque: Notons que si T E Vb(X) un courant support compact on peut est donner un sens (T,$)pour toute forme diffrentielle 1c, de classe C sur X et de " degr p . En effet il suffit de considrer une fonction x de classe C" sur X support compact telle que x soit gale 1 sur un voisinage du support de T et de poser (T,$)= (T,XQ). criture locale d'un courant Soient (U,h)une carte de X et Considrons l'expression
(XI,
. . . ,xn) les coordonnes locales associes.
IIl=p
o TI est un courant de dimension n sur U et, si I = (il, . . . ,ip) E { 1, . . . , n } P , on a pos d x I = dxi, A . . . A dxip.Elle dfinit un courant de dimension ( n - p ) sur U , de la manire suivante: si 'p dans VD"-p(U) s'crit 'p = 'pJdzJ, on
IJI=n-p
pose
(T,P)=
IIl=p
E(I,CI)(Tr,'pC&i A . . . A dx,)
26
II. Courants, structure complexe

< .
si I = ( i l , .. . , i p ) ,CI = ( j 1 , . . . ,jnPp) tels que { i l , . . . , z p , j l , . . . , j n - p } = sont { 1,. . . ,n} et &(I,CI) la signature de la permutation qui envoie (1, . . . ,n) sur est ( i l , . . , i p , j l , . , j n - p ) . Rciproquement si T est un courant sur X , le courant TI peut-tre reprsent par une expression de la forme (1.2). En effet si on pose, pour I = (il, . . . ,ip),
(T~,cpdzl . . . A d z n ) = &(I,CI)(T,cpdqI) A
o cp est une fonction C support compact dans U , on dfinit des courants de dimension n,TI, laide desquels T est reprsent par lexpression (1.2).
Dfinition 1.5. Si T est un courant de dimension p sur une varit diffrentiable de dimension n, le nombre ( n - p ) est appel degr du courant T . On note Dq(X) lensemble des courants de degr q sur X . Nous venons de prouver quun courant de degr q sur X scrit localement comme une forme diffrentielle de degr q dont les coefficients sont des courants de degr O. Exemple ; Dans IR,les distributions sont les courants de degr n, ils sidentifient naturellement aux courants de degr O.
D. Oprations sur les courants
Nous allons tendre aux courants les oprations classiques existant sur les formes diffrentielles et dfinir de nouvelles oprations.
Produit extrieur par une forme diffrentielle de classe C
5 Soient T E DP(X) et a E &Q(X),O p+q 5 n, on dfinit le produit extrieur

T A Qpar
(T A (Y,(P)= (T,a A cp), pour toute cp E D n - p - q ( X ) ,

cest un courant de degr p q sur X . Si T = T, est le courant dfini par une forme diffrentielle de classe C de degr p alors
Tu A
= T U A a = (-l)pqTaAu.
OnposealorssiT E D p ( X ) e t a E D q ( X ) ,
(Y
AT = (-l)pqTA
(Y.
Si T est un courant dordre IC, on dfinit de manire analogue le produit extrieur par une forme diffrentielle de classe Ck. Bord et diffrentielle dun courant Soit T E Dp(X),on dfinit le bord bT du courant T par
(bT,cp)= (T,dp), pourtoute cp
DDn-p-l(X),
I. Courants
27
cest un courant de degrp 1 sur X. La diffrentielle d T du courant T E DP(X) est alors dfinie par la relation
d T = (-l)-bT.
Exemples I) Soit D CC X un ouvert relativement compact dans X bord de classe C1. On note [Dl le courant de degr O &fini par
alors daprs la formule de Stokes on a b[D]= [bD]. 2) Soit w E EP(X),calculons dTw.Pour p E Dn-P-(X) on a
(dTw,p) = (-l)-(bT,
or
p)
= (-1)-(Tw,dp)
p
= (-l)p-l
w A dp
d(w A 9) = dw A
donc
+ ( - 1 ) ~A dp
(a,, = p)
d u A p -
s,
d(w A
pl.
Mais puisque w A p est une forme support compact, daprs la formule de Stokes, on a d(w A p) = O et donc dTw = Tdw.
sx
Remarque:SiT E DP(X), d ( d T ) = O. Image directe dun courant par un morphisme propre Soient X et Y deux varits diffrentiables de classe C orientes et f une application C de X dans Y . On dit que f est propre si et seulement si pour tout compact K de Y ,f -(IT) est un compact de X . Si T E D p ( X ) ,on appelle image directe de T par lapplication propre f le courant f+Tdfini par
(T,fcp), pourtoute p E D(Y) (cette dfinition a un sens car supp f *p c f (supp p) est compact lorsque f est propre). Le courant f +Test un courant de dimension p sur Y .On dduit de la dfinition de loprateur f+ et de la Proposition 5.4 ii) de lannexe A que si Tappartient
(f,T,
p) =
q x )
f,dT = df+T.
Image rciproque dun courant par une projection Soient Y et 2 deux varits diffrentiables de classe orientes et f la projection de X = Y x 2 sur 2.Si p E D(Y x Z ) ,on dfinit lintgrale p comme la forme diffrentielle sur 2 vrifiant pour toute 1c, E P ( 2 )
sy
28
Si T = T, est le courant dfini par une forme diffrentielle cp de classe C support compact dans X , le courant f,T, est le courant dfini par la forme diffrentielle $ ( z ) = cp, qui est de classe C support compact dans Z . (Cela rsulte de la dfinition de f+ et du Thorme de Fubini). Soit T E DP(Z),on dfinit limage rciproque du courant T par la projection f par
sy
( f * ~ , c p = (T,~,T,), ) pour toute cp E ~ ~( m l ~ ~ cest un courant de degr p sur X . I1 est clair que si T = T, est le courant dfini par une forme diffrentielle de classe C sur Y ,f*Tw= Tf.,, o f * w est limage rciproque de la forme diffrentielle w .
2. RGULARISATION
Soit X une varit diffrentiable de classe C, de dimension n, oriente. On

n
note D ( X ) = @ Dp(X), lespace vectoriel des courants sur X , cest le dual

p=o
topologique de lespace vectoriel D * ( X )des formes diffrentielles de classe C support compact dans X . On munit traditionnellement D * ( X )de deux topologies : 1) la topologie faible, cest--dire la topologie de la convergence simple sur P ( X ); plus prcisment une famille ( T E ) E E ~D*(X) converge faiblement c + vers T E D ( X ) ,quand E tend vers O, si pour toute cp E D o X ) (
2) la topologie forte, cest--dire la topologie de la convergence uniforme sur les parties bornes de D ( X ) . Rappelons quune partie B de D * ( X )est borne si les lments cp de B sont tous support dans un mme compact K et si pour tout Q E i et tout domaine de carte U d u n atlas A, sup { I j u , ~ , ~ ( c p +cc o les T < )}
VEB
I j u , ~ , ~ les semi-normes dfinies au l.A. sont

On remarque facilement que la topologie forte est plus fine que la topologie faible.
n
Lobjet de cette section est de prouver que & ( X ) = @ & P ( X )est dense dans
p=o
V * ( X )muni des topologies faibles et fortes et de donner un moyen de construction de familles de formes diffrentielles de classe C qui approchent un courant
donn pour ces topologies. On appelle distribution sur X un courant de degr O sur X .
A. Rgularisation des distributionsdans R
On considre une fonction 8 positive de classe C support compact au voisinage de O dans IRn et vrifiant 8(z)dz = 1.On peut prendre par exemple la
h,,
2. Rgularisation
29
fonction dfinie par

(z) = ce1-IIzI12
-1
e(x) = O
pour 1x1 5 1 11 pourllzll
la constante c tant choisie de telle sorte que ( z ) d z = 1.Pour E > O, fix,on pose e&) = &e( : et ~ , ( x , y ) ) = - y) pour tout x , y E R". Si u est une fonction continue sur Rn, on dfinit les rgularises u, de u par
e&
s ,
21
La proposition et le corollaire suivants qui sont classiques seront dmontrs dans un cadre plus gnrai au paragraphe B. Proposition 2.1. Si u E Vo(Rn) une fonction de classe C support compact est " dans R", la famille (u,),~,+ des rgularises de u converge vers u dans Vo(R") lorsque E tend vers O. De plus il y a quiconvergence sur les borns de V o R" ) . ( Dfinition 2.2. Soit T E V"(Rn) une distribution sur R", on dfinit la famille (TE)EE~+ des rgularises de T de la manire suivante: pour toute cp E Vo(Rn) on pose (T,,cpdxl A ' . . A dx,) = (T,cp,dxl A . . . A dx,)
ocpE(z) =
J,"
KE(X,Y)(P(Y)dY.
Corollaire 2.3. La famille des rgularises (TE),,+de la distribution T est une famille de fonctions de classe C" sur R" qui convergefortement et faiblement vers T quand E tend vers O. Pour des complments sur la rgularisation dans I" le lecteur pourra consulter R [Sc,chap. 61. Exhibons les principales proprits de la fonction K , dfinie sur R" x Rn : 1)K , est une fonction de classe C", 2) K , est support dans une bande d'ordre E contenant la diagonale de R" x
IR"
9
3) . R K,(z,?l)dy = JRn K , ( z , y ) d z = 19 /*
4) J , R
Ce sont ces proprits qui sont les cls de la Proposition 2.1. et du Corollaire 2.3.
B. Rgularisation des distributions dans une varit
(E(-l)lal+lE, y ) d y + 1K , ( z
= Opourtouta E W .
Soit X une varit diffrentiable de classe C", oriente de dimension n. Une varit n'tant pas, en gnral, munie d u n e loi de groupe, nous ne pouvons plus utiliser la convolution pour rgulariser, contrairement ce que nous avons fait au paragraphe A. L'ide est d'utiliser des noyaux ( K E ) E E R +seront des fonctions qui
30
dfinies sur X x X et qui vrifieront des proprits analogues aux quatre proprits cites au paragraphe A. Dfinition 2.4. Soient 7r1 et 7 r p les deux projections de X x X sur X . On dira qu'un sous-ensemble A de X x X est propre si pour tout compact K de X les ensembles 7r1(7rT1(K) A ) et7rp(n;'(K) n A ) sontrelativementcompactsdansX. n On considre sur X x X une famille de voisinages embots de la diagonale A de X x X que l'on note (UE),EW+ que l'on construit de la manire et suivante : considrons un recouvrement U localement fini de A par des ouverts = (U x U ) tels que U soit le domaine d u n e carte (U,h)de X ; on dfinit alors par
u,
U =
G,,
u { (w) I IF(.) 6
E
h(!l)ll
< E}.
On note w une forme diffrentielle de classe C", de degr n, ne s'annulant pas sur X , qui dfinit l'orientation de X . Dfinition 2.5. On appelle famille de noyaux rgularisants sur X x toutefamille (K,(x,y)),,W+ de fonctionsc", positivessurx x X , tellesquepour tout& > O, le support de K , soit propre, contenu dans U, et contienne la diagonale A de X x X , que la famille de fonctions (x ++ K,(x,y)~(y)),~~+ converge uniformment sur tout compact de X vers la fonction constante gale 1 quand E tend vers O dans R+ .
x,
sx
Dfinition 2.6. Soit f une fonction continue sur X . On appelle famille des rgularises de f la famille des fonctions (f,)EER+ dfinies par
Dfinition 2.7. Soit T E V " ( X ) une distribution sur la varit X , on dfinit la famille ( T E ) E E ~ rgularises de T de la manire suivante: pour toute cp dans des + Do ( V )on pose
La Dfinition 2.7 a un sens car K , tant de classe C" sur X x X , cp, est de classe C" sur X et de plus le support de cp, est contenu dans l'ensemble 7r1 (KY' (supp cp) n supp K,) qui est compact puisque K , est suppos support propre. Proposition 2.8. Soit T E V ' O ( X )une distribution sur X , les rgularises T, de T sont des fonctions de classeCm surX et de plus pour tout y E X
T(Y) ( T > K , ( ~ , Y ) 4 X ) ) . =
2. Rgularisation
31
La fonction z K,(z,y) est une fonction C" support compact dans X pour chaque y fix et dpend de y de manire Coo,de plus w est une forme diffrentielle de classe C" sur X et donc (T,KE(z,y)w(z)) dfinie et c'est une fonction est bien de classe C" sur X . En utilisant la densit de l'espace vectoriel engendr par les fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient
etdoncparladfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)).
Nous allons maintenant tudier la convergence de la famille TE)^+ pour les topologies faibles et fortes de D ' ( X ) . Soit I, E Dn(X) forme diffrentielle I une de classe C" support compact de degr n sur X . Puisque par hypothse w ne s'annule pas sur X , il existe cp E D O ( X )telle que I,= 'pw. a alors I On
(T - T E , $ ) = (T - T,,cpw) (T,(cp c p b ) . = Pour obtenir la convergence faible de la famille TE)^+ vers T quand E tend vers O, il suffit donc d'tudier la convergence de la famille ( ( P ~ ) ~ ~vers cp dans W + D o ( X ) .Pour prouver la convergence forte de la famille TE)^+ vers T quand E tend vers O, il suffira de montrer l'quiconvergence de la famille ( q E ) ~ +cp vers lorsque 'p dcrit un sous-ensemble born de D o ( X ) . Dfinition 2.9. On appelle oprateur diffrentiel (linaire) coeficients C", d'ordre fini une application linaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte (U,h) de X , il existe un oprateur diffrentiel P(u,h) coeficients C" sur l'ouvert h(U ) de R" vrifiant pour toute fonction f E Cm ( X )
( P f )O h-' = P(u,h)(fO h - l ) dansh(U).

On notera P*1'adjointformeldeP pour leproduitscalairesurD'(X) dfini par (fig) = J, f(Y)g(Y)w(Y).
Dans la suite le terme oprateur diffrentiel dsignera toujours un oprateur diffrentiel coefficients C" d'ordre fini.
Remarque 2.10: Soient et f des fonctions de D o ( X ) support dans un mme compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X )quand E tend vers O si et seulement si pour tout oprateur diffrentiel P = P(z,D)on a
+OXEX
lim SUP IP(z,Dz)f(z)- P(z,Dx)f,(s)I = o.
Proposition 2. I 1. Soit f E Do( X ) ,on pose
32
1 ) Pour que la famille (f E ) E E R + converge vers f dans D o ( X )quand E tend vers O ; il faut et il suffit que pour tout oprateur diffrentiel P sur X
2) Pour qu'il y ait quiconvergence de la famille (f E ) R +vers f lorsque f dcrit un sous-ensemble born d e D o ( X )il faut et il suffit que
Pour tout oprateur diffrentiel P sur X

SUPZEX Jx ( ( P ( Z 7 OZ)- P*(Y, ) ) K ( ZY ),) f ( Y M Y ) l + 0 ~, c quand E tend vers O uniformment par rapport f dans tout born de Do ( X ).
Dmonstration
a) Conditions ncessaires: on suppose que ( f E ) E E R + converge vers f dans Do (V) quand E tend vers O ou bien qu'il y a quiconvergence lorsque f dcrit un sous-ensemble born de Do ( X ) .
Grce la convergence de (f E ) E E R +vers f dans D o ( X )et la continuit de P sur D o ( X ) , a on
Si de plus il y a quiconvergence des (f E ) R + vers f lorsque f dcrit un sousensemble born de Do(X),la limite ci-dessus est uniforme par rapport f sur tout born de Do ( X ) . Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera la fonction P ( x ,DZ) f.
Lemme 2.12. Soit f une fonction continue support compact dans X . On pose f E ( x ) = Jx K E ( zy) f (y)w(y), alors ia famille ( f E ) E E R + converge uniform, ment vers f sur X quand E tend vers O. Si de plus B est une partie quicontinue de C ( X ) forme de fonctions support dans un mme compact et telle que sup{ I l f l l m , f E B} soitfini, on a quiconuergence des familles (f E ) R + lorsque f dcrit B.
2. Rgularisation
33
Dmonstration. Par dfinition de f E nous avons
La fonction f tant continue support compact, elle est uniformment continue et donc
(va > 0)(3&0> o ) ( v E < EO)((.,

r
Y) E UE=$ I f) ( .
- f(Y)l
< a).
Notons que EO est indpendant de f pour f E B, car les lments de B sont uniformment quicontinus. Donc si E < EO on a
~ ) 2 ( , ) ) ,L tant uncompact contenant supp f u w Y n1(7r21(supp f)).Par hypothse sur K,, mL,E born indpendamment de E et est si L' est un compact de X contenant le support de f, il existe 0 > O tel que si
o rnL,= supXEL
~ ~ ( E
( sX
II
< EO on ait
s,
~ E ( . 7 Y ) w ( Y )- 1ll00,L~ Q. <
Observons que si f E 8,les compacts L et L' peuvent tre choisi indpendamment de f . On aura par consquent, pour E < min(e0, 0)
Ilf - fEllm I M Q + IlfllmQ.

Ce qui prouve la convergence de ( f E ) E E W + vers f quand convergence sur B car sup{ Ilflloo, f E B } est fini. Fin de la dmonstration de la Proposition 2.11 b) Condition suffisante :pour obtenir la convergence de la famille (f,)EEllg+ vers f dans D o ( X )quand E tend vers O il suffit de dmontrer que, pour tout oprateur diffrentiel P sur X, on a
E
tend vers O et l'qui-
34
or d'aprs le Lemme 2.12 supzEx IP(z,D,) f (x)- (P(y,Dy) (y))(x) I tend vers f O quand E tend vers O et
tend vers O quand E tend vers O par hypothse, d'o le rsultat. Si (**) est satisfaite on obtient aisment l'quiconvergence sur tout ferm en reprenant les tapes cidessus. O Considrons une carte (U,h)de X et = ( < I , . . . ,&) les coordonnes locales associes. Soit P un oprateur diffrentiel sur X alors il existe un oprateur P(u,h) sur h ( U )tel que pour tout f E D o ( V )
<
P(f 1
h-l = +, I L)
(f
h-
= Ca,(<)o;(f
a
h-7
o a E lai", les a , sont des fonctions C" sur h ( U ) ,nulles sauf un nombre fini diQI d'entres elles et DE" = ,,.at;,, .
Proposition 2.13. Soit ( K ,(z,I/)),~w+ une famille de noyaux rgularisants surX x X , alors les conditions suivantes sont quivalentes
( Pour toute fonction f E V o ( X ) support dans un domaine
Dmonstration. La condition (*) implique trivialement la condition (*'). Rciproquement, soit (Ui)iEr un recouvrement localement fini de X par des domaines de carte et ( x i ) i c ~ partition de l'unit subordonne ce recouvrement. Soit une f E D o ( X )et P un oprateur diffrentiel sur V ; puisque le support de f ne rencontre qu'un nombre fini d'ouverts Ui : ( U i k ) k = ~ , . .,.on a ,t
I1 suffit donc puisque xikf est support dans le domaine de carte Ui, de prouver (*) pour toute fonction g E D o ( X ) support dans un domaine de carte de X . De plus par linarit, il suffit de montrer que (*) est vrifie pour toute carte (U,h)de
2. Rgularisation
35
X, toute fonction g E V o ( X ) support dans U et tout oprateur diffrentiel P sur X tel que P(u,h) = u([)D$.Pour ailger lcriture dans la suite des calculs nous identifierons U et louvert h ( U )de IRn, P scrit alors P(z,D,) = u ( z ) D z et
Sx((P(.,D.)
est la somme de trois termes
P*(Y,Dy))K,(z:,Y))g(Y)d?/
(ri = a(.) J,[(D,Q
+ ( - i ) l a l +yl ) Ka w ) l g ( Y ) d Y ~(
(W = ( -1) lai a Jx (0, , .( ,Y) (Y)dY K )LI (Hi)= - Jx KE(x,g)(P(y,Dy)g(y))dy (par dfinitionde P * ) . Daprs (*), (I)converge uniformment vers O quand E tend vers O car la fonction a tant continue elle est borne sur le support de lintgrale de (I)(ce dernier
est compact puisque le support de K , est propre). En intgrant par partie on obtient (II)=a(z)(D,g(y)),(z) daprs le et Lemme 2.12, cette quantit converge uniformment sur X vers u(z)Dgg(z). Finalement (III)= -(a(y)D,g(y)),(z) cela converge uniformment vers et
-a(z)D,g(x)grce au Lemme 9.2.9, ce qui termine la dmonstration.
Proposition 2.14. Soit (K,(IC,Y)),~R+ famille de noyaux rgularisantssurx x une X , alors les conditions suivantes sont quivalentes:
( Pour tout oprateur diffrentiel P sur X
sur toutborndeVo(X).
(
Pour tout domaine de carte et pour tout multi-indice CY
((DZ + (-l)lal+lDa )KE(z,Y))f Y ) W ( Y ) l y (
+0
(**I
quand E tend vers O uniformment par rapport f sur tout born d e V o( X )dont les fonctions sont support dans un domaine de carte.
Dmonstration. I1 suffit de reprendre la dmonstration de la Proposition 2.13 en remarquant que lon peut encore utiliser une partition de lunit car les fonctions d u n born sont toutes support dans un mme compact et en utilisant la concluO sion du Lemme 2.12 sur lquiconvergence.
On a donc prouv le rsultat suivant : Thorme 2.15. Soit (K,(X,~)),~~+ de noyaux rgularisants sur X x une famille
X.
36
Si les conditions quivalentes (*) et (*') sont satisfaites, la famille ( T E ) E E ~ + des rgularises de T convergefaiblement vers T dans VO ( X ) . ' Si les conditions quivalentes (**) et (**') sont satisfaites, la famille (TE)EER+ des rgularises de T convergefortement uersT dans VIo X ) . (
Pour terminer ce paragraphe nous allons construire des oprateurs rgularisants dont les noyaux sont des noyaux rgularisants au sens de la Dfinition 2.5 qui vrifient les conditions (*) et (**). Cette construction est due de Rham ([Rh], 3 15). Considrons un recouvrement localement fini dnombrable de X par des domaines de carte (Ui)iEn homomorphes R". Notons hi l'homomorphisme de Vi sur R". On peut alors trouver un recouvrement de X par des ouverts V , CC U i et des fonctions fi de classe C support compact dans Vi et telles que fi " 1 sur ( c f Annexe A, Lemmes 2.1 et 2.2). Si T est une distribution sur X on pose Ri,T= &,fiT ( 1 - f i ) T o Ri,, = hrr,hi* et T , est la convolution sur R" par la fonction flEdu paragraphe 2.A. Au voisinage de tout compact de X la suite des oprateurs R i ( )= Ri,cO . . . O R I , stationnaire et on pose RE = lim Ri(&). est
vi
a d o z
Nous appellerons oprateurs rgularisants de de Rham, des oprateurs rgularisants construits par cette mthode. Regardons par exemple le cas d u n e varit munie d'un atlas deux cartes :
RET = Ri,ER2,ET = Ri,,fiR2,Ef~T Ri,,fi(l - f2)T + + ( I - fl)RZ,f2T ( 1 - f l ) ( 1 - f2)T +

o le dernier terme de la somme est nul.
Le noyau associ l'oprateur R, s'crit
+Kl,E(Z,Z)fl(Z)(l fi(.))+ ( 1 - fl(~))KZ,E(Z,Z)f2(Z). avec Ki,E, noyau associ l'image par hi de la convolution par Oc,. le Le thorme suivant a t prouv par de Rham (Thorme 12, [Rh],5 15).
Thorme 2.16. Soient (R,)>o famille d'oprateur rgularisant de de Rham et une T E D'O ( X ) une distribution sur X . 1) RETest une fonction de classeCm sur X . 2) Le support de R,T est contenu dans un voisinage arbitraire du support de T si E est assez petit. 2) RETconvergefaiblement et fortement vers T quand E tend vers O.
Le lecteur pourra vrifier que les noyaux K , ,E E R+ , associs aux oprateurs R, forment une famille de noyaux rgularisant satisfaisant les conditions (*) et (**).
2. Rgularisation
37
C. Rgularisation des courants
Pour rgulariser les courants sur X , il suffit de remplacer les noyaux du paragraphe B par des formes diffrentielles doubles sur X x X,Cw support dans un systme fondamental dentourages (U,),>O de la diagonale A de X x X . Soit une telle famille. Si cp E D P ( X )est une forme diffrentielle de classe C support compact dans X et si 7r1 et 7r2 dsignent les deux projections X x X + X , on pose Si de plus le support de p est contenu dans un domaine de carte U et si E est choisi assez petit pour que 7rT1( U )nu, soit contenu dans un domaine de carte de X x X ,
alors
, .
IUJ={l,
...,n }
o O ( . ) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme diffrentielle dyl A . . . A dy,.
On peut faire une tude analogue celle du paragraphe B et lon obtient Thorme 2.17. Soit ( $ E ) E > ~ une famille de formes diffrentielles sur X x X de classe c, support propre contenu dans un systme fondamental de la diagonale A de X x X telle que dans toute carte de X x X on ait
&(GY)
=
I U J={ l,...,n}
~,,I,J(x,y)dxI ~ Y J A
1n~=0
o lesfonctions K E , l , vrifient la condition (**) de la Proposition 2.13 etsont telles j que les fonctions (x C) K,,I,J(x,y)dy) convergent uniformment sur tout compact du domaine de carte o elles sont dfinies vers la fonction constante gale 1 quand E tend vers O dans R+. Si T E W ( X )est un courant de degrp sur la varit X , la famille ( T E ) E E ~ rgularises de T , dfinies par (T,,cp) = (T,cp,) pour des + , toute cp E Dn-P(X), o cpE est la rgularise de cp par $ converge vers T pour les topologiesfaibles et fortes de DP(X) quand E tend uers O dans R+ .
sx
Dmonstration. Par dfinition de la topologie forte de DP(X),il sufiit de prouver lquiconvergencede la famille des rgularises de (O vers cp lorsque cp dcrit un born de Dn-p(X). Soit (Vi)iE1 recouvrement de X par des domaines un de cartes de X et (xi)iE1 une partition de lunit subordonne ce recouvrement. Si B est un born de Dn-p(X) et si cp E B, posons cpi = xicp. Puisque les fonctions
38
'p sont toutes support dans un
mme conipact dans X , on peut crire 'p =
E,'pi
iI
o I' est un sous-ensemble fini de I indpendant de 'p E t?. Par linarit, on obtient le rsultat cherch en appliquant la Proposition 2.1 1 chacune des 'pi. O
Dfinition 2.18. Si (~+/I',),~R+ est une famille de formes diffrentielles doubles satisfaisant aux hypothses du Thorme 2.1 7, on appelle oprateur rgularisant, les
'p) oprateurs RE de V ' * ( X )dans lui-mme dfinis par (RET, = (T,' p E ) pour T E V " ( X ) et 'p E P ( X ) o les 'pE sont les rgularises de 'p obtenues l'aide
des noyaux
3. INDICE DE KRONECKER DE DEUX COURANTS
On dsigne par X une varit diffrentiable de classe C "
et de dimension n.
Dfinition 3.1. Si T et S sont deux courants sur X tels que d"T
d"S=n, nous dirons que l'indice de Kronecker de T et s,K ( T , est dfini au sens de de Rham si quelles que soient les familles d'oprateurs rgularisants ( R E ) E > ~ et (R:,).,>o qui commutent avec l'oprateurd, la quantit (RETA R:,S, 1 ) possde une limite indpendante des familles d'oprateurs choisies, lorsque E etEl tendent vers O, on note K(T, ) cette limite. S
s)
Si X = <c", on peut prendre pour rgulariser les oprateurs associs aux noyaux de convolution dfinis au paragraphe 2.A. Si X est une varit, les oprateurs rgularisants de de Rham commutent avec l'oprateur d (cf. [Rh],5 15, prop. 1).
Remarques 1) L'application ( T ,S ) H K ( T , S ) est bilinaire. 2) Si l'un des deux courants T ou S est une forme diffrentielle de classe C et si " le support de T ou le support de S est compact alors l'indice de Kronecker K ( T ,S ) de T et S existe et vaut (T A S , 1).(Cela rsulte des proprits de convergence des rgularises dans D o (X) dans V" ( X )pour la topologie forte des courants). et 3) Si les supports de T et S ne se rencontrent pas et si T ou S est support compact, K ( T , S ) a un sens et est nul. En effet pour E et E' assez petit RETet R:,S seront supports disjoints et donc RETA R,S = O.
Nous allons donner maintenant des conditions suffisantes d'existence pour l'indice de Kronecker de deux courants.
Dfinition 3.2. On appellesupport singulier d'un courant le complmentairede l'en-
semble des points au voisinage desquels il est dfini par une forme diffrentielle de classeC". On notera S S ( T )lesupportsingulierdu courantT.
Si T E 7' ( X )est un courant sur X et U un voisinage du support singulier de 3 ' T , on peut crire T = T' + T" o T' est un courant dont le support est contenu
3. Indice de Kronecker de deux courants
39
dans U et T une forme diffrentielle de classe C sur X . I1 suffit de poser 7= pT et T = (1- p)T o p est une fonction de classe C , positive, support dans U et gaie 1 au voisinage du support singulier de T . Proposition 3.3. Si T et S sont deux courants sur X tels que doT dS = n dont lun est support compact et dont les supports singuliers ne se rencontrent pas, alors lindice de Kronecker K ( T , S ) de T et S a u n sens.
T = T + T et S = SI + S o T et S sont des formes diffrentielles de classe

C et o les supports de TI et SI ne se rencontrent pas. On peut alors appliquer I), 2) et3) delaremarqueet K ( T , S ) = K(T,S) K(T,S) K(T,S). O
Dmonstration. Sous les hypothses de la proposition il existe des dcompositions
Proposition 3.4. Soient T et S deux courants sur X tels que dT dS = n - 1 et dont lun est support compact. Si K (bT,S)ou K ( T , d S )existe lautre existe aussi et ils sont gaux, i.e. K(bT,S) = K(T,dS).
Dmonstration. Puisque les oprateurs rgularisants R, et Ri, commutent avec d et donc galement avec b o n a
(R,bT,R:,S) = (bR,T,R:,S) = (R,T,dR:,S) = (R,T,R:dS)

do le rsultat.
Application :La Proposition 3.4 permet dtendre la formule de Stokes au cas d u n domaine D CC X bord de classe C1 et d u n e forme diffrentielle w E C,-1 (D) telle que dw, calcule au sens des courants, soit continue sur B. effet, posons En T = [ D ] e t S = w,alorsK(bT,S)existeetvautSbDwetonadoncSbDw= SDdw.
Thorme 3 5 Soient T et S deux courants sur X tels que dT dS = n et dont .. lun est support compact. Pour que lindice de Kronecker K(T,S) des courantsT et S existe il sufit que
S S ( T )n SS(bS) = 0 e t S S ( b T )n S S ( S ) = 0.
Remarque :On dduit du Thorme 3.5 que lindice de Kronecker de T et S existe ds que T est ferm support compact et S est ferm.
Pour prouver le Thorme 3.5, nous avons besoin d u n e parametrix pour loprateur d qui naugmente pas le support singulier. Celle que nous prsentons ici est due J.B. Poly. Proposition 3.6. Si T est un courant sur X , il existe des oprateurs A et R tels que l ) T - RT = d A T f A d T
40

2) A n'augmente pas le support singulier et R est rgularisant.
Dmonstration. Commenons par le cas o X = R".Notons 6 l'oprateur sur D'(Rn) dfini de la manire suivante: si T E D'(Etn),considr comme forme diffrentielle coefficients distributions, s'crit T = 'TIdxI, o ' signifie
I
,onpose
I = ( i i ,...,ik)
il<...<ik
Remarquons que db
+ Sd = -A
o A est le laplacien usuel A =
"
la solution lmentaire du Laplacien A, E = s i n = 2 e t E = :sin= de Rn.
(n-2)t,,r>L-22 3, E = & log si n
%.Soit E ax,
T
l o r = (xf+...+x~)1/2etsnl'airedelasphreunit
Pour tout courant S support compact dans R", on pose GS = -E * S , puis K S = 6GS. Si S , considr comme forme diffrentielle coefficients distributions, a pour expression S = ' SIdxI le produit de convolution GS = E * S s'crit GS = I
' E * SIdxI d'o l'expression de K S
L'oprateur K : '(IRn) -+ D'(Etn) ainsi dfini a les proprits suivantes : a) S = dKS KdS, car S = -AGS = d6GS GdGS = dGGS GGdS. b) K n'augmente pas le support singulier. En effet A est elliptique et par suite GS est C" en dehors du support singulier de S.
Revenons au cas o X est une varit. Puisque X est runion dnombrable de compact, il existe un recouvrement dnombrable et localement fini de X par des domaines de carte Wi CC X. D'aprs les Lemmes 2.3 et 2.1 de l'annexe A, on peut alors trouver un recouvrement de X par des ouverts V, tels que V , CC Wi et des fonctions vi de classe C" support compact dans Wi telles que vi = 1 au voisinage de V,. Pour tout courant T sur X , on pose
AiT = qiK(qiT)
(o par abus de notation on considre Wi comme un ouvert de R"), et
RIT = T - dAiT - AidT

=T - (T,I~)~T viK(d7i A T ) - dvi A K(viT).
(Pour tre parfaitement rigoureux il faudrait considrer la carte (Wi,hi) de X et dfinir l'oprateur Ai par AIT = qi (h;') * ( K(hi) (viT)).Le lecteur pourra vrifier * facilement que le fait d'avoir identifi Wi et son image par hi dans IRn ne modifie pas les proprits de Ai mais permet seulement d'avoir des critures plus simples.)
3. Indice de Kronecker de deux courants
41
Les oprateurs Ai et Ri ont les proprits suivantes : a) T = dAiT AidT RiT par construction, d'o rsulte dRiT = RidT. b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ; en effet RIT et K(dqi A T ) concident sur E, et puisque K n'augmente pas le support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.
On pose Ak = AkRkPl... Ri et Rk = RkRk-1.. . R I . Le recouvrement (Wi)tant localement fini, on montre facilement que
RT = lim RkT et AT = lim AkT

k+m
k+m
existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT s'annule ds que k est assez grand. Les oprateurs A et R ont les proprits souhaites : a) On a R"'T - RkT = ( 1 - Rk)Rk-iT
+ Akd)Rk-lT = dAkT + AkdT

=
(dAk
car Ri et d commutent, d'o par sommation
RT = dAT
+ AdT.
b) A n'augmente pas le support singulier car il en est ainsi de Ak.L'oprateur R est rgularisant car RkT est C" sur V , ds que IC 2 a. O Dmonstration du Thorme 3.5. D'aprs la Proposition 3.6, T et S admettent les dcompositions suivantes :
T = RT S = RS
Posons
+ dAT + AdT + dAS + AdS.
Ti = RT, T2 = dAT, T3 = AdT Si = RS, S2 = dAS, S3 = AdS.

Par linarit K(T,S)sera dfini si chacun des K(Ti,sk),z,k = 1,2,3, existe. Remarquons que Ti,i = 1,2,3,est un courant support compact. Le courant Ti est une forme de classe c" car R est rgularisant. Par consquent K(T1,sk)est dfini pour tout k = 1,2,3.Le courant S1 tant une forme de classe C", K(Ti,S,)existe pour tout i = 1,2,3.Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient K(T2,S2)=0.Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se dduisent de la Proposition 3.3 car les oprateurs d et A n'augmentent pas le support singulier. Corollaire 3 7 Formule de Stokes pour l'indice de Kronecker. Soient T et deux .. courants sur X tels que doT + dos= n - 1 et dont l'un est support compact. Si
SS(bT)n SS(bS) = 0
42
les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a
K(bT,S) = (-l)doS-lK(T,bS).
Dmonstration. C'est une consquence immdiate du Thorme 3.5 et de la Prou position 3.4. Exemple d'application :Formule de Cauchy-Green dans @. Soit D un ouvert born de C bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Aprs identification de Cc avec IR2 on dfinit les formes diffrentielles de degr 1, d z et dZ par d z = dx idy et dZ = dx - idy.
Si $ est une fonction de classe C" dans @. on pose T=$[D] o [DI dsigne le courant d'intgration sur D. Alors S S ( T ) = bD.
Si S = $ alors dS = [O],o[O] est le courant d'intgration sur la varit rduite au point O. En effet, si cp E Do(@), par dfinition de d on a
&
car S est dfini par la forme diffrentielle localement intgrable notons BE= { z E Qi I IzI < E } , alors
& e.Pour E > O,
En appliquant le Thorme de Stokes, on obtient
car cp est support compact. De plus

L B ,
)."
-dz
Comme la fonction cp est de classe C" donc en particulier de classe C1 la premire intgrale du second membre tend vers O quand E tend vers O. D'autre part, par la formule de Cauchy on a, pour tout E > O, $ = 1.Par consquent
& saBc
( G c p ) = 4 0 ) = ([OI>cp).
Par ailleurs bT = -d$ A [O] $ A [bD]et donc SS(bT) = S S ( T ) = bD, de plus SS(bS)= {O}, par consquent SS(bT)n SS(bS)= 0 puisque O E D. On peut donc appliquer le Corollaire 3.7 :
K(bT,S) = K (
d$ A [DI
1 + 11, A [ b D ]22lT -dz-z) ,y
4. Varits analytiques complexes
43
Interprtation gomtrique de l'indice de Kronecker Nous donnons les rsultats suivants sans dmonstration ; le lecteur intress pourra consulter [Rh, 201 et IL-Tl] pour plus de prcisions et de meilleures conditions suffisantes d'existence de l'indice de Kronecker de deux courants. Si Y et Z sont deux sous-varits fermes orientes de dimension p et n - p de X qui se coupent transversalement et telles que Y ou 2 soit une sous-varit compacte de X, alors les courants d'intgration [Y]et [Z] Y et Z sont ferms, sur ils satisfont donc aux hypothses du Thorme 3.5 et on a
~ ( [ Y I , [ Z l= ([Y Z1,l). ) Ici Y n2 est constitu d u n nombre fini de points et ( [ Y Z],l)est gal au nombre n de points de Y n Z en lesquels les orientations de Y et Z concident diminue du
nombre de points en lesquels elles diffrent. Plus gnralement, si Y est Z sont deux sous-varits fermes orientes de X de dimension respective p et q qui se coupent transversalement et telles que Y n Z soit une sous-varit de X et si cp est une forme diffrentielle de classe C", de degr p q - 76, support compact dans Xona ~ ( [ Z I l [ YA cp) = ([Z Yllcp). l n
4. VARIT ANALYTIQUE COMPLEXE
Dans le cadre de l'tude des fonctions holomorphes, il est naturel d'introduire des objets ayant, pour le calcul holomorphe, des proporits analogues celles des varits diffrentielles pour le calcul diffrentiel, c'est--dire qui ont hrit localement des proprits analytiques des ouverts de @". Dfinition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble de cartes (U,cp)tel que les domaines U forment un recouvrement ouvert de X et les applications cp soient des homomorphismes de U sur un ouvert de cc",qui vrifient la condition de compatibilit holomorphe: si U n U' # 0,l'application
cp'
O
9-l :
cp(un u')- n u') cp'(u i
est une application biholomorphe entre ouverts de Cn. dira que deux atlas comOn plexes sont compatibles si leur runion est un atlas complexe. On dfinit ainsi une relation d'quivalence.
44
Dfinition 4.2. On appelle varit analytique complexe un espace topologique s-
par, runion dnombrable de compacts, muni dune classe dquivalence datlas complexes. Si X est une varit analytique complexe, x un point de X et (U,cp)une carte au voisinage de x , cp est un homomorphisme de U sur un ouvert de @ et n est appel la dimension complexe de X en x (comme dans le cas des varits diffrentiables n est bien sr indpendant de la carte (U,cp)au voisinage de 2). dira que X est On une varit analytique complexe de dimension n si pour tout x E X la dimension complexe de X en x est gale n. Si X et Y sont deux varits analytiques complexes, une application f : X -+ Y est dite holomorphe si elle est continue et si pour tout couple de cartes (U,cp)et ( V , 9 ) X et Y tel que f ( U ) c V ,lapplicade tion 1c, O O cp- : p ( U ) -+ $ ( V )est holomorphe. Lorsque Y = C on parlera de fonction holomorphe. Comme dans le cas des applications de classe C Q ,il suffit bien sr de le vrifier pour toutes les cartes d u n atlas. On notera O ( X ) lespace vectoriel des fonctions holomorphes sur X valeurs dans @.
(fi,)
Dfinition 4.3. Soit (U,cp) une carte dune varit analytique complexe, alors cp est uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x), . . ,z,(z)), o les . z j : U + C, = 1, . . . ,n, j sont des fonctions holomorphes sur U , les fonctions ( z 1 ,. . . ,zn) sappellent les coordonnes holomorphes de X sur U dfinies par la
carte (U,cp). Remarque: I1 est clair quune varit analytique complexe X de dimension n est naturellement munie dune structure de varit diffrentiable de classe C de dimension 2n. Les espaces tangent T,X et cotangent T,X X en x sont donc bien dfinis. Considrons en particulier lespace @T: X des 1-formes diffrentielles en x E X valeurs complexes qui est le dual du complexifi CTz X de T,X (cf.Annexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x o les coordonnes locales sont (z1, . . ,zn) avec z j = xj i y j , j = 1, . . . ,n. La fa. .. est mille {(d~l)~,(dy1),,. ,(d~,)~(dy,)~} une base de CT,X et la base duale I1 est soua . . ,(,)z,(&),}. a correspondante dans @TzX est {(K)z,(&),,. vent plus intressant de considrer pour CT: X la base
{ (dz)z,(dz)i1. ,(dzn)zl(dzn)z} ..
et pour CTz X la base duale associe que lon note
On a par dfinition
4. Varits analytiques complexes
45
Si f est une fonction valeurs complexes de classe C1 sur un voisinage de z dans X , sa diffrentielle dfz dfinit un lment de T,X qui scrit
n
Ou
bien ( d f ) z =
i=l
%(z)(dz,),
+ ~ ( ~ ) ( C t z suivant la base choisie, par ,),
dfinition des bases dudes. Un calcul simple montre que
ce qui correspond la dfinition donne au chapitre I. Remarquons encore une fois que le fait dassocier T,X et T,X leurs complexifis, cest--dire de considrer des formes valeurs complexes, ne fait pas intervenir la structure de varit analytique complexe de X mais que cela peut tre fait pour nimporte quelle varit diffrentiable. Nous navons utilis la structure de varit analytique complexe de X que lors de lcriture en coordonnes locales. Terminons ce paragraphe en prouvant quune varit analytique complexe est orientable. Soit X une varit analytique complexe de dimension n. Daprsla Proposition 6.2 de lAnnexeA, X est orientable si elle possde un atlas c, (Vi, hi)iEl, tel que pour tout i, j E I
d i j ( z ) = det [ J ( h iO hjl)(hj(z))]Osiz E Vi f l U j . >

Considrons un atlas complexe (Vj, p j ) j Ede X . Si p j = hj i k j , lensemble ~ ( U j ,( h j ,k j ) ) j E est un atlas C de X quivrifie pour z E V fl Vj ~ i
Une varit analytique complexe X est donc orientable et dans la suite de ce volume nous la munirons de lorientation dfinie de la manire suivante lorsquun atlas complexe (Vi,pi)iElde X est fix : si ( z l ,. . . , 2,) sont des coordonnes holomorphes associes la carte (Vi,pi)nous choisirons lorientation associe la 2n-forme diffrentielle
dZ1
A . . . AdZn A d 2 1 A . . A d Z n
ce qui correspond lorientation dfini par
d x l A . . A d z n A d y i A . . . A dy,
46
5. STRUCTURE COMPLEXE
Soit X une varit analytique complexe de dimension n. On va montrer que pour tout point x E X , l'espace vectoriel rel T,'X possde une structure naturelle d'espace vectoriel sur C. Examinons tout d'abord le cas o X = Cn. Comme varit Coo, C? s'identifie R21n de manire naturelle, donc T,Cn = TXR2ln R21n = C2" en repre= nant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec <c" , on a mis une structure de C-espace vectoriel sur T,Cln. Explicitons un peu cette identification. Notons J : T , P -+ T,Cn l'application de multiplication par z. C'est une application IR-linaire qui vrifie J 2 = - Id. Dans la base usuelle de T,C" = T,R21n,
= -("),, 1 5 j 5 n.Aiors aY, ax, ( a + ib)v = av b J ( v ) . pour tout v E T,C" et tout nombre complexe a + ib E C
ax,
a3 Y
o n a J ( ( L ) , ) = (1, "
etJ(("),)
Les quations de Cauchy-Riemann homognes, qui traduisent la @-linarit de
(df), si f est un germe de fonction holomorphe en x,s'crivent ( d f ) , ( J v ) = i(df),(v) pourtoutv E T,C".

Remarque :Cette relation entre la structure complexe sur T,Cn et les fonctions holomorphes, montre que J est indpendante du choix des coordonnes sur Cn . On peut donc dfinir J pour des varits analytiques complexes.
Thorme 5.1. Soit
x une varit analytique complexe. Pour tout x E x , il existe une uniqueapplicationR-linaire J = J , : T , X + T , X telleque pour toutgerme de fonction holomorphe en x,on ait ( d f ) , ( J v ) = i ( d f ) , ( v ) pourtoutv E T , X .
C e t v ET,Xdlfinit
DepIus,J2 = - I d e t ( a + i b ) v = a v + b J ( v ) p o u r a + i b E une structure d'espace vectoriel complexe sur T, X .
Dmonstration. Prouvons tout d'abord l'unicit de l'application J . Soient (21,. . . ,zn) un systme de coordonnes holomorphes au voisinage de z X et (21,y1,zz,y2,.. ,xn,yn) coordonnes relles sous-jacentes, pour tout . les j = 1,.. . ,n o n a ( d z j ) , = ( d x j ) , i(dyj), soit ( d z j ) , = Re(dzj), et ( d y j ) , = Im(dzj ) . ,
Calculons J ( &),pour k = 1, . . . ,n
6. Formes diffrentielles de type ( p , q )
41
Puisque z j est holomorphe et dzj ( &),= b j k , on a
Par consquent J(&), = ( %), a cit.

(21
et de mme J ( ")% aYk
-( =),, l'unia d'o
Dfinissons J par les relations ci-dessus pour des coordonnes holomorphes
, . . . ,z,) fixes. D'aprs l'tude du cas de CY, J a les proprits voulues et l'uniO
cit de J assure l'indpendance du choix des coordonnes.
tudions maintenant la relation entre les structures complexes de T,X et CT,X. L'application J : T,X + T,X est IR-linaire et satisfait J2= - Id, elle ne possde donc pas de valeurs propres relles et pour la diagonaliser on est amen considrer l'extension naturelle de J en une application @-linaire,note encore J, de CT,X dans lui-mme. Cette extension possde alors deux valeurs propres i et -2. On notera T,ioX, le sous-espace propre associ +i et T:l1X le sous-espace propre associ -2. On a
@T,X = T,>OX T,O>'X @

Si ( z l ,. . . ,z,) est un systme de coordonnes holomorphes au voisinage de x,les a forment une base de T,ioX et (( &),, . . . ,( =),) a vecteurs (( -)z, . . . ,( &),) 821 une base de T;i1X. Remarquons que T,X muni de la structure de @-espacevectoriel dfinie par J et X sont naturellement isomorphes par l'application qui v fait correspondre f (v - i J (v)). Cette application envoie la famille (( &),, . . . ,( &),) qui est une base de T,X en tant que @-espace vectoriel sur la base ((&)z,. . . ,(=),) a de T i , o X ; c'est donc un isomorphisme. On dfinit T ' > O ( Xcomme la runion disjointe pour x E X des T,)O(X) et on ) sur note p la projection naturelle de T'>O(X) X . Dfinition 5.2. Soient X une varit analytique complexe et A un ouvert de X . Un champ de vecteurs holomorphe sur A est une application V : A -+ T ' i o ( X ) telle quep O V = Id.
6. FORMES DIFFRENTIELLES DE TYPE ( p , q )
Soient X une varit analytique complexe de dimension n, et x un point de X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite considrer plus particulirement les lments de @T,X qui sont @-linairespour cette structure.
48
On dfinit lespace des 1-formes diffrentielles de type (1,O) en z par
A1lO(T,*X) { W E CT,*X I w ( J v ) = i w ( v ) , V v E CT,X}. =
Exempie: Par dfinition de J , les diffrentielles (df), de germes de fonctions holomorphes en z sont de type (1,O).
Si (21, . . ,zn) sont des coordonnes locales holomorphes au voisinage de z, . la famille ( ( d z l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). Lespace conjugu AoilT:X = A1>oT,X, dont une base dans les mmes coordonnes est donne par ( (I, &), . . . ,(&Yn),), est lespace des formes de type (0,l) en z. On ala dcomposition en somme directe
CT,*X = A1OT,*XCBAolT,*X.
(6.1)
Considrons maintenant les formes de degr suprieur. Si w est une forme diffrentielle de degr T valeurs complexes, cest une combinaison linaire dlments de la forme w1 A . . . A wr o w j E CTZX. Daprs (3.1),chaque w j , l 5 j 5 T , scrit w; wy avec w; E A1ioT,X et wy E AoilT,*X.Donc w est une combinaison linaire dlments qui scrivent q1 A . . . A qr o qj est soit de type ( O , l ) , soit de type (1,O).
On dira que w est une forme diffrentielle de type ( p , q )ou de bidegr ( p , q )en z, si w est combinaison linaire dlments de la forme w i i A . . .A wi, A G j , A . . .A G j q o les w, sont des 1-formes de type (1,O) en z.
On note C:,,(X) le sous-espace de C:+q(X) form des ( p q)-formes diffrentielles qui sont de type ( p , q ) en chaque point. On a alors la dcomposition en somme directe
C3X) =
Notons queC;,,(X) = {O} s i p o u q
@ cp,q(x).
p+q=r
> n = dim X.
Si (z1, . . . ,zn) sont des coordonnes holomorphes sur un domaine de carte U de X, alors dzj E CTo(U)pour j = 1 , .. . ,n et toute (p,q)-forme w E C:,,(U) scrit de manire unique
w =
I4=P IJI=q
aIJdzI A
&J
o les U IJ sont des fonctions de classe C k sur U et o la sommation est faite sur les multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , j q )strictement croissants.
7. Oprateurd et cohomologie de Dolbeault
49
7. OPRATEUR d ET COHOMOLOGIE DE DOLBEAULT
La dcomposition des 1-formes diffrentielles sur une varit analytique complexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une dcomposition de loprateur d de diffrentiation extrieure en un oprateur de diffrentiation holomorphe et un oprateur de diffrentiation antiholomorphe. Soit X une varit analytique complexe de dimension n. Si f est une fonction de classe C1 sur X, pour tout z E X on a
On peut donc crire df = d f 8f o d f est une forme diffrentielle de type (1,O) s u r X e t d f uneformedetype ( 0 , l ) s u r X . Remarquons que la condition f E O ( X )est alors quivalente 8f = O. La dcomposition d = d 8 stend aux formes de degr quelconque de la manire suivante : si w E Cp,q(X) donne, dans un systme de coordonnes est holomorphes (21 , . . . ,zn) au voisinage de z E X, par w =
lIl=p
IJI=q
a I J d z I A d Z J , on
a, par dfinition de d ,
dw =
III=p IJI=q
d ( a I j ) A dzI A d z j =
IIl=p IJI=q
(da1J
+ ~ C L I JA) dzr A d z J
On pose alors dw =
IIl=p
lJI=q
d ( a 1 J ) d z I A dZJ = IJI=q
--aIJdz, a
IIl=p k=l
82,
A d z l A dZJ
et
IJI=q
On a ainsi dfini des oprateurs d et 8 sur Ci,q(X) que d(Ci,q(X)) soit contenu tels dans Cp+l,q(X) d(Cp,q(X)) contenu dans Cp,q+l(X). et soit
Proposition 7.1. Les oprateurs d et 8 ont les proprits suivantes
a)d = d dsurC,(X), b) d O d = Old O d = 0,d O 8 O d = O surCS,,(X), c) d e t d commutent avec limage rciproque.
+a
50
Dmonstration. La proprit al est une consquence immdiate de la dfinition des oprateurs d et
a.
Soitw E C i , , ( X ) ,puisque d
=O
et d = d
+aon a
O = ( 8 +d) O
(a+a)W
= ( d oa ) w
Or ( 8 O S ) w est de type ( p 2 , q ) , ( 3O O (8 0 3)w de type ( p , q 2), par consquent chacun de ces termes est nul puisque leur somme est nulle.
+ (a o d + d o a )w + ( a 0 a ) w 8 + 8 ) w est de type ( p + 1,q + 1) et
. . ,&) Soit F : X t Y une application holomorphe. Observons que si sont des coordonnes holomorphes au voisinage dun point y E Y ,F*CJ = O F est une fonction holomorphe au voisinage de z = F-(y) et donc P*(d(,) = rl(<goF) estuneformedetype(1,O) etF*(ctcJ) = d ( G 0 F ) estuneformedetype ( 0 , l ) .On prouve donc en utilisant des coordonnes locales que F*(C;,,(X)) C ( X )pour tout p , q 2 O et k 2 O. Puisque daprs la Proposition 8.4 de lAnnexe A o n a d F * = F*d, onpeutcrirepourw E C,,,(Y)
(cl,. cJ
d ( F * w )+ d ( F * w )= d(F*w) = F * ( d w ) = F*(dw)+ F * ( E L )
la dernire galit provenant de la linarit de F * . En comparant les bidegrs, on obtient d ( F * w ) = F * ( w )e t d ( F * w ) = F * ( d w ) . O Loprateur Riemann.
7~ et
a que nous venons de dfinir sappelle loprateur de Cauchy-
On note EP,q(X)lespace des (p.q)-formes de classe C sur X pour O 5 p 5 O 5 q 5 n. Ces espaces sont munis dune topologie despace de Frchet dlments qui peut tre caractrise de la manire suivante : une suite ( w J ) J c ~ de EP)q(X) converge vers O si et seulement si pour tout domaine de carte U de X dans lequel wgscrit wg = w : J d z ~A ~ Z les suites ( w ; J ) 3 E ~ convergent J lIl=p
IJI=q
vers zro uniformment sur tout compact de U ainsi que toutes leurs drives.
t x > X Loprateur 3 : E ~ , Q (E P) ~ + (est) aiors un oprateur linaire continu ) et son noyau que lon note Z p i Q ( Xest donc ferm.
Dfinition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces
HP>P(X) z~x)/aP~q-(X). =
Ces espaces sont naturellement munis de la topologie quotient qui nest en gnrai pas spare car d ~ q - ( nest pas toujours ferm. si ~ E P > ~ - ( est ~ ) X) ferm, H p > q ( Xest alors un espace de Frchet. ) Ces groupes caractrisent le dfaut de rsolubilit de lquation de CauchyRiemanndu = f pour f z p > q ( X ) . Terminons par la dfinition des groupes de cohomologie de Dolbeault avec condition de support. On notera c la famille des compacts de X et si K est un
8. Espace tangent complexe au bord d'un domaine
51
compact d u n e varit M , @ dsignera la famille des ferms de X = M \ K dont l'adhrence dans M est compacte et Q la famille des ferms de M qui ne rencontrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) form des (p,q)-formes support dans 8, on a alors E g 4 ( X ) = U &;>'(X).Remarquons
@O
que si O est l'une des trois famiiles e,
ou Q, X possde une suite exhaustive
(8i)iEw compose d'lments de O (ie. X =
U 8i,& c
iW
8i+l). Les espaces
E;"(X) sont ferms dans & P ) q ( X )ce sont donc des espaces de Frchet et la to, pologie de E;'(X) est la topologie la plus fine rendant continues les injections E;;'(X) LJ E g q ( X ) .L'oprateur est un oprateur linaire continu de E g q ( X ) dans E g q + l ( X ) On pose Z g q ( X )= ZPiq(X) n E e q ( X ) . .
Dfinition 7.3. On appelle groupes de cohomologie de Dolbeauit support dans O les espaces H g q X ) = zgy x)/aEgq- ( X ). On munit ces groupes de la topologie quotient qui n'est pas spare en gnral. Ils caractrisent le dfaut de rsolubilit de l'quation de Cauchy-Riemann dans la classe des formes support dans la famille O.
8. ESPACE TANGENT COMPLEXEAU BORD D'UN DOMAINE
Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseudoconvexe (Chap. Vi), nous aurons besoin des proprits de l'espace tangent au bord d'un domaine bord lisse d u n e varit analytique complexe. L'objet de ce paragraphe est l'tude analytique de cet espace. Nous considrons en particulier l'influence de la structure complexe de la varit ambiante. Dans un premier temps nous allons supposer seulement que diffrentiable de classe C".
x est une varit
Dfinition8.1. SoitD u n o u v e r t d e x , onditqueD a un borddeclasseCk,l 5 IC 5 o,au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une fonction r E C k ( U )de clmseCk, valeurs relles telle que
U n D = {z E U I r ( z ) < O } d r ( z ) # O, z E u.
OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses points. Unefonction r E C k ( U )qui satisfait (8.1) est appele fonction dfinissante pour D en p. Si U est un voisinage de d D , T est une fonction dfinissante globale.
52
Il. Courants, structure complexe
Lemme 8.2. Soient r1 et 7-2 deux fonctions dfnissantes pour D , de classe C sur un voisinage U de p E dD. Alors il existe une fonction strictement positive h E Cl ( U ) telle que
(8.2)
hr2 surU drl(z) h(z)dr2(z) = pourz E U n BD.

r1 =
Dmonstration. Remarquons que h est unique puisquelle est continue sur U et queile concide avec sur U \ dD.
On peut supposer, sans perte de gnralit, que U est contenu dans un domaine de carte de X . Soit q E U n dD fix.Choisissons des coordonnes sur U pour que q = O et U n d D = {z E Rn I z = O} et supposons que r2(x) = IC,. Pour , z = (xi ,...,z,-l)voisindeO,onarl(x,O) = Oetdonc
$(x,tz,)dt, Posons h ( z ) = satisfait 7-1 = hr2 sur U .
1 :
cest une fonction de classe Ck-l sur U qui

E
Si IC 2 2, on a drl(z) = r2(z)dh(z) h(z)drZ(z)= h(z)dr~(x) z + si u n dD.
Si IC = 1,q ( x ) = h(z)r~(z) (h(z) h(x1,0))r2(z) = h(z1,0)r2(z)donc et r1(z) = h(z,O)drz(z,O) o(x,) lorsque x, tend vers O, car h est continu sur U et r2(z,0) O. On en dduit donc que drl(z) = h(z)drz(z) z E U n dD. = si
il reste prouver que h est strictement positive sur U . Comme h = sur U\ D , h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions dfinissantes. Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x) U n dD, h ne sannule pas sur sur U n dD. La fonction h tant continue sur U , elle est donc strictement positive O sur U .
Si D est un domaine bord Ck au voisinage de p E dD, d D est alors une varit diffrentiable de classe Ck au voisinage de p . On peut donc considrer lespace tangentTp(dD) e n p d D .
Proposition8.3. Si T est une fonction dfnissante pour D enp, on a
(8.3)
Tp(dD) = {I E T u ( X ) I d T ( P ) ( I )= 0).
Si ( 2 1 , . . . ,xn) sont des coordonnes locales de X au voisinage de p , alors Tp( d o ) si et seulement si
<E
Dmonstration. Soit U un voisinage de p tel que
d D n U = {z E U
I . ( E ) < O} et dr(z)# O s i z E U.
8. Espace tangent complexe au bord dun domaine
53
Notons i linclusion de d D n U dans X , elle induit une application injective di : Tp(dD) T p ( X ) telle que si a est une courbe dans d D passant par p reprsentant le vecteur v E Tp(dD),E= di(v)est la classe de i 0 a. Puisque limage de a est contenue dans d D , on a r O i O a O et donc d
d r ( p ) ( < )=
-(T
dt
i O a)(O)= O
ce qui prouve que aprs identification de T p ( d D ) avec di(Tp(D))
(8.4) T P ( W c { E E T P ( X ) I d r ( p ) ( E ) = 0). Comme de plus les deux membres de la relation (8.4) sont des espaces vectoriels de dimension n - 1,linclusion dans (8.4) est une galit. O
Remarque :La relation (8.3) montre que lon peut identifier T p ( d D ) avec les drives directionnelles en p qui sont nulles sur r. Supposons maintenant que X est une varit analytique complexe de dimension n et D un ouvert de X bord C k au voisinage de p E dD. La structure complexe de X induit une structure supplmentaire sur Tp( d o ) . Comme nous venons de le voir on peut identifier T p ( d D ) un sous-espace vec . toriel rel de dimension relle 2n - 1 de T p ( X ) Si J est la structure complexe sur Tp( X ) ,on peut considrer JT, ( d o ) ,cest galement un sous-espace vectoriel rel de dimension relle 2n - 1de Tp( X )et donc
T ; ( ~ D=T,(~D) JT,(~D) ) n
est un sous-espace vectoriel rel de dimension relle 2n - 2 de T p ( X )stable par J ; cest donc un sous-espace vectoriel complexe de T p ( X )de dimension complexe n - 1. Remarquons que T:(dD) # {O) si et seulement si n 2 2. Lespace T F ( d D )est appel espace tangent complexe en p dD. Si lon identifie Tp(X) muni de la structure complexe J avec T,,o(X),T:(D) est un sous-espace vectoriel de T>O(X).
Proposition 8.4. Sir est une fonction djnissante pour D enp E d D , on a
T ! ( d D )= {t E T,O(X) I dr(p)(t) = O).

( z 1 , . . . ,zn) sont des coordonnes holomorphes locales de X au voisinage de p alors t E T: ( d o )si et seulement si
Si
Dmonstration. Puisque la fonction r est valeurs relles on a
dr(p)= dr(p)
+ dr(p) = 2 Re dr(p).
Par dfinition de T F ( d D )= T p ( d D ) J T p ( d D )et daprs (8.3) n
T Z ( d D )= {t E T,O(X) I dr(p)(t) = dr(p)(Jt) = O).
54
Mais d r ( p ) tant une (1,O) -forme diffrentielle en p on a dr ( p )( J t ) = idr ( p )( t ) et donc Re (dr(p)(Jt))= - I m d r ( p ) ( t ) . On en dduit que
T:(dD) = { t E T,l0(X) I R e d r ( p ) ( t )= Imdr(p)(t) = O}

= {t E
T,>O(X)I d r ( p ) ( t )= O}.
Soit CTP( d o ) le complexifi de T,(dD),Tf(dD)un sous-espace vectoriel est de dimension n - 1 de CTp( d o ) . Dfinition 8.5. Lespace vectoriel Til1( d o ) = T F ( d D ) ,le sous-espace conjugu de Tf ( d o ) dans CTp( d o ) ,est appel espace des oprateurs de Cauchy-Riemann tangentiels e n p E dD. Remarquons que, si T est une fonction dfinissante pour d D en p et si on note (z1, . . ,zn) des coordonnes locales holomorphes sur X au voisinage de p , un vec. teur T E Tp> o ) si et seulement si (d
Exemple: Si n = 2, T i > ( d D est un C-espace vectoriel de dimension 1 engendr )
Commentaires. La thorie des courants est dveloppe dans les livres de Schwartz [SC]et de de Rham [Rh].La rgularisation dans les varits et la thorie de lindice de Kronecker sont traites galement dans le livre de de Rham [Rh].Des prcisions sur lindice de Kronecker peuvent tre trouves dans IL-TU. Pour crire les paragraphes 4 8 de ce chapitre jai utilis lexpos des notions correspondantes du paragraphe 2 du chapitre III et d u paragraphe 2 du chapitre II du livre de M. Range [Ra].Pour u n expos plus complet, le lecteur intress pourra consulter le livre de R. Narasimhan iNd1.
Chapitre III
Noyau et formule de Bochner-Martinelli-Koppelman Applications
Nous dfinissons dans ce chapitre un des outils fondamentaux de la thorie des reprsentations intgrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman. Ce noyau est une gnralisation du noyau de Cauchy II nous permet de dmontrer une formule de reprsentation intgrale, la formule de Bochner-Martinelli-Koppelinan, qui tend la formule de Cauchy aux formes diffrentielles de type ( p , q ) dans Cette formule joue un rle important dans ltude de loprateur 8. Elle nous pennet dobtenir en nos premiers rsultats sur la rsolubilit de lquation de Cauchy-Riemann dans considrant le cas o le second membre est support compact. Le phnomne de Hartogs, dont nous avons prouv un cas particulier au chapitre I, est une consquence de lexistence dune solution support compact de lquation de Cauchy-Riemann si ??, 2 2 et si le second membre est de bidegr ( 0 , l ) et support compact. Les relations entre lannulation des groupes de cohomologie de Dolbeault support compact en bidegr (0,I) et le phnomne de Hartogs seront prcises au chapitre V. Nous utilisons galement la formule de Bochner-Martinelli-Koppelman pour tudier la rgularit de loprateur 8 en prouvant un thorme dhypoellipticit holdrienne.
en.
en.
1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN
Pour (<,q)E
dfini par E (<,77) forme diffrentielle ,LL par p(<,q) = ( < , ~ ) - ~ w ( <A ~ )
n
en x en, pose (<,q)= & q J .On considre lensemble E on j=1 = ( ( 6 , ~ ) E en x en I # O}, et sur louvert E on dfinit la
( 7 1 avec )
w ( q ) =d711A...Adqn
et
w(<) C ( - l ) S - E , d < l A . . . A d ~ j ~ . . .~~~, = ~d

j=1
56
h
Ill. Noyau et formule de Bochner-Martinelli-Koppelman
o d& signifie que l'on a supprim le terme d t j .

Lemme 1.1. Laformediffrentiellep vr@edp = O s u r E . Dmonstration. Calculons d p .
dP = n K , v ) - " w ( E ) A
47 - n(t>v)-"-1d((t,77))A 4) 4 7. 7) A 7)
Comme d( (<,q)) w'(<) w ( q ) = (<,q)w(E) w ( ~ )on a bien d p = O. A A A , On note A la diagonale de @" x Cn. L'application d de @" x C \ A dans " Cn x @" dfinie par S(<,z) = ( c - Z , < - z ) a donc son image dans E. On considre alors la forme diffrentielle S*p, eile est de classe C" sur @" x \ A et ferme ? puisque p est ferme.
Dfinition 1.2. On appelle noyau de Bochner-Martinelli-Koppelman la forme diff(n i ! rentielle sur Cn x en \ A dfinie par B = m -d ) * p . On a
On pose B =
OlPln Olqin-1
B i , o B est de type ( p , q ) en z et ( n - p , n - q - 1) en <. C
On pose galement BPI = O.

Lemme 1.3. Pour tout(z,<) E C x "
-
C" \ A, on a
-
dB(z,<)= O
= En particulierd<Bt(z,<) O.
et
,BQ(z,<) -d<B;+,(z,<). =
Dmonstration. Notons ~ B (z)la forme diffrentielle de classe C sur @" priv M " de O dfinie par k g ~ ( z= k"pTl )) !T , z ) .C'est une (n,n- 1)-forme et par cons) ( Z i- (
dkBM. quent d k = ~ ~ Remarquons que B = kg^ o r est l'application holomorphe de Cn x Cn dans C" ,(z,<) I-+ - z . On en dduit donc que dB = d B . (n-l)! Comme B = - j2*i p e) t d p ( ~ = O o n a d o n c d B = d B = O. Onobtientla seconde relation en comparant les bidegrs. O
<
On peut donner une autre criture de B en utilisant la notion de dterminant sur une algbre. Si d est une algbre quelconque (par exemple l'algbre des formes diffrentielles) et si A = ( a i j ) l l i l n est une matrice d'ordre n coefficients dans
lljin
d, pose on
det A =
UE8"
W a o ( l ) , l . .'a<r(n),n
I. Noyau et formule de Bochner-Martinelli-Koppefrnan
57
o G, est le groupe des permutations de { 1, . . . ,n} et ( a )la signature de la permutation o. Ce dterminant a les proprits suivantes :
(il det A dpend linairement des colonnes de A pour des combinaisons linaires coefficients dans le centre de d . (ii) Si pour des entiers IC et C, 1 5 k < C 5 n, = bkci et aie = beci pour tout z E { 1, . . . ,n},o b k et be sont des lments quelconques de A et o les ci sont dans le centre de A, alors det A = O. On peut alors crire
ti
w'(<) =
1
~
( n - l)!
det
ce que l'on notera encore 1

w'(<) =
~
( n - l)!
det(6,
On en dduit l'criture suivante du noyau de Bochner-Martinelli-Koppelman

n-1
det(T - Z, dC - &) A u ( < - z )
dti ...dti
v
n-1
4 1.
IC - zIZn
Remarque :Observons que pour n = 1,on a BOO(z,C)= Cauchy usuel.
& &.C'est le noyau de
Proposition 1.4. Le noyau de Bochner-Martinelli-Koppelman est une forme difB frentielle localement intgrable sur Cn x Cn qui dfinit un courant que l'on note encore B satisfaisant
dB = dB = [A] (1.2) o [A] est le courant d'intgration sur la diagonale A de Cn x 6 ' 7.
--+ <cn l'application (z,<)I+ Dmonstration. Soient T : @" x forme diffrentielle de classe C" sur Cn \ {O} dfinie par
\Y""
c - z et ~
B la M
j=l
J T "
O( I x I - ~ ~ + ' )
Les coefficients de ICBM sont localement intgrables dans Cn car ce sont des et par consquent ICBM dfinit un courant sur C". Remarquons que
58
III. Noyau et formule de Bochner-Martinelli-Koppelman
et donc
On reconnat alors la solution fondamentale du Laplacien E ( z ) = z E C", d'o

-
(n-Z)!
1213n-2,
dkBM = d k = [O] ~ ~ (1.3) o [O] est le courant d'intgration en O, c'est--dire la masse de Dirac en O. Observons que B = T*ICBM et B est donc localement sommable sur Cn x Cn et dfinit un courant que l'on note encore B. En considrant les images rciproques des courants ~ B M [O] par la projection 7 ,on dduit de (1.3) le rsultat suivant et dB = dB = d ( ~ * k g=~~ ) * ( a k g ~ ) = T * [ O ] = [ T - ' ( O ) ] = [A]. O
Nous allons prouver maintenant que si K est un courant sur C" x C" dfini par une forme diffrentielle localement intgrable et de classe C" sur Cn x C" \ A qui satisfait dK = [A], on peut lui associer une formule de reprsentation intgrale. En choisissant K = B, nous obtiendrons la formule de Bochner-MartinelliKoppelman.
Thorme 1.5. Soit K un courant sur C" x C" d.fini par une forme diffrentielle localement intgrableetdeclassec" sur@" x @" \ A , qui vrifiedK = [A]. Soient D un domaine born de C" ffontire de classe C 1 et f une forme diffrentielle de degrr, de classeCm sur). Alors
o d , est calcul au sens des courants.
Dmonstration. Nous allons appliquer la formule de Stokes pour l'indice de Kronecker de deux courants (Chap. II, Cor. 3.7) aux deux courants T = [ D x D ] et S = f(<) A K(z,C)A g(z) o g est une (271 - r)-forme diffrentielle support compact dans D.
Remarquons que SS(bT) = ( d D x D ) U ( D x a D ) et que SS(dS) est contenu dansSS(S) = AnT;l(suppg), o ~ estlapremireprojectionde@" xCn dans c C". Par consquent, puisque g est support compact dans D , SS(bT)et S S ( d S ) ne se rencontrent pas et nous avons K(bT,S) = K(T,dS).Calculons chacun des membres de cette galit :
K(bT,S) = q [ a D x Dl
r
+ [ D x a D ] , f ( c A K(z,C)A g ( 4 ) )
1. Noyau et formule de Bochner-Martinelli-Koppelrnan
59
car g est support compact dans D. D'autre part
d S = d c f ( C ) A K ( z ,C) A g(z)+(-l)'f(C) A [Al A d z ) +(-q'+lf(C) A K ( z ,C) A d C d 4

on a donc
U T ,dS) =
LXD
d c f ( C ) A K ( z ,C) A 9 ( z )
+(-1)'K([D x DI, f ( C > ~ [ A l ~ 9 ( z ) ) + ( - l ) r + 1

DxD
f(CNK(z7 C)Adzg(z)
car K est localement intgrable sur D x D et (A n nF1(supp 9 ) )ne rencontre pas
S S ( [ Dx O]).
De plus, par dfinition de [A] et puisque le support de f(<) A [A] A g ( z ) est relativement compact dans D x D ,
Finalement
d'o l'galit au sens des courants sur D
Si z $ D, la forme diffrentielle f(<) A K ( z ,C) est de classe C"" sur et on a ! d K ( z ,C) = d z K ( z ,C) + d c K ( z ,C) = O. Onobtient alorsle rsultat en appliquant O la formule de Stokes classique (cf Annexe A, Th. 7.1).
Remarques 1.6
1) Observons que grce au Thorme de Fubini la formule (1.5) s'crit encore
(1.6)
pour toute forme diffrentielle g de degr (2n-r), de classe C" support compact dans D.
60
1II. Noyau et formule de Bochner-Martinelli-Koppelman

2) Le Thorme 1.5 reste vrai si D est un domaine bord de classe C1 par mor-
ceaux comme dans la Remarque 7.2 2) de l'annexe A. On pose alors
[all]=
3) Puisque pour tout E Cn la forme diffrentielle z ct K(z,<)est localement , intgrable et continue sur Cn \ {<} les formes diffrentielles
<
i=l
[S:].
sont continues sur Cn. La formule (1.6) a donc encore un sens dans le cas o f est une forme diffrentielle continue sur D telle que df soit encore continue sur D. Nous allons la prouver dans ce cadre. Si f est une forme diffrentielle continue sur D telle que df soit encore continue sur D, nous allons construire une famille (fE)~<E<EO de formes diffrentielles continues support compact dans Cn telles que les formes dfE soient aussi continues support compact dans C" et les familles ( f E ) O < E < E O et (dfE)O<E<Eoconvergent uniformment sur D vers f et df respectivement. la Pour tout i E d D , on note B ( J , r ) boule de centre et de rayon T et uc la normale extrieure en E dD. Choisissons T et EO assez petits pour que ( d D n B ( < , T ) ) tvc soit contenu dans D pour tout t E]O,E]. Notons U 1 , . . . ,Upun sous recouvrement fini de d D par de telles boules et UOun ouvert relativement compact dans D tel que (Uo,Ul,.. . ,Up)forme un recouvrement de D. Soit (xj)osjsp une famille de fonctions de classe C", support compact dans Cn valeurs positives, , telles que supp xj
<
c Uj et
fE(2)
P
j=O
xj = 1sur D. On dfinit
P
fE
par
= xo(z)f(-z)
+
j=i
xj(z)f(z - EVj).
D et grce la continuit uniforme de f uniformment vers f sur D. De plus

P
Si E ] O , E O [ , f E est une forme continue support compact dans un voisinage de sur D, la famille ( f E ) ~ < E < E O converge
d f E ( 4 = xo(z)df(z) +
j-1
Xj(4df(Z - E V j )
+ dxo(z) A f ( z )
P
j=l
Les - formes diffrentielles dfE sont continues support compact au voisinage de
D pour
E ~ ] O , E Oet grce la continuit uniforme de f et df sur D, la famille [ (dfE)o<E<Eoconverge uniformment vers df sur D.
En rgularisant les formes diffrentielles f E par convolution, on obtient une famille ( f E ) ~ < E < E o de formes diffrentielles de classe C" dans C* telles que (fE)O<E<EO converge uniformment vers f sur D et (dfE)O<E<EO converge uniformment vers df sur D quand E tend vers O. Les courants ( [ d o ]A f E ) O < E < E o t
2. Rsolubilit du 3 pour une donne support compact
61
([DI A dfE)O<E<EO ([DI A f E ) ~ < E < E O convergent dors respectivement vers et [aD]A f , [ D ] df et [Dl A f pour la topologie faible des courants dordre nul. Par A consquent la formule (1.6) et donc la formule (1.4) stend au cas o f et df sont
seulement continues sur 0.
Thorme 1.7. Formule de Bochner-Martinelli-Koppelman. Soient D un domaine born de Cn bord de classel, f une ( p , q )-forme diffrentielle continue surD telle
quedf soitaussicontinuesurn ( O 5 p 5 n,O 5 q 5 n ) .Alors

r r
o 8, est calcul au sens des courants. Dmonstration. Cest une consquence immdiate du Thorme 1.5 et de la Remarque 1.6, o lon a remplac K par le noyau B de Bochner-MartinelliKoppelman. Des considrations de bidegr permettent de remplacer loprateur d par 8 et le noyau B par les BC. O
2. R~SOLUBILITU 3 POUR UNE DONNE SUPPORT COMPACT D
Soit D un ouvert de IRn. Pour tout rel a,O < a < 1, et pour toute fonction f:D+C on dfinit la norme holdrienne dordre a de f sur D par
xfx
Lensemble A a ( D )= {f : D + C I if la,^ < +a} lespace vectoriel des est fonctions holdrienne dordre a sur D. Cest un espace de Banach. Toute fonction f de A a ( D )est borne et uniformment continue sur D. On note C a ( D ) , lespace des fonctions continues dans D telles que if la,^ < +oo pour tout compact K de D et si k est un entier, Ck+a(D) dsigne lespace des fonctions de classe C k dans D dont toutes les drives partielles dordre k sont dans Ca ( D ) .
( D )lespace des formes diffrentielles Si D est un ouvert de , on notera ? de type ( p , q ) dont les coefficients sont dans Ck+Q(D). f E CF,,(D) scrit Si fIjdZI A d Z j o I = ( i l , .. . ,ip), 21 < . . . < i,, et J = ( j l , . . ,jq), . f = j < . . . < jp, dfinit la norme holdrienne dordre a de f sur D par if la,^ = , on
S~PI,J
I,J
I~I,J~~,D.
Soit B le noyau de Bochner-Martinelli-Koppelman dfini au paragraphe 1 et D un domaine born bord de classe C. Si f est une forme diffrentielle borne
62
Ill. Noyau et formule de Bochner-Martinelli-Koppelrnan
dfinie sur D , on pose, pour z E D ,
La forme diffrentielle E a D f est de classeCm dans D. Notons que pour des raisons de bidegr, si f est de type ( p , q ) avec O 5 p 5 n et 1 5 q 5 n - 1,aiors
et
B a D f = O si q = n.
Si f est une forme diffrentielle borne dfinie sur D , on pose, pour z E D ,
Puisque B a une singularit intgrable en C = z , la forme diffrentielle BDf est bien dfinie sur D. Remarquons gaiement que si f est de type ( p , q ) ,on a
et en particulier Bof = O si q = O.
Proposition 2.1. Soit D un ouvert born de CG" . Alors 1) pour touteforme diffrentielle f borne sur D , la forme diffrentielle B D f est de classeCa dans D pour touta,O < (Y < 1. De plus, pour tout Q ,O < Q < 1, il existe une constante Ca telle que pour toute forme diffrentielle f borne sur D , on ait
I
l B D f la,D
calfI0,D
2) si f est une forme dflrentielle borne de classe c k ,alors E D f est de classe Ck+a dans D pour toutcu, O < Q < 1.
Dmonstration. Par dfinition du noyau B (cf formule (1.1)) existe une constante il C telle que
o ozn dsigne la mesure de Lebesgue sur R2".
Lemme 2.2. Soient n 2 1, un entier et R un rel strictement positif Il existe une s t constante C telle que pour tous s et t E IRn tels que I1 5 R et I1 5 R
2. Rsolubilit du
a pour une donne a support compact

R" fixs tels que
63
Dmonstration du lemme. Pour s et t E considrons les ensembles suivants :
(SI
5 R et It1 5 R,
I C'lt - SI
en intgrant en coordonnes sphriques. De manire analogue on a
Par consquent, puisque It/ I R et I1 5 R, on a s
Fin de la dmonstration de la proposition. Grce au lemme on a donc
I&f(z)
Comme pour tout (Y rsultat de i) est dmontr.
Iclfl0,Dlz - Cl1 b l z - I l l . E ] o , ~ [on a sup,,EED Iz - I I ' - ~ ( log Iz , II <

- &f(I)I
-
+qle
64
Supposons que f est borne dans D et de classe C k , fixons z E D et prouvons que BDf est de classe Ck+a au voisinage de z. Soit x E D ( D ) telle que x 1 sur , un voisinage U, de z. Alors 5 (1- x )f est de classe C" dans U, car B est de classe C" sur Cn x Cn\ A. I1 suffit donc de prouver que - Df est de classe C k + a dans B ~ U,. Supposons que f soit une (p,q)-forme, alors B D X f = JCED f (C) A
(e)
x(<)
B;-l(<lC). Posonsf (0 =
lIl=p IJI=q
fIJ(C)dCI A
d'TJ
B;-~(<,<) =
lKl=n-q-2 IL 1=q- 1 IMI=n-p INI=P
BKLMNKK A
CM
A &L A d < N .
On a alors B
Df ( ~) = C L , N h L , N d f L A d<N o E
Puisque x est support compact dans D
A d c K A dCM.
Comme B = r * k B M les fonctions B K L M N ( < , < sont indpendantes de et <) localement intgrable en C. On peut alors driver k fois sous le signe puisque f est de classe C k , ce qui prouve que Box f est de classe C k et on a pour =k
s,
<
[VI
D ' h ~ (E)= , ~
On dduit alors de la dfinition de B K L M N existe une constante C telle que qu'il pour tout t 1 w E D
ID'hLN(<) -D"hLN(W)I
< CSuP I c D U ( x f I J ) ( C ) I
CED I , J
et on conclut comme dans la preuve de 1).
Thorme 2.3. Soit D un domaine born de C' bord de classe C' et f une (plq)? formediffrentiellecontinuesurD tellequedf soitaussicontinuesurD, 5 p 5 n,
2. Rsolubilit du 8 pour une donne support compact
65
O 5 q 5 n. Alors les formes d@rentielles Ba0 f , Bod f , E D f et a i i D f sont continues dans D et on a

(2.5)
- -
(-l)p+'f
= EaDf - E D 8 f
+aBDf dansD.
- -
Dmonstration. La rgularit des formes diffrentielles E a D f , Bod f et E D f rsuite de la Proposition 2.1. D'aprs le Thorme 1.7 l'galit (2.5) est vraie au sens ,BDd et f sont Contif des courants, mais puisque les formes diffrentielles i i a f~ nues, aiors dBD f est continue. O
I -
Corollaire 2.4. Formule de Bochner-Martinelli. Soient D un domaine born bord C' dans U et f une fonction de classeCl s u r D alors ?
lEaD ( m.,o 0
f
A
8~ ( A B;(z,[)= f (2) S f 0
-L
~ E Z
D.
Si f est holomorphe dans D et continue dans D
/.
f (<) A BE(z,<) f ( z ) siz E D. =

J,,aD
Observons que si n = 1,le Corollaire 2.4 n'est autre que la formule de CauchyGreen et la formule de Cauchy dans C. Corollaire 2.5. 1) Soient q un entier tel que 1 5 q 5 n - 1 et f E Ci,q(C?) une (p,q)-forme diffrentielle de classe C k ,k 2 O, a-ferme, support compact dans C? . Alors il pour t o u t a ~ ] 0 , 1 [telle , existe une ( p , q - 1)-formediffrentielleu de classeCk++a, que au = f dans C". 2) Si D est un domaine born bord C1 de C" , pour toute ( p , n )-forme f dans Ci,"@), il existe une ( p , n - 1)-forme diffrentielle u de classe sur D, pour touta E]O,l[, tellequedu = f dansD. Dmonstration. Prouvons l'assertion 1). Soit D un domaine born bord C' de C" tel que D contienne le support de f.Appliquons le Thorme 2.3, on a alors
( - i ) p + q j ( z ) = diiD f ( )si z E D z
car Bao f = BDd f = O puisque f est d-ferme a support compact dans D . Posons u ( z ) = BD f ( z ) = JCEcnf (<) A B:-l(zl<), une forme de classe u est caprs ia Proposition 2.1 et satisfait au = f sur P . pour tout a E ] o , ~ [ , Prouvons l'assertion 2 . Observons que B = O pour tout p E {O, . . . ,n} et par ) E consquent il rsulte de la formule de Bochner-Martinelli-Koppelman que
(-l)p+"f(z)
=,
L D
f(<)~Bn-,(z,<)siz~ D
66
III. Noyau et formule de Bochner-Martinelli-Koppelrnan
cette galit tant prise au sens des courants si f est seulement continue. Posons u ( z )= f (C) A B ~ _ , ( z , C u,est la solution cherche et u E ) pour tout Q ~]0,1[, d'aprs la Proposition2.1. O
scED
Exemple :Supposons que n = q = 1. Si D est un domaine born bord C1 de C et f une fonction de classe C k,k 2 O, sur D, l'quation aux drives partielles
-u= f
az
possde une solution uo de classe
pour tout
E]0,1[,donne par
Pour obtenir ce rsultat, il suffit d'appliquer l'assertion 21 du Corollaire 2.5 la (0,l)-forme diffrentielle f(z)&. La solution gnrale de l'quation (*) est alors donne paru = u~ h o h est holomorphe dans D.
3. RGULARIT DU 8
Nous allons tendre la formule de Bochner-Martinelli-Koppelman aux courants

support compact et nous en dduirons un rsultat d'hypoellipticit holdrienne
pour l'oprateur
a.
On note toujours B(z,C)le noyau de Bochner-Martinelli-Koppelman dans C" . Si f est une forme diffrentielle continue support compact dans C" on pose pour z E C"
Lemme 3.1. L'application &n est linaire continue de V. dans C F (C"). De plus si f est une ( p , q )-forme diffrentielle, Ecn f est de bidegr ( p , q - 1).
(a?)
Dmonstration. On dduit aisment de la Proposition 2.1 que f est une forme diffrentielle de classe C", si f est de classe C". Remarquons que si f est de type (p,q), f ( z ) = ScEcnf ( C ) A Bq_,(z,C)et donc &n f est de bidegr ( P A - 1). Soit f E Ds(Cn), noterons D"Pf la forme diffrentielle obtenue en nous remplaant les coefficients f I J de f par leur drive Dao f I J . En reprenant la dmonstration de la Proposition 2.1 on montre facilement que D a p ( E pf ) = B C n ( D a p f ) .Comme de plus (Bcnf lo,@ 5 C(supp f ) l f l o , p cela prouve la continuit de & , car une suite de formes diffrentielles support compact converge vers O dans VD,(Cn) tous les termes de la suite sont support dans si
Bp
3. Rgularit du
67
un mme compact et si elle converge uniformment vers O ainsi que les suites de ses drives. o Si T est un courant support compact dans C* on peut dfinir S'T en posant
(3.1)
(B'T,cp) = (T,&
'p)
= (T,
cp(C) A
CEP
B(.,<))
est de
pour toute 'p E D , ( C ) ; c'est un courant sur bidegr ( p , q ) ,B'T est de bidegr ( p , q - 1).
Cn.Remarquons que si T
Proposition 3.2. Soit f une ( p , q )-forme diffrentielle continue support compact dans e", notons T f le courant dfini par f . Alors
B'Tf = (-l)P+"-'Bp f .
Proposition 3.3. Pour tout courant T support compact dans C" , le courant B'T est de classeCm sur C" \ supp T . Plus prcisment il existe une forme diffrentielle f coeficients de classeCm dans C" \ supp T telle que
"TIC"
\supp T
=Tf.
Dmonstration. I1 suffit de trouver une telle forme f pour tout ouvert U relativement compact dans C* \ supp T . Fixons un tel U . Soit x une fonction de classe C" dans Cn telle que = 1 dans un voisinage de supp T et x = O dans un voisinage de . Si cp E De V ) par dfinition de B'T on a ( ,
68
Ill. Noyau et formule de Bochner-Martinelli-Koppelman
carx(z)(l-x(C))B(z,) est uneformediffrelitielle declassec surunvoisinage de supp T x Cn . Par consquent T concide sur U avec la forme diffrentielle ? ( ct ( T , X ( z ) ( l - x ( C ) ) B ( z , < )qui est de classe C. ) O
A laide de loprateur B I , nous pouvons prouver une formule de BochnerMartinelli-Koppelmanpour les courants support compact.
Thorme 3.4. Pour tout courant T support compact dans Cn, on a la formule de reprsentation suivante :
(3.2)
T = - (BdT
+ dBT).
Dmonstration. Supposons que T est de bidegr ( p , q ) et considrons une forme cp E 2>n-,,n-,(Cn). Daprs la formule (2.5) on ala reprsentation
(3.3)
(-1)p+qp = dEp p - Bcndp
car cp est support compact. Appliquons T aux deux membres de (3.3), on obtient
do le thorme.
On peut alors dduire de cette formule un rsultat de rgularit pour loprateur de Cauchy-Riemann. Thorme 3.5. Soient X une varit analytique complexe et T u n courant de degr O sur X . Si dT = T f ,o f est une (O,l)-formediflrentielle de classe C k sur X , IC = O , 1 , . . . ,CO, alors
T = T,, o g E
n P+*(x).
O<a<l
En particulier sidT = O alors T = Th o h est une fonction holomorphe sur X . Dmonstration. Puisque lassertion est locale on peut supposer que X est un ouvert de C . II suffit alors de prouver que pour tout ouvert U CC X , il existe une fonction g E Ck+Q(U) que T = Tg sur U . Soit x une fonction C support telle
compact dans X telle que x = 1 sur un voisinage de . Appliquons la formule (3.2) x T , on obtient
O<a<l
(3.4)
-xT = B ( d ( x T ) ) = B(Tdx) + B(xTf)

I _
car T est de degr O. Puisque supp(Tdx) CC U , il rsulte de la Proposition 3.3 que g(Tdx) = T,, og1 E C(U). plus g ( x T f )concide avec 6, ( x f ) De daprs la Proposition 3.2, par consquent B(xTf) E Ck+(C?) daprs
O<a<l
4. Phnomne de Hartogs
69
la Proposition 2.1. Posons g =
g1
+ B'(xTf)I' On dduit alors de (3.4) que U

O
TIu = Tg.
Remarques 3.6
1) Le Thorme 3.5 est encore vrai lorsque T est un courant de bidegr ( p ,O), car une ( p , 0)-forme diffrentielle d-ferme est coefficients holomorphes donc de classe C". 2) Si on remplace le courant T de degr O du Thorme 3.5 par un courant de bidegr ( p , q ) , q 2 1, on montrera au chapitre V, 3 5, le rsultat suivant : il existe g E C,",z*(X) telle que dT = dTg,c'est--dire que si l'quation du =
O<a<l
f ,f
CP,,+,(X), possde une solution au sens des courants elle possde une
pour tout (Y ~ ] 0 , 1 [ .
solution de classe
4. PH~NOMNE DE HARTOGS
Le but de ce paragraphe est de prouver que si D est un ouvert de @" , n 2 2, et K un compact de D tel que D \ K soit connexe, toute fonction holomorphe dans D \ K se prolonge holomorphiquement D tout entier. Au chapitre I nous avons prouv ce rsultat dans le cas o D est un polydisque de @" , n 2 2. Commenons par prciser le Corollaire 2.5 lorsque f est une (O, 1)-forme.
Thorme 4.1. Soit f E Cg,l(ccZ) une (O, 1)-formediffrentiellede classeCk, k 2 O, d-ferme, support compact dans Cn, 2 2 . Alors il existe une fonction u de n classeCk+", pour t o u t a E]O,l[, supportcompact telle que& = f sur(Cn. De plus u est donne par la reprsentation intgrale
Dmonstration. Nous avons dj prouv dans le Corollaire 2.5 que la fonction u donne par (4.1) est une solution de classe Ck+a de l'quation du = f sur @ I1 ., reste donc montrer que u est support compact dans P.Remarquons que u est holomorphe en dehors du support de f car du = f. De plus si u est donne par la relation (4. I)
ce qui implique que u z ) 4 O quand IzI tend vers l'infini. (
n z,) Pour z E P, 2 2, posons z = (2, o z' E @"-l et z, E @. Puisque le support de f est compact il existe R > O tel que si Jz'J> R, l'ensemble ( 2 ) x C ne rencontre pas le support de f . Fixons un tel z', alors la fonction z, C ) u(z', z,)
70
est holomorphe et tend vers O quand 1, I tend vers l'infini. D'aprs le Thorme 2 de Liouville elle est donc identiquement nulle. Nous avons donc montr que u est nulie sur l'ouvert { z' E Cn I 12'1 > R}x C du complmentaire de supp f. Puisque u est holomorphe sur C" \ supp f ,elle est donc identiquement nulle sur la composante connexe non borne de Cn \ supp f,ce qui prouve que IL est support O compact. Remarque :Le Thorme 4.1 est faux pour n = 1. Cela rsulte du fait plus gnral suivant : si f est une (0,n)-formediffrentielle continue, d-ferme, support compact dans Cn ,l'quation du = f n'a en gnral pas de solution support compact. En effet si uo est une solution de l'quation du = f support compact dans Cn et si D est un ouvert de C" contenant le support de uo et bord de classe C1, on a
Mais en appliquant la formule de Stokes, on obtient

1~0 dzl A
A . . .Adzn =
k D
et ce dernier terme n'est pas nul en gnral.

Thorme 4.2. Soit D un ouvert born deCn tel queCn \ D soit connexe. Supposons n > 1,alors pour toute fonction f holomorphe sur un voisinage d e d D , il existe une fonction F holomorphe au voisinage de D qui concide avec f sur d D .
s,
d(Uo A d z l A . . .Adz,) =
f A dzl A . .
.Adzn
Dmonstration. Notons U a D le voisinage de a D sur lequel f est dfinie et holomorphe et choisissons x une fonction C" support dans U a D et gale 1 au voisinage de d D . Alors la fonction f = x f est dfinie dans Cn et concide avec f au voisinage de dD. Posons
On a ainsi dfini une (0,l)-forme diffrentielle de classe C" sur Cn support dans D , car df = df = O au voisinage de d D . De plus g est d-ferme dans C", on peut donc considrer l'quation d u = g. D'aprs le Thorme 4.1, cette quation possde une solution uo support compact donc nulle sur un ouvert de C" \ D car D est born. Puisque duo = g,uO est holomorphe sur cc" \ D et comme C" \ D est connexe par hypothse, uo est identiquement nulle sur cc" \ D . Par consquent F = f - uo est la fonction cherche. O
~
Corollaire 4.3. Soient D un domaine de cc" et K un compact de D tel que D \ K soit connexe. Alors toute fonction holomorphe sur D \ K s'tend en une fonction holomorphe sur D .
Dmonstration. Sans perte de gnralit on peut supposer que K est connexe. Soit D' un domaine born de cc" tel que C" \ D' soit connexe contenu dans D et
4. Phnomne de Hartogs
71
contenant K . Un tel ouvert existe car D \ K est connexe, il suffit de prendre D' = { z E D I dist(z, K ) < E } , E assez petit, si D # @" et D' = B(0,R ) , " R assez grand, si D = C . Si f est holomorphe dans D \ K , eiie est holomorphe au voisinage de D' et par le Thorme 4.2 il existe F holomorphe au voisinage de -I D telle que f = FI ao,. Puisque dD' est une hypersurface relle de @" et que f et F sont holomorphes au voisinage dD' et concident sur dD', elles concident sur la composante connexe de leur domaine de dfinition commun qui contient F sur D' do'. La fonction = O est l'extension cherche. fsurD\K
laD,
Commentaires. La formule dite de Bochner-Martinelli, qui tend laformule de Cauchy un domaine born bord lisse de @" , a t dcouverte indpendamment par E. Martinelli [Ma 11 en 1938 et S. Bochner [Bo]en 1940. Ces deux auteurs l'ont utilise pour donner une dmonstration rigoureuse du phnomne de Hartogs ([Ma21 et [Bo]).La gnralisation au cas des formes diffrentielles a t obtenue par W Koppelman [KO] 1967. en
Des dmonstrations de la formule de Bochner-Martinelli-Koppelman, diffrentes de celle presente ici, peuvent tre trouves dans [HelLel] et [Ra]. Les proprits de rgularit donnes au paragraphe 2 sont galement exposes dans ces deux volumes. Le thorme de rgularit pour le 5 est dmontr dans le paragraphe 1 du premier chapitre du livre de Henkin et Leiterer IHelLe21 et une dmonstration du phnomne de Hartogs, d'un esprit un peu diffrent, est donne par Range dans le paragraphe 2 du chapitre N d e [Ra]. Dans [HO2],Hormander donne une autre dmonstration du Thorme 4.1, base sur laformule de Cauchy-Green en dimension I, pour en dduire le phnomne de Hartogs.
Chapitre IV
Extension de fonctions C R
En tudiant le phnomne de Hartogs au chapitre III, nous avons prouv que si D est un domaine born simplement connexe de (??, n 2 2, toute fonction holomorphe au voisinage du bord de D s'tend en une fonction holomorphe sur D. Par consquent, la trace sur d D d'une fonction holomorphe au voisinage de d D est la valeur au bord d'une fonction holomorphe sur D et continue sur D. Nous nous intressons ici la caractrisation des valeurs au bord des fonctions holomorphes dfinies sur un domaine born D de et continues sur D. Le rsultat principal de ce chapitre est le thorme d'extension de Bochner pour les fonctions C R dfinies sur le bord du domaine. Sa dmonstration utilise la transforme de Bochner-Martinelli que nous tudions au paragraphe 1. Nous prouvons galement une premire gnralisation du thorme de Bochner au cas des fonctions CR dfinies seulement sur une partie du bord d'un domaine. Cette gnralisation s'appuie elle aussi sur les proprits de la transforme de Bochner-Martinelli mais ncessite l'utilisation d'une formule de Stokes pour les fonctions CR et la connaissance de primitives du noyau de B ochner-Martinelli.
cn
1. TRANSFORME DE BOCHNER-MARTINELLI
Soient U un ouvert de Cc" V une hypersurface relle lisse de classe C1 dans U et (i.e. V est une sous-varit relle de classe C1 de dimension relle 2 n - 1 contenue dans l'ouvert U de CC" Y telle que U \ V ait exactement deux composantes connexes U+ et U - . On suppose que V est oriente et que son orientation concide avec celle de du+.
Dfinition 1.1. Soit f une fonction continue support compact dfinie sur V . On
dfinit la transforme de Bochner-Martinelli de f par
74
IV Extension de fonctions C R
Remarquons que F est une fonction de classe C" et mme analytique relle sur U \ siipp f car @(a,<) est une forme diffrentielle coefficients analytiques rels sur CT' x @" \ A. L'objet de ce paragraphe est l'tude de F au voisinage des points de supp f . Remarque 1.2 :Soit D CC U un domaine bord C1 par morceaux tel que D C U+ e t d D n V 3 supp f.Alorssiz E U\ ( V r i d D )
I1 est facile de construire un tel domaine D. On peut toujours supposer que V est dfinie par V = {z E U I ~ ( z= O}, o T est une fonction de classe C1 sur U ) telle que d r ( z ) # O pour tout z E V. Soit D' un domaine bordCl de V contenant le support de f . I1 existe alors une fonction C',p, dfinie sur un voisinage de D' telle que D' = { z E V n I p ( z ) < O } , i3D' = {z E U D ~ p ( z ) = ~ ( z= I ) O}etdp(z)Adr(z) # Osiz E d D ' . P o u r ~> OonposeV, = { z E U I ~ ( z= ) } , E si U+ = { z E U I ~ ( z > O} et V, = {z E U I ~ ( z = - E } , si U+ = { z E ) ) U I r ( z ) < O } . Pour E suffisamment petit d r ( z ) # O, si z E V, n { p 5 O}, et d p ( z ) A & ( z ) # O, si t E V, n { p = O}. Supposons que l'on a choisi T tel que U+ = { z E U I T ( Z ) < O} et dors si
D
marque 1.2.
{z E U
I -E < ~
( z< O} n {z E U D I~p ( z ) < O } . )
D est un domaine bord C1 par morceaux satisfaisant les conditions de la Re-
Thorme 1.3.Soit f une fonction de classeC",O
< a 5 1,supportcompactdans V . Alors les fonctions FI u+ et F ci- ont des prolongements continus F + et F - U+ V et U - V et sur V, ces extensions satisfont la formule de Plemelj
F+I,
F-1.
=f
Dmonstration. Soit D un domaine bord C1 par morceaux vrifiant les hypothses delaRemarque 1.2, alors F ( z ) = J c E a D f ((')Bt(z,C). Notons f une extension de classe C" de f U . On peut construire de la manire suivante. Soit ( U 2 ) , E ~ recouvrement de V par des ouverts tels que pour un chaque z E I , il existe h, : U, + IR2" satisfaisant h,(V) = {x E IR2" I x1 = O} et si U, n s u p p f # 0 alors U, n (i3D \ V ) = 0. On dfinit par f a ( z ) = f ohL'(O,(h,)z(z),. . . , ( h z ) 2 n ( z ) ) p o u r zE U,;f,estdeclasseCasurU, et satisfait = f. Posons UO = C" \ et soit ( x ~ ) ~ ~ I une O ) ~ ( partitionCm
C'
f,
f,l u , n v
de l'unit relative au recouvrement cherche.
( I ! Y , ) , ~ I ~Alors . ~~}
=
zEI
xzfzest l'extension
I. Transforme de Bochner-Martinelli
75
Posons F o ( z ) = F ( z ) - f ( z ) ,si z E D et F o ( z ) = F ( z ) ,si z # D. Daprs la formule de Bochner-Martinelli (Chap. III, Corollaire 2.4 et Remarque 1.6 2))
Fo(z) =
Puisque
JItoD (0
(f
- f(z))B,O(z,C).
f est de classe C a
et que
, if
= f on a
(f (0 f ( z ) ) B i ( z , < )= -
La forme diffrentielle ( f ( 0 - f ( z ) ) B g ( z , < ) donc coest efficients localement intgrables sur d D . Par consquent FOest continue sur U et lexistence de F+ et F - vrifiant F+Iv-F-Iv=f se dduit aisment de la O dfinition de Fo.
O ( ,c-z,~n-l-y).
Remarque :Sous les hypothses du Thorme 1.3, on peut en fait prouver que F+ et F - sont de classe Co respectivement sur U+ U V et U - U V (cf [Cil). Thorme 1.4. Soit zo E V fix. On pose A, = V B (z 0 , r )pour T > O et on note n, le vecteur unitaire normal V en z dirig vers U+. Pour r assez petit, si f une fonction continue support compact dans V ,alors F ( z tn,) - F ( z - tn,) converge uniformment par rapport z sur A, vers f ( z ) lorsque t tend vers O par valeurs positives.
Dmonstration. Choisissons r > O tel que B(zo,2r) C U et dcomposons f en f = f O fi, o supp f i c B(zo,2r)et f o E O sur B ( z 0 , r )n V . La transforme de Bochner-Martinelli Fo de fo est videmment continue sur B(z0,r) et il suffit donc dtudier la transforme de Bochner-MartinelliFi de f i .
Sans perte de gnralit on peut supposer que zo = O et que r est suffisamment petit pour que 1) B(0,2r)soit transverse V . On notera dors D un domaine bord C contenu dans B(0,2r)n U+ et tel que d D n V contienne le support de f i . 2) Si n, est la normale unitaire en z V dirige vers U+,il existe C < 1 tel que I(< - z,n,)1 5 CIc - z Jpourtout z,( E B(0,2r)n V . Daprs la formule de Bochner-Martinelli, si z E A,.
f ( z ) pour t > O assez petit

Donc si It 1
5 t o assez petit on a
G ( z , t )= F l ( z
+ t n z )- F I ( Z- tn,)
c telle que
f(z)
Lemme 1.5. Il existe une constante
IBO(z
A D
+ tn,,<) - B,O(z - tn,,C)lda(C) 5 C,pourz E A,,O
< t 5 to.
76
Dmonstration du Lemme 1.5. Posons
A ( t , < , )= IB,Ob+ tn,,(') - B,O(z - tn2,OI.

Par des calculs analogues ceux de la dmonstration du Lemme 2.2 du chapitre III, on obtient l'estimation
A(t,<) i
I(' - ( z + tn,) p I< - ( 2 - tn,) 12n Maispourz,< E B(0,2r) n V ,o n a I(' - z f tn,I2 2 (1 - c)[l( - 21' + t 2 ]carr a t choisi tel que I(< - z I n,)l 5 cl< - zI. Par consquent
CIItl
+
( max ( I<
1 ( z - tnz) 12n
1.
Pourz E A,etyteiqueO
s,,
< y < r,ona

A(t,(')WC) +
aD\B(z,r)
A(t,C)da(<) =
A(t,C)WC).
aDnB(z,r)
La premire intgrale du second membre est clairement borne uniformment par rapport z dans A,. Aprs paramtrisation de V n B(z,y),la seconde intgrale est majore par
I ( t )=
xEWZn-' (1x12 MIR
+ t 2 ) n dV(x).
En faisant le changement de variable y = t z , on obtient
ce qui termine la dmonstration du lemme.
Fin de la dmonstration du Thorme 1.4. Fixons E > O et choisissons q > O tel que - f ( z ) l < 3 pour I< - zI < q. Dcoupons alors d D en deux parties d D n B ( z , q )e t d D \ B ( z , q ) . Ondduitalorsde (1.1) etduLemme 1.5l'estimation
If(<)
Sur D \ B(z,q),A(t,<) BE(z +tn,,<)- BE(z - tn,,<) dpend continment = de (t,<) d'aprs (1.2) on a et
Par consquent l'intgrale du second membre de (1.3) tend vers O lorsque t tend vers O de plus cette convergence est uniforme par rapport z dans A, car Bg(z,<) ne dpend que de z - <. I1 existe donc th tel que si O < t < th, pour z E A,, alors IG(z,t)I < 2 ~ . O
2. Fonctions C R sur une hypersurface relle
77
Corollaire 1.6. Si f est continue support compact sur V et si FI u- admet une extension continue F - U - U V alors FI,, admet une extension continue F+ U+ V e t o n a
F+I,
F-1, = f .
Dmonstration. Soit zo E V fix et w E U+ assez proche de ZO. On note z la projection orthogonale de w sur V , on a alors w = z tn, o n, est la normale unitaireenz V. NousallonsmontrerqueF(w) tendvers F-(zo)+ f (zo),lorsque w tend vers 20, ce qui prouvera le corollaire
(1.4)
IF(w) - F - ( z o ) - f (z0)l 5 IF(z + tn,) - F ( z - t n z ) - f (.)I +If (2) - f (.O)[ + I F ( z + in,) - F-(zo)l.
Fixons E > O. Si w est assez proche de zo, on dduit du Thorme 1.4 que le premier terme du second membre de (1.4) est major par De plus si w est assez proche de zo, z est proche de zo et par continuit de f , le second terme est gaiement major par : Finalement si w tend vers zo, z - tn, tend aussi vers zo et la . continuit de F - sur U - V implique que le troisime terme est major par
5.
5.
Exemple : Soit D un domaine born bord C1 et f E C(aD). Supposons que JaD f(<)Bg(z,<) Opourz # D, alors F ( z ) = = f (<)Bg(z,C), quiest dfinie sur D , s'tend continment D et on a F ( z ) = f ( z ) si z E 30.
saD
2. FONCTIONS C R SUR UNE HYPERSURFACERELLE
On dsigne par V une hypersurface relle oriente de classe C1 dans Cn. L'objet de ce paragraphe est de dfinir une classe de fonctions sur V qui contient les traces des fonctions holomorphes au voisinage de V et qui concide, lorsque V est le bord d'un domaine D , avec les valeurs au bord des fonctions holomorphes dans D.
Dfinition 2.1. Une fonction f continue sur V est dite Cauchy-Riemann ( C R ) si
pour toute formediffrentielleX de bidegr (n,n- 2), de classeCm sur un voisinage de V et telle que supp X n V soit compact, on a
Jv fax
= O.
Remarque :En terme de courant f C R sur V signifie que f [VIo>', [VIo>' la o est partie de bidegr (0,l) du courant d'intgration sur V ,est d-ferm. Exemple : Si F est une fonction holomorphe au voisinage de V , alors f = FI, est C R sur V . En effet, soit X une (n,n - 2)-forme diffrentielle de classe C au "
78
voisinage de V telle que supp X n V soit compact et soit D un domaine born bord C1 par morceaux contenu dans les domaines de dfinition de F et A, tel que d D n V 3 s u p p X n V et que l'orientation sur V concide avec celle de dD. Alors
Jv
fax
FaX = saD( F X ) d = SODd ( F X ) = O

= JaD
par dfinition de D et car f = FI car F est holomorphe d'aprs la formule de Stokes puisque X est de type (n,n - 2).
Dfinition 2.2. Une fonction f E C1 ( V ) est dite Cauchy-Riemann ( C R )sur V si pour toutp E V etpour toutu E T i i l ( V )on a v ( f j = O
Remarque :Si V est dfinie par { z E U I ~ ( z = O}, o U est un ouvert de Cn et T ) une fonction C1 de U dans R telle que d r ( z ) # O si z E U , la fonction f E C'(V) est CR si et seulement si pour tout p E V , on a
pour t E
cntel que
n
j=l
( p ) t j = O.
Nous allons prouver que, si f est une fonction de classe C' sur V ,les deux dfinitions que nous venons de donner concident.
Lemme 2.3. Supposons que V est de classe C k , l 5 IC 5 00. Si f E C k ( V )est une fonction C R au sens de la DBnition 2.2, il existe un voisinage U de V et une extension E Ck-l( U )de f telle que (il = f. (il) Toutes les drives d'ordre k - 1 de sont drivables en tout point z E V et Dafest continue sur V pour [al= k . (iii) df(z) = O pour toutz E V .
JIv
Dmonstration. Pour pEV, soient L l ( p ) ,. . . , L n - l ( p ) une base de T k i o ( V ) et L n ( p ) # O un vecteur tel que T;>O(<cn) = T;io(V) @ CL, ( p ) .D'aprs la Dfinition 2.2, f C R signifie Lj ( p )f = 0 , j = 1, . . . ,n - 1, pour tout p E V .
On cherche une extension
f de f qui vrifie -$p ) = O, pour tout p (
V , et
donc z n ( p ) f = O, pour tout p E V . Vrifions q i e cette condition dtermine le dveloppement de Taylor de jusqu' l'ordre 1 en tout point de V . Si V est dfinie par { z E U 1 T ( Z ) = O } , o U est un ouvert de cc" et T une fonction de classe C k de U dans R telle que d ( z ) # O , si t E U , on peut choisir
3. Thorme de Bochner
-
79
On a alors ( L , - L,) ( r ) = O et donc L, (2) - En(2) est un lment de CTz (V) pour tout z E V. Par consquent si z,(z)f = O, pour z E V ; on obtient
= f . De plus L j ( z ) f = L j ( z ) f et Ej(z)f = O si z E V,l 5 si 2 E V, car j 5 ri - 1. CommeCT2Cn estengendrpar ( L i ( z ) , E i ( ~ )- ~ < i l , , s E V, vfest ) iz donc entirement dtermin pour tout v E CT2C" ,z E V.
flv
LMf
= [ L n ( z )-
L ( 4 l f = [ L ( z ) Ldf)If,
-
On peut supposer que E,T(z) = 1, si z E V, et que f est la restriction d'une fonction encore note f de classe Ck sur U . On pose alors f ( z ) = f ( z ) r ( z ) ( E n f ) ( zpour z E U. I1 est clair que est de classe C"' ) et que = f . Puisque T a . O et T est de classe C" on montre facilement (iil.
SIv
Par dfinition df(z) = O, si z E V, si et seulement si Zj(z)f = O pour tout z E V et tout j = 1, . . . ,n. Or zj (z)f = zj ( z ) f = O, si z E V, car f est C R et O ~ , ( z ) f= Z,(z)f - (En(z)r)(En(z)f) O, carE,(z)r = 1,siz E V . =
Nous pouvons maintenant montrer que les deux dfinitions concident lorsque
f est de classe C1 sur V.

Supposons que f E C1(V) est C R au sens de la Dfinition 2.2 et soit f une extension de f un voisinage de V satisfaisant aux conclusions du Lemme 2.3. Si X est une (n,n- 2)-forme diffrentielle de classe C" au voisinage de V telle que supp X n V soit compact, on a Jv f a x = Jv carfi" = f = Jv (f~) carf = O sur v = Jv d ( f X ) = O car X est de type (n,n - 2) d'aprs la formule de Stokes.
fax
Rciproquement, si f E C'(V) est C R au sens de la Dfinition 2.1 et si f est une extension de classe C1 de f un voisinage de V on a 8(f[V]'l1) = O ce qui implique (df) A [VI'>' = O car [VI est un courant ferm. si T est une fonction dfinissante de V on a alors = 6% et donc df A [VIoi1= O quivaut a (--ar zJ - --) azk = Opour1 5 j < k. 5 n. Lesvecteurs(&(p)(q)P f r f azk a?, aF, ( p )( & ) p ) , 1 5 j < k 5 n, forment une famille gnratrice de T:"( V), pour ar toutp E aD , et donc v(f) = O, pour tout v E T j > l ( V ) , p V . E
3. THORME DE BOCHNER
Soit D un domaine bord C', born dans C" . On s'intresse au problme suivant : tant donn une fonction f continue sur a D , quelles conditions sur f et sur D peut-on tendre f en une fonction F continue sur D et holomorphe sur D. On sait par le Thorme d'extension de Hartogs (chap. III, th. 4.2) que le problme a une solution pour n >. 2 si le bord de D est connexe et si f est la restriction d u n e fonction holomorphe au voisinage de dD.
80
I V . Extension de fonctions C R
Dterminons tout d'abord des conditions ncessaires pour que le problme ait une solution :
1) il faut que f soit CR.
En effet soit cy une forme diffrentielle de classe C" de bidegr (n,n- 2) dfinie au voisinage de dD. Supposons que f s'tende en une fonction F continue s u r D et holomorphe sur D. Notons x une fonction C" support compact dans le domaine de dfinition de cy et gale 1 sur un voisinage de dD. On a dors
faCY=
= JD = JD =
Fd(Xcy)
d(Fa(xa))
'(
A
cy)) sDd FF d ( Xd(xa)
=O
par dfinition de F et x par la formule de Stokes car cy est de bidegr (n,n- 2) car F est holomorphe dans D.
2) I1 faut que d D soit connexe ou bien que
sa, f (<)BD(z,<) O si z $! D. =
r2.
Supposons que d D possde deux composantes connexes riet Notons ri la composante qui borde la composante connexe non borne de C" \ D et f i la restriction de f ri,i = 1,2. Si le problme a une solution, ii existe F continue sur D, holomorphe sur D et telle que FI r, = fi,i = 1,2. Si K est la composante connexe borne de C" \ D , d'aprs le Thorme de Hartogs F s'tend en une fonction holomorphe F sur D K . D'aprs la formule de Bochner-Martinelli on a
si z E K et donc
f ( < ) ~ g ( z ,=) <O
si
z $! D
car cette intgrale est clairement nulle si z est dans la composante connexe non borne de C" \ D dans ce cas. Thorme 3.1. Thorme de Bochner. Soient D un domaine relativementcompact bord C1 de @" ,n 2 2, tel que C" \ D soit connexe. Si f est une fonction C R continue sur d D , il existe une fonction F continue sur D, holomorphe sur D , telle E queFlaD = f . D e p l u s F ( z ) = JctaDf(<)Bg(z,<)siz D .
Dmonstration. Prouvons tout d'abord l'unicit de F . Si Fi et Fz sont deux extencontinue sions holomorphes de f D , Fi - F2 est une fonction holomorphe sur D , sur D et telle que F I - F2 = O. D'aprs le principe du maximum FI - F2 = O sur D.
laD
D'autre part si F existe, d'aprs la formule de Bochner-Martinelli
F(C)B,O(Z,<) = f (<Mxz,<) si F ( z ) = J(EZiD CEaD car F = f . (On a ainsi prouv de nouveau i'unicit de FI.
D,
laD
3. Thorme de Bochner
81
Montrons maintenant l'existence de F . Considrons la fonction
Elle est de classe C sur cc" \ dD. D'aprs l'tude de la transforme de Bochner" Martinelli ( c f .Cor. 1.6) il suffit de prouver que F est holomorphe sur @" \ d D et identiquement nulle sur C" \ D. Calculons 3 F sur C \ D. On a a F ( z ) = " f (C)d,Bg(z,C) maisd,Bg(z, <) = - d ~ B y ( z () sur @" x @" \ A et donc ,
SrEaD
pour z E C" \ d D fix, d F ( z ) = f ( C ) a ~ B y (C), = O car f est une z fonction CR sur le compact dD. La fonction F est donc holomorphe sur C" \ dD. Remarquons que F ( z ) tend vers O quand IzI tend vers l'infini car IF(.)[ 5 <list(:,aD) . Puisque F est holomorphe sur @" \ D, n 2 2 et Qin \ D est connexe, F est alors identiquement nulle sur @" le chapitre IV).
SrCao
\ D ( c f .dmonstration du Thorme 4.1 dans

o
Thorme 3.2. Soient D un domaine relativement compact bord C1 de @" et f est une fonction continue sur d D . Pour qu'il existe une fonction F holomorphe dans D continue surD telle que F a = f il faut et il sufit que pour toute ( n ,n - 1)-forme o diffrentiellea!de classec", -ferme dfinie sur un voisinage de D on ait
f a ! = o.
Dmonstration
1) Condition ncessaire : supposons qu'il existe F continue sur D et holomorphe sur D telle que F = f et considrons une ( n ,n - 1)forme a! de classe Cw, d-ferme au voisinage de D. Alors
lao
.hDfa
=SaDFa
= SD d ( F a )
=
SDd F A a + F3ja = O
par dfinition de F par la formule de Stokes car F et a! sont 3-fermes.
2) Condition suffisante : montrons tout d'abord que f est CR. Soient A une forme diffrentielle C", de bidegr ( n ,n - 2) dfinie sur un voisinage de d D et x une fonction C" support compact dans le domaine de dfinition de X et gale 1 au voisinage de d D alors
car ~ ( x X )est une (n,n au voisinage de D.
1)-forme diffrentielle de classe C", d-ferme, dfinie
Considrons la fonction F ( z ) =
ScEaD (<)Bg(z, Elle est holomorphe sur f C).

\ D, B g ( z , .)
@" \dD d'aprs la dmonstration du thorme prcdent. Si z E @"
82
-
est une (n,n- 1)-forme diffrentielle de classe Cm,d-ferme sur Cn un voisinage de D. L'hypothse faite sur f implique que
\ { z } qui est
F(z)=
f ( C ) B g ( z , ( )= O
si
Cn
\o.
O
On dduit alors du Corollaire 1.6 que f est l'extension cherche.
Terminons ce paragraphe en tudiant la rgularit de l'extension F lorsque f est de classe C'". Thorme 3.3. Soient D un domaine born de C n , bord de classe C" et f une fonctionCR, declasseCk,l 5 k 5 m, surdD. Supposonsque: soit Cn \ D est connexe et n 2 2, soit f a = O, pour toute (n,n - 1)-forme dflrentielle a de classe C" ,dferme au voisinage de D. Il existe alors une fonction F de classec'" s u r n , holomorphe dans D , telle que
saD
=f'
Dmonstration. L'existence et l'unicit de l'extension F rsultent des Thormes 3.1 et 3.2. I1 ne reste plus qu' tudier la rgularit de F . Rappelons que
Montrons tout d'abord que F est de classe C1 sur 0. drivant sous l'intEn grale, on obtient
Comme B: est de type (n,n - 1) en ( et 8c-ferme, on peut crire, pour J (1,.. . ,n}fix, B = dc3 A B, O
o B3 est une forme diffrentielle de type ( n - l , n - 1) telle q u e dcB3 = O. De plus les coefficientsde B, sont des fonctions de - z . Par consquent
<
Notons f" une extension de f satisfaisant aux conclusions du Lemme 2.3. On a alors pour z E Cn \ d D
4. Formule de Stokes pour les fonctions CR
83
Puisque F
= O sur C" \ D, il en est de mme de
laire 1.6 que
EID
s'tend continment D.
a23
et on dduit donc du Corol-
Le cas gnrai se dmontre par rcurrence sur IC. Supposons que le rsultat est vrai pour k 2 1. Soient f E ( d o )une fonction CR sur d D et June extension de f satisfaisant aux conclusions du Lemme 2.3. Nous venons de prouver que si F ( z ) = J c E a D f ()Bg(z,<) pour z E C" \ d D alors pour t o u t j = 1,.. . ,n
Puisque que
aZ3
est holomorphe dans D et continue sur D et FI,,
E E C'((D),j
E l a D - ac, laD E
-ai.
est C'(do). On dduit alors de l'hypothse de rcurrence
=f ,
laD
= 1,.. . ,n, c'est--dire
F E
Ck+'(D).
4. FORMULE DE STOKES POUR LES FONCTIONS CR
On dsigne par V une hypersurface relle de classe C' de C" ,n 2 2.
Soit D un domaine bord C' relativement compact dans V. Si f est une fonction C R de classe C' sur V ,il rsulte de la formule de Stokes que pour toute (n,n2)-forme diffrentielle a de classe C1 au voisinage de V on a
Le but de ce paragraphe est dtendre la formule (4.1) au cas o f est seulement

continue.
Lemme 4.1. S i D est un domaine bord C' relativement compact dans V , il existe un domaine D born dans C" , dont le bord est de classe C1 au voisinage de V , tel que 6 n V = D et V coupe d D transversalement.
Dmonstration. Puisque d D est une sous-varit de classe C', de codimension 2 de C" , il existe des fonctions T et p valeurs relles telles que a) T est dfinie et de classe C' sur un voisinage UV de V dans C" ,V = {t E UV I ~ ( z= O} et d r ( z ) # O pourtout t E UV. ) b) p est dfinie et de classe C' sur un voisinage UaD de d D dans C", d D = { z E V n UaD 1 p ( z ) = O}, d p ( z ) # O, pour tout z E UaD et D n U a ~ = { z E
v n ut30 I p ( z ) < o } .
c) d r ( z ) A d p ( z ) # O, pour tout z E
UV fl U ~ D .
On dfinit aiors 6 de la manire suivante : c { z E UV I - E < T ( Z ) < E } , 6 n V = D et 6 f i 1730 = { z E U ~ ID ( z ) < O}, E tant choisi assezpetit pour p O q u e U a D n { z E UV I - E < ~ ( z< )E } # 0.
84
Lemme 4.2. Soient D un domaine bord C relativement compact dans V et 5 un domaine associ D par le Lemme 4.1. Si cp est une (2n - 1)-forme diffrentielle continue sur V et (e une extension continue de cp Cn on a
o K (. ,.) dsigne lindice de Kronecker.

Dmonstration. NOUS aiions prouver que K([D],[v]O~ (e) existe et quil est gal A (e ce qui concide avec cp par dfinition de D et (e. En utilisant une partition de lunit on peut supposer que le support de (e est suffisamment petit pour que lon soit dans la situation suivante : quitte faire unchangement de coordonnes de classe C, V est dfinie par lquation x1 = O et D par 2 2 < O au voisinage du support de (e.
s~,,~
so
Soient (e,),,,
et CY,^)^,,^ deux familles de fonctions rgularisantes. On a alors
5. Primitive du noyau de Bochner-Martinelli
85
La fonction cp tant continue support compact, elle est donc uniformment continue et donc cp(0,u- x2 7 ~ 2 , ~ ) vers cp(O,u,z)uniformment par rapport tend (u,z), lorsque E et E tendent vers O, si x E supp 0, et y E supp a,!. On en dduit que
Thorme 4.3. Soit D un domaine relativement compact bord C i de V. Pour toute fonction f continueCR sur V et toute (n,n- 2)-forme diffrentiellea de classeCl au voisinage de V on a
Dmonstration. Soient 5 un ouvert de Cn associ D par le Lemme 4.1, f une extension continue de f C et 6 une (n,n - 2)-forme diffrentielle de classe C1 ? dans C qui concide avec CY au voisinage de V. I1 rsulte du Lemme 4.2 que
car a est de bidegr (n,n- 2). Mais la fonction f est C R et le courant [VIoi1A f& de bidegr (n,n- l),par consquent d([VIo> A
f&) d([V]o>l f&) [VI = A =

faa= K([D],d([V]OA
faa.
On obtient donc finalement
f&)).
fa.
ID
et par la formule de Stokes pour lindice de Kronecker (Chap. II, Corollaire 3.7)
fda
= IC(b[D],[V]OJ A
fa) =
aDnv
fa.
aD
5. PRIMITIVE DU NOYAU BOCHNER-MARTINELLI
Rappelons que le noyau de Bochner-Martinelli
est une forme diffrentielle de classe C dans C x z E Cn fix,dcB!(z,<) = o s i < E \ {z}.
Cn \ A qui satisfait pour tout
Dans ce paragraphe nous allons dterminer explicitement des formes diffrentielles solutions de lquation au = B;(z,.) sur certains ouverts de C \ { z } .
86
iV Extension de fonctions C R
Soit z E C" fix, on pose pour k = 1, . . . ,n
Dmonstration. La fonction on a
&tant holomorphe sur C" \ { C E C"
I <k
= Zk},
Un calcul direct donne alors

acfik(z,<)
= BO(z,<).
O
La forme f l k ( z , . ) est de bidegr (nln - 2), donc d R k ( z , . ) = dRk(z,.).
Pour toute fonction cp holomorphe dans e" et pour tout z E Cn fix, on pose 1 cp(C) = cp(z)}. Nous allons dterminer des primitives du noyau de Bochner-Martinelli sur les ouverts de la forme = @" \ N,. Ces primitives nous seront utiles pour prouver le thorme d'extension du paragraphe 6.Le Lemme 5.1 rsoud ce problme pour l'application coordonne cp(z) = z k .
N , = {< E C"
u,
Lemme 5.2. Si cp est une fonction holomorphe dans Cn , il existe n fonctions holomorphes(hl, . . . JL") sur(Cn x @" tellesquepourtout(z,C) E Cn x cc"
n
(5.2)
q(C) - v ( z ) =
k=l
h k ( z , < ) ( C k - Zk).
Dmonstration. Posons, pour k = 1,. . . ,n,
6. Un thorme d'extension pour les fonctions C R
87
la fonction hk est holomorphe sur @" x @" \ { (z,<) I z k = < k } elle se prolonge par continuit @" x @" car la fonction cp est holomorphe par rapport la variable z k . Le Thorme de Riemann (Chap. I, Th. 6.4) implique que h k est holomorphe sur @" x @" . La relation (5.2) est une consquence immdiate de la dfinition des fonctions h k . O Remarque :Le Lemme 5.2 n'est plus vrai si cp est seulement dfinie sur un ouvert fl de @" . Nous verrons au chapitre VI11 des conditions sur fl pour que le Lemme 5.2 soit encore valide. Nous pouvons dfinir maintenant
La forme diffrentielle @(xi.) est de classe C" sur Cn \ N,.

Proposition 5.3. La forme diffrentielle @ ( z , . )vrifie
d @ ( z , . ) = 34>(z,.) = B:(Z,.)
sur @"
\ N,.
Dmonstration. La forme diffrentielle @ ( z , . ) de type (n,n - 2) et par consest quent d@(z,.) = d@(z?.). D'autre part puisque les fonctions cp,hk,k = 1 , .. . ,n sont holomorphes et ( < k - zk)flk(z,<) est dfinie sur C" \ { z }
pour tout E @" \ N,. On dduit alors du Lemme 5.1 et de (5.2) que d@(z,.)= O BO(z,.)sur @" \ N , en prolongeant par continuit.
<
6. UN THORMED'FXTENSION POUR LES FONCTIONS C R
Considrons la situation gomtrique suivante : soient V une hypersurface relle, ferme, oriente de classe C de @" ,n 2 2, et I? un domaine bord C dans ' ' V . On suppose que : (i) d r est contenu dans M = { z E @" I Re cp(z) = O}, o cp est une fonction holomorphe dans @" . (ii) r c { z E @" I Recp(z) > O}. (iii) d r est le bord d u n domaine born A de M . On notera D l'ouvert born de @" dont le bord est 2.On suppose que l'orientation sur V concide avec celle de dD. Dans ce paragraphe nous allons prouver que si f est une fonction C R continue sur il existe une unique fonction F continue sur DU et holomorphe sur D telle que FI,= f .
r,
88
Ce rsultat est un cas particulier du problme d'extension des fonctions C R partir d u n e partie du bord d u n domaine que nous pouvons formuler ainsi. Soient D un domaine born de C" , K un compact de dD tel que dD \ K soit une hypersurface relle connexe de classe C' de @" \ K . A quelles conditions sur K toute fonction C R continue sur dD \ K s'tend-elle en une fonction holomorphe sur D continue sur D \ K ? Si K = 0, le problme est rsolu par le Thorme de Bochner. Ici nous rsolvons le cas o K est contenu dans l'ensemble des zros de la partie relle d u n e fonction holomorphe dans C" . Nous donnerons de nouvelles conditions cohomologiques et gomtriques sur K la fin des chapitres V, VI1 et dans le chapitre VIII.
Thorme 6.1. Soit f une fonction C R continue sur il existe une unique fonction F holomorphe dans D , continue sur D I' telle que F = f.
r,
Dmonstration. Commenons par montrer l'unicit de F . Pour tout zo E D fix, on choisit E > O assez petit pour que zo E D, = D n {< E C" I Re cp(() > E } et onnoter,=rn{(EC" I R ~ ~ ( C ) > E } ~ ~ A , = D ~ {I( E c p" ( ) = ~ } , Re C ( alors dD, = A,. Supposons que F existe, elle est alors holomorphe sur D, et continue sur DE, peut donc lui appliquer la formule de Bochner-Martinelli : on
CE
Posons N , = {<
N,, n {( E QIn I A , qui ne rencontre pas N,, et si @ est la forme diffrentielle associe cp dfinie par la formule ( 5 . 3 ) on adC@(zo, = B:(zo, () sur ce voisinage. Comme F est () holomorphe et @@O, .) de bidegr ( n ,n - 2) sur D, en appliquant la formule de
Stokes on obtient
C" I y(<) = cp(z)}pour tout z E @" et remarquons que Re cp(C) = E } = 0 car zo E DE.I1 existe donc un voisinage de
E
car FI, = f et d r ,
c r,ce qui prouve l'unicit de F .
Prouvons maintenant l'existence de F . Dans un premier temps nous supposons que la donne f est continue sur F. En faisant tendre E vers O dans (6.1) on montre que si F existe alors
(6.2)
F(z)=
s,
f(<)BO(z, Cl
s,,
f ( O @ ( z ,C)
pour tout z E D. Considrons la fonction F dfinie par la formule (6.2). C'est une fonction de classe C" sur @" \ ( M r) car B:(z, .) est dfini et C" sur C" \ { z } et @ ( z ,.) est de classe C sur C" \ N,, o N , = {C E C" I ' p ( z )= cp(C)}. Nous " ailons montrer que F est l'extension cherche et pour cela nous avons besoin du rsultat suivant qui sera prouv au chapitre VI1 : si 'p est une fonction holomorphe
6. Un thorme d'extension pour les fonctions C R
89
dans C" ,n > 2, on dfinit U, = { z E C" I - E < Re cp(z) < E } , & > O. C'est un domaine dholomorphie (cf Chap. VI, Prop. 1.16) et toute (n,n- 2)-forme diffrentielle C" sur U, est a-exacte sur U,, c'est--dire H " J - 2 ( U E )= O (cf Chap. VII, Th. 7.4).
iretape :F est holomorphe s u r C" \ ( M U r)
En drivant sous le signe J dans la formule (6.2), on a pour z E C ?

-
dF(z) =
-
et puisque
a, B = -de BY sur C" O

-
W z )= -
s, s,
f(<)dzB,O(z1<) x
s,,
\ (rU M )
f(oaz@(zl<)
C" \ A,on obtient donc
f (<)dcB?(z,<) -
ar
f(<)az@(zl<).
Si n = 2, un calcul direct donne d F ( z ) = O pour tout z E D car BY(z;) est de classe C" au voisinage d e r si z E D. Si n > 2, la proposition 5.3 implique
-
ac(d,@ + BY) = a,(ac@)+ dcB? = aZB,O acB1 = O +
- -
pour tout (z,<) E C" x C" tel que $! N , . Fixons z E D et choisissons E > O assez petit pour que z $! U, = {< E I -E < R e v ( < ) < E } . La forme ? diffrentielle d,@(z;) B Y ( z ; ) est une (n,n- 2)-formed-ferme de classe C" sur U, car N , n U, = 0. Comme Hn,n-2(U,) = O, ilexiste une (n,n - 3) forme diffrentielle 6 , de classe C" sur U, telle que 36, = a,@(z,.) BY(z;) sur U,. Soit 8, une (n,n- 3)-forme de classe C" dans C" qui concide avec 6, au voisinage de a. a alors On
<
En appliquant le Thorme 4.3, on obtient encore a F ( z ) = O.

Ze tape: F estidentiquementnulie sure"
Considrons l'ouvert U = { z E [O, supDRe 9) Pour 1. z E U,N, ne rencontre pas D et par consquent @(z,.)est de classe C" au voisinage de F. ComrneaC@(z,.) = BO(z,.)sur C" \ N,, la formule (6.2) et le Thorme 4.3 impliquent que F(z)=O si z E U . De plus l'ouvert U rencontre toutes les " composantes connexes de C \ (D M ) et F est holomorphe sur C" \ ( D UM ) , donc par le principe du prolongement analytique F est identiquement nulle sur C" \ ( D U M ) .
\ (D I?) C" I Re cp(z) $!
se tape: FI,
=f
PosonsFl(z) = Jr f(<)B;(z,<) etFz(z) = Jar f(<)@(z,<).Pardfinitionde F on a F = Fi - F 2 . La fonction F 2 est de classe C" sur C \ M car l'ensemble " N , des singularits de a(.,.) ne rencontre pas d si z $ M . La fonction Fi est la ! transforme de Bochner-Martinellide f sur r,elle est de classe c" sur a \ ?
r.
90
On pose FT = Fj
ID
et FJT = Fjlc,,\(EuM), j = 1,2. Remarquons que
FC se prolonge continment en FC (Cn \ (D M ) ) r. En effet FT = F \(DUM) + F; et, daprs la Ze tape, F est nulle sur Cn\ (D M ) . La conti z nuit de F sur Cn\ M permet alors de conclure. Le Corollaire 1.6 nous dit qualors F se prolonge continment en FT D U r et F, , - & = f , donc F se prolonge continment D u r en F et FIr = f car F2 est continue sur Cn \ M .
IC,
Ir
La dmonstration du thorme dans le cas o f est continue sur est alors termine. Si f est seulement continue sur r, f est continue sur FE pour tout E > O et lon peut appliquer ce que nous venons de dmontrer D,. On obtient ainsi une famille (F,),>O de fonctions holomorphes qui vrifient FE = F,, si E > E cause de lunicit. La fonction F dfinie par F D,ur, = F, est lextension cherche. O
ID,ur,
Remarque :Quitte utiliser un rsultat qui ne sera dmontr quau chapitre VII, nous avons prfr inclure le Thorme 6.1 dans ce chapitre plutt que dans le chapitre VI11 o il aurait pu galement se trouver car la mthode de dmonstration que nous utilisons est du mme type que celle du Thorme de Bochner.
Commentaires. Une lecture prcise de la dmonstration du Thorme dextension de Hartogs dans larticle de Bochner [Bo] montre que pour obtenir lextension il sufit que la donne soit une fonction C R sur le bord du domaine. La dmonstration du Thorme dextension de Bochner que nous donnons ici est celle de Harvey et Lawson [HalLa]et de Cirka [Ci].Le cas o le bord du domaine nest pas suppos connexe est d Weinstock [We].Le thorme dextension du paragraphe 6 a t prouv par Lupacciolu et Tomassini [LulTo]pour une donne localement lipschitzienne. La dmonstration de la formule de Stokes pour lesfonctions C R continues qui permetdtendre le rsultat de Lupacciolu et Tomassini aux fonctions C R continues se trouve dans [L-T2].La plupart de ces rsultats sont rassembls dans le livre de Kytmanov [Ky].
Chapitre V
Extension de fonctions holomorphes et de fonctions C R dans les varits
Lobjet de ce chapitre est ltude du phnomne de Hartogs-Bochner dans les varits analytiques complexes. Nous commenons par tudier la relation entre le phnomne de Hartogs et lannulation du groupe de cohomologie de Dolbeault support compact de bidegr (O, 1).Nous donnons ensuite des conditions cohomologiques qui permettent dtendre une fonction C R de classe dfinie sur une partie du bord dun domaine en une fonction holomorphe sur ce domaine tout entier. Cela gnralise la situation gomtrique tudie la fin du chapitre IV. Pour obtenir des rsultats analogues pour les fonctions C R de classe nous avons besoin dune part dun rsultat sur la rsolution locale du 8 et dautre part ( dun thorme disomorphisme entre les diffrents groupes de cohomologie Ha9q X )qui rsulte de la rsolution locale et dlments de thorie des faisceaux qui seront donns dans lannexe B. Le rsultat local est prouv en rsolvant le dans les domaines convexes bord de classe c2 laide dune nouvelle formule intgrale, la formule de Cauchy-Fantappi.
ck
1. COHOMOLOGIE SUPPORT COMPACT ET PHNOMNE DE HARTOGS
Dans ce paragraphe nous allons tudier le lien entre le phnomne dextension de Hartogs dans une varit analytique complexe et lannulation de certains groupes de cohomologie de Dolbeault de cette varit. Soit X une varit analytique complexe de dimension n. Nous dirons que le phnomne de Hartogs se produit dans X si pour tout domaine D relativement compact dans X tel que X \ D soit connexe et pour toute fonction f holomorphe sur un voisinage Uao du bord de D , il existe une fonction F holomorphe dans un voisinage de D qui concide avec f sur un voisinage de dD.
Nous avons prouv au chapitre III, Thorme 4.2, que le phnomne de Hartogs se produit dans <cn ds que n 2 2.
92
V. Extension de fonctions holomorphes et de fonctions C R
Thorme 1.1. Soit X une varit analytique complexe non compacte. Supposons que pour toute (0,l) -forme diffrentielle u de classe Coo, support compact dans X et 8-exacte au voisinage de son support, il existe une fonction u de classe C" support compact dans X telle que 8u = u dans X , alors le phnomne de Hartogs se produit dans X . Dmonstration. Soient D un domaine relativement compact de X tel que X \ D soit connexe et f une fonction holomorphe sur un voisinage U ~ du bord de D. D Considrons une fonction x E D ( X ) telle que supp x CC Va0 et x = 1 sur un voisinage Va0 c U ~ de d D et posons f = xf. La fonction f est de classe C" D dans X et holomorphe sur V ~ D . Posons u = df sur D U Va0 et u = O sur X \ D. Grce l'holomorphie de f sur V ~ D est de classe C" dans X et son support est u, contenu dans D. De plus, u = df sur D U V ~ D , est donc 8-exacte au voisinage elle de son support. Par hypothse il existe une fonction u de classe C", support compact dans X telle que du = u dans X . La fonction u est donc holomorphe dans X\supp u, particulier dans un voisinage de X\ D. D'autre part u tant support en compact, elle est nulle sur un ouvert de X \ D et par prolongement analytique sur un voisinage de X \ D car X \ D est connexe. I1 suffit alors de poser F = f - u. En effet, F = f = f auvoisinagede d D e t 8 F = d f - du = O sur D U Vao. O
Dfinition 1.2. SoitX une varitdiffrentiabledeclasseCk,O 5 k 5 m. Ondj?nit le nombre e ( X ) de bouts de X comme la borne suprieure du nombre de compo-
santes connexes non relativement compactes de X des compacts de X .
\K
lorsque K dcrit l'ensemble
Nous allons considrer des varits un bout, c'est--dire telles que e ( X ) = 1. I1 rsulte de la dfinition que, dans ce cas, pour tout compact K de X on peut trouver un compact L de X contenant K tel que X \ L soit connexe.
Exemples 1) Un ouvert U de Cc a un bout si et seulement s'il est simplement connexe. 2) X est une varit compacte si et seulement si e ( X ) = O. 3) Si X possde une fonction dexhaustion, c'est--dire une fonction cp : X + R telle que {x E X I cp(x) 5 c } CC X pour tout c E R, qui vrifie de plus la condition suivante : il existe CO tel que {x E X I cp(x) = c } est connexe ds que c 2 CO, alors X possde un seul bout.
Thorme 1.3. Soit X une varit analytique complexe possdant un seul bout. Supposons que le phnomne de Hartogs se produit dans X , alors pour toute ( O , 1)-forme diffrentielle u de classeC", support compact dans X etd-exacte au voisinage de son support, il existe une fonction u de classe C" support compact dans X telle quedu = u dansX.
Dmonstration. Soit u une (0,l)-forme diffrentielle de classe C support com" pact dans X , telle que u = aw sur un voisinage U du support de u. La fonc-
1. Cohomologie support compact et phnomne de Hartogs
93
tion w est holomorphe sur U \ supp v. En vertu du phnomne de Hartogs, w se prolonge holomorphiquement chacune des composantes connexes relativement compactes de U \ supp v en une fonction que nous noterons encore w. Puisque X possde un seul bout, il existe un domaine D relativement compact contenu dans la runion de U et des composantes connexes relativement compactes de X \ supp v et contenant supp v tel que X \ D soit connexe. La fonction w est alors dfinie au voisinage de D et holomorphe au voisinage de d D et par le phnomne de Hartogs sa restriction un voisinage de d D se prolonge en une fonction w holomorphe au voisinage de D. Posons u = w - w au voisinage de D et u = O sur X \ D. La fonction u est de classe C sur X , car w - W = O, au voisinage de dD, " de plus d u = dw = v au voisinage de D, car 6 est holomorphe, et d u = O = v sur X \ D , car supp v c D. Remarque : L'hypothse sur le nombre de bouts de X dans le Thorme 1.3 est indispensable. En effet, considrons le cas o X = C" \ { O } , n 2 2. Le phnomne de Hartogs se produit dans X , car X est un ouvert de e", n 2 2. Soit x E D ( X ) telle que x ( z ) = 1 si < Izl < x ( z ) = 2 si < Iz( < et le support dex ne rencontre pas { z E Cn I IzI < $ } u { z E Cn I $ < IzI < u{z E posons v = dx si < IzI < : et v = O sinon. C'est une , C" I lzl > " (0,l)-forme diffrentielle de classe C dans X , support compact et d-exacte au voisinage de son support, mais il n'existe pas de fonction u support compact telle que d u = v. Si u existait, u serait holomorphe sur X \ { z E C" I < IzI < :}, nulle si IzI < T , pour T assez petit, et si IzI > R, pour R assez grand, donc nulle sur x \ { z E C" I f < IzI < $ } par prolongement anaiytique et x - u serait holomorphe sur { z E @" 1 < 1x1 < constante gaie 1 au voisinage de IzI = 1 et constante gale 2 au voisinage de 1x1 = 2, ce qui est impossible.
i,
g},
i}
i},
Comme consquence immdiate du Thorme 1.1, on obtient le rsultat suivant reliant la cohomologie de Dolbeault support compact dans X et le phnomne de Hartogs. Corollaire 1.4. Soit X une varit analytique complexe non compacte. Si
H,OJ(X)= O,
alors le phnomne de Hartogs se produit dans X . nonons pour terminer une rciproque partielle du Corollaire 1.4, qui rsulte du Thorme 1.3. Corollaire 1.5. Soit X une varit analytique complexe non compacte. Supposons que X possde un seul bout et que toute (0,l)-formediffrentielle de classeCm, aferme, support compact dans X est a-exacte dans Alors, si le phnomne de Hartogs se produit dans X ,on a
x.
94
i! Extension de fonctions holomorphes et de fonctions C R
Remarques
1) Si X = cc" , les conditions du Corollaire 1.5 sont satisfaites, il y a donc quivalence entre le phnomne de Hartogs et l'annulation du groupe de cohomologie de Dolbeault Hz>'(cc").
2) Si X est un ouvert connexe de C" dont le complmentaire n'a pas de composante connexe borne et pour lequel Ho>'( ) = O, alors H:i' ( X ) = O car le X phnomne de Hartogs se produit dans tous les ouverts de Cn.
2. EXTENSION DE FONCTIONS C R DE CLASSE
c"
Dans tout ce paragraphe X dsignera une varit analytique complexe non compacte.
Dfinition 2.1. Soit V une sous-varit de classeCm de X , une fonction f de classe C sur V est dite C R de classe C si f admet une extension f de classe C un " " " voisinage de V telle q u e d f s'annule l'ordre infini sur V . Dfinition 2.2. Soient X une varit analytique complexe non compacte et K un
compact de X . Nous dirons que le couple ( X , K )possde la proprit de HartogsBochner C" si pour tout domaine D relativement compact dans X tel que 1) d D \ K soit une sous-varit de classeCm de X \ K , 2) D \ K = Int(D \ K ) , 3) X \ ( D K ) soit connexe " et toute fonction f C R de classe C sur d D \ K , il existe une fonction F de classe C s u r D \ K , holomorphedansD \ K tellequeF/aD\K = f . "
Comme dans le chapitre III, nous noterons @ la famille des ferms de X dont l'adhrence dans X est compacte.
\K
Thorme 2.3. Soient X une varit analytique complexe non compacte et K un compact de X . On suppose que
H:l(X
\ K)=O
alors ( X ,K ) possde la proprit de Hartogs-Bochner C". Dmonstration. On considre un domaine D relativement compact dans X satisfaisant les conditions 1),2) et 3) de la Dfinition 2.2 et f une fonction C R de classe C" sur d D \ K . Par dfinition des fonctions C R de classe C", f se prolonge en une fonction f de classe C" sur X \ K telle que df s'annule l'ordre infini sur D \ K . Posons g = (x- )(df), o xD\K est la fonction caractristique de D\K
D \ K , g est une (0,l)-forme diffrentielle de classe C" sur X \ K dont le support est contenu dans D \ K . Puisque D \ K est un lment de @, on dduit de
2. Extension de fonctions CR de classe
c"
95
l'hypothse H:l(M \ K ) = O qu'il existe une fonction h de classe C" sur X \ K dont le support appartient et qui vrifie a h = g. La fonction h est holomorphe dans X \ (DUK) et nulle sur un ouvert de X \ (DUK ) car X n'est pas compacte. Comme X \ K ) est connexe, par le principe du prolongement analytique h est n u l l e s u r X \ ( D U K ) etparcontinuitsurX\(DUK). LafonctionF = f- hest alors l'extension cherche. En effet dF = df - 8 h = O sur D \ K et FlaD,K = f car h est nulle sur X \ (D U K ) . O
(ou
Corollaire 2.4. Soit X une varit analytique complexe non compacte telle que possde la proprit de Hartogs-Bochner C", c'est-H:>l ( X ) = O, alors (X,@) dire pour tout domaine D relativement compact dans X bord C" tel que X \ D soit connexe et toute fonction f C R de classeCm sur d D il existe une fonction F de classe C" dans D et holomorphe dans D telle que FI a D = f . Terminons ce paragraphe en donnant des conditions sur K et X assurant l'annulation du groupe de cohomologie H:l(X \ K). Thorme 2.5. Soient X une varit analytique complexe de dimension n, n 2 2, et K un compact de X tel que X \ K n'ait pas de composante connexe relativement compacte. On suppose que i) H Z i l ( X ) = O, ii) le compact K possde une suite dcroissante de voisinages ( U n ) n telle E~ U, = K et, pour t o u t n E N, l'application HZ,2(Un) --+ $ 2 ( X ) inH que
nEN
duite par inclusion est injective, alorsH:l(X \ K ) = O.

Ce thorme est une consquence du lemme suivant : Lemme 2.6. Soient X une varit analytique complexe, K un compact de X et U un voisinage relativement compact de K. On suppose que i) H ; ? l ( X )= O, ii) l'application H Z ) 2 ( U ) H ; i 2 ( X ) induite par inclusion est injective. + Alors pour toute forme diffrentielle f E COS; ( X \ K ) ,8-ferme, nulle en dehors d'un compact de X , il existe g E C" ( X \ ),nulle en dehors d'un compact de X telle queay = f dans X \ . Dmonstration. Soit une fonction de classe C" sur X telle que x O au voisinage de K et - 1 au voisinage de X \ U . La forme diffrentielle d(xf ) est alors de classe C", d-ferme support compact dans U , donc d'aprs iil il existe une forme diffrentielle h E C r 1 ( X ) , support compact dans U telie que dh = d(xf ) dans X . Considrons la forme diffrentielle f - h. Elle est de classe C support " compact dans X et 8-ferme. L'hypothse j) implique qu'il existe g E D ( X ) telle convient car f - h = f sur X \ . O que x f - h = 8.4.La fonction g
Ix,v
96
V Extension de fonctions holomorphes et de fonctions C'R
lomorphe dans X \ U n et nulle en dehors d u n compact de X. Par prolongement analytique, elle est donc nulle sur toutes les composantes non relativement compactes de X \ Un. La fonction g dfinie par g = gn sur les composantes connexes non relativement compactes de X \ Un convient car la runion des composantes connexes non relativement compactes des X \ Un est X \ K . O
Dmonstration du Thorme 2.5. Soit f E COS; ( X \ K ) une forme diffrentielle d-ferme, nulie en dehors d u n compact de X . Notons gn la solution de l'quation dg = f dans X \ nJonne par le Lemme 2.6. La fonction gn+l - gn est alors ho-
Thorme 2.7. Soient X une varit analytique complexe et K un compact de X . On suppose que H,P>q(X) O pour un entier p 2 O et un entier q 2 1 alors = l'application naturellei : H g q ( X \ K ) + HP>q(X\ K ) est injective. En particuliersi Hp>Q(X K ) = O, alors H g q ( X \ K ) = O. \ Dmonstration. Il faut prouver que si f E C,S(X \ K ) est une forme diffrentielle d-ferme, nulle en dehors d u n compact de X telle que f = 8 g dans X \ K o g E C,q),-,(X\K) alorsonpeuttrouvergo E CEq-,(X\K) nulleendehorsd'un compact de X telle que f = ago dans X \ K . Soit x E D ( X ) telle que x 1sur Ag f un voisinage de K Usupp f . Posons 9 = xg alors a9 = ax Ag x a g = et la forme diffrentielle ax Ag se prolonge par O X en une (p,q)-forme d-ferme - support compact. Puisque H,Piq(X) = O, il existe h E DP>q-'(X)telle que d h = ax A g sur X et par consquent = ah f. La forme diffrentielle go = ij - h convient alors car h est support compact dans X. O
-
ax +
3. FORMULE DE CAUCHY-FANTAPPI. LEMME DE DOLBEAULT
L'objet de ce paragraphe est de construire de nouvelles formules intgrales qui permettront de rsoudre le sur des domaines de Cn lorsque la donne n'est plus support compact.
Dfinition 3.1. Soit
D un domaine born de Cn. Une application w(z,<) = ( q ( z , < ) , . . ,w,(z,C)) de classe C' pour z E D et dans un voisinage Va0 de . d D valeurs dans Cn est une section de Leray pour D si
<
(w(z,<),< - z ) # O pourtout
(z,<) E D x dD.
Exemple :L'application w( z,<) = 3 - Z est une section de Leray pour tout domaine born D de cc". En effet
(w(z,<),< - z ) = (< - Z,C - z ) = I<
zI2 # O si z # <.
3. Formule de Cauchy-Fantappi.Lemme de Doibeault
97
Dans toute la suite D dsignera un domaine born bord de classe C1 de U ? w(z,c) une section de Leray pour D. On pose alors pour A E [O,l]
et
pour z E D et K V " ' ( ~ , ~ , A= ~ ~ ~ , z , c , x ( ~ ~A ( w(< - , ) , si z E D , ) z , c z~ ) C E U ~ satisfont (w(z,<),< z ) # O. Onnotegaiement D n
et pour z E D et
E UaD tels que (w(z,c),< z ) -
O.
Remarquons que Kc-' est le noyau de Bochner-Martinelli B dfini au chapitre III. Le noyau Kqw(z,<,A) est une forme diffrentielle continue de degr 2n - 1 sur {(.,<,A) E D x Uao x [O,i] 1 ( w ( z , c ) , < z ) # O} . Le noyau K"(z,<) est une forme diffrentielle continue de bidegr (n,n - 1) sur { ( z , c ) E D x I ( " ( z > O , c- 4 # 0 ) .
Dmonstration. Puisque la fonction - z ) est holomorphe en (z,<)et indpendante de A, d x ) w ( c - z ) = O et par consquent
(aZ,< +
(e
(at,<
+ & ) K q z , < J )= +a.,< + dx)$Yz,C,A) (227r)n
A ' ..A
(at,<
+ dx)V:(.,c,N
w(<- 2).
n (<j -
Mais sur D x UaD x [0,1]on a (v"(z,C,A),< - z ) = 1,ce qui implique
zj)(d,, A E [OJI
+ d x ) ~ ; ( z , C , X ) = O. On en dduit que pour z E D ,< E U

(at,<
j=l
~ \D{ z } et
+ dx)#(z,<,A)
...A
(at,<
+ dx)$'(z,<,A)
=0
98
V. Extension de fonctions holomorphes et de fonctions C R
ce qui prouve que
(aZ,{d x ) ~ (~z ," c , ~=) O. +
L'assertion ii) se dduit des dfinitions des formes diffrentielles KqW, K Wet -
B = KC-? et du rsultat gnral suivant
qui s'obtient par un calcul direct (cf chapitre III,
1 pour la dfinition de p).
Thorme3.3. SoientD un domaine borndeCn bordde classeCl e t w ( z , c ) une section de Leray pour D . On suppose que w est de classeC2 par rapport z et que les drives partielles de w d'ordre infrieur ou gal 2 par rapport z sont continues . sur D x U ~ DAlors pour toute forme diffrentielle f continue sur D, on dfinit l'oprateur T par
Tfk) =
f (0 K q W ( z , c , + / 4 (J (CJ)aDx[O,lI
A
f (0 B ( 4 ) A
CED
i) Si f E Cp",,(D) n CP,(D),w estdec1asseCk+' parrapportz etsiles si drives partielles de w d'ordre infrieur ou gal k +1 par rapport z sont continues alors sur D x U ~ D , T f E Ci,- ( D ) . ii) Si f est une ( p , q )-forme diffrentielle continue surD telle quedf soitaussi . continuesur D, O I p,q 5 n, alors
(3.1)
(-l)p+qf
f(c) A K W ( . , C )
Tdf+dTf sur D.
CEaD
Dmonstration. Si w satisfait l'hypothse de il, le noyau KqW (z,c,X) est de classe C k par rapport z. I1 rsulte alors du thorme de drivation sous le signe que f ( C) A K q W( z , C, XestdeclasseCk s u r D dsque f estcontinuesur ) D. Par ailleurs d'aprs la Proposition 2.1 du chapitre III, si f E Cp",q(0) nC,,,(D), la forme diffrentielle 5 f = , f A B(.,c)est de classe Ck+a dans D pour
s(C,x)EaDx[o,il
f(c)
sCED (e)
ParconsquentTf estdeclasseCk. S u r D x D x [O,l] seulelapartie touta ~ ] 0 , 1 [ . (z,<,X) donne une contribution non nulle dans de bidegr (p,q - 1) en z de K Q w A Kqw(.zz,<,X) et comme EDf est de bidegr ( p , q - 1),la le produit extrieur forme Tf est elle aussi de bidegr (p,q - 1). Grce la formule de Bochner-Martinelli-Koppelman(chap. III, th. 2.31, pour obtenir la formule (3.1) il suffit de prouver que
(3.2)
3,
f(<)A K
~ ~ ( ~= J ) L
(C,A)aDx [0,11
it,,(0
f
A
-
B(zt,C)-
a f ( 0A K"w(zlCIX).
3. Formule de Cauchy-Fantappi. Lemme de Dolbeault
99
Fixons z E D et appliquons la formule de Stokes la forme diffrentielle f KqW(z,C,X) d D x [0,1]: sur
(C)A
Corollaire 3.4. Soient D un domaine born de C", bord de classe C et w(z,C) ' une section de Leray pour D qui dpend holomorphiquementde z et telle que toutes ses drives partielles par rapport a z soient continues sur D x UaD. Alors pour toute ( p , q )-forme diffrentielle continue sur D telle que soit aussi continue sur D,O 5 p 5 n , l 5 q 5 n , o n a
af
(34
f = aT: f
+ T;+,df
dans D
o TP = (- l ) P + q T et T est l'oprateur dfini dans le Thorme 3.3. p Si = O, alors u = Tq est une solution continue de l'quation au = f dans f D. De plus cette solution u est de classe Ca dans D pour tout a E]0,1[et si f est dans D pour tout de classe Ck dans D , 1 5 IC 5 +CO,alors u est de classe a ]0,1[.
af
1O 0
VI Extension de fonctions holomorphes et de fonctions C R
Dmonstrarion. D'aprs la formule (3.1),il suffit de prouver que, sous les hypothses du corollaire, JcEaD f (() A K"(z,<) = O si z E D pour obtenir la relation
(3'6). Mais si E D , &ao f (<) A = &aD f (() A (K")g(z>(), O (K"): est la partie de bidegr ( p , q ) en z de K", car dim d D = n - 2. Puisque q 2 1,par dfinition de K", (K"): = O, car w est holomorphe en z , i.e. d,w = O , d'o le rsultat. Si df = O, (3.6) implique f = dT: f dans D , donc u = T est f : solution de du = f sur D. La rgularit de u rsulte de la Proposition 2.1 du chapitreIIIetdufaitquewtantdeclasseC" enz, ~ ~ C , x ~ E a D x ,f ( ( ) A K q U ' ( z , ( , X ) o,ll est de classe C" sur D. O Lorsque le domaine D est convexe bord C2, il est facile de construire une section de Leray pour D , holomorphe en la variable z . Soit T une fonction dfinissante de classe C2 pour D , on pose, pour au voisinage de d D , w ( z , ( ) = (<), . . . (0).L'application w est de classe C1 sur @" x U ~ et indD pendante de z donc en particulier holomorphe en z. Si ( E d D , la condition (w(z,<),(- z ) = O caractrise l'espace tangent complexe T t d D d D en qui ne rencontre pas D car D est convexe. Par consquent (w(z,<),< z ) # O si z E D , E d D et w est donc une section de Leraypour D.
'
K"(z,c)
(&
&
<
<
<
On dduit alors immdiatement de cette construction et du Corollaire 3.4 que l'on peut rsoudre l'quation au = f,sur un ouvert convexe, born D bord C2, lorsque f est une (p,q)-forme diffrentielle, O 5 p 5 n,l q 5 n, a-ferme de ciasse C1 sur D. On a plus prcisment le rsultat suivant : Thorme 3.5. Soient D un ouvert convexe born de @" bord de classeC2 etr une fonction dfinisante de classeC2 pour D. Alors pour toute (p,q)-forme diffrentielle f continue suri7 telle que df soit aussi continue sur D, O 5 p 5 n, i 5 q 5 n, on a f = dT:f T,+,df sur D
OT:f
) ( .
= (-l)'+'( J ( C , x ) ~ a D x [ o , i ]
f (I')AK',w(z,C,X)+&D
(()AB(z,())
etw(z1C) =
(&(O,. .,$<O). .
En particulier, si df = O, on a f = d : f . De plus si f est de classe C k dans D T alorsu = T: f estdeclasseCk+a dansD pourtoutrr E]O,I[.
Ce thorme prouve en particulier que l'on peut toujours rsoudre localement le d avec amlioration de la rgularit (il suffit de considrer des petites boules par exemple). Ce rsultat s'appelle un Lemme de Poincar pour le d ou Lemme de Doibeauit. Terminons ce paragraphe en prouvant le Lemme de Dolbeault pour les courants. Thorme 3 6 Soient D un ouvert conuexe born de Cn et T un courant de bidegr .. ( p , q ) ,O 5 p 5 n, 1 5 q 5 n, d-ferm sur D. Alors pour tout ouuertU cc D, il
4. Isomorphisme de Dolbeault
101
existe un courant S sur U tel que dS = T sur U
Dmonstration. Soient x une fonction c support compact dans Cn telle que x 1 au voisinage de et s u p p x CC D. Alors daprs le Thorme 4.4 du chapitre III, on a la reprsentation XT = - (Bd(xT) dB(xT)) = - (B(dxA T) dB(xT))
+ -c a r d T = O. Il suffit, pour conclure, de rsoudrelquationdu = ~?(&AT) U . sur

Daprs la Proposition 4.3 du chapitre III, l?($y A T) est de classe C au voisinage de . Sans perte - gnralit on peut supposer que U est convexe bord C2 et on - de rsout du = l?(dx A T) sur U en appliquant le Thorme 3.5. O
- -
4. ISOMORPHISME DE DOLBEAULT
Soit X une varit analytique complexe de dimension n. On note RP le faisceau des germes de p-formes holomorphes sur X et Hq(X,Rp)les groupes de cohomologie de Cech de Rf sur X . (Les lments de thorie des faisceaux utiliss dans ce chapitre sont rappels dans lannexe B.)
On dsigne par ZF,,cX), O 5 Q 5 00,le sous-espace des formes diffrentielles f E CF,,(X) telles que df = O et par E;,,(X) le sous-espace des formes diffrentielles f E Z;,,(X) telles que f = dg o g E C:,,-,(X). On pose HQiq(X) = Z & ( X ) / E F , , ( X ) . Avec ces notations HG,(X) nest autre que le groupe HP>q((X) de cohomologie de Dolbeault dfini au chapitre II. Pour dterminer si Z i r ( X )dsigne le sous-espace de DLG ( X )des courants d-ferms et ( X )le sous-espace de Z ; r ( X ) des courants 6-exacts, onpose H ! & ( X )= Z ; r ( X ) / E i r ( X ) . On
note @ lapplication Z & ( X ) le courant Tf dfini par f .
+ Z&F ( X )qui a une forme diffrentielle f associe
Thorme 4.1. Soit X une varit analytique complexe de dimension n. Alors (4.1) H q ( X , R p )= O si p,q 2 n 1 et pour tout couple (p,q), O I p,q 5 n, il existe des isomorphismes : (4.2) : H E > q ( X+ H q ( X , R p ) , O 5 Q 5 CO ) 6 P , q . HPq (4.3) - a 3 ( X ) +H q ( X , R p )
tels que, pour touta E [O,
+ 001,lediagramme
(4.4)
J
102
i! Extension de fonctions holomorphes et de fonctions C R
soit cornmutatg En particulier, pour0 5 phisme
(Y
et0
p,q 5 n, l'homomor-
(4.5)
induit par
cp* : HZ'"X)
-+ H ? Z ( X )
est un isomorphisme.
Dmonstration. On considre les faisceaux ZS des formes diffrentielles 8p, fermes de classe C a sur X, DL,qdes courants sur X , Zp77 des courants d-ferms sur X et
(ie.si u
cr>.4 des formes diffrentielles de classe C a dont le d est aussi de classe C a

c x est un ouvert, C;,,(U)
= {f E
c;,,(u)I df E C;,q+l(u)}.).
Remarquons que ces faisceaux sont des faisceaux de -module, o dsigne le faisceau des germes de fonction C" sur X . Par consquent, d'aprs la Proposition 3 de l'annexe B,
(4.6)
et
H'(x,?&)
=O
si
2i
2 1.
(4.7)
H'(X,Dh,q) = 0 si
I1 rsulte de la rgularit du d (chap. III, Th. 3.5 et Remarque 3.6) que l'application
cp : W ( X ) + Z i F ( X )
est un isomorphisme et, si O 5 vrai pour q = O.
(Y
CO,
W ( X )= Z;,,(X). Le thorme est donc
Supposons q 2 1. Grce au Lemme de Dolbeault pour les formes diffrentielles, pour tout s = 1,. . . ,n la suite
est exacte. Considrons la suite exacte longue de cohomologie associe cette suite ( c f annexe B , Thorme 5)
- O
Zpss-1
-+ c;,,-i + z , 0 ;, 4
C,q,-l(X)
Z,q,-l(X)
3 Z,q,(X) 6:4
( P s)
...........................................................
I1 rsulte de (4.6) que les morphismes de connexion
(4.8)
%,(p,s) :H'(X,Z&)
sont des isomorphismes si T un isomorphisme
2 1et que le morphisme de connexion ~5&,,~
HP+l(X,Z;,s-l)
induit
(4.9)
: H g S ( x )+ H1(X,Zpqs-l), 1 I I n . s
4. Isomorphisme de Dolbeault
103
Si q
2 n + 1,les isomorphismes (4.8) pour T 2 1,impliquent que
Puisque Z , = C;,, et Z;,, = RP on a donc ;,
HQ(X,Z,q,) HQ-"(X,Zpqn).
H ~ ( X , R P ) Hq-"(X,F,,) Y
et d'aprs (4.6) cela prouve (4.1). Supposons 1 5 q 5 n et posons
si q
2n+1
p J , P = 69-1
a
a,(p,i) O
...O 4 4 P . q - l )
ba,(Pd
T
Puisque les applications (4.9) et (4.8) sont des isomorphismes pour Z;,, = OP, on obtient un isomorphisme
dg19
1 et
HPz4 ( X ) --+ H q ( X , R p ) . a
Le Lemme de Dolbeault pour les courants (Thorme 3.6) nous donne les suites exactes
-
+ z,,,Oo_, vp,s-l4 z, +O + ,;
15 s 5 n
Grce la rgularit du c'est--dire l'isomorphisme entre @ ( X ) et Z ; F ( X ) , et a la relation (4.7) on peut itrer la dmonstration ci-dessus et on obtient un isomorphisme f5?& : H y J X ) + H q ( X , R P ) . De plus on a le diagramme commutatif de suites exactes courtes
a,
+ Z&-i
zizi
@I
6:
cp,s-l
+ V&
I. I.
-
Z&
Z,lJ
+ o.
D'aprs la seconde assertion du Lemme du serpent (cf.annexe B, Lemme 7) chacun des diagrammes
H'(X,Z,q,)
' i
(P . )
HT+l(X,Zpqs-l)
H'(X,Z;,")
hL-3s)
H'+l(X,Z-" P,S-l
est commutatif et par consquent par dfinition de @)q et b?': est commutatif.
Les isomorphismes du diagramme (4.4) sont appels isomorphismes de Dolbeauit.
*@
*@
2 0,1< s s n
1
le diagramme (4.4)
104
V Extension de fonctions holomorphes et de fonctions C R
Remarques :On dduit du Thorme 4.1, les rsultats suivants : i) Si f est une forme diffrentielle de classe C a , O 5 Q 5 00,et s'il existe un courant T tel que dT = T f alors il existe une forme diffrentielle g de classe C a telle que dg = f (c'est l'injectivit de (4.5)). ii) Pour tout courant T , 8-ferm il existe un courant S tel que T - dS soit une forme diffrentielle de classe Cw (c'est la surjectivit de (4.5) pour (Y = 00). On a plus prcisment le corollaire : Corollaire 4.2. Soit X une varit analytique complexe. i) Pour tout courant T , d-ferm sur X et tout voisinage U du support de T , il existe un courant S sur X telle que T - dS soit une formed-ferme de classe C" etsupp S c U . ii) S i f estuneformedeclasseCk s u r X , k = ,1, ...,m e t T uncourantsur X tels quedT = T f, alors pour tout voisinageU du support d e T , il existe une forme diffrentielleg E C k + + * ( X , Etellequedg = f surX etsuppg c U . )
O<a<l
Dmonstration. Prouvons 0. Choisissons un voisinage V du support de T tel que V C U et soient x o et X I des fonctions de classe C" sur X telles que xo = 1 sur un voisinage de X \ V et x o = O au voisinage du support de T ,x i = 1au voisinage de X \ U et x i = O sur un voisinage de
-
v.
+
Puisque T est d-ferm et que le morphisme (4.5) est surjectif, il existe un cousur rant SO X et une forme diffrentielle fo de classe C", 8-ferme sur X tels que T - dSo = T f osur X . Alors T f o= -aSo sur X \ supp T et comme le morphisme (4.5) est injectif, il existe une forme C", g o , sur x \ supp T telle que fo = dg0 sur X \ supp T . Sur X \ v o n a alors d(S0 T x o s o = T- fo+a,O= O . La surjectivit ) du morphisme (4.5) implique alors l'existence d'un courant R sur X-\ et d u n e forme diffrentielleg1 de classe C", 8-ferme tels que SO Txogo R = T,, sur -8 X \ V. Le courant S = SO Txo,o-xisi (x1R)satisfaitl'assertion i). Maintenant montrons id. Notons F le faisceau sur X dfini de la manire suivante : Si V est un ouvert de X, F ( V ) est l'espace vectoriel des formes diffrentielles g E Cf+a(V) que dg E telles Cf+O(V). C'est un faisceau de
O<a<l
O<a<l
-modules et par consquent d'aprs la Proposition 3 de l'annexe B (4.10)
H l ( X , F )= o.
Oa<l a g i = f sur Wi. Si T est un courant sur X tel que 8T = T f , injectivit du morphisme (4.5) implique qu'il existe une forme diffrentielle u de classe C k sur
Soient V = (V,)iEl et W = (Wi)iEl recouvrements ouverts de X tels des que, pour tout a, V, CC Wi,V, et Wi sont biholomorphes la boule unit de C" . Soit f E Cf( X ) ,d-ferme, daprs le Lemme de Dolbeault pour les formes (Thorme 3.51, on peut trouver une famille de formes gi E Cffa(Wi)telles que
5. Thorme de Bochner et extension de fonctions C R dans les varits
105
X telle que au = f sur X . Posons h, = g, - u sur V, alors h, E .Zk(W,)et en appliquant nouveau le Lemme de Dolbeault on obtient une famille de formes IC, E Cf+"(V,) telles que dk, = h, sur V,. I1 en rsulte que IC, - IC, E
F(K n V,) et grce (4.10) il existe une famille de formes u, E F(K) telles que IC, - IC, = u, u, sur V ,n V,.En posant u = 9% du, sur V,,on obtient une forme 2i E n Ck+a( x ) que au = f sur X . telle
O<a<l
O<a<l
Nous venons de construire une solution ayant la rgularit cherche, il reste satisfaire la condition de support. Puisque a u = f sur X, le courant T - Tu est d-ferm sur X et la surjectivit du morphisme (4.5) pour (Y = CO implique qu'il existe un courant S sur X et une forme diffrentielle goo de classe CO3, d-ferm sur X tels que T - T, = Tgm On a alors . = Tu+s, sur X \ supp T . Grce la lrepartie de la dmonstration il existe donc une forme diffrentielle h E ( X \ supp T )telle que ah = u +goo sur X \ supp T . Choisissons une
+ as
as
fonction x de classe C" dans X telle que x = O au voisinage du support de T et = 1 dans un voisinage de X \ U . Alors la forme diffrentielle g = 2i +gm - a(Xh) satisfait l'assertion ii). O
O<a<l
Une consquence immdiate de l'assertion il du Corollaire 4.2 est le rsultat suivant qui nous sera utile au paragraphe 5 de ce chapitre.
Corollaire 4.3. Soient X une varit analytique complexe de dimension n, O une des familles de supports dfinies dans le chapitre II, 7. On suppose que pour un couple d'entiers ( p , q ) ,O 5 p 5 n, 1 5 q 5 n, H g q ( X ) = O, alors si T est un ( p , q )-courant, d-ferm dans X dont lesupportappartient lafamillee, il existe un
courant S dont le support est un lment de O tel q u e d S = T sur X ,
5. THORMEDE BOCHNER ET EXTENSION DE FONCTIONS C R
DANS LES VARITS
Nous allons tendre au cas des fonctions CR de classe C k les rsultats obtenus au paragraphe 2.
Thorme 5.1. Soient X une varit analytique complexe non compacte et K un compact de X . On suppose que H$'(X \ K ) = O. Alors pour tout domaine D
relativement compact dans X tel que i)dD\Ksoitunesous-uaritdeclmseCk,k 2 l , d e X \ K . 2) D \ K = I n t ( D \ K ) . 3) \ ( Du K ) est connexe et toutefonction f CR de classeCs,O 5 s 5 IC, surdD \ K , il existe une fonction F de clmseCS s u r D \ K , holomorphedans D \ K telleque Flao,K = f .
106
V Extension de fonctions holomorphes et de fonctions C R
Dmonstration. Considrons le courant T = f [ d D \ C'est un courant de bidegr (0,l) dans X \ K dont le support est contenu dans d D \ K qui est un lment de la famille @. La fonction f tant CR,le courant T est d-ferm (en effet si cp est une (n,n - 2) forme diffrentielle de classe C" support compact dans X\K,ona(dT,cp) = (T,dcp)= S<7D\KfA& = O). L'hypothseH;'(X\K) = O et l'isomorphisme de Dolbeault prouvent alors l'existence d'un courant S, dont le support appartient la famille @, qui vrifie dS = T (cf Corollaire 4.3). Puisque le support de T est contenu dans aD\K, dS est nul sur X\(dDK);S est donc une fonction holomorphe sur ( D \ K ) U (X \ (DUK ) ) (cf. chap. III, th. 4.5). Comme le support de S est un lment de a, S est nulle sur un ouvert de X \ (D K ) car X n'est pas compacte et D K est compact. La connexit de X \ (DUK ) et principe U du prolongement analytique impliquent alors que S est nulle sur X \ (D K ) . U
I1 reste dterminer le comportement de S prs de aD\K. Cela rsultera d u n e tude locale, en effet si [ est un point fix de d D \ K , V, un voisinage de dans X \ K sur lequel on peut rsoudre l'quation d R = f[aD\ K]"l1et SCun courant de degr O tel que dSc = f [ a D \ sur V, on aura d(S - S C )= O sur V, et S - SCsera une fonction holomorphe donc de classe C" sur Vc. Les courants S et SCauront donc, modulo une fonction C", le mme comportement sur Vc.
<
Soit E d D \ K , choisissons un voisinage Uc de dans X \ K tel que a) Uc est contenu dans un domaine de carte U de X . b) I1 existe des coordonnes locales sur U telles que l'image de Uc par cette carte soit un ouvert convexe born de @". c) Uc \ ( a l l K ) possde exactement deux composantes connexes. Sans perte de gnralit, nous pouvons identifier Uc et son image dans C". D'aprs le Thorme 3.6 pour tout ouvert convexe Vc CC Uc il existe un courant SE tel que dS, = T sur Vc. De plus SC = IL< B'(xT) o x est une fonction C" support compact dans Uc gale 1 au voisinage de et u une fonction de c - classe C" solution de duc = B'(ax A T ) sur Vc. Sur Vc,le comportement de Se est donc, modulo une fonction de classe C", le mme que celui de
<
<
vc
c'est--dire que celui de la transforme de Bochner-Martinelli de x f , que nous avons tudie au chapitre IV, 1. Le courant S tant nul sur Vc n (X \ (D K ) ) , s IV,n(X\(DUK) se prolonge continment en S c V, n (X \ ( DuK ) )ainsi que la c transforme de Bochner-Martinelli de x f . Comme f est continue, SC Vcn(D\K) se prolonge continment en SE' V, n ( D\ K ) et on a S l - S; = f sur ( d D \ K )nV,. Par consquent S D\K se prolonge en une fonction F continue sur O\ K I teiie que
l = f,car ~
= O.
~
=
Pour obtenir la rgularit
Ck de S jusqu'au bord il suffit d'tudier Fc(z)
5. Thorme de Bochner et extension de fonctions C R dans les varits
107
est de classe C" sur V,. Supposons que V, n a D soit un ouvert bord C1. En reprenant la dmonstration du Thorme 3.3 du chapitre W, on obtient pour z E
o J est une extension de f satisfaisant aux conclusions du Lemme 2.3 du chapitre IV. En appliquant la formule de Stokes, on a
o la dernire intgrale du membre de droite est une fonction C" sur Vc car Bj est diffre de S, I - O par des de classe C" sur C" x Cn\ A . Comme Fc
v, \D se prolonge continment V, nD. Une rcurrence fonctions C" sur V, sur k termine la dmonstration comme dans le cas du Thorme 3.3 du chapitre IV. O
Corollaire 5.2. Thorme de Bochner. Soit X une varit analytique complexe non compacte telle que H:>l( X ) = O. Pour tout domaine D relativement compact bord de classe C k de X tel que X \ D soit connexe et toute fonction f CR de classe Cs suraD, O 5 s 5 k, il existe une fonction F de classeCs sur D, holomorphe dans D et telle que F a = f . .
,%I
\(DUW -
Dmonstration. I1 suffit d'appliquer le Thorme 5.1 avec K = concidant dans ce cas.
0,les familles c et
O
Remarque :Les Thormes 2.5 et 2.7 donnent des conditions cohomologiques sous lesquelles la conclusion du Thorme 5.1 est valable.
Commentaires. L'tude de l'extension des fonctions GR dJnies sur une partie d u bord d'un domaine est principalement due G. Lupacciolu [Lu1,2]. On peut en trouver un excellent expos dans [CilSt].Le Lemme de Poincar pour l e a est d ? Dolbeault et A. Grothendieck, c'est le point cl de la reprsentation des groupes de cohomologie desfaisceaux analytiques en termes de complexe pour lea (cf: [Do1,2]).Nous prouvons le Lemme de Dolbeault en utilisant la rsolution du dans les domaines convexes l'aide de la formule de Cauchy-Fantappi. Une autre dmonstration du Lemme de Dolheault utilisant la rsolution d u d dans les polydisques est donne dans [HOZ]. La dmonstration de l'isomorphisme de Dolbeault prsente ici se trouve dans IHelLe21.
Chapitre VI
Domaines dholomorphie et pseudoconvexit
Nous avons rencontr la fin du chapitre I et dans le chapitre III des ouverts de cc pour lesquels toute fonction holomorphe peut tre prolonge un ouvert plus grand. Les ouverts qui nont pas cette proprit sont appels domaines dholomorphie. Ce chapitre est consacr ltude des domaines dholomorphie. Nous donnons, pour commencer, une caractrisation des domaines dholomorphie en termes de convexit holomorphe (Thorme de Cartan-Thullen). Pour obtenir une caractrisation plus analytique nous introduisons la notion de pseudoconvexit. Pour cela nous dfinissons les fonctions plurisousharmoniques. Nous prouvons que tout domaine dholomorphie est pseudoconvexe. La rciproque, appele problme de Levi, sera tudie au chapitre VII.
1. DOMAINES DHOLOMORPHIE ET CONVEXITHOLOMORPHE
En tudiant le phnomne de Hartogs au chapitre III nous avons vu quil existe des ouverts 0 de C tels que toute fonction holomorphe sur R stende holomorphiquement un ouvert plus grand. Cela nous conduit introduire la notion suivante :
Dfinition 1.1. Un ouvert R de Cn est appel domaine dholomorphie sil nexiste pas douverts 0 et 0 2 de Cn ayant les proprits suivantes : 1
4 0 # a 1c R 2 n 0 ;
b) 522 est connexe et nest pas contenu dans R ; c) Pour toute f E C3(0), il existe une fonction f2 E
521.
C3(02)
telle que f = fi sur
La notion de domaine dholomorphie nest vraiment intressante que dans Cn , n 2 2, car dans @, tout ouvert 0 est un domaine dholomorphie (pour zo E dR, il suffit de considrer la fonction f ( z ) = &I.
I10
VI. Domaines d 'holomorphieet pseudoconvexit
Exemples 1) I1 rsulte du Thorme de Hartogs (chapitre III, Corollaire 4.3)que, si R est un domaine de Cn, n 2 2, et K un compact de R, R \ K n'est pas un domaine dholomorphie. 2) La boule euclidienne B(O,R), centre O et de rayon R de @" est un dode maine dholomorphie (pour zo E d B , il suffit de considrer la fonction f ( z ) =
n
i/R2 j=l
Z ~ Z ;sizo
( z y , . . . ,z:)).
3) La marmite de Hartogs Q =
ri -
(21,.
. . ,zn) E C"
< f,1 5 i 5
1 ou 5 Iz, I 5 chapitre I, Th. 6.9).
dans C", n
2 2, n'est pas un domaine dholomorphie (cf.
Lemme 1.2. Tout ouvert convexe de C" est un domaine dholomorphie. Dmonstration. Si zo est un point fix de dR, la convexit de R implique qu'il existe une application IR-linaire C de @" dans I telle que C(z) < C(z0) pour tout z E R. R
n
On peut crire t ( z ) =
j=l
6 j ,j
crjzj
+ 0j.j
et puisque C est valeurs relles on a ,Bj=

n
= 1,.. . ,n. Par consquent C ( z ) = Re(h(z)), o h ( z ) = 2
ajzj
j=l
pour
h tout z E Cn. La fonction f ( z ) = h ( z ) -1 ( z o ) , qui est holomorphe sur R n'admet pas de prolongement holomorphe au voisinage de zo ce qui prouve le lemme. 0
Nous allons essayer de caractriser les domaines d'holomorphie en terme de convexit par rapport aux fonctions holomorphes. Dfinition 1.3. Soient R un ouvert de Cn et K un compact de R, on dfinit l'enveloppe holomorphiquement convexe k , de K par
k n = {z E
If(z)l
I sup Ifl,V'f
K
OP)}.
Lemme 1.4. Soient R un ouvert de Cn et K un compact de R, alors k o est contenu dans l'enveloppe convexe de K . Dmonstration. Rappelons que l'enveloppe convexe de K est l'intersection des demi-espaces contenant K . De plus un hyperplan rel de Cn est dfini par l'quation Re(z,() = (Y, o ( E <c" est fix et (Y E R Si un point zo E Cn n'est pas dans l'enveloppe convexe de K , il existe ( E C" tel que Re(w,[) c Re(.zo,() pour tout w E K . Considrons la fonction holomorphe dans C", f ( z ) = exp((z - IO,()), ellevrifie If(10)l = 1 et If(w)l < 1pour tout w E K , donc IO Ka. O
I . Domaines d'holomorphie et convexit holomorphe
111
Corollaire 1.5. Si R est un ouuert de Cn et K un compact de R alors k n est born dans Cn . Dmonstration. C'est une consquence immdiate du Lemme 1.4 car l'enveloppe convexe d'un ensemble born est borne. O Proposition 1.6. Soient R un ouuert de Cn et K un compact de R, alors
h
i) ii) iii) iv)

sup
K
c kn t k n = En. e SiK' c K , k h c k ~ .
Si D est un ouvertdeCn tel q u e R
c D , alorska c k,.
ER
\
i?n estferm dans R.
If1
u) tantdonn111 > O etc
> O, siz
< E e t f ( z ) > 111.
KO,ilexistef
O(R) telleque
Dmonstration. Les assertions il, ii) et iii) sont des consquences immdiates de la Dfinition 1.3. Montrons ivj : remarquons que Kn =
sup [fi}.
K
A f o A f = { z E R I 5 fo(n) Les fonctions de O(R) tant continues sur R, les ensembles A f sont fer-
[).(fI
ms dans R et k n est donc ferm dans R. Considrons l'assertion vj : si z E R \En, il existe une fonction h E O(R) telle que sup (hl < lh(z)I. Aprs multiplication par une constante, on peut supposer
K
que supK Ihl
< 1 < Ih(z)I. I1 suffit alors de poser f

h
= he pour
assez grand.
Remarque :Nous avons vu que Ka est toujours born et ferm dans 0, mais en gnral ce n'est pas un compact de R.
Thorme 1.7. Soit R un domaine d'holomorphie de @" , alors pour tout compact K de R d i s t ( k n , R ) = dist(K,dR)
o dist(K,dR) = inf { 1w - zI
an.
I w E K, z E an} est la distance euclidienne de K

(TI,.
Si P(0,r)est le polydisque de centre O et de multirayon point de R, on pose naalorsdist(a,dQ) = inf { & ( a )
. . ,rn) et a un
s;(a) = sup { A > O 1 a + AP(0,T) c O}.
I T > O, CT; = l}.
Lemme 1.8. Soient 0 u n ouvert de C", K u n compact de 0 et T un mucirayon. Si Q > O est tel que 6 h ( z ) 2 7 pour tout t E K , alors, pour tout a E KO et toute f E O(R), lasriede Taylorde f e n a conuergesurP(a,vr).
112
VI. Domaines d'holomorphieet pseudoconvexit
Dmonstration du lemme. Fixons f E O(R) et 7' tel que O < 7' < 7. Alors Q = U P ( a , ~ ' rest un compact de R, il existe donc M E R tel que sup ) 5 aEK Q M . D'aprs les ingalits de Cauchy, on a supK loaf[ ~ ! M ( V ' T ) - " , tout 5 pour a E W . Comme D"f E Q(R), par dfinition de k ~ ,
If/
D " f ( a ) 5 a ! M ( q ' ~ ) - "pour tout a E KQ ,

et donc daprs le Lemme d'Abel, la srie de Taylor de f en a E l ? ~ converge sur P(alq'r).Ceci tant vrai pour tout 7' < q ,il y a convergence sur P ( a , ~ r ) . O Dmonstration du thorme. Notons tout dabord que l'inclusion K plique l'ingalit
c KQim-
dist(kn,dR) 5 dist(K,dR).
Supposons que 7 = dist(K,aR) > dist(kQ,R), nous allons prouver qu'alors R n'est pas un domaine dholomorphie. Considrons un point a E KQ tel que
h
dist(a,dR)
<
7. I1 existe un multirayon
tel que
j=l
ri
= 1 et S&(a) < 7
Sh ( z ) ,pour tout z E K. I1 rsulte alors du Lemme 1.8 que la restriction la composante connexe de R n P ( a , ~ r ) contenant a de toute fonction holomorphe sur R se prolonge holomorphiquement P ( a , ~ r )Comme S&(a) < 7 , P ( a , ~ r ) . n'est pas contenu dans R ; l'ouvert R ne peut donc pas tre un domaine dholomorphie. Par consquent si R est un domaine dholomorphie, l'ingalit dist(K0,R) 2 dist (K,dR)est satisfaite. O
I1 est alors naturel d'introduire la notion suivante :
Dfinition 1.9. Soit R un ouvert de Cn . On dira que 0 est holomorphiquement convexe si pour tout compact K de R, est relativement compact dans R k~ , Si K est un compact de 0,K est O(R)-convexe si et seulement si K = KQ. Exemples :Considrons l'ouvert R = { z E en I < II < 2} et le compact z K = { z E C n 11z1=1}deR. 1)Sin = 1,en utilisant les fonctions holomorphes sur 0,f ( z ) = et f (z)= z , on voit que ka = K, ce qui signifie que K est O(R)-convexe. 2) Sin 2 2, le phnomne de Hartogs implique que toute fonction holomorphe f sur R s'tend en une fonction holomorphe f la boule B(0,2).Si on applique 5 supK pour z tel le principe du maximum f , on obtient, lf(z)l = 2 n que < 1 1 < i et par consquent B ( o , ~ )R c E-, ce qui prouve que KO n'est pas relativement compact dans R. L'ouvert R n'est donc pas holomorphiquement convexe.
[).(fI
If/,
Avec cette terminologie, le Thorme 1.7 signifie qu'un domaine dholomorphie est holomorphiquement convexe. La suite de ce paragraphe va tre consacre prouver que les notions de domaine dholomorphie et d'ouvert holomorphiquement convexe sont en fait quivalentes.
1. Domaines dholomorphie et convexit holomorphe
113
Lemme 1.10. Soit R un ouvert holomorphiquement convexe de @ . Alors R possde ~ une suite exhaustive ( K j ) j de compacts O(R)-convexes. Dmonstration. Nous ailons construire la suite ( K j ) j E ~ rcurrence partir par d u n e suite exhaustive (Qe)ew de compacts quelconques de R. On pose K 1 = Q I , cest un compact de R car R est holomorphiquement convexe. Supposons
n
construits K I , . . . ,Kj et considrons

h
l j
2 j tel que Kj
C Q e J il ,
suffit alors de
poser Kj+1 = &e,.
Lemme 1.11. Soient0 un ouvert holomorphiquementconvexe de C, (K j ) j c une ~ suite exhaustive de compacts O(52) -convexes de R et ( p j ) j E nune suite de points tels quepj E Kj+i \ K j . Alors il existe unefonction f E O(R) telleque lim ( f ( p j I) =
+m.
3-00
0 0
Dmonstration. La fonction f sera dtermine comme la somme d u n e srie o

fu E
fu
u=l
o(o), ljUl 
+ 1 + 5lfU(pj)l,s i j 2
u=l
00
2.
Remarquons que si une telle suite
( ~ V ) , ~ M . existe
alors la srie
u=l
f u converge
uniformment sur tout compact K de O et donc sa somme f est holomorphe sur
R et s i j 2 2.
v#j
V>j
Cela implique If(pj)l > j car

U>j
Ifu(pj)I
<
0 0
2- 5 1. On construit la
u=l
O et si fi,. . . ,fe-l sont construites, suite ( f v ) u E ~par rcurrence. On pose f i il rsulte de lassertion v) de la Proposition 1.6 quil existe fe E O(R) telle que
SUP
Kt
Ifel <
et ~fe(pe)~ >
+1
e- 1
~ . ~ ( p ecarpe )l,
u= 1
e Et.
Proposition 1.12. Un ouvert R de @ est holomorphiquement convexe si et seulement si pour toute suite ( P , , ) ~ N C R sans point daccumulation dans R,il existe unefonction f E O(R) telle quesup If(p,) I = +m.
UEW
Dmonstration. Supposons que R est holomorphiquement convexe et consi~ drons une suite exhaustive ( K j ) j de compacts O(R)-convexes de R (il en ~ existe daprs le Lemme 1.10). Si ( p u ) u e est une suite de points de R sans point daccumulation dans (1, il existe des suites (vk)kEn et ( j k ) k e ~ telles que pu, E Kjk+l\ Kjk. Lexistence de la fonction f est alors une consquence du Lemme 1.11.
114
VI. Domaines d'holomorphie et pseudoconvexit
Rciproquement soit K un compact de R. Par dfinition de la co_nvexit holomorphe, il suffit de prouver que toute suite (p,,),,~d'lments de KO possde un point d'accumulation dans KO. Soit (P,,),,~N une suite de points de KR.Alors pour toute f E O(R), on a sup lf(p,,)l 5 sup If I < +CO. Puisque, par hypoA h
UN
thse, pour toute suite sans point d'accumulation dans R, il existe une fonction holomorphe dans R non borne sur cette suite, la suite (p,,),,~prcdente posest sde un point d'accumulation dans R. Comme de plus I?, ferm dans R, ce point d'accumulation appartient KR. o.
h
Application :Soit R un ouvert de Pour que R soit holomorphiquement convexe, il suffit que, pour tout point p E dR, il existe une fonction fp E O(R) telle que lim I fp(z)l = +CO. En effet, si ( P , , ) , , ~ W une suite d'lments de R sans point est Z+P
=ER
e".
d'accumulation dans R, soit cette suite n'est pas borne et alors la fonction f ( z ) = z n'est pas borne sur ( P , , ) , , ~ w , cette suite possde un point d'accumulation soit p E dR et alors fp n'est pas borne sur (P,,),,~w. D'aprs la Proposition 1.12, R est alors holomorphiquement convexe. On prouve ainsi que tout ouvert de @. est holomorphiquement convexe ainsi que tout ouvert convexe de @" .
Nous pouvons maintenant noncer et dmontrer le thorme de caractrisation des domaines d'holomorphie en terme de convexit holomorphe obtenu par H. Cartan et I? Thullen.
Thorme 1.13. SoitR un ouvert de C" . Les conditions suivantes sont quivalentes: i) R est y domaine d'holornorphie. ii) dist(Kn,dR)= dist(K,dR), pour toutcompactK d e o . iii) R est holornorphiquernent convexe. iv) Il existe f E O(R) telle que pour tout couple d'ouverts R I et R2 de @" satisfaisant les conditions a) et bj de la Dfinition 1.1 on ne peut pas trouver de fonctellequef = f surR1. tionf E o ( R ~ ) Dmonstration. Les implications iij iiij et ivj ==+ i] sont respectivement des consquences immdiates des Dfinitions 1.9 et 1.1. L'implication ij ==+ iij est donne par le Thorme 1.7. I1 ne reste prouver que iii] ==+ iv). Lemme 1.14. Soient R un ouvert de @", p un point de dR,U un voisinage connexe d e p et D une Composante connexe de U n R. Alors d D n (U n 8 0 ) # 0. Dmonstration. Puisque D est une composante connexe de U n R, D est ouvert dans C et ferm dans U n R. L'ouvert U tant connexe et Dtant strictement " inclus dans U , D ne peut pas tre ferm dans U . Considrons un point q de la frontire (dans U ) de D.Comme D est ferm dans U n 0,le point q ne peut tre O que sur dR.
I . Domaines dholornorphie et convexit holomorphe
115
Lemme 1.15. SoientR un ouvertde? et(K,),N unesuite exhaustive decompacts de R. Alors il existe une suite ( u j ) j c n dentiers naturels et une suite ( p j ) j c de points ~ de R telles que les conditions suivantes soient satisfaites : U p j E K,,,, \ K,,,.i E 2) pour toutp E dR et tout voisinage connexe U de p, toute composante connexe D de U n R contient une infinit de points de la suite (pj)jEn.
Dmonstration. On note (u,),~ la suite des points de R ayant des coordonnes rationnelles, T , la distance de a, dR et B , la boule B(u,,r,) C R.On dsigne par (Qj)jn une suite dont les lments sont les B , et qui contient chaque B , une infinit de fois. Par exemple, la suite B I , I ,&, B I , B3,B I , B3,Bq, . . .. B Bz, Ba, Posons K,=Ko et supposons que nous ayons construit des points p l , . . . ,pe-l et des compacts K,, , . . . ,K,, vrifiant 1) pour j = 1, . . . ,C - 1. Comme Qj nest contenu dans aucun compact de R puisque cest lun des B,, il existe pe E Qe \ K,, . On choisit alors V e + i tel que pe E K,,,, et 1) est vrifie pour j = C. Montrons que 2) est gaiement satisfaite pour les suites que nous venons de construire de proche en proche. Soient p E do, U un voisinage connexe de p et D une composante connexe de U n R. Daprs le Lemme 1.14, il existe q E d D f U n dR. La suite ( u , ) , ~ N tant dense dans (Cn, il existe a, E D suffisamment proche de q pour que B , c D . Mais puisque B , apparat une infinit de fois dans la suite (Qj)jcn et pj E Qj, U n D contient une infinit de pointspj. O Fin de la dmonstration du Thorme 1.13. Supposons que R est holomorphiquement convexe.Daprsle Lemme 1.10, il possde une suite exhaustive (K,),N de compacts (?(R)-convexes. Nous pouvons alors appliquer le Lemme 1.11 aux suites ( p j ) j E ~ (Kv,)jEn et associes la suite ( K Y ) Vpar~ Lemme 1.15 et construire E le une fonction f E O(R) telle que lim (f(pj)l = m. Soient p E d a , U un voisinage connexe de p et D une composante connexe de U n R. Supposons quil existe h E O ( U )telle que h = f sur D. Soit U cc U un voisinage de p et D la composante connexe de U n R qui rencontre D , alors sup Ihl 5 sup Ihl < +c et f
D
U
3-00
doit donc tre borne sur D. Mais cela est impossible car, par construction de la suite ( p j ) j E w ,Dcontient une infinit de p j et lim (f(pj) = +m. La fonction f 1 satisfait donc iv).
3+m
Terminons ce paragraphe en donnant de nouveaux exemples de domaines dholomorphie et quelques proprits de stabilit par les oprations ensemblistes
Proposition 1.16. Soient c3 (O). Alors
un domaine dholomorphie dans U ?
et f i , .
. . ,fN
n ,
={z E
R I Ifj(Z)l < 1, j
= 1 , .. . , N }
est un domaine dholomorphie.
116
VI. Domaines dholomorphieet pseudoconvexit
Dmonstration. Soit K un compact de R f . Choisissons r < 1tel que I f j I 5 r dans K pour tout j = 1, . . . ,N. Cette ingalit est bien sr encore valable dans Ka et Ka est donc contenu dans R f . Mais KQ est compact puisque 0 est un domaine dholomorphie et contient KQ, ce qui implique que K a , est compact et prouve le rsultat. O
h
Remarque :Si Rf CC R, alors Rf est un domaine dholomorphie mme si R nen est pas un car Ka, est ferm dans R, puisque k ~c,{ z E R I I f j ( z ) l 5 T } C
h
Rf.
Exemples i) Si cp E R = { z E C I - A < Recp(z) < A } est un domaine dholomorphie. 2) Un ouvert R CC C est un polydre analytique sil existe un voisinage U de { E R e t f l , . . . ,f N ~ ~ ? ( ~ ) t e i i e s q u Z e U~I = l f j ( z ) I < 1 , j = i ,...,N } . u ~ polydre analytique est un domaine dholomorphie.
C(en),
Proposition 1.17. Lintrieurdune intersection quelconque de domaines dholomorphie est un domaine dholomorphie. Dmonstration. Soit ( R z ~ )une~famille de domaines dholomorphie, notons R ~ J lintrieur de R et supposons que R # i Si K est un compact de R, on a
a.
dist(K,R) 5 dist(K,O,), pour tout i E I. Les ouverts Ri tant des domaines dholomorphie, il rsulte du Thorme 1.7 que d 5 dist(ka dRi), pour tout z E I . Comme KQ est contenu dans tous les KQ,, la distance de Ka au bord des R est suprieure ou gale d ainsi que la distance de KR au bord de R. i Louvert R est donc holomorphiquement convexe et daprs le Thorme 1.13, cest un domaine dholomorphie. O
=
h
O < d
ZEJ
Proposition 1.18. Soient RI c Cm et R2 c @ deux domaines dholomorphie. Alors le produit cartsien R1 x 0 2 est un domaine dholomorphie. Dmonstration. I1 suffit de prouver que pour tout compact K = K1 x K2 de R1 x 0 2 o Ki est un compact de Ri, = 1,2, Knl x ~ est relativement compact dans i z R1 x 0 2 . Si f E c3(02;), = 1 ou 2, alors f dfinit une fonction holomorphe sur i 0 x R2 et par consquent 1
Donc K a, xazest contenu dans KI)^, x ( K ~ ) qui ~ relativement compact Q est dans 521 x 0 2 car les Ri, i = 1,2 sont holomorphiquement convexes. O Si un ouvert R de C nest pas un domaine dholomorphie, il est alors naturel de se demander sil existe un plus grand lment E ( R ) dans lensemble des ouverts
2. Fonctions plurisoushannoniques
1 I7
D contenant R tels que toute fonction holomorphe sur R s'tende en une fonction holomorphe sur D.
Exemples 1) Soient O un domaine d'holomorphie de C", 2 2, et K un compact de n O tels que O \ K soit connexe. Posons R = O \ K . I1 rsulte du phnomne de Hartogs et de la dfinition des domaines dholomorphie que E ( R ) existe et que
E ( R ) = O.
2) Soit p une fonction holomorphe dans C", 2 2, on note O le domaine n d'holomorphie O = { z E C" I Re p(z) < O}. Si K est un ferm de O tel que K CC C" et O \ K soit connexe, on pose R : O \ K . On dduit du thorme d'extension donn dans le paragraphe 6 du chapitre Vet du phnomne de Hartogs que E ( R ) existe et que E ( R ) = O.
Comme nous aiions le voir sur un exemple, en gnrai E ( R ) n'existe pas si on se limite la classe des ouverts de C" . Lorsqu'il existe, E ( R ) est appel enveloppe d'holomorphie de R. Considrons le sous-ensemble y de C dfini par y = { z E IR I 1 5 z 5 2} U = 2eie I O 5 O 5 7r} U { z E IR I -2 5 z 5 O}. On note r le sous-ensemble de C2 dfini p a r r = y x {O}. Posons Wl = { z E C2 I O 5 Izl/ 1/2, O < < -
{z
1.~21< I} u { z E C2 1 O 2 l l < 1, i / 2 < 1221 < I}. W I est unemarmite zl de Hartogs et d'aprs le Thorme 6.9 du chapitre I, toute fonction holomorphe sur W1 s'tend en une fonction holomorphe sur le bidisque D(0,l) x D ( 0 , l ) . Notons W2 = D ( l , l / 4 ) x 0 ( 0 , 1 / 4 ) , W 3 = { z E C2 I dist(z,r) < 1/4} e t R = Wl U W , U Ws. L'ouvert R de C2 est connexe car chacun des Wi,i = 1,2,3 est connexe et CC: x {O} n 0 est connexe. Considrons la fonction f E O(R) qui concide avec une dtermination de d F sur W1 (f existe et est unique car R est connexe, on la construit par prolongement analytique). Si l'enveloppe d'holomorphie E (R) de R existait, en tant qu'ouvert de C2, ncessairement E ( R ) contiendrait l'ouvert 6 = D ( 0 , l ) x D ( 0 , l ) UW2 U W, ce qui est impossible. En effet, soit Fl'extension de f E ( R ) , la fonction z1 i-j Fln(zl,O)serait une fonction holomorphe sur (C x {O}) n 6, qui est un anneau autour du point (z,O), et elle conciderait avec f sur (C x {O}) n R.Cela prouverait que da une dtermination dfinie sur un anneau autour de i, mais une telle dtermination n'existe pas.
2. FONCTIONS PLURISOUSHARMONIQUES
Dans ce paragraphe, nous gnralisons au cas de plusieurs variables complexes la notion de fonction sous-harmonique. Ces nouvelles fonctions nous serviront dfinir la pseudoconvexit au paragraphe 3.
118
VI. Domaines dholomorphie et pseudoconvexit
A. Fonctions harmoniques et fonctions sous-harmoniques
Nous rappelons pour commencer la dfinition et les principales proprits des fonctions harmoniques. Pour plus de dtails le lecteur pourra se rfrer au paragraphe 14 de [Hel et au chapitre I de [Krl. Dans C, loprateur de Laplace A est dfini par
A = - +d2 4 -=
ax2
a2
ay2
a2 azai
Dfinition 2.1. Unefonction u de classeC2 dans un domaine D de@ est dite harmonique si et seulement si Au = O dans D.
Propri ts
1) Une fonction u valeurs reiles dfinie sur un ouvert D de @ est harmonique si et seulement si u est localement la partie relle dune fonction holomorphe. En particulier, une fonction harmonique est C et mme analytique relle. 2 ) Proprit de la moyenne. Si u est une fonction harmonique sur D
c C, alors
si { z I Iz - al
5 T } c D.
3) Principe d u maximum. Soit u une fonction harmonique valeurs relles sur un ouvert D de C, alors : i) Si u a un maximum local en a E D, u est constante au voisinage de a, donc constante sur la composante connexe de D qui contient a. ii) Si D est relativement compact dans C et si u E C(D), ( z ) 5 max u, u pour
z E D.
4) Problme de Dirichlet. Notons
aD
R un domaine bord C1 de C. Si f est une fonction continue sur le bord de a, il existe une unique fonction F E C(G)telle que Flan = f et F soit harmonique dans R.
Dfinition 2.2. Unefonction u dfinie sur un ouvert D de @ valeurs dans [ -00, 00) est dite sous-harmonique si et seulement si i) u estsemi-continuesuprieurement (s.c.s.),i.e. { z E D I u ( z ) < s} estouvert pourtouts E R o u b i e n K u ( z ) 5 .(a) sia E D.
z-ia
ii) Pour tout compact K

O
D et toute fonction h continue sur K , harmonique
sur K , telle que h 2 u s u r d K , alors h 2 u sur K .

Remarques -Si u
-00,
u est sous-harmonique.
2. Fonctions plurisousharmoniques
119
- Dans IR,A = les fonctions harmoniques correspondent aux fonctions linaires et par consquent les fonctions sous-harmoniques sont les fonctions convexes.
&,
Proposition 2.3.Soit D un ouvert C. i) Si u est sous-harmonique dans D , alors Xu est sous-harmonique dans D pour toutX > O. ii) Si (U , ) , ~ A est unefamille defonctionssous-harmoniquessur D telles que u = sup u soitfinie et semi-continue suprieurement alors u est sous-harmonique ,
,EA
sur D . iii) Soit ( u n ) n E ~ suite dcroissante defonctions sous-harmoniquessur est une D , alors u = lim unest sous-harmonique,
n+m
Dmonstration. La lre et la 2me assertion se dduisent immdiatement de la Dfinition 2.2. Prouvons iiil. Observons que si u = lim u n , alors { z E D
71-00
I u(z) < s}
u { z E D I un(z ) < s } pour tout s E R,cest donc un ouvert et par consquent

nEN
u est semi-continue suprieurement. Soient K un compact de D et h une fonction

continue sur K , harmonique sur K , telle que h 2 u sur d K . tant donn E > O, on pose E., = { z E dK I u3( 2 ) 2 h ( z ) E } , pour tout j E N. Les ensembles E., sont ferms dans dK, car les fonctions u , . sont s.c.s., ce sont donc des compacts. De plus, la suite (E.,).,EN est dcroissante et dintersection vide. I1 existe donc un entier C E N tel que El = 0, ce qui implique que ue 5 h E sur 3 K . Mais comme la fonction u p est sous-harmonique on a ue 5 h E sur K , do u 5 h E sur K car la suite ( u n ) n E ~ dcroissante. Cela tant valable pour tout E > O, on a est u 5 hsurK. O
O
Corollaire 2.4. Pour tout ouvert D C @, la fonction
u ( z )=
log(dist(z,dD))
est sous-harmonique dans D .

Dmonstration. Si D = @, u G -00 et donc u est sous-harmonique. Si D # @, alors u est continue et u ( z ) = sup (- log I - Cl). Mais - log I - <I est une z z
CEaD
fonction harmonique, car cest localement la partie relle d u n e dtermination de - log( z - C), il rsulte donc de lassertion ii) de la Proposition 2.3 que u est sousharmonique. O Nous allons donner plusieurs caractrisations de la sous-harmonicit. Rappelons que si p est une mesure borlienne positive sur un compact K et u : K + R {-CO} une fonction semi-continue suprieurement lintgrale udp
,s
120
VI. Domaines dholomorphieet pseudoconvexit
a un sens, eiie est dfinie par

L U d P = inf {
cpdp I cp E C(K),(P u} L
et u E L1( K , p )si et seulement si JK udp
> -CO.
Thorme 2.5. Soient D un ouvert de C et u une fonction semi-continuesuprieurement de D dans JI% { -CO}. Les assertions suivantes sont quivalentes: i) u est sous-harmonique. ii) Pour tout disque A CC D et tout polynme holomorphe f tel que u 5 R e f s u r d A , o n a u 5 Ref sura. iii) Poura 6 D , ilexister,, O < r , < dist(u,D), telque
Remarque :La proprit iii) est une proprit locale et additive, on en dduit donc que : 1) Si u1 et u2 sont des fonctions sous-harmoniques dans D, u 1 u2 est sousharmonique dans D . 2) Une fonction u dfinie sur un ouvert D de C est sous-harmonique si et seulement si tout point de D possde un voisinage sur lequel u est sous-harmonique.
Lemme 2.6. Si u est une fonction semi-continue suprieurement sur un ouvert D de C qui satisfait la proprit iii) du Thorme 2.5 (Proprit de la sous-moyenne) alors ! u satisfait le principe du maximum.
Dmonstration. Raisonnons par labsurde. Supposons que u vrifie la proprit de la sous-moyenne et quelle possde un maximum local en un point a E D, cest-dire quil existe p > O tel que u ( z ) 5 .(a) pour tout z E D tel que Iz - al < p. Si u nest pas constante au voisinage de a, il existe zo E D tel que 1x0 - al = r < min(p,r,) et u(z0) < .(a). Considrons lensemble { 0 E [0,27~] u(u reio) < I u ( u ) } ,cest un ouvert de [0,27r]car u est S.C.S. et il est non vide car Izo - al = r. On en dduit que
JT
21T
u(u
+ reie)d <
Ju
u ( a ) d = 27ru(a)
ce qui est en contradiction avec le fait que u satisfait iii) du Thorme 2.5. Dmonstration d u Thorme 2.5
Limplication i) + ii) est une consquence immdiate de la dfinition des fonctions sous-harmoniques. Prouvons que iil
Iz
iii). Soient a E D et r > O tels que A = { z E C I al < r } CC D. Considrons une fonction cp E C(A)telle que cp 2 u
121
sur dA. Grce la solution du problme de Dirichlet, on peut supposer que cp est en fait continue sur et harmonique dans A. Pour T < 1, on pose cpT(z) = cp(a ~ ( -za ) ) . Les fonctions ainsi dfinies sont harmoniques au voisinage de A et la famille converge uniformment vers cp sur lorsque T tend vers 1. De plus, il existe des fonctions fT holomorphes au voisinage de telles que cpT = Re f T car est simplement connexe. Pour tout E > O, il existe alors un polynme holomorphe f tel que
u5cpIRef <V+E (il suffit essentiellement de prendre le dbut du dveloppement de Taylor de f T pour T assez proche de 1 et un ordre assez lev). On dduit de ii) et de la proprit de la moyenne pour Re f que
.(a)
5 Re f ( a ) =
&
27r
Re f ( a
+ reie)d
Le rel E
> O tant arbitraire, on obtient
pour toute 'p E C(dA) teile que u l'intgrale d'une fonction S.C.S.
cp sur dA, d'o le rsultat par dfinition de
Terminons la dmonstration du thorme en prouvant que iii) implique i). Soit

O
K C D un compact et h E C (K ) une fonction harmonique dans K telle que u 5 11 sur d K . Nous allons montrer que si iii) est satisfaite, u 5 h sur K . Considrons la fonction u - h, il rsulte de iiil et de la proprit de la moyenne pour h que ( u - h )
O
vrifie iii) dans K et d'aprs le Lemme 2.6, u - h satisfait au principe du maximum. Par consquent, pour tout z E K , ( u - h ) ( z ) 5 sup(u - h ) 5 0, soit u 5 11 sur
K.
i3K
Proposition 2.7. Soit D un ouvert de @. Si f E O(D) alors log harmonique dans D .
If1
est sous-
Dmonstration. Soit a E D. Si f ( a ) = O, log = -cc et iii) du Thorme 2.5 est satisfaite, si f ( a ) # O, il existe un voisinage simplement connexe de a sur est harmonique sur ce voisinage, iii) est donc lequel f ne s'annule pas et log encore satisfaite. De plus log
).(/fI
If1
If1
est clairement S.C.S.
Proposition 2.8. Soit cp une fonction convexe croissante sur R. On pose y( -00) = lim cp(x).Si u est une fonction sous-harmonique sur un ouvert D de C, cp O u est
2+-m
sous-harmonique sur D.
122
Dmonstration. Puisque la fonction 'p est convexe croissante, pour tout 20 E existe un nombre rel k tel que p(z) 2 'p(z0) k ( z - 2 0 ) .Cela implique
IR,il
pour tout z E D et T > O tel que D ( z , T )cc D. Choisissons z o = u(z + re")dO. On dduit de la sous-harmonicit de u et de la croissance de p que
& s," '
ce qui prouve la proposition car cp O u est clairement S.C.S. Exemples : Si f harmoniques.
O
CU
E L?(A), I f / et plus gnralement
If/",
> O,
sont sous-
Proposition 2.9. Soit u une fonction sous-harmonique sur un ouvert D de C. On suppose que sur aucune composante connexe de D , u est identiquement gale -CO. Alors u est intgrable sur tout compact de D et en particulier u > -03 presque partout (pour la mesure de Lebesgue).
Dmonstration. Soit z E D tel que u ( z ) > -CO et A un disque ferm de centre z contenu dans D. La fonction u tant s.c.s., elle est borne suprieurement sur donc
udX
< +m.
Si 6 dsigne le rayon du disque A, la proprit de la sous-moyenne implique

udX =
L'((I'"
u(z
+ re")d )
dr
2 n b 2 u ( z ) > -03.
Par consquent u est intgrable sur A. Notons E l'ensemble des z tels que u est intgrable au voisinage de z , c'est un ouvert. I1 rsulte de ce qui prcde que ' ~ 1= -00 au voisinage de tout point de D \ E et puisque u est S.C.S. D \ E est aussi ouvert. Par consquent D \ E est une runion de composante connexes de D , qui O doit tre vide par hypothse car u = -03 sur D \ E. Terminons ce paragraphe en donnant une nouvelle caractrisation des fonctions sous-harmoniques.
Thorme 2.10. Soit u une fonction sous-harmonique sur un ouvert D de @, non identique -03, sur chaque composante connexede D. Alors, pour toutev E V(D ) valeurs positives on a
(2.2)
SuAvdX
20
o X est la mesure de Lebesgue sur @.
123
Dmonstration. Soit r E R tel que O supp v on a
<r <
u(z
dist(suppu,CD). Pour tout z E
2.rru(z) I :
i2"+
reie)dO
car u est sous-harmonique. Multiplions cette relation paru et intgrons par rapport
A, ce qui est permis d'aprs la Proposition 2.9, on obtient alors
(2.3)
/ (I
u(z)
2"
u ( z - rei0)d - 2 s v ( z ) ) d ~ ( z2 O. )
Effectuons un dveloppement de Taylor de u l'ordre 2 all du U(Z h i k ) = U(Z) h - ( z ) k-(z)
+ +
dX
dY
+ +2hk-(z) dxdy + k Z 7 ( z ) ) +O(lh+ikI3). 8Y En remplaant h + i k par -(r cos O + ir sin O ) et en intgrant par rapport O on
obtient
1 d2u - ( h 2 -ax2 2 (z)
a2U
d2U
I'"
rr2 u ( z - reie)d - 2 ~ 4 = -AU(.) ~ ) 2
+ O(r3).
O
Si on multiplie (2.3) par
5et si on fait tendre r vers O on obtient (2.2).
Remarquons que si u est une fonction sous-harmonique de classe C2, le Thorme 2.10 signifie que A u 2 O. Nous allons prouver la rciproque pour les fonctions de classe C2. Elle est encore vraie pour les fonctions localement intgrables sous la forme suivante, mais nous ne le dmontrerons pas ici (cf [Ho2],th. 1.6.11) : Soit u E L:,,(D) une fonction vrifiant uAudA 2 O, pour toute u E D ( D ) valeurs positives, il existe une et une seule fonction U. sous-harmonique sur D , qui est gale u presque partout.
Thorme 2. i l . Soitu unefonction de classeC2 sur un ouvert D de C telle que A u O sur D, alors u est sous-harmonique dans D.
Dmonstration. Soit K un compact de D et h une fonction continue sur K et harO
monique sur K telle que u = u - h 5 O sur a K . Supposons dans un premier temps que A u
> O et raisonnons par l'absurde.

O
S'il existe z E K tel que u ( z ) > O, u aura un maximum en un point zo EK et par consquent A v ( z 0 ) sera ngatif ou nul. En effet si g ( t ) = u(xo it), o xo = Re zo, g possde un maximum en t = yo = Im zo et par consquent a2v (20) = aY
(yo) 5 O. On montrerait de mme que (20) 5 O et donc Au(20) cela contredit le fait que A u = A u - A h > O car A h = O.
5 O. Mais
1+1* Alors Auj = Revenons au cas o A u 2 O et posons u j ( z ) = u ( z ) 7 . Au > O pour tout j E N* et u est donc sous-harmonique d'aprs ce qui prj ~ cde. La suite ( u j ) j Eest une suite dcroissante de fonctions sous-harmoniques
+4
124

IL,
qui converge vers harmonique.
il rsulte alors de la Proposition 2.3, iii) que
IL
est sous-
Terminons ce paragraphe par un lemme sur les valeurs moyennes des fonctions sous-harmoniques qui nous sera trs utile par la suite. Lemme 2.12. Soitu une fonction sous-harmoniquesur ledisque { z E @ I Iz - al p } . Alors
<
est une fonction croissante d e r sur]O,r[.
Dmonstration. Notons A ( r ) = { z E I Iz - al < r } et considrons deux rels r1 et r2 tels que O < 7-1 < 7-2 < p. Soit cp E C(dA(r2)) telle que cp 2 u sur dA(r2). Grce la solution du problme de Dirichlet, on peut supposer que cp est en fait continue sur A(r2) et harmonique sur A(r2). La proprit de la moyenne pour les fonctions harmoniques nous donne alors A(cp,r) = cp(a) pour r 5 r2. Puisque u est sous-harmonique sur A(p), on a u 5 cp sur A(r2) et donc
A ( u , n ) I A(cp,r1) = A(cp,rz).
Finalement
A(u,r1) I inf {A(cp,r2),cp E
C ( W 7 - 2 ) ) , cp
2 u} L A(W-2).
B. Fonctions plurisousharmoniques
On dsigne par D un ouvert de @"
Dfinition 2.13. Unefonction u de D dans WU { -m} est dite plurisousharmonique (psh) sur D si u est semi-continue suprieurement et si pour tout a E D et w E @" , la fonction X C) u ( a Xw) est sous-harmonique dans l'ouvert { X E Cc I a Xw E
01.
On note PSH(D ) l'ensemble des fonctions plurisousharmoniques sur D. Un certain nombre de proprits des fonctions plurisousharmoniques sont des consquences directes des proprits correspondantes des fonctions sous-harmoniques : 1) Soit ( u Z L , ) , ~ famille de fonctions plurisousharmoniques sur D. Si u = une sup u est fini et semi-continu suprieurement dans D , alors u est plurisoushar, monique sur D. 2) Si ( U , ) , ~ W est une suite dcroissante de fonctions plurisousharmoniques sur D , alors u = lim un est plurisousharmonique.
n+co
aA
3) L'ensemble PSH(D) est stable par addition et par multiplication par une
constante relle positive.
125
4) Une fonction u E PSH(D) si et seulement si u est plurisousharmonique au voisinage de chaque point a E D . 5) Si f E O ( D ) ,alors log et cy > O, sont plurisousharmoniques dans
If/
Ifla,
D.
Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD)) n'est pas ncessairement plurisousharmonique. En effet, considrons l'ouvert D = C2 \ {O}.Soientu = (1,O) E D e t w = (0,1).Alors
u(u
+ Xw) =
log(dist(a + Xw,dD) = -log
d m .
Cette fonction possde un maximum strict au point X = O, elle ne peut donc pas tre sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique. Thorme 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D valeurs relles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien complexe de u au point z
est une forme hermitienne semi-djinie positive sur @" Dmonstration. Un calcul direct donne
-u(u
a2 axai
+ Xw) =
La+XwU(W).
Le rsultat se dduit alors des Thormes 2.10 et 2.1 1 qui caractrisent les fonctions O sous-harmoniques de classe C2 par la positivit du laplacien. Corollaire2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).
Dmonstration. Soit u E D et w E @", on a La(uO F ) ( w )= L F ( a ) u ( F ' ( a ) w ) . I1 O suffit alors d'appliquer le Thorme 2.14.
Dfinition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-dire la forme hermitienne
Dfinition 2.17. Unefonction u E P S H ( D ) n C2( D )est dite strictement plurisousharmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au point z est une forme hermitienne dfinie positive.
126
Nous voulons tendre le Corollaire 2.15 aux fonctions plurisousharmoniques quelconques. Pour cela nous allons tout d'abord dmontrer un thorme de rgularisation pour les fonctions plurisousharmoniques. Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On suppose que sur aucune composante connexe de D, u est identiquement gale -03. Alors u est intgrable sur tout compact de D et en particulier u > -03 presque partout. Dmonstration. I1 suffit de reprendre la dmonstration de la Proposition 2.9 en remplaant le disque A par un polydisque. 17 Thorme 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et d i s t ( z , D ) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas identiquement gale -00 sur une composante connexe de D. Il existe alors une suite ( u j ) j E nd'lments deC"(D) telleque 1) u j est strictement plurisousharmoniquesur D j . ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj. iii) lim u j ( z ) = u ( z ) pourtoutz E D.
" 3 '
iv) Si u est continue, la suite (u j ) j E w converge vers u uniformment sur tout compact de D.
Dmonstration. Soit 8 E D(R) une fonctionC", valeurs positives, support dans [-l,l]ettelleque ( l z l ) d X ( z ) = 1.Puisque Dj est relativement compactdans D , la fonction u est intgrable sur Dj et on peut considrer la fonction wj dfinie Par
scn
c'est une fonction de classe C" dans C" . Montrons que wj satisfait la proprit de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) = Jcn u ( z - $)((<l)dX(<),pourz D ~Sia E D~etw E C" o n a E .
car u est plurisousharmonique. Grce au Lemme 2.12 appliqu la fonction sous harmonique X c) u ( z - Ac), l'intgrale
u ( z - eit-)dt
DUOP
ia
3 2 inoi mod
LZ I
128
Dfinition 2.21. Soient D un ouvert de Cn et u une fonction de classe C2 valeurs relles dans D. On pose pour z,< E D
La fonction
Fu(z,<)est appele polynme de Levi de u.
Le lemme suivant relie la forme de Levi de u et le polynme de Levi de u avec le dveloppement de Taylor de u l'ordre 2. Lemme 2.22. Soient D un ouvert de Qin et u une fonction valeurs relles de classe C2 dans D. Pour tout< E D e t z voisin de< on a :
u ( z ) = u ( < )- Repu(*,()
Dmonstration. Soient (
Cj
+ Lcu(z
<) + o(lC - ~
1 ~ ) .
E Cn telles que
= xj(C)
+ i ~ ~ + ~Un calcul direct donne (<).
~ j ( < ) ) ~ 5 j les2coordonnes relles de ( 5 ~
et
Le lemme rsulte alors du dveloppement de Taylor de u en ( l'ordre 2 et des dfinitions de Fu et Lcu. O Thorme 2.23. Soit u une fonction strictement plurisousharmonique de classe C2 au voisinage de O 6 P. Si du(0) # O, il existe une application biholomorphe h d'un voisinage U de O dans P sur un voisinage W de O dans Cn telle que u O h-' est
2n
strictement convexe sur W ,c'est--dire

j,k=l
(<)tjtk
> O pour tout < E
w
=
xj
et t E IR2" \ {O}, o xj = xj(C) sont les coordonnes relles de (C) + ixj+n (C).
< telles que
<j
Dmonstration. Puisque du(0) # O et u est valeurs relles, on a &(O) # O. Supposons que %(O) # O. L'application h ( z ) := ( F ~ ( Z , O ) , Z . ., . ~ ,zn) est alors un biholomorphisme de U sur un voisinage V de O = h(0).Posons
A
f(<) = ( f i ( < ) ,. . . , f n ( C ) )= h-'(O
3. Pseudoconvexit
129
pour C E V . D'aprs le Lemme 2.22, pour

' ,O u
< assez proche de O,

+ L o u ( f ( 0 ) + o(lf(Ol2).
<I,
f ( 0= 4 0 )
ReRA(f(C),O)
Mais par dfinition de f = h-',FU(f(<),0)= tend vers O
ce qui implique que lorsque
<
1 O f ( C ) = 4 0 ) - ReC1 + LOW(<))+ o ( l f ( 0 l 2 ) . 'L Soit F = ( F i ,. . . ,Fn) la diffrentielle de f l'origine, c'est--dire l'application linaire F : Cn + Cn telle que f ( < ) = F ( < ) (l(12) lorsque tend vers O. On a alors 1 O f ( 0 4 0 ) - ReC1 + L o u ( F ( 0 )+ O(1Cl2> 'L =
<
lorsque C tend vers O, ce qui implique par unicit du dveloppement de Taylor de u en O que
Comme F ( < )# O si # O car f est biholomorphe en O et u est strictement plurisousharmonique au voisinage de O on obtient
La fonction u tant de classe C 2 cette relation reste vraie si on remplace O par un O point ( variant dans un voisinage W de O. Terminons cette section par un lemme qui prouve que la stricte plurisousharmonicit est stable par petite perturbation.
Lemme 2.24. Soit p une fonction strictement plurisousharmonique de classec' dfinie au voisinage d'un compact K de P.Alors il existe E > O tel que, pour toute fonction cp de classe C 2 au voisinage de K vrifiant < E , pour tout z E K et 1 5 j , k 5 n, la fonction p 'p soit encore strictement plurisousharmonique au voisinage de K .
Dmonstration. Par dfinition des fonctions strictement plurisousharmoniques, il suffit de poser
3 PSEUDOCONVEXIT .
Nous avons vu au paragraphe prcdent que, si R est un ouvert quelconque de
Cn,la fonction - log(dist(z,dR)) n'est pas ncessairement plurisousharmonique.
130
Dans ce paragraphe nous allons tudier une nouvelle classe d'ouverts de C" ,les ouverts pseudoconvexes, qui sont caractriss par le fait que la fonction -logarithme de la distance au bord est plurisousharmonique. Nous allons prouver que cette classe contient la classe des domaines dholomorphie( en fait nous verrons au chapitre Vi1 qu'il y a identit entre ces deux classes). Thorme 3.1. Si R est un domaine d'holomorphie dans C", alors
- log (dist (2,d e ) )
est une fonction plurisousharmonique continue.

Dmonstration. La fonction u ( z ) = - log(dist(z,dR)est continue sur 0. Pour prouver la plurisousharmonicit de u nous avons besoin du lemme suivant. Lemme 3.2. Si R est un domaine d'holomorphie dans C" et K un compact de R, pour toutefonction f E O(R) telleque lf(z)I 5 dist(z,dR), pour toutz E K , on a l f ( z ) I 5 dist(z,dR),pourtoutz E k,. Dmonstration. Si 5 dist(z,dR),pour tout multirayonr > O telque Er; = 1 on a 5 & ( z ) (cf section 1 pour la dfinition de S&(z)). Si t E]0,1[, l'ensemble
[).(fI
/).(fI
D = {w E C "
1w.j
- Z j J 5 t ? - j J f ( Z ) J , j = 1 , .. . ,n,z E K}
est un compact de R. Si u E O(R), il existe alors une constante A4 telle que lu(w)I 5 M , si w E D , et daprs les ingalits de Cauchy on a
Puisque la fonction f1"lDau est holomorphe sur R, l'ingalit (3.1) est encore vraiesi z E k a . On a donc prouv que le dveloppement de Taylor de u en ( E K n converge sur le polydisque If(()lP(O,r).Comme R est un domaine dholomorphie ce polydisque doit tre contenu dans R, ce qui implique If(<)l 5 O d i s t ( ( , R ) ,pour tout (' E k,.
<+
Fin de la dmonstration du Thorme 3.1
D
T
Fixons toE R et w E Cn {O} et choisissons r > O, assez petit pour que rw I T E C , [ T ~ T } soit contenu dans R. Notons bD = {zo rw I 5 E C,1 1 = r } . Soit f un polynme holomorphe tel que 7
= (20
(34
- log (dist(z0
+ ~ w , d R ) 5 Re f(r) )
pour
11 = 7
r.
Considrons un polynme holomorphe F dans cc" tel que F(z0 l'hypothse (3.2) s'crit alors
lF(')I 5 dist(z,dR) si
z E bD.
+ T W ) = f ( ~ ;)
3. Pseudoconvexit
131
Daprs le principe du maximum, lenveloppe holomorphiquement convexe de bD relativement 0 contient D. On dduit alors du Lemme 3.2 que
-
log (dist(z0
+ T W , ~ R )5 R e f ( 7 ) )
pour
11 7
5 T.
Le Thorme 2.5 nous permet ensuite daffirmerque la fonction

T ++- log(dist(z0
+T W J , ~ ~ ) )
est sous harmonique sur louvert de C o elle est dfinie. Par consquent la fonction - log(dist(z,dR)) est plurisousharmonique dans R. O
Nous allons donner maintenant dautres conditions quivalentes la condition du Thorme 3.1.
Dfinition 3.3. Si R est un ouvert de Cn . Si K est un sous ensemble compact de R, on dfinit lenveloppepsh-convexe de K relativement R par
k ={zER I~ R
( z5) supu,Vu E PSH(R)}.

K
Remarque :Puisque f E O(R) implique
If\
E PSH(R), il est clair que
gg c k ~ .
On appellera disque analytique dans cc , une application holomorphe non constante p : A -+ C o A est le disque unit de C. Si p stend continment on dira que est un disque analytique ferm et que p(A) est le bord du disque.
p(a)
Thorme 3.4. Soit R un ouvert de Cn . Alors les conditions suivantes sont quivalentes : i) - log(dist(z,dR)) est plurisousharmonique continue dans R. ii) Il existe une fonction u plurisousharmonique continue dans R telle que, R pour toutc E I ,
R, = { z E R I u ( z ) < c }
cc R.
u
,EA
iii) Si K est un compact de R,k; cc R. iv) Soit (6,),,~ une famille de disques analytiques contenus dans R. Si 66, Cc 0 alors 6, CC R (cette assertion sappelle la Kontinuitatssatz3.
,EA
Dmonstration. Prouvons tout dabord que i) implique ii). Posons u ( z ) = 121 log(dist(z,R)). La fonction u est plurisousharmonique continue sur R, daprs il, et il est clair quelle satisfait ii). Supposons la condition ii) satisfaite. Soient K un compact de D et u la foncalors u 5 c sur Kg par dfinition de tion donne par ii). Posons c = maxK u, lenveloppe psh-convexe donc
k; c { z E R I u ( z ) 5 c } cc R.
132
Prouvons maintenant que iii) implique iv). Soient 6 un disque analytique ferm de R et u E PSH(R) une fonction plurisousharmonique dans 0. Considrons une paramtrisation cp : A + R de 6. Alors u O cp est sousharmonique et par consquent pour tout z E K
Iuocp(z)I
I SUP
I ~ O c p ( 0 l .
CEaA
On en dduit que pour tout p E 6,
ce qui implique 6 c ferms de R, alors
b^6:. U 6,
Donc si ( 6 a ) a E est une famille de disques analytiques ~

C
LEzz=-P
b6,)
, ce qui prouve que iii) implique iv).
,EA
,EA
Pour terminer montrons que iv) implique la plurisousharmonicit de la fonction - log(dist(z,dR)). Comme dans la dmonstration du Thorme 3.1, fixons zo E R et w E Cn \ {O} et choisissons r > O, assez petit pour que D = { zo TW 1 T E @,IT[ 5 r } soit contenu dans R. Soit f un polynme holomorphe tel que
- log (dist(z0
+ ~ ~ , d f l5) )ref(^),
+ T W , ~ R ) ,si +
pour
IT(
r.
= r,
c'est--dire
(3.3)
l e f ( T ) ) 5 dist(z0
11 = 7
Nous voulons prouver que cette ingalit reste vraie si 1 1 I, ce qui dmontrera 7 r la sous harmonicit de T ++ - log(dist(z0 T W , ~ R ) ) donc O. Soit a E @" tel et que la1 < 1. On considre l'application T ++ zo TW Xaef(') dfinie pour I T ( <_ r. Notons Da son image. Les D , sont des disques andytiques ferms de C" . De plus bD, cc R donc Da cc R pour tout a tel que la( < 1d'aprs iv) appliqu la famille rduite au disque D,. On a donc
zo
+ rw + ue-f(.)
le-f(T)l
R, si la1 < i et
11 7
(TI
5 r.
En faisant tendre (al vers 1,on obtient
5 dist(z0 + T W , ~ R ) ,si i.e. - log(dist(z0 + T W , ~ R ) ) Ref(T), si 1 1 5 T . 5 7
5 r,
O
Dfinition 3.5. Un ouuertR de@" est ditpseudoconvexe si l'une des conditions quivalentes du Thorme 3.4 est vrifie. Dfinition 3.6. Une fonction cp continue dfinie sur un ouvert D de C", valeurs relles est une fonction dexhaustion pour D si, pour tout c E R, l'ensemble D, = { z E D I cp( z ) < c} est relativementcompact dans D. Remarques 1) Une fonction dexhaustion cp vrifie p(z) + c quand z s'approche du bord c de D.
3. Pseudoconvexid
133
2) Un domaine D est donc pseudoconvexe si et seulement s'il admet une fonction d'exhaustion plurisousharmonique continue.
Corollaire 3.7. Si R est un domaine d'holomorphie dans C" alors R est pseudoconvexe. Dmonstration. C'est une consquence immdiate du Thorme 3.1 et de la dfiO nition de la pseudoconvexit. Remarques 1) La rciproque du Corollaire 3.7 est vraie, elle sera dmontre au chapitre VII. 2) Si R est un ouvert holomorphiquemect convexe de @" ,il est clairement pseudoconvexe car pour K compact dans R, Kg c KO. On peut alors retrouver le Corollaire 3.7 en utilisant le Thorme 1.13 la place du Thorme 3.1. Thorme 3.8. Soit (n,),,~ une famille d'ouverts pseudoconvexes de @", alors l'intrieur R de l'intersection des R, est aussi pseudoconuexe. Dmonstration. Cela rsulte de l'assertion i) du Thorme 3.4 et du fait que la borne suprieure d u n e famille de fonctions plurisousharmoniques est plurisousharmonique si elle est continue. Ici
-
log(dist(z,dR))= sup - log(dist(z,dR,))

aEA
est bien continue.
Nous allons prouver maintenant que la pseudoconvexit est en fait une proprit locale du bord.
Thorme 3.9. Un ouvert R de Cn est pseudoconuexe si et seulement si tout point [ E 0 possde un voisinage U, tel que U, n R soit pseudoconuexe. Dmonstration Condition ncessaire : il suffit de prendre pour Uc un voisinage convexe de car U, n R est alors l'intersection de deux domaines pseudoconvexes, il est donc pseudoconvexe.
<
Condition suffisante : supposons dans un premier temps que R est born. Soit E dR et Ut un voisinage de [ tel que Uc n R soit pseudoconvexe, alors la fonction -log(dist(z,d(U[ n a))) est plurisousharmonique sur Uc n R. Comme dist(z,d(UC n R)) = dist(z,dR) pour z assez proche de [, il existe un voisinage U de dR tel que la fonction - log(dist(z,dR)) soit plurisousharmonique sur U n R. L'ouvert R tant born, R \ U est compact et le nombre m = SUP^,^(- log(dist(z,dR)) est fini. Par consquent
<
cp(z) = max(- log(dist(z,dR)),lz12
+ m + 1)
134
VI. Domaines d'holornorphie et pseudoconvexit
est une fonction plurisousharmonique d'exhaustion pour R ce qui implique que R est pseudoconvexe. Si R n'est pas born, on applique l'argument prcdent l'ouvert R, = R n B(0,v)qui satisfait encore l'hypothse du thorme et qui est born et donc pseudoconvexe. Puisque 52 est la runion croissante des a,,, la suite de fonctions
(- log(dist(z,dR,))) est une suite dcroissante de fonctions plurisousharmoniques qui converge vers la fonction - log(dist(z,dR)) qui est donc plurisousharmonique. Par consquent R est pseudoconvexe. O Thorme 3.10. Soient R un ouvert pseudoconvexe de cc" et K un compact de R. Alors pour tout voisinage U de kg dans R, il existe une fonction p telle que i) p est strictement plurisousharmonique de classeCm dans R. ii) p < O sur K et p > O sur R \ U . iii) Pourtoutc E R,{z E R I p ( z ) < c } CC R. Dmonstration. Le point cl de la dmonstration est de trouver une fonction cp plurisousharmonique continue satisfaisant ii) et iii). L'ouvert R tant pseudoconvexe, il possde une fonction dexhaustion $, plurisousharmonique continue. Quitte ajouter une constante $, on peut supposer que $ < O sur K . Soit K' = { z E R I $ ( z ) 5 O}, K' est un compact de R car $ est une fonction d'exhaustion. Puisque U est un voisinage de E:, pour tout z E K' n (R \ U ) ,il existe une fonction cpz E PSH(R) telle que cpZ(z) > O et cpz < O sur K . De plus, grce au Thorme 2.19 de rgularisation, on peut supposer que pz est continue. La fonction cpz tant continue, elle est donc strictement positive sur un voisinage de z. Grce la compacit de K' on peut donc trouver un nombre fini de fonctions ( p l , . . . , c p ~ strictement plurisousharmoniques continues sur R telles que et max(cp1,. . . , c p ~ )> O max(cp1,. . . , c p ~ )< O
K' n (R sur K .
sur
U)
La fonction cp = max($,ql,. . . , c p ~ )est plurisousharmonique continue sur R et satisfait ii) et iii]. Pour obtenir une fonction p plurisousharmonique de classe C " et iii), il suffit d'appliquer le lemme suivant. satisfaisant ii)
Lemme 3.1 1. Soit u une fonction plurisousharmonique continue d'exhaustion pour un domaine R c CY. tant donn un compact K de R et un rel E > O , il existe une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R telle que u 5 psurR et Ip(z) -.()I < ~ p o u r z K. E Dmonstration. Pour j E P ,on pose R j = { z E R I u ( z ) < j } . Alors R j c i c R et, quitte ajouter une constante u, on peut supposer que K c 00.Fixons E > O. D'aprs le Thorme 2.19, il existe une suite ( u j ) j E ~ fonctions de classe de
3. Pseudoconvexit
135
On en dduit que uj - j 1 < O sur Rj-2 et uj - j 1 > O sur \ Rj-1 si, j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. A l o r s x o ( u j - j + i ) G O sur 0 , - 2 et x 0 ( u j - j 1) 2 O sur R \ Rj-2. En calculant la forme de Levi on voit que x 0 ( u j - j 1) est plurisousharmonique sur Rj+2 et strictement plurisousharmonique positive sur 2.j\ R.i-1. On choisit alors par rcurrence des
C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) < u o ( z ) < u ( z ) + E pourz E si1 e t u ( z ) < u j ( z ) 2 qui vrifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p = pe a les proprits demandes. O Remarque :I1 rsulte du Lemme 3.11 et de la dfinition des ouverts pseudoconvexes qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possde une fonction d'exhaustion strictement plurisousharmonique de classe C2. Grce au Lemme de Morse suivant, en fait tout ouvert pseudoconvexe R de C" possde une fonction strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R. Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction strictement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe une forme IR-linaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble
Crit(p L ) = { Z E R I d ( p L ) ( z ) = O} soit discret dans R et p strictement plurisousharmonique dans R.
LC* ,Izl=l
+ L soit
LEC" ,121=1
Dmonstration. Puisque p est de classe c2, daprs un Lemme de Morse (cf [Mi], 5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2],Appendice B), pour presque toute forme IR-linaire L : @" -+IR,les points critiques de p L sont isols. Pour tout E > O, on peut donc trouver une forme IR-linaire L : Cn -+ IR telle que max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 rsulte de 1aDfinition2.17
que p + L est strictement plurisousharmonique car les drives secondes de L sont O nulles. Corollaire 3.13. Sous les hypothses du Thorme 3.10, il existe une fonction p satisfaisant les conditions i), ii) et iii) du Thorme 3.10 et telle que de plus Crit(p) := { z E R I d p ( z ) = O} soit discret dans 52. Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors = gP"cm . En particulier k; est ferm donc compact dans R.
g;
136
Dmonstration. Puisque kEncm{ z E R I u ( z ) < supK u,Vu E PSH(R) = on a videmment kn c kgnCm. Soit z E (1 \ kg, en appliquant le Thorme 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par consquent z # O
C-(R)},
Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmonique continue p dfinie sur un voisinage Uan du bord de R telle que
n Uan = { z E Uan I P ( Z ) < O}

alors R est pseudoconvexe.
Dmonstration. Soient E da et E > O assez petit pour que B(<,E) relasoit tivement compacte dans Uan. D'aprs le Thorme 3.9, il suffit de prouver que R n B ( J , Eest pseudoconvexe. Considrons la fonction plurisousharmonique d) finie au voisinage de RnB(<,E) par
cp(Z)
= max(lz
i l - E,P(Z)).
un compact de
Alors cp = O sur d(R n B(<,E)) cp et R n B ( ~ , E ) , sup cp = a < O et alors

K
A
< O sur R n B(<,E). K Soit

( 2 ) a } CC
KgnB(F,-) c { z E
n B(i,)I ~
<
nB(<,E),
O
ce qui prouve que R n B ( J , Eest pseudoconvexe. )
Nous allons maintenant donner une caractrisation des domaines pseudoconvexes bord de classe C2.
Thorme 3.16. Soient R un ouvert de C bord de classe C2 et p une fonction " de classe C2 valeurs relles dfinie sur un voisinage Uan du bord de R telle que Uan n R = { z E Uan 1 p ( z ) < O } e t d p ( z ) # O pour toutz E 8R. AlorsR est pseudoconvexe si et seulement si
(3.4)
oL,p(w) =
L , ~ ( w ) O pour tout z E 2
n
etw E T:(~R)
&$-(z)wjWk
j,lC=l
estlaformedeLevidepaupointz etT:(dR)
I'espacetangentcompiexe{w E CY
j=l
% ( z ) w j = O}.
Dmonstration. Soit pl une autre fonction dfinissante de classe C 2 pour 0. Nous avons vu, au chapitre II, Lemme 8.2, qu'il existe une fonction strictement positive h de classe C1 sur dR teiie que pl = hp. Un calcul direct donne dors pour z E dR et
w E TF(dR)
J L P l ( W )=
h(z)Lzp(w)
3. Pseudoconvexit
137
ce qui prouve que la condition (3.4) ne dpend pas du choix de la fonction dfinissante pour R. Condition ncessaire : soit p(z)= - dist(z,dfl), si zef2 et p(z)= dist(t,dfl), si z E Cn \ R. Puisque dR est de classe C2, la fonction p est de classe C2 dans un voisinage Uan du bord de R.Comme R est pseudoconvexe, la fonction - log( - p ) est plurisousharmonique de classe C2 sur R et donc
pour tout z E on a donc
an n R et tout w E cn.si z
E Uan n R e t si
z(z)wj =O;
j=l
ce qui est encore vrai si z E dR par passage la limite, mais alors la condition
signifie que w E T," ( d o ) . Condition suffisante : raisonnons par l'absurde. Supposons que R n'est pas pseudoconvexe. Soit Uan un voisinage du bord de R sur lequel la fonction p dfinie par p ( z ) = - dist(z,dR) s i z E R s i z E @" \ R p ( z ) = dist(z,dR) est de classe C2. Comme R n'est pas pseudoconvexe, il existe un point [ E R n Uan telle que la fonction - log( - p ) n'est pas plurisousharmonique en (cf Thorme 3.9). Cela signifie qu'il existe w E cc" \ {O} tel que
<
Lorsque tend vers O, on a, d'aprs la formule de Taylor, log(-p(l+ xw)) = log Ip(<)I R e ( d ,Ox2) yIAI2 o(1XI2) (3.5) o cy et ,O sont des constantes (cf Lemme 2.22). Choisissons 77 E Cn tel que = ( p ( ( ) / e t [ + v E dR.Posons&(A) = < + ~ w + ~ ~ e " ~ + < s 5 1.D'aprs ~ ~ ~ , s i O ( 3 . 5 ) ,il existe& > O tel que si 1x1 < E et 0 < s 5 i dist(<s(x),afl) 2 -P(<
+
lX*l
slvl leaX+BXZ I
(3.6)
et par consquent
2 ~ p ( < ) l ( e ~ zs)leaX+PXzl dist(<,(X),dR) > O, si0 < s < 1et 1x1 5

E.
138
Comme,(O) = 5 sq E 0 , s i 0 < s < 1, on endduit que cs(X) E R, si O < s < 1 et 1x1 5 E. En passant la limite quand s tend vers 1, on obtient que < l ( X ) E 2 pour 1x1 5 E. Puisque E Uan, quitte diminuer E , on peut supposer que<i(X) E 2 n U a n p o u r I X I 5 ~ e t a l o r s p ( c l ( X ) ) -dist(Ci(X),aR)etdonc, = d'aprs (3.6),
<
- p ( < l ( ~ ) )2 p ( < ) ( e ~ + - i)/eax+ox21,pour 1x15 E . (3.7) Le membre de droite de (3.7) est une fonction strictement convexe positive de X au voisinage de O. Puisque p ( ( I ( 0 ) ) = O, la fonction - p 0 <I est strictement convexe en O et d ( p O <1)(0) = O. En particulier
On en dduit, puisque
<I (A)
est une fonction holomorphe de X que
ce qui contredit (3.4) car
< + 7 E dR.
Dfinition 3.17. Soient 0 un ouvert relativement compact de Cn bord de classeC2 et p une fonction de classe C2 valeurs relles dfinie sur un voisinage Uan du bord d e R tellequeUan n R = { z E Uan I p ( z ) < O } e t d p ( z ) # O pour toutz E dR. On dira que R est strictement pseudoconvexe si et seulement si
(3.8)
~,p(w) O >
pour tout z E
e t w E T$(BR)\ {O}.
Remarque :La condition (3.8)est bien sr indpendante de la fonction dfinissante p choisie pour R.
Thorme 3.18. Un ouvert R relativement compact dans @" bord de classe C2 est strictement pseudoconvexe si et seulement s'il possde unefonction dfinissante stric-
tement plurisousharmonique de classe C2. Si R est strictement pseudoconvexe et si

p est une fonction dfinissante de classe C2 pour R,pour X assez grand, la fonction fi = exP - 1 est une fonction dfinissante strictement plurisousharmonique de classe
C2.
Dmonstration. Supposons que 0 possde une fonction dfinissante p strictement plurisousharmonique de classe C2, alors pour tout z contenu dans un voisinage de R et tout w E Cn \ {O}, L,p(w) > O, donc (3.8)est vrifie. Rciproquement supposons que R est strictement pseudoconvexe. I1 suffit de prouver que pour X assez grand la fonction = exP - 1 est strictement plurisousharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O} etdp(z) = XePdp(z) # Osiz E dR.O n a
3. Pseudoconvexit
139
Par consquent pour z E R et w E Cn
(3.9)
Soit K = {(z,w) E ~ x
lull
= i et
5
j,k=l
IkO}.PuisqueK est
compact et que d'aprs (3.8),
I i5 g ( z ) w j I > O, si (z,w) E K , on peut choisir =l
X assez grand pour que
I1 rsulte alors de (3.9) et de la Dfinition 2.17 que 6 est strictement plurisousharmonique au voisinage de dR. O Thorme 3.19. Soit R CC Cn un ouvert bord de classe C2, strictement pseudoconvexe. Alors il existe un voisinage U,defi et unefonction p : U, + R strictement plurisousharmonique de classec' telle que dp( z ) # O si z E dR et
R ={z E dR = { z E
u I p ( z ) < O} , u I p ( z ) = O}. ,
Dmonstration. D'aprs le Thorme 3.18, l'ouvert R possde une fonction dfinissante po strictement plurisousharmonique de classe C2, c'est--dire que po est dfinie sur un voisinage Van du bord de R, d p o ( z ) # O si z E dR et R n Uan = { z E Van I p o ( z ) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5 p o(z) 5 O} soit un compact de Usa. Choisissons une fonction x valeurs relles de classe C" sur W, vrifiant ~ ( t= -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour ) tout t E R, et g ( t ) > O, si -6 < t < +CO, et dfinissons p l par p l = -6 sur Ks et pl = x 0 po sur Van. I1 rsulte immdiatement des proprits de x que p l est une fonction plurisousharmonique de classe C2 sur R Uan, strictement plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et
52 = { z E R u Uan I pi(.) < O}.

On dduit du Thorme 3.10 qu'il existe une fonction p2 strictement plurisousharmonique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et I E C" (C" ) valeurs relles telle que I, = 1 dans un voisinage de na et I = O ) I ) dans un voisinage de C" \ 0. Dfinissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O dans \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisinage de et donc pour tout c > O, pl cp2 est strictement plurisousharmonique au voisinage de Comme de plus p l est strictement plurisousharmonique sur Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l c62 est strictement plu() risousharmonique de classe C2 sur U z = Uan R et R = { z E U z I $. < O},
a?
na
as.
I40
si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2],par exemple). Quitte restreindre U s , la fonction p = , 6 E(P est la fonction cherche si E est assez petit. O
Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe borde2. Alors pour tout compact K c O et tout voisinage UK de K dans Cn , il existe un ouvert 6 strictement pseudoconvexe bord C2 tel que
OUK
C ~ C O U U K .
Dmonstration. Soient UE et p satisfaisant la conclusion du Thorme 3.19. Choisissons une fonction x de classe C" support compact dans UK f' Us2 valeurs strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p ( z ) - E X ( Z ) < O} convient. O
Nous allons tudier maintenant le lien entre la stricte convexit et la stricte pseudoconvexit.
Proposition 3.21. Tout domaine R CC Cn strictement convexe bord C2 est strictement pseudocon vexe.
Dmonstration. C'est une consquence du fait qu'une fonction strictement conO vexe de classe C2 est strictement plurisousharmonique.
Nous allons prouver que la rciproque est vraie localement modulo un changement de coordonnes holomorphes.
Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de classe C2 sur V . On pose D = { z E V I p ( z ) < O } , alors pour tout compact convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement convexe0 bordC2 tel que K c c UK n D. Dmonstration. Puisque K est convexe, il existe un ouvert strictement convexe bord C", tel que K CC Q: CC UK n V.Soit p l une fonction strictement convexe de classe C" sur un voisinage Ul CC UK f' V de O et telle que R = : : { z E U1 I p l ( z ) < O } . Puisque aucun point du bord de est un minimum local de pi et puisque pi est strictement convexe, @I(<) # O pour tout E 801. Par consquent on peut trouver E > O assez petit pour que O: = { z E U1 I p l (2) < E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans I ayant les R proprits suivantes : > O, g ( t )2 O 2 O et ( t ) 2 O pour tout t E IR,-1 < f ( t ) < , s i t < ,f()= O , f ( t ) > 0 , s i t > , g ( t ) = & s i t 5 O, g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f ( z ) + g ( y ) s i ( s , y ) E IR2. Alors cp est une fonction convexe de classe 6 sur IR2 qui vrifie " ' ( 5 , ~ ) O et > @(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O
01,
01
<
g(t)
g(t)
aY
3. Pseudoconvexit
141
et y 5 O. Alors $ ( z ) = cp(p(z),pl(z))est une fonction strictement convexe de classe C2 et si R = { z E Ul I $ ( z ) < O}, alors 0: n D c R c Qf n D et donc K c c UK n D. Puisque $ est strictement convexe et quaucun point du bord de R est un minimum local de $ , d $ ( z ) # O si z E dR et par consquent R est un ouvert strictement convexe bord C2.
Thorme 3.23. Soient V un ouvert de Cn et p une fonction strictement plurisousharmonique de classe C 2 sur V telle que d p ( z ) # O pour tout z E = { z E V I p ( z ) = O } . SoitD = { z E V 1 p ( z ) < O } . Alorspourtoutpointl E r ilexisteun voisinage Uc de et un ouvert strictement pseudoconvexe bord C2, CC Cn, tel que i) U c n D c R c D . ii) Il existe une application biholomorphe h dfnie sur un voisinage convexe d e n telle que h(R) soit strictement convexe.
Dmonstration. Daprs le Thorme 2.23, il existe une application biholomorphe h d u n voisinage convexe V, de dans Cn sur un ouvert W de Cn telle que p O h- soit strictement convexe sur louvert W . Soit U CC W une boule centre en h ( l ) . Daprs le Lemme 3.22, il existe un ouvert 0 strictement convexe bord C2 tel que -I U n h(V, n D) 2 c h(Vc f? D). posant Ut = h-(U) et R = h-(Q) on C En obtient le thorme. O Corollaire3.24. Un ouvert R relativement compact dans C bordC2 est strictement pseudoconvexe si et seulement si, pour tout point E d o , il existe un voisinage Uc de dans CTz une application biholomorphe h, dfnie sur un voisinage convexe et c de telle que he (Uc n R) soit un ouvert strictement convexe bord C2.
Dmonstration. La condition est ncessaire daprs le Thorme 3.23. Elle est suffisante par dfinition des ouverts strictement pseudoconvexes car la condition (3.8) O est invariante par changement de coordonnes holomorphes.
Remarque : Nous venons de prouver que la pseudoconvexit stricte est la formulation localement biholomorphiquement invariante de la convexit stricte. Un contre-exemple d J.J. Kohn et L. Nirenberg montre quil ny a pas de relation analogue entre la convexit et la pseudoconvexit mme lorsque le bord du domaine est de classe C 2 (cf [KolNil).
Commentaires. Lhistoire de la caractrisation des domaines dexistence des fonctions holomorphes dbute avec les travaux de E Hartogs et E.E. Levi dans les premires annes du sicle. La caractrisation en termes de convexit holomorphe est due H. Cartan et I! Thullen [CalTh]. Les fonctions plurisousharmoniques ont t introduites par K. Oka et P Lelong, qui en ont dcrit les principales proprits [Lelll. La plurisousharmonicitde lafonction -log&, dont lide remonte Hartogs [Harl, a t prouve par K. Oka [Okl, P Lelong [Le121et H. Bremermann [Br2].La condition
142
de Levi pour un domaine dholomorphie a t dcouverte en 1910 par E.E. Levi [Lev] dans le cas de deux variables L'ensemble des notions introduites et des thormes exposs dans ce chapitre se trouvent dans la plupart des livres consacrs la thorie des fonctions de plusieurs variables complexes, [HelLell, [HoZl, [Kr], [Nall, [Ra],par exemple. Nous avons tout particulirement suivi l'expos de Range [Ra] pour le Thorme de Cartan-Thullen et la convexit holomorphe, celui de Hormander [HO21 pour les fonctions plurisousharmoniques et la pseudoconvexit et celui de Henkin et Leiterer [HelLell pour les domaines strictement pseudoconvexes bord C2.
Chapitre VI1
Problme de Levi et rsolution du d dans les domaines strictement pseudoconvexes
Ce chapitre est consacr la rsolution du problme de Levi, cest--dire la dmonsest un domaine dholomorphie. La tration du fait que tout ouvert pseudoconvexe de mthode utilise est ltude du d dans les ouverts pseudoconvexes laide de formules de reprsentation intgrale locales pour les domaines strictement pseudoconvexes et de la technique des bosses due Grauert. Nous commenons par tudier la rsolution de lquation de Cauchy-Riemann dans les domaines strictement convexes borns bord c2 de A laide de la formule de Cauchy-Fantappi introduite au chapitre V, nous prouvons que la solution est holdrienne dordre 1 / 2 lorsque la donne est continue sur ladhrence du domaine. Ce rsultat associ lidentit locale entre les domaines strictement pseudoconvexes bord et les domaines strictement convexes nous permet dobtenir, par des techniques danalyse fonctionnelle, un thorme de finitude pour certains groupes de d-cohomologie. Nous dveloppons la mthode des bosses de Grauert au paragraphe 4 pour prouver que ces groupes de 3-cohomologie sont isomorphes aux groupes de cohomologie de Dolbeault dfinis au chapitre II. Un rsultat d Laufer, que nous prsentons au paragraphe 5 , donne finalement lannulation des groupes de cohomologie de Dolbeault sur les ouverts strictement pseudoLe paragraphe 6 est consacr la construction dune convexes borns bord c2 de formule intgrale globale pour rsoudre le d dans les ouverts strictement pseudoconvexes Nous rsolvons enfin le problme de Levi au paragraphe 7. Le derborns bord c2de nier paragraphe gnralise les rsultats des paragraphes prcdents aux varits analytiques complexes. Nous obtenons la caractrisation des varits de Stein en termes de pseudoconvexit. Nous prouvons galement des thormes dannulation pour la cohomologie de Dolbeault support compact ce qui nous permet, en les associant aux rsultats cohomologiques du chapitre V, de donner des conditions gomtriques suffisantes pour lextension des fonctions CR.
en
en.
c2
en.
en.
144
VU. Problme de Levi
1. RSOLUTIONDU
a AVEC ESTIMATIONSHOLDRIENNES
DANS LES OUVERTS STRICTEMENT CONVEXES
Soit D un ouvert born strictement convexe bord C2 de Cn . Alors il existe une fonction p valeurs relles de classe C2 dans Cn telle que D = { z E Cn I p ( z ) <
E IR2", o CY est un rel strictement positif et xj = xj ( z ) sont les coordonnes relles du point z E Cn teiles que zj = xj ( z ) ixj+, ( z ) .Comme nous l'avons vu au chapitre V, paragraphe 3,
est une section de Leraypour l'ouvert D . Puisque D est strictement convexe, nous avons l'estimation plus prcise suivante : Lemme 1.1. Il existe un voisinage UaD du bord de D et des nombres rels strictement positifs E etP tels que, pour tout C E UaD et z E Cn tels que IC - z I 5 E , on ait
(1.1)
2 Re(w,(C),C - 2 )
2 P(C) - P ( Z ) + PIC - zI2.

coordonnes relles de C E Cn telles que
Cj
Dmonstration. Soient xj = = xj(C) + zj+n(C). Alors 2 Re(w,(C),C

- 2)
xj(C) les
En crivant la formule de Taylor-Young on obtient
+ O(IC
2 P(C) - P ( Z ) + C I,
CY
zI2),
ce qui implique, puisque p est strictement convexe, que pour E assez petit et C dans un voisinage UaD de d D 2Re(w,(C),C - 4
- ZIZI si IC
-
zI
IE.
Dans le chapitre V, nous avons prouv le thorme suivant :

Thorme 1.2. SoientD un ouvert convexe borndeCn bord de classeC2, e t p une fonction dpnissante de classeC2 pour D . Alors pour toute ( p , q )-forme diffrentielle
1. Rsolution du d avec estimations holdriennes
145
f continue sur D et telle que 3f soit aussi continue sur D, O

on a
Ip 5
n,O
Iq 5
n,
f = L f +Tfaf
f =dT,Pf +T,f,df
O L f = ScEaDf ( A KWP(.,<) 0 et
surD, siq = O surD,sil 5 q 5 n
T:f = (-l)p+q(
(C?A)aox[o,11
f (0 A
(.,C,X)
LED
a
f (Cl A
w.0)
En particuliersid f = O etq 2 1, u = T[ f est solution de l'quation& = f sur D . De plus si f est de classeCk dans D , alors u = T t f est de classeCk++a dans D pour toutcu E]0,1[.
L'estimation donne dans le Lemme 1.1 va nous permettre d'obtenir une estimation en norme holdrienne d'ordre 1 / 2 pour la solution du dans le cas des domaines strictement convexes bord de classe C2.
Nous avons dj prouv au chapitre III, Proposition 2.1, que, si D est un ouvert born de @" et f une forme diffrentielle borne sur D ,
Lemme 1.3. Soient D un ouvert born de Cn bord de classe C', et Va0 et U s des voisinagesdedD e t D . Soitw(z,<) = (wl(z,<),. . . ,wn(z,C))uneapplicationde classe C' de lJEx U ~ dans C" ayant les proprits suivantes : D i) w(z,C)dpend holomorphiquement de z sur UE et (donc) dCw(z,<)dpend aussi holomorphiquementde z sur UD. ii) w(z,<)est unesection de LeraypourD. iii) Pour tout point [ E d D , il existe un voisinage Uc de et des fonctions de classe C' valeurs relles t l ( z , < ) ,. . . ,t2n-l(z,C) dfinies pour z et C dans un voisinage Uc de [ telles que (a) pour tout z E Uc,tl(z,.), . . . ,tan-1(z,.) sont des coordonnes relles sur d D n Uc (bl il existe 6 > O tel que pour tout z E D n Ut et< E d D n Ut on ait
(1.2)
l ( w ( ~ , o l C- .)I
2n- 1
2 6(ltl(.,<)l
+ It(.,C)12 + d i s t ( z , d D ) )
-
o It(z,<)12=
j=l
Itj(,z,<)12etdist(z,dD) = inf{Iz
zI,z E d o } .
146
VU. Problme de Levi
Alors il existe une constante C telle que pour toute forme diffrentielle f continue
sur D
lR&fll/2,D
5 C1.f 10,D.
Dmonstration. Notons que si n = 1,RzD = O. On suppose dsormais que n 2 2 et on pose @(.,I) (w(z,C),<- z ) . L'criture sous forme de dterminant nous = donne
(2i7r)TLR;Df(z) =
( 1 3)
w avec VW(.,CJ) = (1 - 4- ( z ' c ) det(al,. . . , a l , . . . , u r n , .. . ,urn).

s1
-s*
~ d e t 1 , n - i( v ~ ( ~ , C , A ) > (~~A ),vC~ ( ~ ' c , A W )( C + ~ A)

-
~C.*)taD~Io.ll
f (<I
- 2)
+ A IC-zl 4 et o dets,...Sm(ul,. c-. .,urn) =
Pour simplifier nous supposerons que f est de bidegr (0,q) ; nous pouvons donc remplacer w (( - z ) par w (C) dans (1.3).Grce l'hypothse il, 8, w = O et aZ@ O, d'o =
En dveloppant le dterminant dans (1.3),on obtient alors
o les p , sont des polynmes en A. et une intgration par rapport X donne
aD Les coefficients de la forme diffrentielle R w f sont donc des combinaisons linaires d'intgrales du type suivant
o O 5 s 5 n - 2 , l 5 m 5 n, f l est un des coefficients de f et 11, le produit de fonctions du type wj <. - Z j et -"L,j , k = 1, . . . ,n. Comme 11, contient au moins
un facteur du type
cj
' 3
-
ZJ, existe une constante Cl telle que 111,I 5 C IC - zl. il 1
aCk
Pour estimer les intgrales (1.4) nous utiliserons un lemme d Hardy et Littlewood.
1. Rsolution du
a avec estimations holdriennes
147
Lemme 1.4. On considre D un domaine born de R", bord de classe C1 et g E C1 (D) une fonction vrifiant
Idg(z)I 5 C,[dist(z,D)]"-'
o C, est une constante positive et Q ~ ] 0 , 1 [ . Alors g E A" (D). De plus il existe un compact K de D et une constante C > O ne dpendant que de D et de Q tels que
lSIa,D
w, +
191Kl.
Dmonstration. Dmontrons, pour commencer, le rsultat suivant :
( I1 existe E E]0,1[ tel que, si g est une fonction de classe

C1 dans D qui vrifie
I dg(x)I 5 C, [dist(z,dD)]"-',
alors 1g(z) - g(y)1 5 CC,Iz
-
y[", siz,y E D avec 1 - y1 z
<E
Puisque dD est de classe C1, il existe E > O assez petit et C' > O tels que si z , y E D vrifient dist(z,dD) < E , dist(y,dD) < E et 111: - y1 < E , il existe une fonction y , : [0,31z - y11 + D de classe C1 vrifiant Y,,~(O) = ~,y,,~(31z y [ ) = ,, Y , / & % , ~ ( X ) ~ I C'si E [0,31z- 1/11, dist(y,,,(X),dD) 2 X si X E [O,lx- YI], dist(y,,,(X),dD) 2 1 - y1 si X E [Ix - y1,21z - y11 et dist(y,,,(X),dD) 2 2 On obtient alors 312 - 1/I - si X E [21z - y1,31z -
YI].
5 (-
(Y
+ l)C'C,lz
YIa.
Posons K = {z E D 1 dist(z,dD) 2 ~ / 2 } Puisque D est born, K est compact. . De plus, puisque g est de classe C1 si z,y E K et Iz - y1 < E ,
1g(x) - g ( y ) I 5 C 1 - y1 5 C"Iz "x
yla
si
 E ,
148
VU. Problme de Levi
Suite de la dmonstration du Lemme 1.3. Grce au Lemme 1.4, il suffit donc de prouver que pour tout j = 1, . . . ,TI et z E D
o C est une constante indpendante de z E D et de f. On a
azj @n-s-il
11,
-
212s+2
an-s-1
a+/azj I< - 2 p + 2
- ( n - s - l)(a@/azj)7/5
@7L+SI<
42s+2
et Comme existe une constante
$,%
sont borns pour ( z , ( ) E

C telle que 2
is x
a D et /?,hl
L CI/<- 21, il
On peut donc trouver une constante C3 telle que Par
az,
( z ) et
(2)
soient majors
o dg2n-1 est la forme volume sur dD.
C, tels que pour z
Montrons que, pour tout { E d D , il existe un voisinage U, de { et une constante E D n U, on ait
et
I. Rsolution du d avec estimations holdriennes
149
Etudions tout d'abord (1.9). Fixons J E d D et considrons un voisinage U , de et des coordonnes tl(z,<), . . . ,t2n-1(z,<) vrifiant l'hypothse iii) du Lemme 1.3. Notons p(z,<) la fonction dfinie pour z E U, ,C E d D nUc,teiie que pour z E Ut fix < dg2n-i = ~ ( z , < ) d < t i ( z , A ). . . A d<t2n-(z,). Ilexistey > Otelquepourz E U<,<E d D n U [ o n a i t I < - z l 2 ylt(z,<)letdonc pour z E D n Uc dg2n-1
kDnU<
<
I@ln-sl<
'
~ ( z , < ) d ~ t i ( z A<. ) . A d<tzn-i(z,<) , . (Itl(z,<)I It(z,<)12 dist(z,dD))n-Slt(z,<)12s+1. Quitte restreindre Uc , on peut trouver des constantes r et R telles que Ip(z,<) 5r 1 si z E Ut et E d D n U , et pour tout z E U, la surface d D n U, soit envoye par le diffomorphisme e ( t l ( z , < )., . . ,t2n-1(z,<)) sur un ouvert de la boule de centre O et de rayon R de R2n-1, on a alors dg2n- 1 <
<
<
kDnUc
1@1"-"1<
z12s + 1
6n-sy2s+l
,GRZn-l
(1x11
+ 1xI2+ dist(z,dD))n-s1x12S+1
+ 1x12+ d i ~ t ( z , d D ) ) ~ ~ x ~ ~ " - ~
dxl A . . . A dx2n-l
mais (1x11 /z/' dist(z,dD))n-slz12S+12 (1x11 et par consquent
De manire analogue pour prouver (1.10) on obtient
dxl A . . . A dXzn-l bn-s-ly2s+2 I1 reste donc estimer les membres de droite de (1.11)et (1.12) pour terminer la dmonstration de (1.9) et (1.10).
Lemme 1.5. Soientn 2 1 e t R E > O, on ait
> O. Ilexisteuneconstantec > O tellequepourtout
150
VIL Problme de Levi
Dmonstration. Prouvons 2). Pour n = 1,on a
Pour n
2 2, si x = ( 2 2 , . . . ,x,),
une intgration par rapport lavariable x1 donne
Montrons i i )
O
Fin de la dmonstration du Lemme 1.3. Pour [ E d D , soit Ut un voisinage de [ tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un voisinage de 6 , les s-lIC-Z JaD\u, I < P l nde2n-iI Z s + l et JaD\C; I < P . J n -duzn-lI Z s + Z -slC-~ c sont clairement bornes sur V, n D , par consquent pour z E V ri D (1.13) et (1.14) Grce la compacit de d D , on peut donc trouver un voisinage V de aD tel que les premiers membres de (1.13) et (1.14) soient borns par C [ d i ~ t ( z , d D ) ] - ~pour / tout z E V n D. Comme sur D \ V ces deux intgrales sont bornes cela termine la preuve du lemme. O
Thorme 1.6. Soit D un domaine born strictement convexe bord C2 de C. II existe une constantec > O telle que pour toute forme diffrentiellef continue s u r D
(1.15)
I Rf
+ G;Dflll/2,D 5 clfI,D.
- 5 q 5 n, tellequedf = O, lasolutionu = 1 d u = f sur D satisfait lestimation
En particulier si f est une ( p , q )-forme diffrentielle continue s u r n , O 5 p 5 n, (-l)p+q(R f +EDf ) delquation 141/2,D 5 Clf10,D.
(1.16)
1. Rsolution du d avec estimations holdnennes
151
Dmonstration. Grce au Thorme 1.2 et au Lemme 1.3, il suffit de prouver que la section de Leray w passocie au domaine D vrifie les hypothses du Lemme 1.3 pour obtenir lestimation (1.15).
T Soit p une fonction dfinissante strictement convexe de D sur U ,alors
est une section de Leray pour D donc ii) est vrifie. La section w pest indpendante de z , elle satisfait donc galement i). I1 reste montrer iii). Notons xj = z() j( les coordonnes relles de C E @ telles que (3 = zj(<) i ~ j + ~ ( ( )Posons . t1(z,O = I m ( w p ( 0 , - 2). Alors ~
Mais d~tl(z,c)
dz,+,(z)
(e
# O, pour tout z E d D , car le coefficient de dz, ( z ) A dans la forme diffrentielle d g t l ( z , ( ) l C = e A d p ( z ) est -f (%(z)) +
A &(a)
( z ) ) ~ )ce qui ne peut tre nul pour tout j = 1, . . . ,n,car d p ( z ) # O. Fixons ,
E aD,onpeutalorstrouverunvoisinageUc d e t e t desfonctionstz, . . . , t ~ , ~ - de 1 classe C1 sur Uc telles que pour tout z E Uc fix, (tl ( z ; ) , t 2 , .. . .tznp1) soient des coordonneslocalessurdDnUC. PosonstJ(z.() = t , ( ( ) - t , ( z ) pourz, E Uc et = 2 , . . .,2n-1. Pourtoutz E Uc, ( t l ( z > , ) , t z ( z , . ) ,. ,tan-l(z,.))sontalorsdes . coordonnes locales sur d D n Uc. Prouvons maintenant lingalit (1.2). Puisque t , ( z , z ) = O, quitte restreindre Uc, il rsulte de la formule de Taylor quil existe 61 > Otelque I(-- z 2 61/t(z,()l siz,( E Uc.Aprsunenouvellerestrictionde I Uc, le Lemme 1.1 implique quil existe 6 2 tel que pour z,<E Uc
2I(wpKM - .)I 2 6 ( t ( , ) + P ( 0 - d + It(< - z)I2), 2llZCI . 1 ce qui prouve (1.2) car p = O sur d D et, aprs restriction de Uc, il existe 63 que - p ( z ) 2 d3 dist(z,dD) si z E D n Uc.
> O tel
O
Terminons cette tude en prouvant laide dun contre-exemple d E.M. Stein que lestimation holdrienne dordre 1/2 que nous venons dobtenir ne peut pas tre amliore. Soit D = ((z1,zz) E Cn I 1 1 2 1zZI2 < l} la boule unit de C2. Notons zI log la dtermination du logarithme dfinie sur @ \ R+ et pour laquelle largument varie entre O et 27r. On pose
(z1,zZ) (1,O). = Cest une (0,l)-forme diffrentielle de classe C sur D \ { (1,O)) car log(z1 - 1)
si ne sannule pas si z1 !$ (1,
CO).
De plus, f est continue sur 0, 1 log(z1 car
152
VIL Problme de Levi
1)I tend vers
03
quand z 1
let l'holomorphie de la fonction z e - I - - . .

log(z1-1)
sur D implique que = O dans D. Nous allons prouver que, si <r > 1/2, il n'existe pas de fonction u dfinie sur D telle que au = f sur D et Iul,,~ < +m. Supposons que u soit solution de l'quation au = f et vrifie Iul,,~ +m. < Puisque = f, fonction u - A est holomorphe dans D. Soit la log(z1-1) E tel q u e 0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 2 = 1 - E , J z Z J = &} 1 et { (z1,za) E C2 I z1 = 1 - 2~,Iz21= fi} sont contenus-dans D. Appliquons le Thorme de Cauchy la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l sur chacun des ) cercles. On obtient alors
af
"(e)
-
2i7r~ lOg(-2E)
'
Puisque 1 ~ 1 , < +CO, il existe donc une constante C ~ vrifiant O < 2~ < 1,on ait
> O telle que, pour tout E
Or log( - E ) = Log z7r et log( - 2 ~ ) = Log 2 Log I E ~ ZT, par consquent log(-) l o g ( - 2 ~ ) / ce qui est impossible. , Log 2 5
CE^-^/^^
1~EI +
1 log(-E)
~-
lOg(-2E)
< CEa-1/2.
En utilisant le Corollaire 3.22 du chapitre Vi, on dduit du Thorme 1.6 un rsultat de rsolubilit locale dans les domaines strictement pseudoconvexes borns bord de classe C2. un ouvert born strictement pseudoconvexe bord C2 de C" 5 p 5 n , l 5 q 5 n, continue sura et d-ferme sur R. Alors pour tout< E d a , il existe un voisinage Uc de dans Cn, une ( p , q - 1)-forme dflrentielle u E c (U, n R) et une constante Cc > O telle queduc = f suru< etIu<Ii/,,u,nn 5 c<IfIo,n.
Corollaire 1.7. Soient
- f une formediflrentiellede type ( p , q ) ,O et
<
Dmonstration. Si 5 E d o , il rsulte du Corollaire 3.22 du chapitre Vi, qu'il existe un voisinage Ut de dans Cn et une application biholomorphe hc dfinie auvoisinage de telle que hc (Uc c rio)soit un domaine born strictement convexe bordC2. Si onposeuc = hiTh<= oT = R:[(ucno) Bh(U,no),u satisfait les conditions f, c O demandes grce au Thorme 1.6.
<
2. Approximation uniforme locale des formes d-fermes
153
2. APPROXIMATION UNIFORMELOCALE DES FORMES ~ - F E R M E S DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES
Prouvons pour commencer que toute fonction holomorphe dfinie au voisinage d u n convexe compact de C" peut tre approche uniformment sur cet ensemble par des fonctions holomorphes dans C" .
Proposition 2.1. Soient K un convexe compact de C" et V un voisinage de K . Alors
toute (p,O) -forme holomorphe sur V,O 5 p 5 n peut tre approche uniformment sur K par des (p,O)-formes holomorphes dans C" . Dmonstration. Puisque K est un convexe compact de C" et V un voisinage de K , il existe un ouvert convexe D , bord de classe C2 tel que K c D cc V et D = ( 2 E C" I p ( z ) < O}, o p est une fonction convexe de classe C2 dans Cn telle que d p ( z ) # O si z E C" \ D. Soit h une (p,O)-formeholomorphe sur V. Posons D , = ( 2 E C" I p ( z ) < cy} et notons a0 la borne suprieure des cy E R pour lesquels h peut tre approche uniformment sur K par des (p,O)formes holomorphes sur Da. Puisque K c D CC V ,on a a0 > O.
Nous allons prouver dans un premier temps que (YO = +m. Raisonnons par l'absurde et supposons que (YO < +m. Pour tout cy > O, considrons la section de = .. pour Da alors @(z,<) = ( ~ p ( C ) , <- 4 est Leray w,(<) " une fonction holomorphe par rapport z dans C . Soit 6 > O, assez petit. Par dfinition de ao, la (p,O)-forme h peut tre approche uniformment sur K par des (p,O)-formes holomorphes dans un voisinage de Dao-6. Pour obtenir la contradiction, il suffit de prouver que toute @,O)-forme holomorphe dans un voisinage de Dao-6 peut tre approche uniformment sur K par des @,O)-formes holomorphes sur Dan+&. D'aprs la formule de Leray, si f est une (p,O)-forme holo" .
(+y<),. ,$y<))
morphe au voisinage de Dao-&, a f ( z ) = on Qn(z,c) , si z E Dao-6. Puisque dD,,-6 est compact, pour obtenir l'approximation cherche, il suffit de montrer que pour tout [O E dD,,-6 fix la fonction peut tre approche uniformment sur K x V&,o Vc, est un voisinage de 0 dans aD,,-6, par des fonctions holomorphes en z sur Dao+6.Fixons 0 E dD,,-a et choisissons un nombre fini de points E l , . . . ,& tels que cy0 - 6 = p(Ji) < . . . <
(WP(C))AW(C)
f(c)
w'
&
p ( ~ = cy0 + S e t sup )
siIl < i p o u r t o u t z E ~ , o n a z.-~~I - ?k& sFu p i @ . ( Z L l ) K un voisinage V,, de 0. On a alors, pour E Vc,, 1
wl
ZEK
@b
, I &
-1)
I < 1pour j
= 1, . . . ,k.Remarquons que
@(z,3)
I<
< 1pour < dans
<
o la convergence est uniforme sur K x V,, et
154
VII. Problme de Levi
o la convergence est uniforme par rapport z dans K . Par consquent la fonction a ( ~ , c l tre approche uniformment sur K x V,, par des polynmes en peut
~
@(z,<),@(z><l)>. . . >@(z,<k-l) et qui sont des fonctions holomorphes sur Dao+b.Aprs intgration sur BD,,-d, en utilisant une partition de l'unit finie subordonne un recouvrement fini de 8D,,-b par des ouverts du type Vco, obon tient une approximation uniforme de f sur K par des (p,O)-formes holomorphes sur Dao+6.Par consquent cy0 = fm.
Pour terminer la dmonstration, il reste montrer que pour tout E > O, il existe une suite de (p,O)-formes holomorphes g j dfinies sur Dj+i, j = 0,1,. . . telle que go = h ( D = Do c V )et
En effet, alors ( g j ) j G N converge uniformment sur tout compact de Cn vers une (p,O)-forme g holomorphe dans C" et sup Ih - g1 < E . Pour construire cette suite,
K
supposons g o , . . . , g k dj connus (pour k = 0,go = h) et puisque DI, est convexe compact, la mthode que nous venons d'utiliser donne l'existence de (p,O)-formes holomorphes g k + i dfinie sur Dk+2 telles que 1gk ( z )- g k + 1 ( z )I < & pour tout z E Dk. O
Thorme 2.2. Soit D un ouvert strictement convexe born bord C2 de C". Si K est un compact de D, toute forme diffrentielle-fermesur D et continue sur D est limite uniforme sur K de formes diffrentiellesd-fermes continues dans
e".
Dmonstration. Quitte faire une translation, on peut supposer que O E D. Soit X > 1 un rel, notons D A = { z E C" I E D } , D A est un ouvert strictement convexe born bord C2 de C" contenant D. f est une (p,q)-forme diffrentielle Si 8-ferme sur D et continue sur D, O 5 p , q 5 n, on pose f x = pif o cpx est l'homothtie de rapport ; fx est alors une (p,g)-formediffrentielle 8-ferme sur D A .Fixons E > O et choisissons X > 1 tel que
Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x est dfinie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il existe une (p,O)-forme g holomorphe dans Cn teile que
On dduit alors de (2.1) et (2.2) que supD Siq
If
gI
< E.
= fxsurDx+i,carDx+i
2 1,ilexisteux E C : , ~ - ~ ( teiiequedux D ~ )
est un ouvert born strictement convexe bord C2 contenu dans D A (cf th. 1.2). Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" support
3. Finitude de la cohomologie de Dolbeault
155
compact dans Dx+l et gale 1 sur D. On pose alors g = dxxux et grce (2.1) supDIf - g1 <
5 < E.
Corollaire 2.3. Soit R un ouvert born strictement pseudoconvexe bord C2 de C .
Pour tout E 8 0 , il existe u n voisinage Uc de dans C tel que toute forme dif~frentielle continue sur Uc n 0, -ferme dans Uc ri R est limite uniforme sur tout compact d e n n Uc de formes diffrentielles continues, d-fermes dans Cn .
Dmonstration. Cest une consquence immdiate du Thorme 2.2 et du Corollaire 3.24 du chapitre Vi. O
<
<
3. FINITUDE DE LA COHOMOLOGIEDE DOLBEAULT
DANS LES DOMAiNES STRICTEMENT PSEUDOCONVEXES
Le but de ce paragraphe est de dduire de la rsolution locale du 8 avec estimations holdriennes des thormes de finitude pour certains groupes de 8-cohomologie. Pour cela nous aurons besoin de quelques notions et rsultats danalyse fonctionnelle qui sont rappels dans lannexe C.
e:,@)
Soit D un ouvert born de C, nous considrerons les espaces de Banach des (p,q)-formes diffrentielles continues sur et Ap{i(D) des ( p , q ) formes diffrentielles holdriennes dordre 1/2 sur D ( c f .chapitre I I I , 5 2). On le i/ ( O et i pose I ~ 2~ , - ~ = D ) si q 2 1 on note F p/ ,2q - l ( D ) domaine de dfinition cest--dire le
de loprateur 8 en tant quoprateur de AP(i-l(D) dans Ci,,@),
pris au sens sous-espace des formes diffrentielles f E AP(:-l(D) telles que des distributions, soit continue dans D et admette une extension continue D. On pose E i ( q ( D ) = 8(F-l(D)). On note le sous-espace des formes diffrentielles f E Ci,,(D) telles que 8f = O dans D , cest un sous-espace ferm de lespace de Banach C&(D). Enfin, nous noterons H:,l,,(D) le quotient
af,
Zi,,(o)
q,, ) / G ( QD ) . (D (
Proposition 3.1. Soient D un ouvert strictement pseudoconvexe born bord C2 de C ,p et q des entiers tels que O 5 p 5 n,O 5 q 5 n. Alors
p il il existe des oprateurs linaires continus TP de lespace C,,,(D)dans

E e s p a c e A ~ ~ ~ - l telsque, si f E C,,,(D)vrifieaf E e,,,@), o n a (D)
(3.1)
= dT,Pf
+ T;+,df + KQ f
o KQest un oprateur compact deC,,,(D) dans lui-mme. ii) Si q 2 1,aT; dfinit un oprateur linaire continu de ZP,,(D) dans luimme dont limage est de codimensionfinie.
156
VU. Problme de Levi
iii) E&?(D) est un sous-espace uectoriel ferm de codimension finie de

z, p q
(D).
Dmonstration. Daprs le Corollaire 3.24 du chapitre VI, il existe un recouvrement fini de D par des ouverts U1, . . . ,Um de Cn tels que, pour tout j = 1, . . . ,m, il existe une application biholomorphe hj dfinie sur un voisinage de vj telle que hj (Uj n D ) soit un ouvert born strictement convexe bord de classe C2. I1 rsulte alors des Thormes 1.2 et 1.6 que lon peut trouver des oprateurs linaires continus (T:)j,j = 1 , .. . ,m,deCi,,(D) dans AP(:-l(Uj n D ) tels que, si f E Cp,,(D) etaf E
Cp,q+l(D),
f = d(T,P)jf (T,+l)jdf sur Uj n D. Choisissons des fonctions ( ~ j ) j = l , , ,de, classe C support compact dans Cn . ~
telles que D n supp p j pour
c Uj et
m
pj j=l
= 1 sur D et posons T: f =
m
j=l
p j (T,P)j
f,
Cp,,(D).
Nous avons ainsi dfini un oprateur linaire continu de
CE,, (D)dans: ! i A
( D )qui vrifie
m
f = aT,Pf + T,+,afPosons Kif = m j=l
ap A cj j=l
(T,P)j f
sur
D.
dpjA(T,P)jf,pour f E Ci,,(D).Loprateur K i ainsidfini
( D )dans A: (D). Grce au Thorme i ( est un oprateur linaire continu de dans lui-mme, do il. De dAscoli cest donc un oprateur compact de Cp,,(D) dans on plus KQenvoie Zp,q(o) lui-mme. En effet, si f E Zi,q(D), a
-
dKtf =
=
-a ( CpjA (T,P)jf) = C a V j A a(T,p)jf

j=l
m
j=l
Af
j=l
daprs (3.21, car
ZP,,(o)
=O
puisque
Cpi= i
j=l
sur
D.
Daprs (3.1),aT: = I - K Q sur Zp,,(n), pour q 2 1 et, K i tant compact, P limage de I - KQest de codimension finie dans Zp,,(D), ce qui prouve ii). Lassertion iii) rsulte de la proposition 4 de lannexe C car EP(:(D), qui est limage par de ( D ) ,est de codimension finie puisquil contient limage de
dT$
Corollaire 3.2. Si D est un ouvert strictement pseudoconuexe born bord C2 de Cn alors dimHi,f,2(D) < +CO, si O 5 p 5 n et 1 5 q 5 n.
4. Invariance de la cohomologie de Dolbeault
157
4. INVARIANCE DE LA COHOMOLOGIE DE DOLBEAULT
PAR LES EXTENSIONS STRICTEMENTPSEUDOCONVEXES

A laide de la Beulenmethode de Grauert, nous allons prouver que pour un domaine strictement pseudoconvexe born R de @ le groupe de d-cohomologie HP (E)est isomorphe au groupe de cohomologie de Dolbeault H p > q ( R ) dfini %1/2 au chapitre II. Le Corollaire 3.2 impliquera alors que les groupes de cohomologie de Dolbeault dun domaine strictement pseudoconvexe born de @ sont de dimension finie.
Dfinition 4.1. On appelle extension strictement pseudoconvexe lmentaire un couple ordonn [ e 1 , & ] douverts de @ bord de classe C 2 tel que 1 c 8 2 , satisfaisant la condition suivante : il existe un ouvert V contenant 02 \ 61, des domaines Dl et D Z strictement pseudoconvexes tels que Dl c D2, 02 = 01 U D2, 81 n D2 = D1,(81 \ D z ) n (O2 \ 8 1 ) = 0 et uneapplication biholomorphedj7nie sur un voisinage de telle que h ( D j ) , j = 1,2, soit un domaine born strictement convexe bord C z de C .
Lemme 4.2. Soit [81,02]une extension strictement pseudoconvexe lmentaire. Alors pour tout ( p , q ) ,O 5 p 5 n et0 5 q 5 n
i) lapplication restriction H:,:/z(8z) et si q

=
ii) lapplication restriction H:;:/,(&) 1 et 81 strictement pseudoconvexe born, iii) lapplication restriction 2,,,(82) + 2:,,(81) est dimage dense, si 81 est strictement pseudoconvexe born.
Demonstration. Puisque (01 \ OZ) n ( 8 2 \ 81) = 0, peut trouver des voisinages on V et V de e 2 \ 81 tels que V Cc V Cc V et V n ( 0 , \ D i ) = 0. Choisissons une fonction x de classe C dans C telle que x = 1 sur V et supp x c V.
_ _ _ ~
+ H i ; : / i ( l ) estsurjective, siq 2 1, + H:;:/2(81) est injective, siq 2 2
Montrons il. Soit f i E 2,,,(81),1
5 q 5 n, on cherche des formes diffren-
telles que fz = f i - 3u1 sur 01. Comme tielles u1 E AP{:-l(el> et f 2 E ZP,,(~Z) est limage par une application biholomorphe, dfinie au voisinage de Di, dun domaine strictement convexe born bord C 2 , il existe u E A/(D1) telle que f i = au sur D1 ( c f Thorme 1.6). Posons
Les formes diffrentielles u1 et fz satisfont les conditions demandes.

1 Prouvons iil. Soient f2 E 2;,,(82) et u1 E A P/,zq - l ( l )telles que du1 = fi
1/2 sur 01, nous cherchons uz E A,,,-,(&) telle que du2 = f i sur 82. Comme D i est limage par une application biholomorphe, dfinie au voisinage de 0 2 , dun
158
1/2 domaine strictement convexe born bord C 2 , il existe u E Ap,q-l (Dz)telle que f2 = au sur 02 et par consquent u - u1 E (01).
z:,~-~
1/2 Si q 2 2, il existe 2i E Ap,q-.2(D1) que 8 v = u telle (x2i)= u sur V n l. Posons
u1 sur DI. Alors u1
aiorsu E AP,,-,(2) etau2 = fi sur&. 112 Supposons que q = 1 et 01 est strictement pseudoconvexe born. I1 rsulte alors de la dfinition des extensions strictement pseudoconvexe lmentaires que 82 est aussi strictement pseudoconvexe born et par consquent E ~ f ? ( & ) un est sous-espace ferm de Z:,,(&) daprs la Proposition 3.1, iii). I1 suffit donc de construire une suite ( W k ) & N de (p,O)-formes diffrentielles holdriennes dordre 1 / 2 dans telles que 8wk soient continues sur $2 et lim If2 - &k l0,E, = O. La
e2
k+oo
(p;O)-forme diffrentielle u - u1 est continue sur Di, 8-ferme sur D I . I1 rsulte alors du Thorme 2.2 quil existe une suite (?&)&N de (p,O)-formesholomorphes dans V telles que
k-tw
-
lim
Ivk -
ul)lg,E,n~uppx =
o.
On dfinit aiors la suite ( W k ) k E N en posant W k = (1 - x)ul x ( u - U k ) . Mors dWk = f i (dx)(u- u1 - uk) et la suite (Wk)&r satisfait bien les conditions demandes.
Terminons en prouvant iii). Soit f E 2 : , , ( $ 1 ) . Daprs le Thorme 2.2, il existe une suite ( z & ) & N de (p,q)-formes 8-fermes continues dans telles que im If - v k l o , l n s u p p x = O. On a alors
k-ioo
Posons = (1 - x ) f X v k , cest une suite de formes diffrentielles continues sur $2 qui converge uniformment vers f sur $1 et telles que dfk = A (f - v k ) converge uniformment vers O sur $ 2 . Grce la proposition 5 de lannexe C et puisque 0 2 est strictement pseudoconvexe car 81 lest, il rsulte de la Proposition 3.1 quil existe un oprateur linaire continu T de Z,,,($2) dans C:,,-,($2) tel que aT = I sur E,,,(&). Posons U k = T ( & A (f - W k ) ) , alors lim IUklo,g, = O et
fiE
ax
_-
k-tm
auk = dfk.
z:,,(&)
Par consquent, si f k = fk - U k , la suite ( f k ) & N est contenue dans o et converge uniformment vers f sur $1.
Lemme 4.3. Soit R un domaine strictement pseudoconvexe born bord C2 de @ et p une fonction djinissante strictement plurisousharmonique pour fl,i.e. fl = { z E Uan I p ( z ) < O}. PosonsR, = { z E Van I p ( z ) < E } u 0. Pour1E.I assezpetit,R, est un domaine strictement pseudoconvexe bord C 2 . Il existe alors E O > O tel que,
4. Invariance de la cohomologie de Dolbeault
159
si -EO 5 cy < O 5 p 5 E O , on peut trouver un nombrefini de domaines 191,. . . ,ON telsqueR, = 81 C 02 C . . . C ON = Rp et, pourj = 1 , . . . ,N - 1, [ j , j + l ] soit une extension strictement pseudoconvexe lmentaire.
Dmonstration. D'aprs le Thorme 3.23 du chapitrem, pour tout ( E da,il existe un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de c telle que h(Uc n 0) soit strictement convexe bord C2. Comme dR est compact, on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan. I1 existe alors EO
> O tel que nE,\ RpEo C

C"
N
xj
i=l
( x j ) j = l , , , ,de classe ,~
u U,. Choisissons des fonctions

c Uj,
cy
support compact dans @" telles que supp x j
j = 1 , .. . , N , et
= 1s u r a c o \
R + ~ .Pour a et p fixs tels que -EO 5

k
<
j=l
O < /3 5
EO,
on pose
O k = (2
C I P ( Z ) - < (P - a ) CXj(4). Y
j=l
Alors R, = I90 c . . . c 8N = Rp et siE0 est assez petit [Oj+l,8j]est une extension strictement pseudoconvexe lmentaire. O
Dfinition 4.4. Soient D CC R CC Cn des ouverts de @". On dira que R est une extension strictement pseudoconvexe de D , s'il existe un voisinage U de \ D et
une fonction p strictement plurisousharmonique de classeC2 sur U telle que
D n U = { z E U I p ( z ) < O } et R n U = { z E U I p ( z ) < l } .
On dira que l'extension estnon critique si la fonction p est sans point critique.
Les rsultats qui suivent restent valables sans l'hypothse non critique. Ils seront dmontrs dans le cas gnral dans le paragraphe 8.
cc R cc @" tels que R soit une extension strictement pseudoconvexe non critique de D . Alors i) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Hi,':/2(G)+ est un isomorphisme, ii) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Zp,q(o) Zi,q(D) -+ estd'image dense pour la topologie dfinie par la norme I lo,o.
Proposition 4.5. Soient D , R des ouverts de C", D
Dmonstration. Par dfinition d u n e extension strictement pseudoconvexe non critique, il existe un voisinage U de 2 \ D et une fonction p strictement plurisousharmonique de classe C2 sur U sans point critique telle que D n U = { z E U I p ( z ) < O } e t R n U = { z E U I p ( z ) < l}.PosonsRt = D U { z E U I p ( z ) < t } , O 5 t 5 1.Soit T la borne suprieure de l'ensemble E des t E [0,1]pour lesquels il existe une suite finie 81, . . . ,8k d'ouverts de cc" tels que D = 00 c . . . c k = Rt et [0jp1,8j],j = 1,. . . ,k,soit une extension strictement pseudoconvexe lmentaire. Prouvons que T = 1. En effet si T < 1,d'aprs le Lemme 4.3, il existe EO > O
160
VIL Problme de Levi
tel que l'on puisse passer de R T + ~ une suite finie d'extensions strictepar ment pseudoconvexes lmentaires pour tout E < E O . Choisissons E < EO tel que T - E E E alors T E est aussi dans E ce qui contredit le fait que T est la borne suprieure de E . Par consquent T = 1. En appliquant alors le Lemme 4.3 R = R1 avec ,6' = O et a E E , on obtient de plus que 1 E E .
Nous avons donc prouv qu'il existe une suite finie 00, . . . ,ON d'ouverts de Cn tels que D = 00 c c ON = R
" '
et que [Oj-1,0j], j = 1,.. . , N , soit une extension strictement pseudoconvexe lmentaire. Alors chacun des j , j = O , . . . , N , est un ouvert strictement pseudoconvexe born et d'aprs le Lemme 4.2, d u n e part toutes les applications restriction (ej) 3 H o,l/2(j-1) des isomorphismes, si O p 71. et P,~ sont 1 q n, et donc la restriction cp = c p O~ . . . O (pl : Hi;:/2(fi) +
< <
< <
Hi,'l/2(o)
11,
est un isomorphisme, d'autre part toutes les applications restriction Zj,q(??j) 4 Z,",($j-l) sont d'image dense, si O p 5 n et O q n, et donc la restriction $ = $N O . . . O $1 : Zj,,(D) + Z j > , ( o ) d'image dense. est O
<
< <
Thorme 4.6.Soit R un domaine strictement pseudoconvexe born bord c2 de Cn . Alors, pour tout couple ( p , q ) ,O p n, 1 q 5 n, l'application restriction
< <
<
H&-p)
est un isomorphisme.
+ Hplq(R)
Dmonstration. Soit U un voisinage de 80. Choisissons D CC R tel que R \ U C c D et R soit une extension strictement pseudoconvexe non critique de D. On a alors les applications restriction
H&yD) Lp,H"lq(n) 3 HP>,2 O ,1/

-
(m.
a
En effet, par l'isomorphisme de Dolbeault HP>Q(R) s'identifie Z~,,(R)/Z;,,(fl) n 1/2 aCj,,-,(R) et cp est donc bien dfinie car EP,, c Z;,,(R) n aC~,,-,(R). (R) L'application restriction $ est elle aussi bien dfinie grce la rgularit du ( c f chap. III, Remarque 3.6). D'aprs la Proposition 4.5, $ O cp est un isomorphisme, donc cp est injective et $ est surjective. Pour obtenir le thorme il suffit de prouver que $ est injective ce qui rsultera du lemme suivant :
Lemme 4 7 Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il .. existe un voisinage U de R \ D et une fonction strictement plurisousharmonique p de classe C2 sans point critique telle que D n U = { z E U I p ( z ) < O} et D U { z E U I p ( z ) 5 C } CC R, pour toutC > O. Alors l'application restriction
HP?,((R)
+ H;;:/2(D)
estinjectivepourtout(p,q)telsqueO 5 p 5 n , i 5 q 5 n.
5. Thorme d'annulation pour la cohomologie de Dolbeault
161
Dmonstration. On peut construire une suite
D = Do c D1 c ... c Di, c . .
d'ouverts borns de
C" tels que R
u DI, et
k>O
Dk+l
est une extension stricte-
telle ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R) que f = a w o sur D, wo 6 Ap,q- ( D ) . D'aprs la Proposition 4.5, i), il existe une 112
l~ telle suite wk E ~ 112 , , - ~ ( D i , )que f = dwi, sur Di,, car chaque Di, est une extension strictement pseudoconvexe non critique de DO. Nous allons construire une suite (ui,)lcENde formes diffrentielles teiies que u E C:,q-l(~k), duk = f sur k ~ i , et Iui,+l - ui,lo,B, 5 La suite (uk)kEW, ainsi construite, converge uniformment sur tout compact de R vers une forme diffrentielle u E Ci,,-,(O) telle que au = f sur D. Posons uo = wo et supposons construites u l l . . . , u k . La forme diffrentielle wk+l - u k est un lment de Zi,,-,(o,) et, d'aprs la Proposition 4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que
3.
Iwk+l
uk - Q l c + l l o , ~ , < 1 / 2 k .
On - pose alors ui,+l = wk+l - a k + l et on a bien dui,+l = d ( l t k + l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P.
f sur
car O
Corollaire 4.8. Si alors
est un ouvert strictement pseudoconvexe born bord C2 de Cn, et
dimHp,q(R)<+CO, si O < p < n
1L q < n .
Dmonstration. C'est une consquence immdiate du Corollaire 3.2 et du ThoO rme 4.6.
5. THORME D'ANNULATION POUR LA COHOMOLOGIE DE DOLBEAULT
DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES DE Cn
Nous prsentons ici un rsultat d Laufer [Lau]qui va nous permettre de dduire du thorme de finitude du paragraphe 4 un thorme d'annulation pour les groupes de cohomologie de Dolbeault. Ce rsultat dit que si O est un ouvert de C", les groupes de cohomologie de Dolbeault Hpiq(O), O 5 p 5 n, 1 5 q 5 n, sont soit rduits O, soit de dimension infinie.
Thorme 5.1. SoientO un ouvert de C, p et q des entiers tels que O 5 p 5 n,l I : q 5 n - 1. Si EEq(O) = aCpsQ- (O) est un sous-espace vectoriel de codimension finie dans ZEq(a),alors
E;q(w = z,qqw.
162
VIL Problme de Levi
Dmonstration. Soit f E ZEq(0)\ (a).Puisque (O) est de codimension il finie dans 2pq(0),existe un entier N E N* tel que le sous-espace vectoriel de ZEq(0) engendr par f,zlf,.. , z y f rencontre EEq(R).On peut donc trouver . des nombres complexes QO, . . . , O N , non tous nuls et une forme diffrentielle u E CEq- (O) que tels
aof
+ alzlf + . ' . + a N z f J f = au
sur
R.
Ce qui s'crit encore P(z1)f EFq-,(R) P(z1) polynme a0 a1z1 E avec le . . . Q N Z ~ Notons Nfle minimum des degrs des polynmes P non nuls de . la variable z tels que P(z1)f EEq(R) Pfun polynme de degr N f tel que 1 E et Pf(z1)f E,OP,(R). Soient {fi,. . . , f k } C ZEQ(R) base d u n supplmenE une dans ZEq(R).Posons P = Pfi . P f k .Le polynme .. taire algbrique de EEq(R) P vrifie alors
P(z1)f EEq(R) pourtoute f E
ZFq(R).
Notons NOle minimum de l'ensemble des entiers N tels qu'il existe un polynme P non nul de la variable z1, de degr N vrifiant P(z,)f E EEq(R)pour toute f E ZEq(O). Supposons que NO 2 1 . Soit POun polynme de degr NOen la variable z1 tel que, pour toute f E ZEQ(0), Po(z1)f E E: (O). Fixons une forme diffrentielle f E ZEq(R), quelconque, il existe alors u (R) telle que
~~<y~-~
(5.1)
~o(z1)f
= d u sur R.
Drivons l'galit ( 5 . 1 )par rapport z1,on obtient
et
sont les formes diffrentielles obtenues en drivant les coefficients
des formes diffrentielles f et u par rapport z1. La forme diffrentielle est et encore dans Zrq(0) donc Po(z1)SE E,OP,(R).Par consquent le polynme
= vrifie FO(z1)f E E ~ ~ ( pour toute f E ZE~(R). R) Comme dOFp0 = NO - 1, cela contredit la minimalit de NOet donc NO = O. Nous avons ainsi prouv que (R) = Zpq (CI).
P O
Corollaire 5.2. Si R est un ouvert strictement pseudoconvexe born bord C2 de @" ,
alors
H:,':,2(n) = Hplq(R) = O,
si O 5 p 5 n et1 5 q
5 n.
Dmonstration. Puisque Hp,q(R) = Z,qP(O)/E&(R), il rsulte du Corollaire 4.8 et du Thorme 5.1 que Hp,q(R) = O. Le rsultat complet est alors une consquence du Thorme 4.6. O Thorme 5.3. Soient R un ouvert strictement pseudoconvexe born bord C2 de C" ,p et q des entiers tels que O 5 p 5 n et 1 5 q 5 n. Alors il existe un oprateur
6. Formule intgrale pour rsoudre le d avec estimation holdrienne
163
1inairecontinuT d e Z i , , ( a ) dansAk{:-l(R) t e l q u e T ( Z i , , ( n ) ) c F,',p-l(R) et d O T=I.

Dmonstration. Le Corollaire 5.2 nous dit que Zi,,(a) = Ej(:(R). I1 suffit alors d'appliquer la proposition 5 de l'annexe C pour obtenir l'oprateur T . Terminons ce paragraphe par un lemme qui nous servira dans le paragraphe 6.
Lemme 5.4. Soient R un domaine strictement pseudoconvexe born bord C2
de Cn et U, un voisinage de 52. Alors il existe un oprateur linaire continu T ; Zcl(Us) + C"(R) telque8Tf = f dans0 pourtoute f E 204;(Us).
Dmonstration. Nous allons prouver que l'oprateur T : Z:,,(D) + R112(R) donn par le Thorme 5.3 a les proprits cherches. Soit f E Zel(Us),alors T f est dfinie et dTf = f sur R, car Z,.P;(V,) C Zfo,ll(D).Grce au Thorme 3.5 du chapitre III sur la rgularit du on a T f E C"(R). Coprateur T dfinit donc un oprateur linaire de ZC, ( U s ) dans C" (R). La continuit de T comme oprateur linaire entre les espaces de Frchet Z?, (U,) et C" (O) rsulte alors du thorme du graphe ferm. En effet, soit (f n ) n E N une suite d'lments de Z r l ( U s )telle que la suite (f n , T f n )converge vers (f,g) dans Zel ( Us) x C" (CI). La continuit de T sur Z & ( G ) implique que T f n converge uniformment vers Tf sur et comme 8T f = f sur R, la rgularit du 8 nous dit que T f E C" L'unicit de la limite implique alors que ( f , T f ) = (f,g),( f , g ) est donc dans le O graphe de T .
a,
(a).
Remarque :Une autre dmonstration de ce lemme n'utilisant pas l'oprateur T du Thorme 5.3 est donne dans [HILl] ( c f Lemme 2.4.1).
6. FORMULE INTGRALE POUR RSOUDRE LE
8AVEC ESTIMATIONS
HOLDRIENNESDANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES
Soit R un domaine strictement pseudoconvexe born bordC2 de Cn. Nous allons construire une fonction d'appui globale @(.,<) pour R, c'est--dire une fonction de classe C1 dfinie sur U s x Uan, o Uan est un voisinage de dR et U s = U R, telle que @ dpende holomorphiquement de z dans U s et @(z,<) O si # z E 2, E Van et z # <. Cette fonction jouerale rle de (w(z,<),< - z ) dans les formules intgrales, w tant une section de Leray associe R.
<
Lemme 6.1. Soit 19un ouvert born de C7' une fonction strictementplurisousharetp
164
VU. Problme de Levi
monique dfinie dans un voisinage de B. Posons
Soient a j k des fonctions de classeC' dans un voisinage d e 3 telles que
et E
> O, choisi assez petit pour que
(6.3) C , dniax I , IC-zl .
I-(<)--(
a2P
d2P
z) <
B
~
2n2
pour j , k
1,. . .,2n
o xj = xj(<) sont les coordonnes relles de J E C" telles que < j = Z X ~ + ~ ( < ) . Pourz, E 3, ondfinit
xj(<) +
Alors pour tout z,C E

(6.5)
e tels que IC
ReF(z1C)
zI 5 E , on a l'estimation
2 P ( C ) - P ( Z ) + PIC - zI2.
Remarque :Puisque p est de classe C2 et P > O (car p strictement plurisousharmonique) il existe des fonctions a j k et un rel E tels que (6.2) et (6.3) soient satisfaites. Dmonstration. Soient et z dans tels que I< - zl 5 E . I1 rsulte du Lemme 2.22 du chapitre Vi et de la formule de Taylor que si Fpest le polynme de Levi de p
<
o lR(z,<)l5
BI< - zI2 d'aprs (6.3). Grce (6.1), on obtient

ReF,(t,O 2 P ( C ) - P ( Z )
+ 2BIC - zI2,
(6.2) et donc Re F(z,C) 2
O
mais on a lFp(.z,() F(z,C)( 5 P ( 0 - P ( 2 ) + P l i - zI2.
PIC
- zI2,d'aprs
Thorme 6 2 SoitR un domaine strictement pseudoconvexe born bord de classe ..
C 2 de Cn, 6 un voisinage de dR et p une fonction strictement plurisousharmonique

de classeC2 dfinie dans u n voisinage de 3 telle que
R n 0 = { z E e 1 p(z) < O).

Soient&,P, F(z,<)choisis comme dans le Lemme 6.1 avec&assez petit pour que
{ z E C*
I I(
- zI
5 2&} c 6 pourtout ( E da.
6. Formule intgrale pour rsoudre le d avec estimation holdrienne
165
Alors il existe une fonction @(z,<) classeCl dfinie sur Usi x Uan, o Uan est un de voisinage de dR contenu dans 0 et U, = Uan R, telle que 0 @( z,C) dpend holomorphiquement de z dans U * ii) Q ( t , C ) # O pourtoutz E Uc,C E Van tekqueII - zI 2 E , iii) il existe une fonction de classeCl, M ( z , ( ) dfinie et non nulle pour t E UE, E Uan tels que I(' - zI 5 E , vrifiant
@kO = F ( 4 ) M ( z , C )
pourz E Ug,( E U ~ telsque I( - zI 5 D
E.
Dmonstration. I1 rsulte del'estimation (6.5) que Re F ( z , < ) 2 p(<) - p ( z ) +,h2 pour z,( E 6' et E 5 IC - zI 5 2 ~ Comme p = O sur 8 R et grce au choix de . E , on peut trouver un voisinage Vafi de dR contenu dans 6' assez petit pour que IpI 5 ,6$ sur Van et pour tout ( E Van la boule de centre C et de rayon 2~ est contenue dans 6'. Posons Vsi = s2 U Van,alors pour (z,C) E Vz x Vafi vrifiant
IC - zI < ZE, z et ( appartiennent 6' et Re F(z,C) 2 p$ pour z E VB,( E Van tels que E 5 IC - zI 5 2 ~ Par consquent on peut dfinir lnF(z,C),o In est . la dtermination principale du logarithme, pour z E VE,( E Van vrifiant E 5 I - zI 5 2 ~Choisissons une fonction x de classe C" dans Cn telle que x(() = 1 C . si C 5 etx(E) = Opour 2 Pourz E V ~ e,t E Van ondfinit
2.
Alors l'application C f(.,<)est de classe C' sur Van valeurs dans Zpl(VG). Choisissons un voisinage Uan CC Van tel que U, = R Uan soit strictement pseudoconvexe born bord C2. I1 rsulte du Lemme 5.4 qu'il existe un oprateur linaire continu T : ZOg;(V,) -+ C"(U,) tel que a T y = cp sur U, pour toute 'p E Z c l (Vs). Pour t E UB et ( E Uan, on pose
..O (,
et
( T ( f ( . , C ) ) ( z ) , ( 4 ) = exp(-u(z,C)) M
@kC)
{ F(z,C)M(t,C) z)lnF(z,C)
exp(x(C -
C si I - zl
5E
O
- u(z,C) si IC
- zI 2 E .
I1 est clair que @ satisfait les conditions i] iii] du thorme.
Remarques 1) Notons que nous n'avons pas utilis le fait que dR est de classe C2. Le Thorme 6.2 est encore vrai si d p s'annule sur as2 (cf [HelLel]). 2) Pour obtenir le Thorme 6.2 nous n'avons pas besoin de toute la force du Thorme 5.3. Nous avons seulement besoin de savoir que si une (0.1)-forme diffrentielle est d-ferme au voisinage d u n domaine strictement pseudoconvexe, elie est exacte sur ce domaine et la solution de l'quation de Cauchy-Riemann est donne par un oprateur linaire.
166
Vil. Problme de Levi
Le Thorme 6.2, nous donne la solution du problme de Levi, pour les domaines strictement pseudoconvexes borns bord C2 (le cas gnral sera tudi a u 7). Corollaire 6.3. Soit R un ouvert strictement pseudoconuexe born bord C2 de @". Alors R est un domaine d'holomorphie. Dmonstration. Considrons la fonction @ associe au domaine R par le Thorme est holomorphe 6.2 et fixons un point 50 E do. Alors la fonction f (2) = dans R et f (2) tend vers l'infini quand z tend vers (0 dans D , elle ne peut donc se prolonger holomorphiquement au voisinage (O.
&
Pour pouvoir appliquer la formule de Cauchy-Leray-Koppelman sur un domaine R strictement pseudoconvexe, nous devons maintenant construire une section de Leray pour ce domaine qui sera associe la fonction d'appui @ du Thorme 6.2. I1 s'agit donc de trouver une application w de classe C1 sur U s x Uan, holomorphe en z sur U s e t telle que (w(z,<),< z ) = a(.,<). Lemme 6.4. Soit R un ouvert strictement pseudoconuexe born bord C2 de C", M1 = { z E Cn I z1 = O} et U, un voisinage de Alors pour toute fonction holomorphe f sur M1 n U z il existe une fonction f holomorphe dans R telle que f = f suri41 n R.
a.
Dmonstration. Si U1 est un voisinage assez petit de M1 n 2, alors en posant F ( z ) = f ( O , z 2 , . . . ,zn)on obtient un prolongement holomorphe de f U1. Choisissons des voisinages UilUr de M I ri tels que Ui CC U; CC U1. Soit x une fonction C" dans Cn telle que x = 1 sur Ui et supp x C U r , on pose
Alors cp est une (0,l)-formediffrentielle, &ferme de classe C" dans un voisinage U de 0. D'aprs le Corollaire 5.2 appliqu un domaine strictement pseudoconvexe bord C2 contenant (;2 et contenu dans U , il existe une fonction u continue x dans telle que au = cp dans R, ce qui implique ~ ( F - z l u ) = O dans R. Par consquent = F X - z1u est holomorphe dans R et puisque x 1 sur R n M l f = F = f dansRnM1. o
Lemme 6.5. Soient R un ouvert strictement pseudoconvexe born bord C2 de C", h f k = ( 2 E CC" I 21 = . . . = zk = O}, i 5 k 5 n,etUE un voisinage d e n . Alors si f est une fonction holomorphe dans UE telle que f = O sur M k f l UE il existe des fonctions
fi,
. . . ,fk holomorphes dans fl telles que f ( 2 )
=
j=l
zjfj ( z ) pour tout
z E 0.
6. Formule intgrale pour rsoudre le
a avec estimation holdrienne
167
Dmonstration. Si k = 1, on peut poser f i ( z ) = f ( z ) / z 1 .Raisonnons par rcurrence et supposons que le lemme est dmontr pour Mk-1 dans @" , k - 1 5 c. Soit f une fonction holomorphe dans U, telle que f ( z ) = O si z E Mk f' U z Choisissons un ouvert strictement pseudoconvexe 6 tel que R CC 6 CC U s l'ensemble 6 n M1 est un ouvert strictement pseudoconvexe born de M1 = CY-'. D'aprs l'hypothse de rcurrence il existe des fonctions fj(z2, . . . , z n ) ,j = 2, . . . ,k, holomorphes dans 6 n M 1 telles que f (2) =
k
j=2
zj fj(z2,.
. . ,zn) pour z
6 nM I .
Le Lemme 6.4, nous donne alors l'existence de fonctions f j , j = 2 , . . . ,k, holomorphes dans R telles que f j ( z ) = f j ( z 2 , . . . ,zn) pour z = (O,z2, . . . ,zn) E
E
R n M1. Pour terminer, il suffit alors de poser f 1 ( z ) =

pourz E R.
(f (2)
=2
z j f j (2))
Thorme 6.6. Soient O un ouvert strictement pseudoconvexe born bord C2 de @" et Us2 un voisinage d e n . Si f est une fonction holomorphe sur U s il existe des fonctions hj holomorphes s u r a x R telles que, pour (z,<) E R x R, ait on
n
j=i
Dmonstration. Choisissons un ouvert strictement pseudoconvexe born R contenu dans CZn tel que R x R CC 6 CC Us2 x Us2 et dfinissons de nouvelles coordonnes dans C2" en posant u = <j - zj et u + = z j pour j = 1, . . . ,n. j j, Alors si on dfinit F par F ( z , < )= f(() - f ( z ) ,F est holomorphe sur U, x Us2 et F = O sur UG x U, n {u E @2n I u1 = . . . = un = O}. On peut donc appliquer le Lemme 6.5 F ce qui donne le rsultat en revenant aux coordonnes ( z , < ) . O Pour construire la section de Leray w associe nous avons besoin d u n e version du Thorme 6.6 o f dpend de manire C1 d u n paramtre et o les f j dpendent aussi de manire C 1 de ce paramtre. Thorme 6.7. Soient X une varit de classe C k , k 2 1, 0 un ouvert strictement et Us2 un voisinage d e 2 . Si f est une fonction pseudoconvexe born bord C2 de soit de classe C k sur X valeurs dans C" ( UE) telle que f (.,x) holomorphe sur UE pourx E X , il existe des fonctions hj de classeCm sur (0 x O ) x X,1 5 j 5 n, telles que hj (.,x) holomorphe sur R x R pour x E X et qui vrifient pour tout soit x E X et(z,) E R x R
en
71
f (<J) f ( z , z ) = j=l
hj(<,~,4(Cj4 . -
La dmonstration du Thorme 6.7 suit pas pas celle du Thorme 6.6. Nous dtaillerons seulement la version du Lemme 6.4 avec paramtre.
168
VU. Problme de Levi
Lemme 6.8. Soient X une varit de classeCk ,IC 2 1, R un ouvert strictement pseudoconvexe born borde2 deCn, M1 = { z E Cn I z1 = O } , U z un voisinagede R. Si f est une fonction de classe C k sur X valeurs dans C" (U, n M I ) telle que f (.,x) holomorphe sur Uz n M1 pour x E X , il existe une fonction de classe soit C k sur X valeurs dans C" ( R ) telle que j (.,x) soit holomorphe sur R pour x E X et vrifie pourx E X et (O,zz,. . . ,z,) E R
J((oA, . . . , z n ) , x ) = f((O>z2>...,zn),x).
Dmonstration. Elle est analogue celie du Lemme 6.4 dont nous reprenons les notations. Posons
sizEXetzECn\U1,
cp est une forme diffrentielle de classe C k sur X x V i , 8,-ferme. Choisissons un ouvert fi strictement pseudoconvexe bord C2 tel que R c fi CC U1. L'application x H cp(.,x) de classe C k sur X valeur dans Zl( V I )D'aprs le est r . Lemme 5.4, il existe un oprateur linaire continu T de Z,qi(Ul) dans C" (6)tel q u e d o T = Id. Posonsu(.,x) = T(cp(.,x)).AlorsuestdeclasseCksurxvaleurs dans C"(6) et f(z,x) = x ( z ) F ( z , x ) - zlu(z,x) est la fonction cherche. O
Corollaire 6.9. SoientR un domaine strictement pseudoconvexe born de Cn, et@ la fonction d'appui associe au domaine R par le Thorme 6.2 dfnie sur U, x Uan. Il existe un voisinage Van de 130, Van CC Uan et une application w de classeCl sur Va x Van,o V z = Van U R, holomorphe en z sur V z telle que
n
= C W j ( r , C ) ( C j - " j ) = (w,C - 2 ) j=l pour z E Vo,<E Vao. De plus w est une section de Leray pour R.
@.C (,)
Dmonstration. En appliquant le Thorme 6.7 @ on obtient

n
@(C (,I
w.4
=
j=l
hj(C,Z,C)(<j - " j )
et, puisque @(<,<) = 0,en prenant ( = C on a

n
@(Z,C) = C W j ( Z , C ) ( < j
j=1
"j)
o wj(z,<)= -hj (C,z,<) les proprits cherches. a
Remarque :La section de Leray w ainsi obtenue convient galement pour tous les domaines strictement pseudoconvexes de la forme
a \ Van u { .
Van I P(.z) < -6)
6. Formule intgrale pour rsoudre le d avec estimation holdnenne
169
pour 6
> O assez petit.
En utilisant la section de Leray globale que nous venons de construire, nous obtenons un oprateur intgral qui permet de rsoudre le avec estimation holdrienne d'ordre 1/2.
Thorme 6.10.Soient un domaine born strictement pseudoconuexe borde2 de Cn et w la section de Leray associe R par le Corollaire 6.9. Il existe une constante C telle que i) pour touteforme diffrentielle f continue s u r n , l'intgrale
R$nf
satisfait l'estimation
=/
(C>x)anx [0,11
f (C) A K q U ' ( . , C , 4
I%nf
I1/2,n
I ClflO,r,
_ -
ii) pour toute (p,q)-formediffrentielle f continue sur R, -ferme dans R, 0 5 P 5 n,1 5 4 5 n ,
u = (-1)"+"R;nf
+ Bn f)
est solution de l'quation& = f dans R et vrifie

lul1/2,n
5 Clf I0,n.
=
Deplus, u E C&,(R) 1 , 2 , . . .,co,alorsu E
pourtoutcr E]0,1[ etsi f estdeclasseCk dansR,k pourtoutcr E ] o , ~ [ .
Dmonstration. D'aprs le Thorme 3.3 du chapitre Vi il ne reste prouver que 0. Pour cela il suffit de montrer que la section de Leray w satisfait les hypothses du Lemme 1.3. Les conditions i) et ii) rsultent du Corollaire 6.9, il faut prouver iii). Fixons E R. Par dfinition de w et O tel que
(6.6)
I (44),<I L 61 (+,O I -4
si z,< E Uc. Posons tl(z,C) = ImF(z,<) et soit xj = xj(<) les coordonnes relles de C E Cn teiles que ( j = x j (C) Zxj+, (C). Alors
170
et par consquent
2 Donc n//dCtl(z,<)lC=tA d p ( z ) / / 2 / / d p ( z ) / /pour tout z E dR car le coefficient de dx, (2) A dx,+,(z) dans la forme diffrentielle du membre de gauche est -[($(z))z (&(z))]. Puisquedp(z) # Opourz E d R c a r R e s t b o r d
C 2 ,quitte restreindre Uc, on peut trouver-des fonctions de classe C 1 ,&?, . . , t ~ , , - ~ . sur U , ,telles que pour tout z E Uc t 1 $ 2 , . . . ,t2n- 1 soient des coordonnes sur ~ c n R . n p o s e t , ( z , < ) i , ( ~ ) - t , ( z ) p o u r z , < ~ < , ~ = .Z . ,2 n - - l . ~ l o r s = U , . pour tout z E Uc fix les fonctions t l ( z , . ) ,. . . , t 2 n - l ( z , . ) sont aussi des coordonnes sur l n Uc. Pour terminer il faut prouver lestimation (I.2) pour ces coorf donnes. Puisque t, ( z , z ) = O, quitte restreindre encore Uc, la formule de Taylor implique lexistence de 6 2 > O tel que I - z / 2 &lt(z,C)I pour tout z,CE Uc. I1 C rsulte alors de lestimation (6.5) du Lemme 6.1 que, aprs une nouvelle restriction de U . ,on peut trouver 63 > O tel que pour z,C E Uc
(z;)
IF(z,C)l 2 63(/ti(Z1<)I P ( < ) - P ( z ) + k(z,C)l2). + Comme p(C) = O, si E 8R , et comme il existe 64 > O tel que - p ( z ) 64dist(z,dR), si z E D n Uc, onaura
<
pour z E D n U, et
/ F ( z , < )2 &i64((ti(Z,<)/ /t(z,c)/2dist(z,dfi)) / + + E d D n Uc. Do le rsultat en tenant compte de (6.6). O
<
Remarque :Lintrt du Thorme 6.10 par rapport aux rsultats du paragraphe 5 est que loprateur intgral est beaucoup plus explicite, ce qui peut permettre de montrer par exemple que la constante C dpend, en un certain sens, continment du domaine R.
7. PROBLME DE LEVI DANS Cn
Commenons ce paragraphe en prouvant le Thorme dapproximation dOkaWeil. I1 nous servira rsoudre le problme de Levi et prouver lannulation des groupes de cohomologie de Dolbeault pour les ouverts pseudoconvexes de @ en bidegr ( p , q ) ,O 5 p 5 n, 1 5 q 5 n. Thorme 7 1 Soient0 C Cn un ouvertpseudoconvexeetK CC R un compact tel .. que K = K i . Alors, si0 5 p 5 n, toute (p,O)-forme holomorphe dans un voisinage de K peut tre approche uniformment sur K par des fonctions holomorphes dans
h
R.
Dmonstration. Soit h une (p,O)-forme holomorphe dans un voisinage UK de K . Daprs le Corollaire 3.13 du chapitre VI, il existe une fonction strictement plurisousharmonique de classe C p : R -+ I telle que R
7. Problme de Levi dans Cn
171
i) R, = { z E R I p ( z ) < Q} CC R, pour tout Q E R, ii) lensemble Crit(p) = { z E R 1 d p ( z ) = O} est discret dans R, iii) p < O s u r K e t p > O s u r R \ U K . Soit QO la borne suprieure des (Y E I tels que h puisse tre approch uniformR ment sur K par des (p,O)-formes holomorphes dans O,. Puisque h E C,,O(UK) et a h = O sur U K ,(YO > O c a r p > O sur R \ U K . Pour prouver que a0 = +CQ, puis dmontrer le thorme il suffit de suivre pas pas la dmonstration du Thorme 2.1 o la fonction (a et la section de Leray associes w sont dfinies de la manire suivante : Grce au Thorme 6.2 au Corollaire 6.9 et lestimation (6.5) il existe un rel 6 > O, une fonction C1, (a(.,<) et une application C1 valeurs dans - w(z,<)dfinies pour z dans un voisinage de Dao+6 en, et dans un voisinage de Dao+g\ Dno-6 telles que et a) (a(z,<) w(z,<)sont holomorphes en z , b) = (d.,O,< - 4, c) # 0 si a 0 - 6 5 p ( < ) 5 Qo 6et p ( z ) < P ( < ) ? d) w ( z , < )est une section de Leraypour Dao-6 et daprs la proprit iil de p, on peut supposer que d p ( z ) # O si z E dD,,-6 et appliquer la formule de Leray au domaine Dao-6. O
<
@.O (, @.O (,
Remarque :Le Thorme 7.1 peut tre prouv sans utiliser le 3 6 mais laide de la Proposition 4.5 comme cela sera fait pour lassertion iil du Thorme 8.11.
Thoreme 7.2. Soit R C d e R , Kg = Ka.
A
en un ouvert pseudoconvexe. Alors pour tout compact K

h
A
Dmonstration. On sait dj que Kg C K R (cf.la remarque qui suit la Dfinition 3.3 du chapitre VI). Pour prouver la rciproque, choisissons un point E E R \ et construisons une fonction h holomorphe dans R telle que (7.1) Ih(0l > lh(z)l. I1 rsulte du Corollaire 3.13 et du Lemme 2.24 du chapitre VI, quil existe un ouvert strictement pseudoconvexe G cc R tel que K CC G, E E dG et G, = G, car G est dfini par { z E R I p ( z ) < O} o p est plurisousharmonique de classe C sur R. Daprs le Thorme 6.2 et lestimation (6.5),il existe une fonction de classe C1, (z,<)dfinie pour dans un voisinage UaG de dG et z dans un voisinage UG de G telle que (a(.,<) soit holomorphe en z dans U s (a(<,<) = O et (a(.,<) #O pour tout E u ~ G\ G e t z E G. Alors pour tout ( 0 E U a G \ G fix, est
5 -
y ;
<
<
&
holomorphe en z dans un voisinage de E. Puisque K CC G, E E dG et (a(<,<) = O, on peut choisir (0 E Uac \ G assez proche de pour que
Puisque G = G,, il rsulte du Thorme 7.1 quil existe une fonction h holomorphe dans R telle que Ih(z) < f pour tout z E G. Grce (7.2), O la condition (7.1) est alors satisfaite.
&I
172
VU. Problme de Levi
Corollaire 7.3. Un ouvert de Cn est un domaine d'holomorphie si et seulement s'il est pseudoconvexe. Dmonstration. On a vu au chapitre Vi, Corollaire 3.7 que tout domaine d'holomorphie est pseudoconvexe. La rciproque est une consquence immdiate du Thorme 7.2, de la dfinition des ouverts pseudoconvexes (cf.chap. Vi, df. 3.5) et du Thorme de Cartan-Thullen (cf. chap. Vi, th. 1.13). O Thorme 7.4. Soient D C Cn un ouvert pseudoconvexe, p et y des entiers tels que 0 5 p 5 n et 1 5 y 5 n et k E U {+CO}. Alors pour toute (p,y)-forme diffrentielle f de classel'" dans D telle que8 f = O dans D , il existe une solution u delquation8u = f surD tellequeu E Ci:U,(D) pourtoutcu ~ ] 0 , 1 [ . Dmonstration. D'aprs le Corollaire 3.13 du chapitre Vi, il existe une fonction strictement plurisousharmonique p de classe C" dans D telle que i) D , = { z E D I p ( z ) < a } CC D p o u r t o u t a E R, ii) l'ensemble Crit(p) = { z E D I d p ( z ) = O} est discret dans D . Grce la proprit ii), on peut trouver une suite ( a u ) , , E ~ rels tendant vers de l'infini telle que d p ( z ) # O si z E BD,,, D,, est un domaine strictement pseudoconvexe bord C" et Da,. Grce au Thorme 6.10, pour tout v E N,il existe
VN
des formes diffrentielles u , E ( D a , ) ,O < a < 1,telles que au,, = f dans D a , . Nous obtiendrons une solution u de au = f sur D l'aide des formes u,. Supposons dans un premier temps que q 3 2 . Nous allons construire une suite (vv),,>3 de formes diffrentielles solutions de 8v, = f sur Da, et telles que v, E k+a-(D,,), O < a < 1, et v, = v,+l dans Da,- et u = lim v, sera la CP/-l ,+ C C solution cherche. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3. Alors ve-ue+l est &ferme dans Da, et le Thorme 6.10 nous donne une solution 'p E Cp,:?l(Da,_,), O < a < 1,d e & = we - ue+1 dans Da,-, . Choisissons une fonction x de classe C" support compact dans Da,-, et constante gale 1 sur Da,-, et posons ve+1 = u t t l d(x'p). La forme diffrentielle ve+1 satisfait les conditions demandes.
Considrons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~ de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D aet) lvv(z) , v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformment sur tout compact de D vers une (p,O)-forme u qui a les proprits requises car les diffrences u - vu sont holomorphes sur Du. Posons v2 = u et supposons v2,. . . ,ve 2 construites pour 2 2. Alors la diffrence ve - u(+1 est holomorphe dans D,, et grce auThorme 7.1 il existe v E cP,o(D), 8-ferme telle que Ive(z) - uc+1 ( z ) 17 .(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v. Corollaire 7.5. Soit D un ouvert pseudoconvexede C" ,alors HP,q(D ) = O pour tout (p,y) telque0 ~ ( D= O )
5 q 5 n - 1.
Dmonstration. La condition ncessaire est une consquence des Corollaires 7.3 et

7.5.
Nous allons prouver la condition suffisante par rcurrence sur la dimension complexe n. Si n = 1, l'hypothse est vide, mais le thorme est vrai car tout ouvert de C est un domaine d'holomorphie. Supposons que le thorme est vrai pour les ouverts de Cn-',n 2 2 et considrons un ouvert D de C" pour lequel H o ) q ( D ) O si 1 5 q 5 n - 1. =
Montrons pour commencer que si L est une sous-varit linaire affine de Cn de dimension complexe n - 1, toute composante connexe de D n L considre comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'aprs l'hypothse de rcurrence, il suffit de prouver que Ho > q ( D L ) = O pour 1 5 q 5 n n - 2. Sans perte de gnralit, on peut supposer que L = { z E @" I z, = O}. Soit cp une (0,q)-formediffrentielle de classe c", d-ferme sur D n L , 1 5 q 5 n - 2, alors cp s'tend un voisinage U de D n L dans D en une forme diffrentielle de classe C", d-ferme, de type (0,q) (il suffit de considrer cp comme une forme ne dpendant pas de zn). Soit x une fonction de classe C" dans D , gale 1 sur un voisinage de D n L dans D et support dans U . On pose
On dfinit ainsi une (0,q 1)-forme diffrentielle de classe C", d-ferme dans D tout entier. Puisque par hypothse Ho>q+l(D) - O, il existe une (0,q)-forme = diffrentielle de classe C" dans D telle que da = a. On a alors sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme diffrentielle Q de classe C" dans D telle que x@- zn% = 8s.En restreignant cette identit L et en posant 6' = on a obtenu une (0,q - 1)-forme diffrentielle 6' sur D n L telle que 88 = cp ce qui prouve que H0+7(D L ) = O. n
QIL,
Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D , 0 2 non contenu dans D et pour toute fonction holomorphe dans D , il existe une fonction g2 E O ( & ) telle que g = g2 sur D1. Soient E Dl et L une sous-varit linaire affine de @" de dimension complexe n - 1 passant par et telle qu'il existe un point ( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prouver, il existe une fonction f holomorphe dans D n L qui ne peut tre tendue en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il rsulte du Lemme 6.4 que f est la restriction D n L d u n e fonction g holomorphe
174
VIL Problme de Levi
sur D (le Lemme 6.4 est donn sous l'hypothse d u n ouvert 0 strictement pseudoconvexe, mais on remarque que la dmonstration utilise seulement le fait que Ho>'(R) O). Mais cette fonction g s'tend en une fonction holomorphe au voisi= nage de ce qui contredit l'hypothse faite surf. Par consquent D est un domaine O dholomorphie. Terminons ce paragraphe en regroupant dans un seul nonc les rsultats du Corollaire 7.3, du Thorme 7.6 et du Thorme 1.13 du chapitre VI. Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont quivalentes : i) D est un domaine d'holomorphie. ii) D est holomorphiquement convexe. iii) D est pseudoconvexe. iv) Ho>'J(D) O s i l 5 q 5 n - 1. =
8. PROBLCME DE LEVI DANS LES VARITS ANALnIQUES COMPLEXES
L'objet de ce paragraphe est de relier dans une varit analytique complexe la notion de convexit holomorphe et l'existence d u n e fonction dexhaustion plurisousharmonique de classe C2.
A. Rsolution du dans les varits analytiques complexes

Dans tout le paragraphe X dsignera une varit analytique complexe de dimension n. Dfinition 8.1. Un ouvert D relativement compact dans X est dit strictement pseudoconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2 dfinie dans un voisinage du bord de D et telle que D n U ~ = { z E U ~ ID D p ( z ) < O} e t d p ( z ) # Opourtoutz E dD.
Remarque : La notion de fonction plurisousharmonique et strictement plurisousharmonique a bien un sens dans une varit analytique complexe car elle est invariante par changement de coordonnes holomorphes.
La dfinition d u n ouvert strictement pseudoconvexe donne ici concide avec celle du chapitre Vi lorsque X = C". On peut galement remarquer qu'un tel domaine est bord C2.
-
Contrairement ce qui se passe dans C" , on ne peut pas toujours rsoudre le d dans un ouvert strictement pseudoconvexe d u n e varit analytique complexe
quelconque. Nanmoins la Proposition 3.1 ainsi que sa dmonstration restent encore valables dans ce cadre plus gnral.
8. Problme de Levi dans les varits analytiques complexes
175
Thorme 8.2. Soient D un ouvert strictement pseudoconuexe bord C2 relativement compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors i) il existe des oprateurs linaires continus T: de dans Ai(:(D) telsque,sif E C:,,(D) vrifiedf E c;,,(D), o n a
Cp,,(o)
o KQest un oprateur compactdeC;,q(D) dans lui-mme, ii) si q 2 1, dT,P dfinit un oprateur linaire continu de Z,,,(D)dans luimme dont limage est de codimension finie, iii) Ej(:(D) est un sous-espace vectoriel ferm de codimension finie de
z , pq
(D).
Nous allons prouver maintenant que, si un ouvert D de X admet une fonction dfinissante strictement plurisousharmonique de classe C2 dfinie au voisinage de D et pas seulement sur un voisinage de d D , alors on peut rsoudre le dans D. Notons quun domaine strictement pseudoconvexe de cc possde cette proprit (cf chapitre Vi, Thorme 3.19), mais ce nest pas le cas dun domaine strictement pseudoconvexe d u n e varit analytique complexe quelconque.
Dfinition 8.3. Unefonction continue sur X valeurs relles est dite dexhaustion si pour touta E R,lensemble{z E X I p ( z ) < O } est relatiuementcompactdansX. Nous nous intressons aux varits analytiques complexes qui possdent une fonction dexhaustion strictement plurisousharmonique de classe C2. Proposition8.4. Si X admet unefonction dexhaustion strictement plurisousharmonique de classec, alors elle possde unefonction dexhaustion strictement plurisousharmonique de classe C2 dont lensemble des points critiques est discret. Cette proposition est une consquence immdiate du Lemme de Morse suivant : Lemme 8.5. Soient une varit analytique complexe et p une fonction strictement plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE strictement plurisousharmonique de classeC2 dans X telle que i) p - p, ainsi que ses drives premires et secondes sont majores par sur
X,
ii) lensembleCrit (p,) = { z E X iii) pE = p s u r K .
I dp, (2) = O } est discret dans X ,
Dmonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors deux suites douverts (Uj)jEw. et (Vj)jEw. relativement compacts dans X tels que
dX\UKC
j=l
u uj,
oc>
176
VU. Problme de Levi
b) pour t o u t j , V, est un domaine de carte et Uj CC Vj,
c) V, n K = 0 pour tout j, d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que
LnV,#0.
Grce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~ de fonctions de classe C dans X telles que pour tout j on ait " 1) xj = O dans un voisinage de X \ V, et par consquent xj = O sur K , 2) la fonction p . . . x j est strictement plurisousharmonique dans X 1 et n'a qu'un nombre fini de points critiques sur K . . . j , 3) la fonction x j ainsi que ses drives premires et secondes sont majores par ~ / 2 sur X . j
+ + +
xj convient.
Alors pE = p
03
j=l
Dans les varits analytiques complexes nous devons remplacer la notion d'extension strictement pseudoconvexe lmentaire par celle un peu plus gnrale d'lment d'extension strictement pseudoconvexe pour pouvoir traverser les points critiques. Dfinition 8 6 On appelle lment d'extension strictement pseudoconvexe u n .. couple ordonn [O1,821 d'ouverts de X bord de classe C2 tel que 81 c 8 2 satisfaisant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un domaine de carte de X contenant 8 2 \ 81 et des domaines Dl et 0 2 strictement pseudo~convexestelsqueD1 c D 2 , 0 2= 1 U D 2 , B i n D 2 = D1,(l \ D 2 ) n ( & \Ol) = 0 et une application biholomorphe dfinie sur un voisinage de 7 valeurs dans Cn telle que h ( D j ) ,j = 1,2, soit un domaine born strictement pseudoconvexe bord C2 de C" . Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa dmonstration le Thorme 1.6 par le Thorme 5.3, le Thorme 2.2 par le Thorme 7.1 et la Proposition 3.1 par la Proposition 8.2. Nous allons tendre le Lemme 4.3 au cas o la fonction p possde des points critiques isols.
Lemme 8.7. Soit p : X + I une fonction strictement plurisousharmonique de R classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p ( z ) < a } pour a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,, vrifiant - E 5 a < O < p 5 E il existe u n nombre fini de domaines 81, . . . ,ON telsque D, = 8 c . . . c ON c Dp e t p o u r j = 1 , . , , , N - 1, [Oj,Oj+l] soit un 1 lment d'extension strictement pseudoconvexe.
Dmonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \ D v E 0 soit fini et contenu dans dDo. Notons < I , . . . ,<M les points critiques de p ) contenus dans DO et choisissons Vi,. . . ,VM des ouverts de X deux deux disjoints tels que , % et Vj soit contenu dans un domaine de carte de X pour tout $ j = 1,. . . ,M. Comme dDo est compact il existe des ouverts V M + .~ .,,V, conte.

N
177
nus chacun dans un domaine de carte de X tels que Crit(p) f? (
U 5 )= 0 et j=M+1
C
j=l
dDo \ Crit(p) C
\ U V,. SoitE1 telque0 < ~1 < &oetDE1 D-E, j=M+1

C
U Vj.
Choisissons des fonctions ( x j ) . j = l , , . . ,de classe C" ~ telles que supp x

j
support compact dans Cn
V,, j
N
= 1,. . . ,N et
=1
x j
= 1 sur D E ,\ DPEl. E tel que Soit
O<E<E1.Pouraetbfixsteisque-E-<a<O <p<E,onpose
k
Ok = (2
I p ( z ) - a < (P - C Y ) C X j ( Z ) }
j=l
alors D, = 01 C . . . C lomorphes sur
ON C
Do. Notons ( z l , , . . . ,zn,) des coordonnes hoN J=1

ZV,
V,
et posons C =
sup
J 1
strictement plurisousharmonique, il existe y
> O tel que pour tout <

J
. La fonction p tant
E Cn et
36
j=l
( d x j ( z ) Ipour z E
-
DE1 D-E1,alors si E < min(ii,&,) pour tout j \
I , . . . ,N
1,[ O j , O j + l ] est un lment d'extension strictement pseudoconvexe. O
Remarque :Si dDo nCrit ( p ) = 0 on peut autoriser CY = O ou ,O = O dans le Lemme

8.7.
Comme dans le cas de Cn, on peut dfinir la notion d'extension strictement pseudoconvexe dans les varits analytiques complexes.
Dfinition 8.8. Soient D CC 0 CC X des ouverts de X . On dira que est une extension strictement pseudoconvexe de D s'il existe un voisinage U de (;2 \ D et une fonction p strictement plurisousharmonique de ciasseC2 sur U telle que
D fl U = { z E U I p ( z ) < O} et d p ( z ) # O si z E a D R n U = { z E U I p ( z ) < 1) et d p ( z ) # O si z E d o .
Remarque :Grce au Lemme 8.5 la fonction p peut tre choisie telie que Crit(p) soit discret. En utilisant le Lemme 8.7 la place du Lemme 4.3, la dmonstration de la Proposition 4.5 s'tend aux extensions strictement pseudoconvexes dans les varits andytiques complexes. On obtient donc : Proposition 8.9. Soient D e t a des ouverts de X , D CC extension strictement pseudoconvexe de D. Alors
R CC X
tels que
soit une
178
i) lapplication restriction est un isomorphisme, ii) pour tout (p,q),O I 5 n,O 5 y 5 n, lapplication restriction p Zp,q(2) Zp,q(D) -+ estdimagedense.
De mme le Lemme 4.7 est encore vrai sous la forme suivante : Proposition 8.10. Soient D et R deux ouverts de X tels que D cc 0. On suppose quil existe un voisinage U de R\D et unefonction strictement plurisousharmonique p de classec telle que D n U = { z E U I p ( z ) < O},dp(z) # O siz E i)D, D U { z E U I p ( z ) I } CC 0, pour toutC > O. Alors lapplication restriction C
H p i q ( R ) HP, (D) -+ 0,1,2

est injective pour tout ( p , q ) tel que O 5 p 5 n , l 5 q 5 n.
Nous pouvons maintenant prouver le rsultat principal de ce paragraphe. Thorme 8.11. Soient X une varit analytique complexe possdant une fonction dexhaustion p strictement plurisousharmonique de classe C 2 et D un ouvert de X dlfiniparD = { z E X I p ( z ) < (Y}telquedp(z) # Osiz E i)D. i) Pourtoutcouple(p,q),O5 p I, i I 5 n n q HP>q O , 1 / 2 ( 0 ) = 0. Plus prcisment il existe un oprateur linaire continu T de lespace de Banach Z i , q( D )duns lespacede Banach hP!t-l ( D ) tel que
-
dTf
f sur D pour toute f E Z;,,(D).
ii) Toute (p,O)-forme diffrentielle continue sur D et holomorphe dans D peut tre approche uniformment s u r ) par des (p,O)-formes holomorphes sur X . iii) Pour toutcouple (p,q),O 5 p 5 n,l 5 q 5 n
H P > * ( X= o. )
Dmonstration. Grce au Lemme 8.5 appliqu avec K = D , on peut supposer que Crit(p) est discret. Notons (YO = minp(z). Si z E X vrifie p ( z ) = (YO, alors
ZEX
E Crit(p). Cet ensemble tant discret, il nexiste quun nombre fini de tels points z dans X . Par consquent, pour E > O assezpetit Dao+E= ( z E X p ( z ) < (YO E } est biholomorphe une runion finie de domaines strictement pseudoconvexes borns bord C 2 de CCZ et donc daprs le Corollaire 5.2, si O 5 p < n et 1 5 q 5 n
2
0,1/2(Dao+4 = 0. Mais D est une extension strictement pseudoconvexe de Dao+E, Proposition 8.9 la implique donc que, si O 5 p 5 n et 1 5 q 5 n,
(8.2)
HP>q -
H:,i/2(D) = O.
179
Lexistence de loprateur T est alors une consquence du Thorme 8.2 et de la proposition 5 de lannexe C. Nous avons ainsi prouv il. Puisque le couple ( D a o + E , Xvrifie les hypothses de la Proposition 8.10, lassertion iii) rsulte de ) (8.2). Prouvons iil pour terminer. Puisque Crit p est discret, on peut construire une suite (pj)jew de rels tels que PO = <Y < /31 < P 2 < . . . tendant vers linfini telle que, si Do, = ( 2 E X I p ( z ) < /3j},dp(z) # O si t E dDoj. Pour tout J E N, Dp,,, est alors une extension strictement pseudoconvexe de Do,. Grce a lassertion ijl de la Proposition 8.9, pour tout E > O, si f E Z ~ , o ( ~ ) , on peut construire une suite (fJ)jEfde formes diffrentielles telles que fj E z,O,o(Dp,),fo= f et Ifj+i - fj(O,Da, < +. La suite ( f j ) j e w converge uniformment sur tout compact vers une (p,O)-forme holomorphe sur X telle que
If-
fl0,D
< E.
B. Problme de Levi
Dans tout le paragraphe X dsignera une varit analytique complexe de dimension n. Dfinition 8.12. Pour tout compact K d e X , on dfinit
ii-x = ( 2 E x
If(z)l
I SUP If(<)l,VfE Q ( X ) } . :
CEK
Lensemble k x est appel lenveloppe holomorphiquement convexe de K dans X . Si K = K x , alors K est dit O(X ) -convexe.
Dfinition 8.13. Une varit analytgue complexe X est holomorphiquement convexe si pour tout compact K de X , K x est compact. Dfinition 8.14. Une varit analytique complexe X de dimension n est une varit de Stein si i) X est holomorphiquement convexe, ii) pour tout point z E X , il existe n fonctions f i , . . . ,f n E Q ( X ) qui forment un systme de coordonnes locales au voisinage de X (cest--direil existe un voisinage U de z tel que lapplication F : H (f1 (<) , . . . ,fn (<)) soit biholol morphe de U sur louvert F ( U )de P .
<
Exemple :Daprs le Thorme 1.13du chapitre VI tout domaine dholomorphie de en est une varit de Stein.
Dfinition 8.15. Un sous-ensemble V dune varit analytique complexe X de dimension n est une sous-varit analytique de dimension m < n si i) V est ferm,
180
VU. Problme de Levi
ii) pour tout z E V il existe un voisinage w de z et des coordonnes locales (z1, . . . ,z,) d e X tellesque
w
nV
{< E w
I ~ m + i ( < ) . . . = zn(<) = O}. =
Remarquons que si ( f i , . . . ,f,) est un systme de coordonnes locales de X au voisinage de z E V , il existe m de ces fonctions qui forment un systme de coordonnes locales de V au voisinage de z . On en dduit aisment le rsultat suivant : Proposition 8.16. Toute sous-varit analytique complexe d'une varit de Stein est une varit de Stein. En particulier toute sous-varit analytique complexe de Cn est une varit de Stein.
Remarque :On peut prouver, mais nous ne le ferons pas dans ce volume, que toute varit de Stein est biholomorphiquement quivalente une sous-varit analytique complexe d u n certain <CN ( c f [Ho],3 5.3 par exemple).
Thorme 8.17. Soit X une varit de Stein, K un compact de X et U un voisinage de K x . Alors il existe une fonction cp strictement plurisousharmonique de classe C" dans X telle que i) cp < O surK etcp > O s u r X \ U , ii) { z E X I cp(z) < c } CC X pourtoutc E R.
h
Dmonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe, on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 =
h
K , ~j c
Kj+, et x = u K
j=l
cc
~Posons u1 = u et vj = .
Kj,,
pourj
2 2. Pour
chaquej,choisissonsdesfonctionsfjkE O ( X ) , k = I , . . . k.teilesqueIfjkl < 1 ' 3,. sur K j et max I f j k ( z )I > 1,si z E Kj+2 \ U (il en existe car K j = K j ) .De plus,
l<k<k,
grce la condition ii) de la Dfinition 8.14, on peut, quitte ajouter des fonctions, supposer que le rang de la matrice
est gal n pour tout z E Kj. En prenant des puissances des f j k on peut mme s'arranger pour que
k,
(8.3)
k=l
1 fjk(z)I2 < 2+,

si
si z E K~
E Kj+2
\ Uj.
k=l
181
Grce (8.3),la srie

j,k
f j k ( z )f j k ( )
converge uniformment sur tout com-
pact de X x X et dfinit une fonction qui est holomorphe en z et antiholomorphe en <, par consquent la fonction cp(z) = -1
+
i=l
Cm dans X . I1 est clair que cp(z) > j - 1,si z E X \ U j ,d'aprs (8.4), donc cp > O sur X \ U et cp < O sur k donc sur K d'aprs (8.3). De plus iil est vrifie grce (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne suprieure d'une famille de fonctions plurisousharmoniques. Il reste prouver que cp est strictement plurisousharmonique. Soit E X fix et (21, . . . ,zn) des coordonnes locales holomorphes au voisinage de <. Supposons que pour tout E Qin
( k=l I
k.l
fjk(t)12)
est de classe
<
<
alors pour tout j
ce qui implique 5 = O car la matrice
(2
(2)) k = l ,
[=I,
estderangnsit E K3.0
.n
Pour prouver la rciproque du Thorme 8.17 nous aurons besoin du lemme suivant :
Lemme 8.18. Soit X une varit analytique complexe possdant une fonction dexhaustion p strictement plurisousharmonique de classe C2. il Soit[ E X , a = p([) e t D , = {t E X I p ( t ) < a } . Supposons que d p ( z ) # O pour tout z E dD,. Alors il existe une suite (f k ) k E N J . de fonctions
holomorphes dans X et une constante C telles que a) fk(<) = 1 pourtoutk E N ' , b) If k l o , D , L C pour toutk E N ' , c)pourtoutcompactK c Da \ {I},k l o , K = O. lim If ii) Pour tout< E X et toute fonction f holomorphe dans un voisinagede[, il existe unesuite (f k ) k E N defonctions holomorphesdansX tellesque lini d fk([) =
k+m
af ( E ) .
Dmonstration
k+m
i) Soit X = (XI, . . . ,An) des coordonnes holomorphes dans un voisinage Vc de t .Posons
182
Alors IL est holomorphe dans Vc,u(<) = O et, d'aprs le Lemme 2.22 du chapitre
VI,
Re+)
= P(Z)
-
P(<)
Puisque p est strictement plurisousharmonique, aprs avoir restreint V , on peut c trouver p > O tel que
(8.5)
Reu(z) < p ( z )
p(C) - ,8lA(z)
- X(<)I2
pourtout
z E V,.
Alors e"(<) = 1 et le"(")l < 1 si z E Dan Vc \ { E } . Choisissons un voisinage We CC Vc de et une fonction x de classe C" sur X telle que x = 1 sur We et suppx CC Alors (ek"&),,,. est une suite de (0,l)-formes diffrentielles C", -fermes dans X telles que
y.
<
k+cc
Puisque dp( z ) # O si z E dD,, on peut appliquer le Thorme 8.11 i) et on obtient une suite ( V k ) k N * de fonctions continues sur D, teiies que a u k = e'"& sur D, et lim 12/klo,D, = O. Enposantfi, = Xeku-vk+uk(~),onobtientdesfonctionsJk
holomorphes dans D, telles que j k ( < ) = 1pour tout k E W , sup&,* IfklO,l), < +m et pour tout compact K c D, \ {<I, lim I f k l O , K = O. On construit aiors les
k+m
fonctions f k E
O(x) cherches en utilisant le Thorme d'approximation 8.11 ii). ii) Supposons que f ( = O. Posons = p ( < ) et considrons Vc,Wc,uet I )
(Y
comme dans la dmonstration de i). Quitte restreindre V,, on peut supposer que f est holomorphe sur En k = 1,2, . . . on dfinit - posant p k = f e'"&, une suite de (O, 1)-forme c" , 6'-fermes dans telles que supp p k CC \ I1 rsulte de (8.5) qu'il existe 6 > 0 tel que iimk+, I p k l O , p , + a = o. D'aprs le Lemme 8.5, on peut supposer que Crit(p) est discret dans X et donc choisir O < E < S assez petit pour que d p ( z ) # O si z E dD,+,. On peut alors appliquer ie Thorme 8.11 i) et trouver des fonctions u k continues sur Da+ teiies que 6'Vk = p k sur Da+ et lim I?JklO,p,+, = O. Comme = O sur We,les fonctions
h.
v w. c e
k+m
uk
sont holomorphes dans
et grce aux ingalits de Cauchy lim

k+w
6'vk
(<) = o.
Les fonctions j k , dfinies par i k = x f e k u - v k , sont continues sur Da+, holomorphes sur Da+E vrifient 6'fk (<) = 6' f (<) - 6 ' u k ( C ) . En utilisant le Thorme et 8.11 ii), on peut trouver des fonctions f k E O ( X )telles que I f k - .fk lo,D,+, < l / l ~ et par consquent iim lf,(<) - 6 ' j k ( < ) I = O, grce aux ingalits de Cauchy. Les k+ca O fonctions fk ainsi construites conviennent.
Thorme 8.19. Une varit analytique complexe X est de Stein si et seulement si X admet une fonction dexhaustion p strictement plurisousharmonique de classe C2. Pour tout a E R,les ensembles { z E X I p ( z ) 5 (Y} sont alors O(X) -convexes.
183
Dmonstration. La condition ncessaire est donne par le Thorme 8.17. Supposons que X possde une fonction dexhaustion p strictement plurisousharmonique de classe C2. La condition iil de la Dfinition 8.14 est une consquence immdiate du Lemme 8.18 ii) car pour toute famille finie de fonctions holomorphes au voisinage dun point ( de X, on peut trouver des fonctions holomorphes dans X dont le jacobien en 6 est arbitrairement proche du jacobien en ( de la famille initiale.
E Posons D , = {z E X I p ( z ) < (Y},(Y R I1 suffit de prouver que, pour tout (Y E W, ensembles D,sont O(X)-convexes. Soit ( E X \ D,. les Daprs le Lemme 8.5, il existe une fonction dexhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit ( c p ) soit discret et suffisamment proche de p pour que D, CC O,(<), pour OB = {z E X I cp(z) < p } , s i p E W. Quitte ajouter une petite constante cp, on peut supposer de plus que dcp(z) # O si z E XI,(<). En appliquant le Lemme 8.18 i) on peut alors trouver une fonction f E O(X) teiie que f(6) = i et < i sur D,. O
a,(<)
If1
Corollaire8.20. SoientX une varit de Stein, 2 et< deux points distincts de X . Alors ilexisteunefonctionf E O(X) t e l l e q u e f ( z ) # f([). Dmonstration. Daprs le Thorme 8.19, X possde une fonction dexhaustion p strictement plurisousharmonique de classe C2. Le Lemme 8.5 implique quil existe une fonction dexhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit(cp) soit discret. Sans perte de gnralit on peut supposer que p ( z ) 5 c p ( ( ) . Posons D,(<) = {< E X I p(<) < y(()}. Quitte ajouterune petite constante cp, on peut supposer de plus que dcp(<) # O si E dR,(<). En appliquant le Lemme 8.18 il et K = {z}, on peut trouver une fonction o f E O(X)telle que f(() = 1et donc If(z)l < 1 et f ( z ) # f(().
<
Corollaire8.21. Si X est une varit de Stein de dimension n, alors
Dmonstration. Cest une consquence immdiate du Thorme 8.11 iii) et du Thorme 8.19. O Remarque :Contrairement au cas des ouverts de @ (cf Corollaire 7.7) lannulation des groupes de cohomologie Ho>Q(X), q 5 n - 1,ne caractrise pas les vari15 ts de Stein parmi les varits analytiques complexes ; ces groupes sont galement tous nuls lorsque X est un espace projectif, par exemple. I1 existe nanmoins une caractrisation cohomologique des varits de Stein (cf [Gu],vol III). Proposition 8.22. SoitX une varit de Stein. Tout ouvertstrictementpseudoconvexe D cc X est une varit de Stein.
184
VU. Problme de Levi
Dmonstration. Puisque D est strictement pseudoconvexe il existe un voisinage U ~ du bord de D et une fonction p strictement plurisousharmonique de classe C2 D sur U ~ tels que D n U ~ = { z E UaD I p ( z ) < O}. Grce au Thorme 8.19, X D D possde une fonction dexhaustion p l strictement plurisousharmonique de classe C2. Fixons& > Oassezpetitpourque { z E U ~ D-E < p ( z ) < O} CC U ~ D 1 et choisissons une fonction x de classe C sur [-m,O[ telle que ~ ( t = O pour " ) t < - E , ~ ( t+ +m si t + 0 et x soit strictement convexe sur ] - &,O[. Alors ) daprs la Proposition 2.8 du chapitre VI, x o p est strictement plurisousharmonique x O p est une fonction dexhaustion sur { z E UaD I - E < p ( z ) < O} et p l strictement plurisousharmonique de classe C2 pour D. Thorme 8.19 implique Le alors que D est de Stein. O
C. Thorme d'annulation pour la cohomologie support compact. Applications
I1 rsulte des paragraphes 8.1 et 8.2 que si X est une varit de Stein de dimension n, pour tout couple (p,q),O 5 p 5 n , l 5 q 5 n H " ' 4 ( X ) = o. Nous allons nous intresser ici l'annulation des groupes de cohomologie support compact H,Piq(X)sur une varit analytique complexe X . Proposition 8.23. Soient X une varit analytique complexe de dimension n, p etq des entiers tels que O 5 p 5 n, 1 5 q 5 n. On suppose que E:-p,n-q+i(X) = {u E c n - p , n - q + i ( X ) I
O
E c:-p,n-q(x)I
est ferm dans C~-,,,-,+,(X) pour la topologie de la convergence unqorme sur tout compact de X . Si f E C:,,(X) est une forme diffrentielle continue support compact 3-ferme dans X , alors l'quation 3 g = f a une solution g E C,",,-,(X) support compact dans X si et seulement si f A cp = O pour toutecp E C F - p , n - q ( X )d-fermedansx. ,
sx
Dmonstration. Commenons par la condition ncessaire. Supposons qu'il existe g E Ci,,-,(X) support compact telle que a g = f dans X . Alors si cp E ( X )est une forme 8-ferme dans X
Cr-p,n-q
grce au Thorme de Stokes car g est support compact.
f A cp = O Prouvons maintenant la condition suffisante. Supposons que pour toute forme 8-ferme cp E Cr-p,n-q(X).Nous allons dfinir une forme lide la manire suivante : si u E En-p,n-q+l(X), O naire sur EE-,,,-,+,(X) on choisit E CE-p,n-q(X)telie que a u = u et on pose
sx
F(u)=
f Au.
185
L'application F est bien dfinie. En effet, d'aprs l'isomorphisme de Dolbeault, si w,w E C:-,,,-,(X)vrifientdw = aw = h, ilexistecp E CE,,,-,(X),d-ferme teiie que w - w - cp = d e pour E C:-p,n-q-l (X). I1 rsulte alors de la formule de Stokes que
jxf
0
(w - w - cp)
=0
et grce l'hypothse f Aw = f A w.Comme l'espace EE-,,,-,+,(X) est suppos ferm, le thorme de l'application ouverte implique qu'il existe une application linaire continue 6 de E:-p,n-q+l (X) dans CE-p,n-q(X) telle que 86 = I. L'application F vaut alors <p O 6 o
:
O cn-p,n-q(x) -+ c
sx
sx
est la forme linaire continue w i-+ f A W. Par consquent F est une forme linaire continue sur E:-p,n-q+l (X).En appliquant le Thorme de Hahn-Banach on peut tendre F en une forme linaire continue F surC:-p,n-q+l (X). La forme
sx
F dfinit donc un courant support compact qui vrifie
(-l)"+"-'dF(h)
= F(dh) = F ( d h )=
f A h = (Tf,h),
pour toute forme h E Vn,n-q(X) c'est--dire (-l)P+q-ldF = Tfo Tfest le courant dfini par f . La rgularit du d (cf. chap. V, Cor. 4.2) implique alors qu'il existe g E Cp,q-l (X) support compact telie que
(-i)P+q--'dg f =
dans
X.
Thorme 8.24. SoitX une varit de Stein de dimension n, alors
H,Plq(X)=O si O s p i n
et O < q s n - l .
Demonstration. I1 rsulte du principe du prolongement analytique que O p 5 n, car une varit de Stein ne possde pas de composante connexe compacte.
H,P>O(X)
= pourtoutp,
<
Supposons que 1 5 q 5 n. Puisque X est Stein d'aprs l'isomorphisme de Dolbeault
H,P'q(x)zz HP>"(X) = o.
Par consquent Z:-p,n-q+l (X) = E:-,,,-,+,(X) est ferm dans l'espace O Cn-p,n-q+l (X) pour O 5 p 5 n et 1 5 q 5 n. Nous pouvons donc appliquer la Proposition 8.23. Si f E Ci,q(X)est une forme diffrentielle d-ferme support compact dans X nous allons valuer f A cp pour cp E CF-p,n-q(X),8-ferme. Si 1 5 q 5 n - l,H"-P>"-Q(X) O et donc cp = 39 pour Q E Cr-p,n-q-l(X). = On en dduit en appliquant le Thorme de Stokes que
sx
186
car f est support compact. I1 existe donc g E C:,q-l ( X ) support compact telle = que g = f et par l'isomorphisme de Dolbeault cela implique H,P>q(X) O (cf chap. VI, cor. 4.3). O Ce thorme d'annulation nous permet de donner des conditions gomtriques suffisantes pour le phnomne de Hartogs-Bochner et l'extension des fonctions CR en utilisant les rsultats du chapitre V On dduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Thorme de HartogsBochner dans les varits de Stein. Thorme 8.25. Soit X une varit de Stein de dimension n,n 2 2. Alors le phnomne de Hartogs se produit dans X . Plus prcisment pour tout domaine D relativement compact bord de classec'",k >_ 1,dans X tel que X \ D soit connexe et toute fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs sur D, holomorphe dans D telle que F a D = f .
Thorme 8.26. Soient X un varit de Stein de dimension n,n 2 2, et K un compact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans X tel que 1) D \ K soit unesous-varitde classeC',k 2 1, de X \ K , 2)D\ K = I n t o \ K ) , 3) X \ (EU K ) est connexe et toutefonction C R f de classec', O 5 s 5 k,surdD \ K , il existe une fonction F de classeCs s u r D \ K , holomorphedans D \ K telleque F / a D , K = f. Dmonstration. D'aprs le Thorme 5.1 du chapitre V, il suffit de prouver que H $ l ( X \ K ) = O. Si X est de Stein de dimension n 2 2 alors par le Thorme 8.24, H;>l( X ) = O. Si K est O(X)-convexe, daprs le Thorme 8.17, K possde une suite dcroissante (Up),,, de voisinages de Stein telle que Up = K . De plus pour n 2
PEN
3,H,0>2(Vp) O et les hypothses du Thorme 2.5 du chapitre V sont satisfaites, = par consquent H : ~ ( x \ K ) = O.
Considrons maintenant le cas n = 2. Prouvons que l'hypothse ii) du Thorme 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K donns par le Thorme 8.17. Ces voisinages sont de la forme { p p < c } o p p est une fonction strictement plurisousharmonique dexhaustion de X . Donc, grce au Thorme 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p ) une forme 8-ferme support compact dans Up qui s'crit f = 8 g o g E C l( X ) est c support compact dans X . Par la formule de Stokes une telle forme vrifie
187
pour toute (2,O)-forme holomorphe cp dans X . Daprs la Proposition 8.23, pour prouver que f = ago o go E U p )est support compact dans U p ,il suffit de vrifier d u n e part que E&(U,) est ferm, ce qui est le cas car Up est de Stein (et donc H i > l ( U p= O) et dautre part que )
pour toute (2,O)-forme holomorphe $J sur U p . Mais par dfinition des U p ,$J = lim (Pnr o les (Pn sont des (2,O)-formes holomorphes sur X et donc f A II, = n-tm UP
Remarque :Pour n 2 3, nous navons pas utilis pleinement lhypothse que K est O(X)-convexe, nous avons seulement utilis le fait que K possde une suite dcroissante (Up),,, de voisinages de Stein telle que K =
n Up. Un compact
p=o
dune varit analytique complexe qui possde cette proprit sappelle un compact de Stein. Cette notion sera utilise au chapitre ViII. En particulier, il rsulte de la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relativement compact d u n e varit analytique complexe, D est un compact de Stein.
Commentaires. Le problme de Levi dans les domaines de Cn a t rsolu par Oka [Ok], en 1942, pour n = 2, puis, au dbut des annes 50, pour n quelconque par Oka [Okl,H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donn la solution d u problme de Levi dans les varits de Stein laide de la thorie des faisceaux cohrents. La premire dmonstration de la rsolubilit du dans les domaines pseudoconvexes nutilisant pas la solution du problme de Levi est due L. Hormander [HOU. Cette dmonstration parue en 1965 sappuie sur des estimations L2 pour le problme a-Neumann. Les premiers oprateurs intgraux pour rsoudre lea dans les domaines strictementpseudoconvexes de C ont t construits au dbut des annes 70 par H. Grauert et I. Lieb [GrfLi]et G.M. Henkin [He2].Leur construction utilise une formule intgrale prouve indpendamment par G.M. Henkin [Hel]et E. Ramirez [Ram].
Les mthodes que nous avons utilises dans les paragraphes 1 4 stendent ltude du dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur intress pourra consulter [HelLe2]. La dmonstration du Thorme 5.1 est due Laufer [La]. La rsolution du problme de Levi par la mthode des reprsentations intgrales est expose dans [HelLell et [Ra]. Une alternative cette mthode est la thorie L2 de Hormander qui est dveloppe dans [Ho2]. La caractrisation cohomologique des domaines dholomorphie se trouve dans [Gu]. Le Thorme 8.26 est prouv dans [LIT21 en utilisant une gnralisation du noyau de Bochner-Martinelli aux varits de Stein.
Chapitre VI11
Caractrisation des singularits illusoires pour les fonctions C R sur un bord strictement pseudoconvexe
Dans une premire partie nous donnons diffrentes caractrisations des compacts K du bord d'un domaine D strictement pseudoconvexe d'une varit de Stein de dimension n qui ont la proprit suivante : toute fonction C R continue sur d D \ K s'tend holomorphiquement D tout entier. Lorsque n = 2, nous obtenons une caractrisation gomtrique et si n 2 3, des caractrisations cohomologiques. Nous prouvons entre autres que la condition cohomologique suffisante donne dans le Thorme 5.1 du chapitre V devient ncessaire si la varit ambiante est de Stein et si on se resrtreint aux domaines strictement pseudoconvexes. Nous terminons par une caractrisation gomtrique des compacts K solutions du problme prcdent lorsque la fonction tendre est orthogonale aux (n,n - 1)-formes d-fermes dont le support ne rencontre pas K . Cette condition correspond, lorsque K est vide, celle du Thorme 3.2 du chapitre IV.
1. RDUCTION AU CAS DES FONCTIONS CONTINUES
Soient X une varit analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de d D tel que d D \ K soit une sous-varit de classe Ck,k 1, de X \ K . Le compact K est une sinO s k, sur d D si toute gularit illusoire pour les fonctions C R de classe Cs, fonction C R de classe C" dfinie sur d D \ K s'tend en une fonction holomorphe dans D et de classe Ck dans D \ K .
>
< <
Dans les chapitres prcdents nous avons donn des conditions cohomologiques (cf chap. V, th. 5.1 associ aux th. 2.5 et 2.6) et des conditions gomtriques (cf chap. ViI,th. 8.26) suffisantes pour qu'un compact K de d D soit une singularit illusoire pour les fonctions C R de classe C" sur dD. Dans ce chapitre nous alions
190
VIII. Caractrisation des singularits illusoires pour les fonctionsC R
nous intresser au cas particulier o D est un domaine strictement pseudoconvexe bord Ck, 2 2 et donner dans ce cas diffrentes caractrisations des singularits k illusoires pour les fonctions CR. Remarquons tout dabord que si D est un domaine strictement pseudoconvexe bord Ck, 2 2, de X et K un compact de d D , il existe un ouvert R de D tel que k ( d D \ K ) U R soit un voisinage de all \ K dans D \ K et toute fonction C R de classe C , O 5 s 5 k, sur d D \ K stend en une fonction holomorphe sur R et de classe C sur ( d D \ K ) R. Cest une consquence immdiate de la proposition suivante : Proposition 1.1. SoitD un domainestrictementpseudoconvexe bordek, k 2 2 , de X e t x un point de dD. Il existe un voisinage V, de x dans X tel que toute fonction C R de classeCs sur V, n d D stende en unefonction holomorphe sur V, n D et de classe C sur V, n D. Dmonstration. Daprs le Thorme 3.23 du chapitre Vi, il existe un voisinage U, de x et des coordonnes holomorphes sur ce voisinage relativement auxquelles d D est convexe. Supposons ces coordonnes choisies telles que x = O et que lhyperplan tangent en z d D ait pour quation Re z, = O. I1 existe alors E # O assez petit pour que z E { z E U, I Rez, > E } n D c U,. Posons rx = d D n { z E U, I Re z, > E } . Grce ltude faite dans le paragraphe 6 du chapitre IV, toute fonction C R de classe Cs sur rx stend en une fonction holomorphe sur D n { z E U, I Rez, > ~ } e t d e c l a s s e C ~ s u r D n {E U, I Rez, > E } . Par z O consquent V, = { z E U, I Re z, > E } convient. Grce cette remarque, nous voyons que pour ltude des singularits illusoires pour les fonctions C R sur un bord strictement pseudoconvexe on peut se limiter au cas des fonctions C R continues.
2. CAS DE LA DIMENSION 2
Soient X une varit analytique complexe et D un domaine relativement compact de X. On note O ( D )lespace vectoriel des fonctions holomorphes dfinies sur un voisinage de D. Dfinition2.1. Un sous-ensembleE d e n estO(D)-convexe sietseulementsi
h
E = E O(D)- z --{
If(z)l
L SUP If(z)l,f E O ( D ) ) .
zEE
Remarque :Si D est strictement pseudoconvexe la condition pour un sous-ensemble E de D dtre O@)-convexe est quivalente E est O(U)-convexe pour un voisinage U de D, ce voisinage pouvant tre choisi de Stein si X est de Stein. Cest
2. Cas de la dimension 2
191
une consquence du ii) du Thorme 8.11 du chapitre VII, qui implique, dans ce cas, la densit des fonctions holomorphes sur un voisinage U de D dans O@), ce voisinage pouvant tre choisi de Stein et tel que est O(U)-convexe, si X est de Stein. I1 suffit si D admet une fonction dfinissante strictement plurisousharmonique p sur un voisinage Va0 de d D , i.e. D n Va0 = { z E Va0 I p ( z ) < O} de prendre U = D U { z E Va0 I p ( z ) < E } pour E assez petit (cf chap. VII, Th. 8.19 et Prop. 8.22). Thorme 2.2. Soit D un domaine relativement compact, strictement pseudoconvexe bord Ck,IC 2 2, dune varit de Stein X de dimension 2. Alors pour tout compact K contenu dans d D , les conditions suivantes sont quivalentes : i) K est une singularit illusoire pour les fonctions C R sur d D , ii) K est O@) -convexe. Dmonstration. Prouvons ii) implique i). Soit U un voisinage de Stein de D tel que K soit O(U)-convexe, il en existe daprs la remarque car D est strictement pseudoconvexe et X de Stein. Le Thorme 8.26 du chapitre Vi1 appliqu au triplet ( U , D , K ) dont les hypothses sont clairement vrifies, implique alors que K est , une singularit illusoire pour les fonctions C R sur dD. tudions maintenant la rciproque. Puisque D est strictement pseudoconvexe, le Lemme 8.18 du chapitre V 1 implique que k , ( ~n d D = K . Soit Dl un doi ,
n dD = K et il suffit de faire une petite perturbation C2 de d D laissant fixe K point par point, on peut alors passer de D D par une suite dnombrable dlments dextension strictement pseudocond vexes ce qui donne la densit de O@) dans O@). Grce un rsultat /. Slod. kowski, que nous dtaillerons ci-dessous dans le cas o X = <c2, D \ est pseudoconvexe, cest don2 un domaine dholomorphie. I1 existe alors une fonction f holomorphe sur D \ qui ne peut stendre aucun ouvert contenant
i?O (- ) = K Q(D) Pour obtenir un tel domaine D D
maine strictement pseudoconvexe de X tel que
D c D,
Dl \ i?o(B~).fonction f est holomorphe au voisinage de d D \ K et puisque La K est une singularit illusoire pour les fonctions C R sur d D , elle stend holomorO phiquement D. On a donc D c D \ K,(E,, do k,(o, = K . l
Corollaire2.3. Soient X une varit de Stein de dimension 2 et D CC X un domaine strictement pseudoconvexe bord Ck,k 2 2, tel q u e n soit O(X)-convexe.Alors pour tout compact K contenu dans d D les conditions suivantes sont quivalentes: i) K est une singularit illusoire pour les fonctions C R sur d D , ii) K est O(X) -convexe. Exemple :Si X = C2 et D = B la boule unit de C2, un compact K de la sphre unit est une singularit illusoire pour les fonctions C R si et seulement si K est polynmialement convexe.
192
Viil. Caractrisationdes singularits illusoires pour les fonctions C R
Explicitons maintenant le rsultat de 2. Slodkowski [Sl]utilis dans la dmonstration du Thorme 2.2. Lemme 2.4. Si K est une partie compacte de C2 et fl un domaine pseudoconvexe de C2 tel que K n fl = 0, alors fl \ r? est pseudoconvexe. Plus gnralement si D est un domaine strictement pseudoconvexe et K un compact de d D , D \ K,(B) est pseudoconvexe. Ce lemme est une consquence de la Kontinuitatsatz (cf.chap. Vi, Thorme 3.4) et du principe du maximum local de Rossi. Principe du maximum local. Soient X un compact dun ouuert U de Cn, et S une partie de X U , alors S c (8sU ( S n X ) ) U , dS est le bord de S relativement o
h
Xu.
Nous ne prouverons pas ce rsultat ici, le lecteur intress pourra consulter [ROSI, [Stol ou [Stl. Dmonstration d u Lemme 2.4. Raisonnons par labsurde. Supposons que fl \ k nest pas pseudoconvexe. Notons A le disque unit de C. Daprs la Kontinuitatsatz, aprs un changement de coordonnes dans C2,le bidisque A2 ne rencontre pas K et il existe une suite ( q j ) j E de fonctions holomorphes sur un voisinage de ~ A dans C telles que Iqjl < f sur A et si on pose @ j ( s ) = ( s , q j ( s ) ) , lapplication <pj envoie dans fl \ r? de telle sorte que dist(@j(eis),r?) > 6 > O, pour tout 8 E IW et @ j ( O ) tend vers un point po E K quand j tend vers linfini. Pol sons fj ( 2 1 ,z2) = Z Z - - < p J ( Z i ) La fonction f j ainsi dfinie est holomorphe au voi-
sinage de r? n Daprs le Thorme 7.1 du chapitre VII, on peut approcher fj uniformment sur r? f? par des fonctions holomorphes dans C2. Comme
a2.
a2
,2) sur r? n dA2 et puisque la borne suprieure de Ifj I sur k n tend vers linfini avec j , on peut donc construire une fonction f holomorphe dans C2 dont la borne suprieure sur K n est strictement suprieure la borne suprieure sur K n dA2 ce qui contredit le principe du maximum local.
h
Ifj I 5 max(
a2
a2
Pour obtenir la seconde assertion il suffit de remplacer C2 par un ouvert pseudoconvexe U de C2 tel que les fonctions holomorphes sur U soient denses dans Q(D) D soit O(U)-convexe et de rpter la dmonstration prcdente. et O
3. CARACTRISATION COHOMOLOGIQUE EN DIMENSION n
23
Lorsque la dimension de la varit ambiante est plus grande que 3, nous nobtenons plus de caractrisation gomtrique pour les singularits illusoires, mais seulement une caractrisation cohomologique.
3. Caractrisation cohomologique en dimension n
23
193
Thorme 3.1. Soit D un domaine relativement compact, strictement pseudoconvexe bordek, Ic 2 2 , dune varitde Stein X de dimension n 2 3. Alors pour tout compact K contenu dans d D , les conditions suivantes sont quivalentes : i) K est une singularit illusoire pour les fonctions C R s u r d D , ii) H o l l ( X \ K ) = O, iii) H ~ ~ \ ( ) = O. Kx
Dmonstration. Limplication iii) =+ il est une consquence du Thorme 5.1 du chapitre Vcar D tant strictement pseudoconvexe et K c d D les hypothses 2) et 3) de ce thorme sont videmment satisfaites. Le fait que ii) implique iii) rsulte du Thorme 2.7 du chapitre V, car X tant une varit de Stein on a H:) ( X ) = O ( c f chap. VII, th. 8.24). I1 reste prouver que i) implique ii). Nous utiliserons le lemme suivant :
Lemme 3.2. Soient X une varit de Stein de dimension n, n 2 3, et K un compact de Stein. Alors H o ) l ( X\ K ) = O.
Dmonstration. Puisque K est un compact de Stein il possde par dfinition, une suite dcroissante (Up),,, de voisinages de Stein tels que ladhrence de Up+,soit Up. Soit f une (0,l)-forme diffrentielle CO3, dcontenue dans U, et K =
ferme sur X \ K . Choisissons une suite ( X , ) , ~ N dlments de D ( X ) tels que x, = 1 au voisinage de ,+l et x, = O au voisinage de X \ Up. Prolongeons - - x p ) f par O dans ,+1. Alors a(1 - x,)f = &yp A f estune (0,2)-forme (1 7est d-ferme support compact dans Up.Puisque 1 , un ouvert de Stein et ri 2 3, il existe une (0,l)-forme diffrentielle g, de classe C support compact dans Up telle que a(i - x , ) f = 3 g p , do a ( g p (1 - xp)f)= O sur x et comme x est , (1 - x,)f = 87, sur X . Remarquons de Stein, il existe 7, E C ( X )telle que g que yp+l - 7, est holomorphe dans X \ et que X \ p est connexe car Up , est pseudoconvexe. I1 rsulte alors du phnomne de Hartogs dans les varits de Stein ( c f .chap. VII, th. 8.25) quil existe une fonction h, holomorphe dans X telle
PEN
00
quehplX,Up = y,+l-y,.Posonsh localement finie sur X De plus on a
= y1+ C(yj+1-yj-hj).Cettesommeest
j=l
\K
et dfinit donc une fonction h de classe C sur X
\ K.
Fin de la dmonstration du Thorme 3.1.Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D et D tels que D c D C Det 0 n d D = K = D n do. Nous allons prouver qutant donn une (0,l)-forme diffrentielle f de classe C, d-ferme dans X \ K , il existe une
194
Vlll. Caractrisation des singularits illusoires pour les fonctions C R
fonction g de classe C" sur X \ K telle que d g = f . Puisque D' est un ouvert de Stein, il existe u1 E C" (D') telle que au1 = f sur D' ( c f chap. VI1 Corollaire 8.21 et Proposition 8.22). Comme 8' un compact de Stein car D" est stricteest ment pseudoconvexe, il rsulte du Lemme 3.2 que l'on peut trouver une fonction u E C"(X \ 8') que a 2 = f sur x \ 2 telle u La fonction v = u1 - u 2 est dfinie et holomorphe sur D' \ 8'qui est un voisinage de d D \ K . Puisque K est une singularit illusoire pour les fonctions C R sur d D il existe une fonction V E O ( D )qui tend 'u D. Posons
3'.
g = 7L1
=u 2
sur sur
D'
x \ D".
On dfinit ainsi une fonction de classe C" sur X\ K qui vrifie dg = f sur X \ K . 0 Remarque :I1 rsulte du Thorme 3.1 que le fait que K soit une singularit illusoire pour les fonctions C R sur le bord d u n domaine strictement pseudoconvexe ne dpend pas du domaine strictement pseudoconvexe contenant K lorsque n 2 3 mais seulement de K lui-mme et de ses proprits en tant que sous-ensemble de la varit X .
4. CARACTRISATIONDES SINGULARITSILLUSOIRES FAIBLES
Soient X une varit analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de D tel que r = d D \ K soit une sous-varit de classe C k , IC 2 1 , de X \ K . Le compact K est une singularit illusoire faible pour les fonctions C R sur d D si pour toute fonction f E C(r)orthogonale aux formes cp, de classe C" sur X , d-fermes, de bidegr (n,n - 1), dfinies au voisinage de D et support disjoint de K , i.e. fP = O, il existe une fonction F holomorphe dans D continue dans D \ K telle que FI = f . Notons que les fonctions considres sont C R , puisque les formes d exactes sont d-fermes. Nous avons dmontr au paragraphe 3 du chapitre IV que si X = , K = 0 est une singularit illusoire faible pour les fonctions C R sur ? d D et nous avons remarqu que les fonctions C R ne sont pas toujours orthogonales aux (n,n- 1)-formesd-fermes en particulier lorsque r n'est pas connexe.
sr
Commenons par des caractrisations cohomologiques.
Thorme 4.1. Soit D un domaine relativement compact, strictement pseudoconvexe bord C2 d'une varit de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont quivalentes : i) K est une singularit illusoirefaible pour les fonctions C R sur d D , ii) Hoi'(X \ K ) estspar, iii) H:' ( X \ K ) est spar.
4. Caractrisation des singularits illusoires faibles
195
Dmonstration. Commenons en prouvant que ii) implique iii). Soit f une $,O,l)forme diffrentielle de classe C sur X \ K appartenant l'adhrence de 3,5:>( X \ " K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X\ K ) est spar, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe sur X \ ( L K ) .Puisque X est une varit de Stein, de dimension n 2 2, il rsulte du phnomne de Hartogs qu'il existe une fonction 9 E O ( X )qui concide avec g en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support de go est relativement compact dans X . Par consquent H 2 l ( X \ K ) est spar. Montrons maintenant que iiil implique il. Soit f une fonction C R continue sur qui est orthogonale aux (n,n- 1)-formes diffrentielles C", d-fermes dont le support est disjoint de K . D'aprs la Proposition 1.1, f possde une extension holomorphe f un voisinage U de dans D. Soit x une fonction C sur X \ K " gale 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de est alors relativement compact dans D. Notons E l'adhrence des (0,l)-formes diffrentielles 8-exactes dans ( X \ K ) ) + .Nous allons prouver que f3x E E. Raisonnons par l'absurde. Si $ E , il existe une forme linaire continue T sur (Ccl(X \ K ) ) + telle que TI, = O et (T,f3x) On peut considrer T comme # O. un (n,n - 1)-courant sur X \ K support ferm dans X et on a (T,dg) = O pour toute fonction g E C ( X \ K ) dont le support est relativement compact dans X , " ce qui signifie que T est d-ferm. D'aprs le Corollaire 4.2 i) du chapitre V, il existe une forme diffrentielle 'p de classe C", d-ferme dans X \ K et un courant S sur - \ K , tous deux support ferm dans X , tels que T = 3s X cp. Comme f a x est d-ferme dans X \ K , on a alors
ax
fax
(CTl
d'aprs la formule de Stokes et l'hypothse sur f , ce qui contredit le choix de T donc fdx E E . Mais par hypothse H(P'l(X \ K ) est spar, donc = 89, o g est une fonction C" sur X \ K support relativement compact dans X . La fonction g est alors holomorphe sur un voisinage de X \ (D K ) et puisque X est de Stein de dimension n 2 2, il rsulte du phnomne de Hartogs qu'il existe une fonction 9 E O ( X )telle que g = g sur un voisinage de X \ ( D U K ) . En posant F = x f - g j on obtient une fonction holomorphe dans X \ K continue dans D \ K qui concide avec f au voisinage de dans D donc avec f sur .
fax
Terminons en prouvant que i) implique ii). Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que D" c D c - et D" n d D = K = D n dD'. Soit f une (0,l)-forme diffD' rentielle C", d-ferme sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la suite (8gj)jEw,o g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe ') u1 E ~ " ( 0 tel que f = au1 sur D'. Supposons dans un premier temps que n 2 3. Comme 8'est un compact de Stein, il rsulte du Lemme 3.2 que Hoil(X \ = O. I1 existe alors u E 2 C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe
8')
196
VIII. Caractrisation des singularits illusoires pour les fonctions C R

-
surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", compact dans X \ K , on a
8-fermesupport
en appliquant deux reprises le Thorme de Stokes. Soit maintenant cp une (n,n- 1)-forme diffrentielle C", 8-ferme quelconque dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D possde une base de voisinages de Stein et il existe donc une (n,n- 2)-forme $ de classe Coo,sur un voisinage relativement compact V de D telle que cp = sur V . Soit une fonction C" sur X , identiquement nulle au voisinage de D et gale 1 sur X \ V . Posons cpo = cp = (1 - x)cp - ax A $. La forme cpo s'tend par O X \ K en une forme d-ferme support compact dans X \ K . On a alors
-
a$
a(x$)
car x est nulle au voisinage de D. Puisque K est une singularit illusoire faible il existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. on pose Si
g =u -V 1 = 212
sur sur
D l
on obtient une fonction g de classe C" sur X \ que H 0 > l ( X K ) est spar.
x\D", \ K telle que dg = f ,ce qui prouve
Pour traiter le cas n = 2, la dmonstration est analogue, mais on utilise que
H O ~ ~\ (8') seulement spar (aiors qu'il tait nui pour n 2 31, ce que nous X est
allons dmontrer.
O
Proposition 4.2. Soient X une varit de Stein de dimension 2, et K un compact de Stein. Alors H p i ' ( X \ K ) ,p 2 O, est un espace vectoriel topologique spar.
Dmonstration. Prouvons tout d'abord que, pour tout compact L de X \ K , DF2(X \ K ) f i dDP>l(X\ K ) est un sous espace ferm de DF2(X \ K).I1 suffit de montrer que si f E DPi2(X \ K ) , support dans un compact L , est la limite d u n e suite (f j ) j E N d'lments de P 2 ( X \ K ) , support dans L, tels que fj = d g j , o g j E2?Pi1(X\K),alors f = d g , o g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e f X par zro, aiors, si cp E est une forme d-ferme, on a grce la formule de Stokes dgj A cp = O. f A cp = Jim
c~-~,~(x)
3'00
sx
Sx
La varit X tant de Stein, H,"-pl'(X) = O et par consquent E;-,,,(X) est ferm dans C;-,,,(X). La Proposition 8.23 du chapitre VI1 et la rgularit du 8,
197
impliquent alors que f = dh, o h E DP>'(X).Puisque K est un compact de Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme h est d-ferme sur U et on a h = du sur U , o u E CEo.Soit x E D ( X ) une fonction identiquement gale 1 au voisinage de K et support dans U . On pose g = h - ~ ( x u g est une (p,l)-forme diffrentielle C" sur X, support compact ), dans X \ K telle que 8 g = f . La proposition rsultera alors du lemme gnral suivant.
O
Lemme 4.3. Soient M une varit analytique complexe de dimension n, p etq, p 2 O, 1 1 q < n , des entiers. Si pour tout compact L de M , V p q ( M ) dVplq-l(M) est n un sous espace ferm de V p q ( M ) alors Hn-Pln-q+'(M) est spar. En particulier , H,P,q(M)est spar si et seulement si Hn-p>"-q+' ( M )est spar. Nous allons prouver que sous les hypothses du lemme l'espace
03
Er-p,n-q+l(M) = { E .
cn-p,n-q+l(M)
I
= dV,V E
cr-p,n-q(M)}
est gal au sous-espace ferm Zr-p,n-q+l(M)de Zr-p,n-q+l(M)des formes diffrentielles f vrifiant f A cp = O pour toute cp E Dp)q-'(M) telle que dp = c O dans M . Le Thorme de Stokes implique que EF-p,n-q+l(M)est contenu
,s
dans Z z p , n - q + l( M ) . tudions l'inclusion inverse. Soit f E ZEp,n-q+l ) , (M on dfinit une forme linaire continue F sur DPiq-l(M) en posant F(cp) = (-i)p+qlS,j A 'p pour 'p E D P ? ~ - ~ ( M ) . Puisque f E il existe une forme linaire H sur dDP>q-l(M) telle que F = H O 3. Pour prouver la continuit de la forme linaire H , il suffit, par dfinition de la topologie de D P ) q ( M ) , montrer que pour tout compact L de M la restriction H L de H de D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considrons une suite exhaustive ( K j ) j c .de compacts de M . Pour chaque j, notons dj la restriction de ~ = { = l'oprateur 3 l'espace de Frchet ZEq-,(Kj,L,M) f E D g , " ( M ) I
af
O sur Kj \ L } . L'espace D p q ( M ) n dDP+-'(M) est la runion des images des oprateurs 8j, mais comme il est ferm par hypothse , c'est un espace de Frchet et le thorme de Bake implique alors qu'il existe j o tel que Imdj,ne soit pas maigre. Par le thorme de l'application ouverte, l'application djo est surjective et ouverte, ce qui prouve la continuit de H L et celle de H . Par Hahn-Banach l'appliction H s'tend en un ( n - p,n - q)-courant T qui vrifie
(dT,cp)= (-l)pfq(T,8cp)= (-l)p+qF(cp) =
1
X
f A cp = (Tf,cp)
pourtoutecp E DP>Q-l(M). n a d o n c d T = Tf et commef E C,"Lp,n-q+l ( M ) , O par l'isomorphisme de Dolbeault, f E Er-p,n-q+l M ) . ( Prouvons la seconde assertion. La condition suffisante rsulte de la Proposition 8.23 du chapitre V 1 et de l'isomorphisme de Dolbeault. Si le groupe de COi homologie H,P,Q(M) spar, alors pour tout compact L de M , le sous espace est D p q( M ) n dDP,q-l ( M ) est ferm dans D p q (M ) , d'o la condition ncessaire d'aprs la premire assertion. O
198
VIII. Caractrisation des singularits illusoires pour les fonctions C R
Terminons par une caractrisation cohomologique intrinsque et une caractrisation gomtrique des singularits illusoires faibles.
Si F est un ferm de X , on note CEq(F) l'espace des germes de (p,q)-formes diffrentielles sur F , c'est--dire la limite inductive sur les ouverts U de X contenant F de la famille CEq(U), applications Z U V : CEq(U) + Crq(V) les pour V c U tant simplement les applications restriction. L'oprateur 8 : c"(F) + CEq+, ( F ) est bien dfini et c'est une application continue, qui vrifie d O 8 = O. On peut donc parler du groupe de cohomologie
o Z E q ( F ) =
{u E C,qP(F) I 8 u = O}, HP)q(F) muni naturellement de la est
topologie quotient. Thorme 4.4. Soit D un domaine relativement compact strictement pseudoconvexe bord C2 d'une varit de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont quivalentes : i) K est une singularit illusoirefaible pour les fonctions C R sur d D , ii) D c O(D) oro(D) = u { E - E c I? compact}.
h h
iii) Pour tout compact L
O(D) I c D \ K , il existe un compact
tel que
c (h)O(D).
iv) H*J-' ( K ) = O.
Dmonstration. Prouvons tout d'abord que ivl implique il. D'aprs l'quivalence entre les assertions il et iiil du Thorme 4.1, il suffit de montrer que si le groupe Hn,n-l ( K )est nul, alors H:'(X \ K ) est spar. Notons Q la famille de supports constitue par l'ensemble des ferms de X qui ne rencontrent pas K et considrons le groupe ( X \ K ) de cohomologie de Dolbeault support dans la famille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite. Soit f E Zg'"(X \ K ) une (n,n)-forme diffrentielle 8-ferme de classe C" sur X \ K support dans Q. Comme la varit X est de Stein, il rsulte du Corollaire 8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme diffrentielle g de classe C" sur X telle que 8f = g. Puisque le support de f est contenu dans q , forme g est la 8-ferme au voisinage de K . La condition ivl implique alors qu'il existe un voisinage U de K et une forme diffrentielle h de classe C sur U telle que dh = g sur " U . Si x est une fonction de classe C" support dans U et indentiquement gale 1au voisinage de K , la forme 9 = g - d x h est support dans 9 et vrifie 89 = f , donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on remplace la famiiie c par la famille Q et la famille des ferms de X \ K par la famille @. 11 en rsulte H : ~ (\x ) est spar. K Montrons que il implique iil. Supposons que K soit une singularit iiiusoire faible pour les fonctions CR sur dD. Notons d(D U ) l'algbre des fonctions continues sur I D et holomorphes dans D. Comme K est une singularit illu' soire faible, d(DU I?) n C ( r ) est une sous-algbre ferme de C ( ) (en effet c'est
199
lintersection des sous-espaces ferms Fv = {f E C(r) I r f y- = O}, o y dcrit lensemble des (n,n - 1)-formes diffrentielles de classe C30, d-fermes au voisinage de D, dont le support ne rencontre pas K ) .Par consquent lapplication restriction p de d ( D u r) sur d ( D u r) n C(r) un isomorphisme topoloest gique. Notons x son inverse. Si z est un point de D , le thorme de Hahn-Banach implique lexistence d u n e forme linaire continue : C(r) -+ C qui concide sur d ( D U I) n C(r)avec lapplication f I r e x(f Ir)(.) = f ( z ) . Grce au thorme de reprsentation de Riesz il existe donc une mesure pz de masse finie support compact sur r telle que
$J
f(z) =
Puisque d ( D n r)est une algbre, pour tout k E N,on a
fk(z)=
L L
fk f si
d ( D u r).
fdp,,
si
f E d ( D u r).
On en dduit que, pour tout k E N,
En faisant tendre k vers linfini. on obtient
lf(.)I I SUP{lf(Ol I :
ce qui prouve que z E ( s ~ p p p , ) ~et donc, par dfinition de ro(B), D (~)
c E SUPPP2)l
+ iiij.
si
f E d ( D u r)?
h
r O (- ) D
h
tudions maintenant limplication iij lemmes.
Nous aurons besoin de deux
Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe bord C2 dune varit de Stein X de dimension n 2 2 et K un compact contenu dans d D . Pour tout compact E c d D \ K , il existe un domaine D relativement compact strictement pseudoconvexe bord C2 contenant D tel que D nD = K et O@) I ~ s o i t d e n s e d a n s O ( DetuncompactE c Dl\K telqueE C )
EC>(~~).
Dmonstration. On obtient D en effectuant une petite perturbation C2 de dD laissant fixe K point par point. On peut alors passer de D D par une suite dlments dextension pseudoconvexe ce qui implique la densit de O ( 8 )D dans O@). I Pour chaque IC E E , considrons le voisinage V, de IC dans X construit dans la Proposition 1.1. On peut supposer que ne rencontre pas K . Lensemble E tant compact, E est recouvert par un nombre fini V I ,. . . ,Vp de tels V,. Notons
vz
E =
i=l
u (Vi naDl).Si D est assez proche de D , vi nD, i = 1, . . . ,p, est un doP -
maine du type tudi dans le paragraphe 6 du chapitre Vet donc E
200
Viii. Caractrisation des singularits illusoires pour les fonctions C R
Lemme 4.6. Soient Y un ouvert de Stein d'une varit de Stein de dimension n 2 2,
etE uncompactdeY. OnnoteE, = { z E X I dist(z,E)5 E } etonchoisits assez petit pour que E, soit encore un compact de Y .Alors
>O
Dmonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possde donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit dense dans O ( U )(cela rsulte immdiatement du Thorme 8.17 et de la Proposition 8.9 du chapitre VII). On a alors
dist(y,dK)= inf dist(y,dU)= inf dist(u,dU)

UU
UEU
car Y = u puisque O ( Y ) lu est dense dans O ( U ) .Comme tout lment U de U est un domaine dholomorphie car il est de Stein, il rsulte du Thorme 1.13 du chapitre Vi que
dist(y,dK)= inf dist(E,dU).

UEU
Maissi U E U , U contient E,, par consquent dist(y,dK)2 E et donc ( y ) , C
K.
A
Suite de la dmonstration du Thorme 4.4. Supposons que D C o ( D ) , alors si
a E D \ K il existe un compact E, de tel que a E (E,),(D). D'aprs le Lemme 4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel que dD' n D = K et O ( 8 ) ID soit dense dans O ( D )et un compact EL C r' = DI \ K tel que E, c (Ga)o(El).aiors On a
h h h
a E (Ea)o(D) (E&(EJ) c ( W q E y = Ainsi que nous l'avons dj remarqu dans le paragraphe 1 de ce chapitre, on peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8, C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que
A
O(D')
(Ea) = 0 et ( flD
alors que
nK
= 0, ce qui est possible car E& un compact de est
cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique
B(a,E) c
((E)u), c
((ELMU
h
et en vertu du principe du maximum local
D n B(u,E) c
h
(a)U,
o a =
n d D est un compact de I?. Si L est un compact de d D \ K , L est et recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E) par consquent il existe un compact L c tel que L c ( r , ) o ( D ) .
Terminons en prouvant que iii) implique iv). Considrons une (n,n- 1)-forme diffrentielle 'p d-ferme de classe C" sur un voisinage U de K et X une fonction de classe Coo support compact dans U et gale 1 sur un voisinage V de
201
K . Lapplicationf +-+ A p est une forme linaire continue sur O@). Posons L = D n supp ax, cest un compact disjoint de K et daprs iii), il existe un compact J?L c I tel que
sDfax
I1 rsulte du Thorme de Hahn-Banach et du Thorme de reprsentation de Riesz quil existe une mesure p L sur rL telle que (pL,f) JD = A p si f E O@). Si X D dsigne la fonction caractristique de D , a = X D ~ X p - p~ est une mesure A a! sur D u r qui vrifie (,) = O pour toute f E O ( D ) .Louvert D tant strictement pseudoconvexe, il existe un domaine G strictement pseudoconvexe tel que supp a c GI,K n G = 0 et O ( D )soit dense dans o(G) IGn(Dr). (Pour obtenir GI,il suffit de pousser lgrement le bord de D lintrieur de D au voisinage de K et de le pousser vers lextrieur prs du support de a ) .La mesure a dfinit alors un (n,n)-courant Tu support compact dans G qui vrifie (T,,f) = O pour toute f E O(G). Comme G est de Stein, il existe un (n,n - 1)-courant S support compact dans G tel que Tu = dS. Mais Toest une forme diffrentielle de classe C sur D n G, il rsulte alors de la rgularit du 8, ( c f chap. Vi, Corollaire 4.2 ii)), quil existe une forme diffrentielle po de classe C sur D n G nulle au voisinage de K telle que acpo = To sur D n GI. Considrons prsent un domaine G strictement pseudoconvexe tel que K c G c D U V . En restreignant G, la relation apo = Tuon obtient A p = 890 soit a(Xp - po) = O sur GI (on a implicitement prolong Xp par zro pour la dfinir sur GI tout entier). Puisque G est de Stein, Hnln-(G) = O et il existe donc une (n,n - 2)-forme diffrentielle II, de classe C sur G telle que Xp - po = aII, sur G. Comme X = 1 et po = O au voisinage de K , on aura aII, = p au voisinage de K , ce qui prouve que H n , n - l ( K ) = O. O
fax
a A
Commentaire.Ltudedes singularits illusoires pour les fonctions C R dfinies sur le bord dun domaine a dbut avec le travail de G. Lupacciolu et G. Tomassini [LulTo] en 1984 et sest dveloppe rapidement dans les annes qui ont suivi. Les rsultats les plus significatifs ont t prouvs par G. Lupacciolu [Lu1,2]. Un panorama de lensemble des rsultats obtenus sur ce sujet est expos dans [CifStl.
Annexe A
Varits diffrentiables, formes diffrentielles
Le lecteur trouvera ici un certain nombre d'outils lmentaires de gomtrie diffrentielle qui sont utiliss dans ce volume. Aprs avoir introduit la notion de varit diffrentiable, nous dfinissons l'algbre des formes diffrentielles et nous prouvons le Thorme de Stokes qui est le rsultat fondamental de cette annexe.
1. VARITS DIFFRENTIABLES
Dfinition 1.1. Sur un espace topologique X , une carte h de X est un homomorphisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U est le domaine de la carte h ;on dit que c'est un ouvert de carte. On dsigne parfois la carte h par le couple (U,h ).
Si V est un ouvert de X , V
c U , alors hl
est une carte de domaine V .
Dfinition 1.2. a) Deux cartes h et h' de X , de mme domaine U sont dites q-compatiblessi les deux homomorphismes rciproques h' O h-l : h ( U ) -4 h'(U)
h O h'-l : h'(U) -+h ( U ) sont de classe C'J, q E N* { m}, au sens des applications d'un ouvert de R dans P P un ouvert de R '. b) Deux cartes (U, ) et (U',h') sont dites q-compatibles si: U f l U' = 0 ou bien h hl U n U , et h' UnU, sont q-compatiblesau sens de a).
Remarque: Si n et n' sont des entiers associs aux cartes h et h', ils sont gaux lorsque h et h' sont compatibles. En effet, si q 2 1, la diffrentielled(h' O h-')(z) pour 2 E h(U ) est une bijection linaire de R* dans R"'et donc n = n . '
204
A. Vm'ts diffrentiables, formes diffrentielles
Dfinition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux deux q compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas de classeCQsont dits compatibles si leur runion est un atlas de classeCQ. Remarque :La compatibilit est une relation d'quivalence dans l'ensemble des atlas de classe CQde X . Dfinition 1.4. On appelle varit diffrentiable de classe CQ un espace topologique spar, runion dnombrable de compacts, muni dune classe d'quivalence d'atlas de classe CQ. Exemples 1)Un ouvert non vide D de Rn a une structure naturelle de varit Cm. Un atlas IdD)}. est donn par { (D, 2) La sphre de R3 est une varit C" munie d u n atlas deux cartes. 3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il existe un voisinage W, de P vrifiant d D f l W, = { x E W, I r p ( x ) = O} o r p est une fonction de classe Ck, 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors 1 d D est une varit de classe C k (c'est une consquence du thorme des fonctions implicites). Si X est une varit diffrentiable, pour tout x E X , il existe une carte (U,h) teile que x E U et h soit une application de U dans R" . L'entier n ne dpend que de 5 , c'est la dimension de X en x.I1 est clair que n est fixe sur chaque composante connexe de X . Dfinition 1.5. Une varit diffrentiable dont toutes les composantes connexes sont de dimension n sera dite de dimension n. Dfinition 1.6. Soient X et Y deux varits diffrentiables de classeCQ.Une application f : X t Y est dite de classeCP,p 5 q, si elle est continue et vrifie la condition suivante :pour tout couple de cartes (U,h ) , (V,k)de X et de Y tel que f ( U ) c V , 1'application
IC
(f
IV)
h-' : h ( U ) -+
k(V)
est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" .
Notons qu'il suffitde vrifier ces proprits pour l'ensemble des cartes d'un atlas. Si Y = R ou C, une application de classe C P de X dans Y est appele fonction de classe C P sur X . Dfinition 1 7 Soit (U,h ) une carte d u n e varit diffrentiablex de classeCQ,alors .. h est une application de classeCQde U dans R" U -+ h ( U ) c R"
5
h ( z ) = (xi(x),. . . ,xn(x))
2. Partitions de 1 'unit
205
o lesxi : U X I ,. . . ,x, sont
-+R, j
= 1, . . . ,n, sont desfonctions de classesCQsur U . Les fonctions appeles les coordonnes locales de X sur U dfinies par la carte
(U,h).
2. PARTITIONS DE L'UNIT
Dans ce paragraphe, nous construisons un outil qui permet de localiser les problmes donns sur une varit, en particulier de se ramener dans un domaine de carte. Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une fonction relle de classe Cm support compact dans U , comprise entre O et 1 et gale 1 sur A. Dmonstration. Considrons la fonction dfinie sur R par
e ( t )= O o C est une constante telle que B(t)d t = 1. Elle est de classe C sur R et son " , support est l'intervalle [- 1,il.Pour E > O fix, la fonction x e eE(x)= e
e ( t )= ce-*
<1 si It1 2 1
si It1
s ,
(T)
o 1 1 = (xf . . . x:)~/~, de classe C dans Rn, support est la boule x est " son ferme de centre O et de rayon E et elle prend ses valeurs dans [0,1]. Soit B un ouvert relativement compact de Rn tel que A
cc B cc U . Posons
= XB
QE
o X B est la fonction caractristique de B. La fonction $ est C sur R et valeurs " dans [0,1]et si E < f min (dist(B,CU), dist(A,CB)) le support de 11, est un comO pact contenu dans U et $J est constante gale 1 sur A .
Lemme 2.2. Soit U un recouvrement ouvert localement fini d'une varit diffrentiable X . Pour chaque U E U , il existe un ouvert U' tel que ' C U et l'ensemble des U' forme encore un recouvrement ouvert de X . Dmonstration. On suppose, sans perte de gnralit que X est connexe et, quitte extraire, que le recouvrement U est dnombrable puisque X est runion dnombrable de compacts (on prendra U' = 0 pour les U que l'on aura supprims). Alors
u = (Ul,U2,U3,. . .}.
1 Posons C =
~2
U1 \ ( U Uk), est un ferm contenu dans U1 et X Cl

k22
= Cl
u ~3 u . .. Soit
un ouvert tel que CI
c U; c i c ~
1 .
206
A. Varits diffrentiables, formes diffrentielles
Posons C2 = U2 \ (Ui U (
u Uk)),
k>3 -
C 2
est un ferm contenu dans U2 et X =
U: u Cz u Us u . . .. Soit Us un ouvert tel que C2 c U:
c 7 7 2 c uZ.
En itrant cette construction on obtient une famille ( U k ) k Ed'ouverts de X ~ tels que c k 11 reste prouver que cette famille constitue un recouvrement ouvert de X.
u,.
Pour tout z E X, il existe un plus grand entier n tel que z E Un, car U est localement fini. Par construction des Uk on a
zEU;U-.U:,U
k>n+l
et donc z E
u Uk car le fait de remplacer Ur,par Uk pour k 2 n + 1ne peut pas

k>l
k>n+l
! faire disparatre z puisque, par dfinition de n, z $ (
Uk).
Thorme 2.3. Soit X une varit diffrentiable. Pour tout recouvrement ouvert ( R i ) i d e X on peut trouverdes fonctions ( a i ) i E ~ ~ tellesque 1 ) cri est de classeCm support compact dans Ri, 2) sur tout compact de X un nombre fini seulement des ai ne sont pas identiquement nulles, 3)pourtoutz E X , a i ( z ) 2 e t Ccri(z)= 1.
iI
Dfinition 2.4. Unefamille de fonctions ( c r i ) i E ~ satisfaisant aux conditions du Thorme 2.3 s'appelle une partition de l'unit localement finie subordonne au recouvrement (Ri)iEI.
Dmonstration du Thorme 2.3. Supposons tout d'abord que le recouvrement ( R i ) i ~ localement fini, i.e. tout compact ne rencontre qu'un nombre fini de est ces ouverts, que tous les Ri sont relativement compacts dans X et que leur adhrence est contenue dans un domaine de carte. En appliquant le Lemme 2.2, on peut alors trouver un nouveau recouvrement (R;)~Idpendant du mme ensemble d'indices et tel que C Ri. Grce au Lemme 2.1, il existe des fonctions ( ' p i ) i ~ classe C", comprises entre O et 1 telles que le support de cpi est contenu de dans Ri et cpi est gale 1 sur R:. La somme cp = pi est dfinie sur X car pour
iEI
tout z E X seul un nombre fini de cpi(z)est non nul et elle est partout suprieure ou gale 1. Les fonctions ai = ! vrifient les conditions du thorme. $ Supposons maintenant que le recouvrement ( R i ) i est arbitraire. Comme X ~ est runion dnombrable de compacts, on peut trouver un recouvrement plus fin, ~ localement fini, ( G j ) j dpendant d u n autre ensemble d'indice J et une application de J dans I,j e i(j) tels que tout Gj est relativement compact dans X , c j est contenu dans un domaine de carte et pour tout j E J,Gj c Ri(j). D'aprs la lrepartiede la dmonstration il existe une partition de l'unit (-yj)j~ subordonne
3. Espace cotangent en un point - Formesdiffrentiellesde degr I
207
au recouvrement ( G j ) j E ~ . Posons alors cri =

i(j)=i
( a i ) i Esatisfait aux conditions l
yj, pour tout i E I . La famille

O
du thorme.
3. ESPACE COTANGENT EN UN POINT
FORMES DIFFRENTIELLES DEGR 1 DE
Soient X une varit diffrentiable de classe CQ, de dimension n et x E X. On considre lensemble des couples (U,f) U est un ouvert de X contenant o x et f E CP(U), p 5 q. On dfinit une relation dquivalence sur cet ensemble par (U,f) (U,f) si et seulement sil existe W c U n U tel que x E W et On f = w,. appelle germe de fonction CP en x une classe dquivalence pour la relation prcdente ; sil ny a pas de risque de confusion on identifie souvent un germe avec un de ses reprsentants.
fl
Dfinition 3.1. Une fonction f de classe CP,p 2 1, dfinie sur un voisinage W dun point x E X est dite stationnaire en x,sil existe une carte (U,h) telle que x E U c W et que toutes les drives partielles dordre 1 de f O h soient nulles en h(x). Un germe de fonction CP,p 2 1, en x est stationnaire si et seulement si un de ses reprsentants est stationnaire en x. (Notons qualors ils sont tous stationnaires). Notons Cg(X) lensemble des germes de fonctions C P en x et Sg(X) le sousensemble de Cg(X) constitu par les germes stationnaires. Cg(X) est un W-espace vectoriel et S g ( X )est un sous-espace vectoriel de Cg(X).On peut remarquer que Cg(X)/Sg(X)C:(X)/S:(X) pourtoutp 2 1. Dfinition 3.2. Soit X une varit de classe Cq,q 2 1. Lespace vectoriel T,*(X) = C;(X)/S:(X) estappelespacecotangentXenx.S i f E C:(X) onnotera(df), son image dans T,*(X).Les lments de T,*( X )sont les diffrentielles en x. Soit (U,h) carte telle que x E U , considrons lapplication une
eh,=: T;(x)
(dfL
Lapplication est linaire, injective. Si ( X I , . . ,xn)dsignent les coordonnes . la locales en x dfinies par la carte (U,h), famille des d(xj O h-)(h(x)) est une base de L(Rn donc Oh,, est aussi surjective, cest un isomorphisme. Lespace ,IR) vectorielT,*(X) est donc de dimensionn et (dxl),,. . . ,(dx,), forment une base de T,*(X). Nous ailons exprimer les coordonnes dun lment (df)zde T,*(X) dans cette base
tL ( w ~ , w )
4.f h-l)(+)).
O
f oh-
j=l
(h(X))d(%
h-l)(h(x))
208
j=l
Dfinition 3.3. On dfinit T * ( X ) comme la runion disjointe pour x E X des T: ( X ) ,c'estl'espace cotangent X et on notep la projection naturelle de T * ( X )
surX.
Dfinition 3.4. SoientX une uaritdiffrentiable de classeCq,q 2 1,e t A un ouuert de X . Une forme diffrentielle de degr 1sur A est une application w : A -+ T*( X )
telle quep O A = Id. Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnes locales associes. Si w est une forme diffrentielle de degr 1 sur A , on a, pour tout x E A n U ,
n
wlA"u(x) = C.j(X)(dXj)Z.
j=l
On notera d z j la forme diffrentielle de degr 1 dfinie sur U par x ct (dxj),. On peut alors crire
n
j=l
o les aj sont des fonctions dfinies sur A
nU.
La forme w sera dite de classe Ce,[ < q, si les fonctions a j sont de classe C e sur A n U . Un calcul direct prouve que cette notion est indpendante du choix des coordonnes. Exemple 3.5 :Si f est une fonction de classe C1 sur l'ouvert A de X , l'application I-+ (df), dfinit une forme diffrentielle de degr 1, continue sur A , on l'appelle la diffrentielle de la fonction f.Si A est un ouvert de Rn,df ainsi dfinie concide avec la diffrentielle de la fonction f au sens classique aprs identification de TZX avec L(Rn pour tout z E A . ,R)
4. ESPACE TANGENT EN UN POINT - CHAMPS DE VECTEURS
Soit X une varit diffrentiable de classe Cq,q 2 1,et de dimension n et II: un point de X. Une courbe dans X passant par 2 E X est une application a de classe C1 d u n intervalle ouvert I de R dans X telle que O E I et a(0) = z. On dfinit une relation d'quivalence sur l'ensemble des courbes de X passant par x par (Y p si et seulement si pour toute fonction f de classe C1 dfinie au voisinage de z on a
N
4. Espace tangent en un point - Champs de vecteurs
209
Le lecteur pourra vrifier que si X est un ouvert de IRn , Q cy(0) = P(0).
, si et seulement si
Dfinition 4.1. Lensemble des classes dquivalence de courbes de X passant par x pour la relation ci-dessus est appel espace tangent en x X . On le note T, ( X ) .
Si v E T, ( X )et si f est une fonction de classe C 1 au voisinage de x,on pose
o Q est un reprsentant de v. Cela sinterprte comme une drive directionnelle. Pour X = R, on vrifie facilement que
Remarquons que v(f) = v ( g ) si f et g E C ; ( X ) et f - g E S ; ( X ) . Si v E T, ( X ) ,on peut donc dfinir une application que lon notera encore v de T ( X ) , dans I R
v : (df)x
o f est un reprsentant de llment (df), de T,(X) et cy un reprsentant de v. Vrifions que si v1 et v2 concident en tant quapplications de T ( X ) dans IR, ils , concident en tant qulments de T, ( X ) .Soit ai un reprsentant de vi,z = 1,2. Si vl et v2 concident comme application de T ( X )dans IR, pour toute fonction f de , classe C1 dfinie au voisinage de x , on a
,(f
a)(O)
mais cela signifie que a1 et a2 sont dans la mme classe et donc que v1 = v2 dans
T,X. Un vecteur tangent en x X peut donc tre considr comme une forme linaire sur T, ( X ) .
Proposition 4.2. Soient v E T, ( X ) et f et g des fonctions de classeCl au voisinage d e x . Onapoura,b E I R
4a.f
+ b9) = 4 f ) + b v ( g ) 4 f 9 >= v(f)g(x) + f(x)v(g).

O
(Une application ayant ces proprits sappelle une drivation en 2 . )
Dmonstration. I1 suffit dappliquer les dfinitions.
Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et ( X I , .. ,xn)les . coordonnes locales dfinies par cette carte. On note ( &),la classe de la courbe
h - l ( O , . . . ,O, t ,O,. . . ,O) pour tout j = 1,.. . ,n. Si f est une fonction de
TKi
classe C1 au voisinage de x on a pour j = 1,. . . ,n
210
Proposition 4.3. Les vecteurs (&,, : ' dual de 7 ( X ) .
. . . ,( &),forment une base de ( ( X ) ) ' le 2 ' : . . . ,( G),forment la a

(&),(zIc).
Dmonstration. I1 suffit de vrifier que les vecteurs ( &),, basedualedelabase

((~IC~),)+I,...,~
deT:(X).Pourcelacalculons
ce qui prouve le rsultat.
Thorme 4 4 L'espace tangent en x X s'identifie avec le dual de l'espace cotangent ..
enxX,i.e.T,X = (T,(X))*.
Dmonstration. D'aprs la remarque qui suit la Dfinition 4.1 et le premier point . de la Proposition 4.2, T , ( X ) s'injecte dans (7'; ( X ) ) * I1 reste prouver l'inclusion inverse. Soit (U,h)une carte de X telle que IC E U , h ( z )= O et h ( U )concide avec alors grce la PropoE l'ouvert {IC IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * ,
j=l, n ...,
sition 4.3 il existe des rels a l , . . . ,an tels que L =
aj (&),. Considrons des

j=l
fonctions yj,j= 1,.. . ,n, dfinies sur un intervalle ouvert I de IR contenant O et telles que Iyj(t)I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la courbe de X passant par IC dfinie par h-' O y o y(t) = (yl(t),. . . ,yn@)). Alors O L concide avec la classe de I? et par consquent (T,* X ) ) "c T, ( X ) . ( Remarque: T,'(X) est donc le dual de T , ( X ) et les bases a ( ( K ) x ) j = l . . . psont duales. , Onadoncsi(df), E T,*(X)
((d1~j),)j=1,...,~ et
Si nous considrons des fonctions valeurs dans @, nous pouvons dfinir l'espace vectoriel sur @ des 1-formes diffrentielles au point IC E X , valeurs complexes. On le note C : X, il s'identifie l'espace des applications IR-linaires de T T,X dans @. L'espace vectoriel @TzX est en fait le complexifi @@E T,*X de l'espace vectoriel rel T,*X, c'est un espace vectoriel de dimension complexe n. On peut considrer galement le complexifi @T,X de l'espace vectoriel rel T,X. Tout lment v E C T x X s'crit de manire unique Y = v1 iva o Y I,va E T,X. Une 1-forme diffrentielle w valeurs complexes s'tend naturellement en une application @-linaireW : CT, -+ c en posant w (v1 iva) = w (vi) iw (va). ' ' On montre facilement que CT; X et CT,X sont naturellement duaux en tant que @-espaces vectoriels.
5. Algbre des formes diffrentielles
21 1
Dfinition4.5. On d f i n i t T ( X )comme la runion disjointepourx 6 X d e s T x ( X ) ,
c'estl'espace tangent X et on notep la projection naturelle d e T ( X )sur X .

Dfinition 4.6. SoientX une varitdiffrentiable de classeC4,q 2 1,e t A un ouvert
de X . Un champ de vecteurs sur A est une application V : A p O V = Id.
+ T ( X ) telle que
Soit (U,h)une carte de X et (ICI,. . . ,IC") les coordonnes locales associes. Si V est un champ de vecteurs de A et si IC E A n U on a
On notera a le champ de vecteurs dfini sur U par IC ax, crire
( 8x1
On peut alors
o les aj sont des fonctions dfinies sur A n U .
Le champ de vecteurs V sera dit de classe C e $ classe Ce sur A n U .
< q , si les fonctions aj sont de
5. ALGBRE DES FORMES DIFFRENTIELLES
Soient X une varit diffrentiable de classe Cq:q 2 1,et z un point de X . On considre la puissance extrieure rime R,A'T: ( X ) ,de l'espace cotansur gent TZ ( X ) X en z. Pour la dfinition et les principales proprits de la puisd sance extrieure rime u n espace vectoriel le lecteur pourra consulter [Lan].Dans le cadre qui nous intresse nous allons utiliser l'interprtation plus concrte suivante de la puissance extrieure dme. Par dfinition A o T Z ( X ) = R et si T 2 1,comme T , * ( X )est le dual de T x ( X ) , on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linaires alternes sur T, ( X ) ,c'est--dire les applications r-linaires
w : T X ( X )x . . . x T 2 ( X ) +R
\
"
r-fois telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T } w(vu(l),. . . , v u ( r )= sign(g)w(v1,. . .,vr) ) o sign(a) dsigne la signature de la permutation a. En particulier w ( v 1 , . . . , v T ) = O si vi = vj pour i # j. Remarque: On a A I T , ( X ) = T , * ( X ) et si T A r T Z ( X ) = {O}.
> dimT,(X)
= d i m X , alors
212
A. Varits diffrentiables,formes diffrentielles
On appelle algbre extrieure de T; ( X )la somme A'T; ( X ) = @ ArT; ( X ) .

r>O
A. Produit extrieur
Le produit extrieur d u n e r-forme w de A r T Z ( X ) et d'une s-forme q de A s T ; ( X ) est une ( r s)-forme, note w A q, dfinie par
o l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r s}. Si r ou s est nul, par exemple T = O, w est un nombre rel et on pose w A 7) = wq.
Les relations prcdentes et la distributivit par rapport l'addition permettent de dfinir le produit extrieur de deux lments quelconques de A'T; ( X ) .On obtient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vrifie aisment que A est associative mais pas commutative. On a nanmoins
wAq= (-l)TSqAwsiw~ArTj(X)et~~AST,*(X).
Soient (U,h)une carte de X au voisinage de z et ( 2 1 , locales associes. Pour r E { 1, . . . ,n}ia famille

{ ( d z j , ) z A . . . A (dxj,.)x,l5 j i
. . . ,z,) les coordonnes
< ... < j r 5 n}
est une base de A r T ; ( X ) , en particulier d i m A ' T , ( X ) = de ArTZ ( X ) s'crit
cn et toute r-forme w
o la sommation se fait sur les r-uplets strictement croissants (jl,., j r ) de .. (1,.. . ,n}'et
( d z ~ ) = (dzj,), A ,
aJ=w((-),a
. . . A (dzj,), si J
= (jl, . . , j r ) . .
Remarquons que les coordonnes a J de w dans cette base sont donnes par
,..., ( - )a) s i J = ,
8%
(jl,...,j r ) .
8%
Dfinition 5.1. SoientX une varitdiffrentiablede classeCq,q 2 1,e t A un ouvert de X . Une r-forme diffrentielle ou forme diffrentielle de degr T sur A est une applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s i p est ZQ
XEX
projection naturelledeA'T*(X) s u r X . Soient (U,h)une carte de X et ( X I , . . ,zn) coordonnes locales associes. . les Si w est une r-forme diffrentielle sur A et si z E A n U on a
213
On notera d z la forme diffrentielle de degr r dfinie par z -) ( d z ~ ) , .On a ~ donc w = a J d z J o les U J sont des fonctions dfinies sur A n U .
J = ( j , 1 . . .,&I j , <...<j,
La forme diffrentielle w sera dite de classe Ce,! < q, si et seulement si les fonctions U J sont de classe Ce sur A n U . On noteraC:(A) l'espace vectoriel des formes diffrentielles de degr r de classe Ce sur A. Si w E CT(A)et q E C':(A), forme diffrentielle w A q dfinie par w A q ( z )= la ~ ( z ) ( z )pour tout z E A est un lment de C:+,(A).La forme diffrentielle A q d z ~J, = ( j l , . . . ,jr) donc le produit extrieur dxj, A . . . A d z j r . est Considrons l'espace vectoriel @ C:(A),le produit extrieur A que nous ver20
nons de dfinir est une loi de composition interne sur @ C:(A) ; @ C:(A) est
r20 r>O
alors une algbre appele algbre des formes diffrentielles de classe Ce sur A et note Cf(A).
B. Diffrentielle extrieure
Comme on l'a vu dans l'exemple 3.5, la diffrentielle df d'une fonction f de classe C'sur un ouvert A de X , dfinit une 1-formecontinue sur A ;on a donc une application d : C 1( A )+ C:(A) qui de plus satisfait la rgle de Leibnitz
d u g ) = gdf + f d g (cela se vrifie aisment partir de la dfinition).
On veut tendre d toute l'algbre C!(A),l 2 1. Thorme 5 2 Soient X une varit diffrentiable de classe CQ,q 2 2, et 1 un entier .. tel que O 5 e < q. Il existe une unique application linaired : Ci ( X ) -+ C: ( X )qui vrifie 1) df est la diffrentielle de f si f E C' ( X ) , 2 ) s i l 5 < q e t r 2 O alorsdw E Cf,:(X) siw E C:(X), 3)si f E C e ( X ) , 25 l 5 q, alorsd(df)= O, 4)siwl E C,'(X) etw2 E C s ( X ) alors
d(w1 A ~
=) dwl A wz
+ ( - l ) r ~Al dW2.
L'application d ainsi dflnie est appele diffrentielle extrieure sur X .

Dmonstration. Remarquons tout d'abord que, si d existe, d est un oprateur local, c'est--dire que si w1 et wz sont deux formes diffrentielles de degr T sur X qui concident sur un ouvert U de X alors dwl et dw2 concident sur U . Pour cela, montrons que si w E C,?(X)est nulle sur U dors dw = O sur U. Soit x E U et f E C ' ( X ) telle que f (z) = O et f 1 auvoisinagede X \ U ,alors si w E C f ( X ) est nulie sur U , on a w = f w . D'aprs la proprit 4) de d,
dw = d( f w ) = df A w
+fdw
214
et puisque f ( x ) = O et W ( X ) = O, on obtient d w ( z ) = O. Pour prouver l'unicit d'un oprateur d satisfaisant ij, 2j, 3j et 4) il suffit donc de considrer le cas o X est un domaine de carte U de X . Si (U,h)est une carte : de X et ( 2 1 , . . . ,xn)les coordonnes locales associes, w E C ( U )s'crit
J
o J = ( j l , . . . , j r ) E W , j ,
< . .. < j r , d x j
= dxj, A
. . . A d x j ? et U J
E C'(U).
Puisque d est linaire et d ( d x j ) = O, en appliquant 41, on obtient
et d est donc entirement dtermin par sa valeur sur les fonctions. L'oprateur d , s'il existe, tant local et unique il suffit de prouver son existence dans un domaine de carte U . De plus par linarit il suffit de dfinir d sur C:(U). Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnes locales associes. Si
w E CP(U),
W =
aJdxJsurU
on a
dw =
j 1 <...<j,
daJ A d x J =
J = ( j ,...j,)
J = ( j 1 , . . . j vj=i ) jl <...<j,
aaJ -dxj dXj
d x J sur U.
On vrifie facilement que d satisfait i), Z),3) et 4 ) . Coroiiaire5.3. Si2 5 C 5 q, d ( d w ) = O, pour toutw E C f ( X ) ;
Dmonstration. I1 suffit de prouver le rsultat dans un domaine de carte. Soient (U,h) un domaine de carte et ( X I , . . . ,xn) les coordonnes locales associes. Si w E C ; ( X ) ona
et
J = ( j i ,...fr) Ji<...<jr
Alors d(dw1,) =
J = ( j i , ...,j v )
j <...<j,. 1
( d ( d a J )A d x J - d a J A d ( d z J ) )enutilisantlapro-
1 prit 4) et la linarit de d. Grce la proprit 3 de d , d ( d a J ) = O et comme d ( d x J ) = d ( d x j , A . . . A d x j , ) on dduit des proprits 4) et 3) de d que d ( d z j ) = O. Finalement on a bien d ( d w = O. O
IV)
215
C. Image rciproque
Soient X et Y deux varits diffrentiables et p : X + Y une application de classe C1. Pour tout z E X , l'application p induit une application d p x de T x X dans T p ( x ) Y , dfinie de la manire suivante : d p x (v)est la classe de la courbe po Q o Q est un reprsentant de v E T, X . Par transposition on obtient une application pz : h'T;(zlY -+ A'TZX. Elle est dfinie par
p;W(vl,...,vT)
=W(d~z(vl),...,dllx(~r)),Si~l . . ' , v rE ,
T,X.
Si w est une forme diffrentielle sur un ouvert W de Y ,on dfinit une forme diffrentielle p * w sur p - l ( W ) en posant ( p * w ) ( z ) = & ( w ( p ( z ) ) ) pour tout z dans p - ' ( W ) . C'est i'image rciproque de w par p. On vrifie que pour les fonctions f E C 1 ( Y ) , p * f = f O p et puisque l'oprateur d concide dans ce cas avec la diffrentielle usuelle
d h * f ) ( z ) = d ( f O p)(z) = d f ( P ( Z ) )O d P ( Z ) = P * ( d f ) ( S ) .
Soient (U,h)et (V,k)deux cartes de X et Y respectivement dfinissant les coordonnes locales ( 5 1 , . . . J,) et ( Y I , . . . ,ym). On suppose que p(U) c V .Soit w une forme diffrentielle sur un ouvert W de Y dont la restriction V n W s'crit
Wlvnw =
J=(j,,...,j,)
bJdyj1 A . . ' A d y j , , jl<...<j, bJ
alors
p*w = J = ( j i,...,j T ) ji<...<j,
pd(Yj1
A ' ' .A
d(yj,
CL).
Proposition 5.4. Soient X et Y deux varits diffrentiables de classe C Q et p une application de classe C q de X dans Y . i) L'image rciproque p* est un homomorphisme d'algbre de Co ( Y )dans C,O( X )qui vrifie
~ * ( c ; ( Y )c;(x) 5 c ) si0
e < q etr 2 O .
ii) p* commute avec les diffrentielles extrieures d x et d y sur X et Y . Plus prcisment si w est une forme diffrentielle de classeCe, 5 e < q, sur Y alors
d x ( p * w )= P*(dYW).
iii) Si Z est une varit diffrentiable de classe C q et X : Y tion de classeCq alors (A o p ) * = p* O A*.
+ Z une applica-
Dmonstration. i) rsulte de l'criture en coordonnes locales.
216
A. Varits diffrentiables,formes diffrentielles
On obtient iil en se plaant dans un domaine de carte V de Y . Si w E C:(Y) s'crit
alors
J = ( j i .. , j r )
jl<,,,<jT
= p*
(
J = ( j i ,...,jr)
dbJ A d y J )
il<...<&
= P*(dYW)
car p* est un homomorphisme d'algbre et iil est vrai pour les fonctions. Pour obtenir iii) il suffit d'appliquer la dfinition de l'image rciproque.
0
6. INTGRATION DES FORMES DIFFRENTIELLES
Dans cette section on s'intresse l'intgration des n-formes diffrentielles sur une varit diffrentiable oriente de dimension n.
A. Varits orientables
Dfinition 6.1. Une varit X de classe C Q de dimension n est dite orientable s'il existe une forme diffrentielle0 dedegrn continuesurx qui nes'annule passurX. 1 Deux formes diffrentielles0 et 0 2 dfinissent la mme orientation sur X s'il existe 1 une fonction f continue, positive sur X telle que 0 = f 0 2 . Une varit orientable sur laquelle on a choisi une orientation est dite oriente.
Remarque :Pour tout II: E X , l'espace vectoriel AnTZ ( X ) est de dimension 1 donc deux n-formes 0 et 0 2 continues qui ne s'annulent pas sur X diffrent d u n e 1 fonction continue sur X qui ne s'annule pas, cette fonction garde donc un signe constant sur chaque composante connexe de X . Si X est orientable et connexe il y a donc exactement deux orientations possibles sur X .
6. Intgration des formes diffrentielles
217
Si X est oriente par R, le systme de coordonnes locales (21, . . ,x,) associ .

la carte (U,h)est dit positivement orient si la forme diffrentielle dzl A .
. .Adz,
dfinit la mme orientation que R, Soit p : (X1,Rl) -+ (X2,R) unC' diffomorphisme entre deuxvarits diffrentiables orientes X1 et X2, on dit que p conserve l'orientation si p*R2 = f R 1 o f est une fonction positive sur XI. Exemples 1) Si (ti, . . . ,t,) sont les coordonnes usuelles de IRn, la n-forme diffrentielle d t 1 A . . . A d t , dfinit une orientation sur R,. 2) Un ouvert non vide D de R" est une varit oriente si on le munit de l'orientation induite par celle de R" . 3) Si D C IRn est un ouvert bord Ck,k 2 1,l'orientation usuelle de D induit une orientation sur bD de la manire suivante : soient x E bD et T une fonction dfinissante de classe Ck pour D sur un voisinage U de x,i.e. U n D = { y E u l T ( y ) <}etdr(y)#siyE U n b D . Quitte restreindre U ,on peut supposer qu'il existe un systme de coordonnes positivement orient dfini par une carte (U,h)avec h = ( T , x ~.,. . J,), les ( n 1) dernires coordonnes formant un systme de coordonnes locales sur bD n U . On oriente alors bD fi U par la ( n - 1)-forme Z*(dz2 A . . . A dz,) o z est l'injection de b n U dans U . Cette orientation est indpendante du choix de la D fonction dfinissant T de D et s'tend bD tout entier en utilisant une partition de l'unit (cf chap. II, 8). Si X est une varit de classe C*,q deux cartes de X, alors
1, de dimension n et (Ui,hi)et (Uj,hj)
hi O h;'
: hj(ui n
uj)+ R"
est une application de classe C*,q 2 1et on pose
dij(x) = det[J(hi O h;')(hj(z))] pourx E Ui n Uj

o J dsigne la matrice jacobienne.
Proposition 6.2. La varit X est orientable si et seulement si X possde un atlas {(Ui,hi)}i,~ pourtouti,j E I , d i j ( x ) > six E Ui n Uj. telque,
Dmonstration. On peut supposer que X est connexe. Soit R une forme diffrentielle continue de degr n sur X qui ne s'annule pas sur X. Si (Ua,ha) une carte est dont les coordonnes locales associes sont ( X I , . . . ,x,), on pose Ra = d z l A . . . A dz,, c'est une n-forme continue, sans zros sur U,. Pour tout a E X il existe une carte (U,,h,) telle que a E Va et R = gaRa o ga est une fonction continue, strictement positive sur U, (il suffit de remplacer h a ( z ) = ( 2 1 , . . . J , ) par (21,. . . ,zn-l, 2 - ) si ncessaire). De plus sur Ua n ub,on a Ra = da&,, et par , consquent dab = > O sur V a n ub.
218
Rciproquement, supposons que {(Uz,h,)},E~atlas de X tel que pour est un tout a , j E I,d,, > O sur U, n U,. Posons comme ci-dessus R, = dxl A . . . A dx, si ( X I , . . ,xn) . sont les coordonnes locales associes la carte (U,,h,). Soit (X,),~I partition de classe Cq de l'unit subordonne au recouvrement ( U Z ) a E ~ une et posons R = xzR,. La forme diffrentielle R est de classe C " et de degr n ' sur X. De plus si a E a E supp x,, a on
%I
X et si I dsigne l'ensemble des indices z ,
I tels que
on a R ( a ) # O.
B. Intgration des formes diffrentielles
Nous allons considrer successivement le cas d u n ouvert de d u n e varit diffrentiable.

1) Cas d'un
Rn puis celui
ouvert de R"
Soient U un ouvert de Rn et 77 E C ( U ) une forme diffrentielle continue de : degr n support compact dans U . I1 existe alors une unique fonction continue f support compact dans U telle que
77 = f dxl A . . . A dx,.
On Dose alors
o le membre de droite reprsente l'intgrale de f sur U par rapport la mesure de Lebesgue dans Rn .
Si W est un ouvert de R" et F : W + F ( W ) = U un diffomorphisme de classe C1, formule de changement de variable pour l'intgrale de Lebesgue dans la Rn donne
f(x)dxi...dx, L,W,
l w
f(F(t))ldet(dF(t))Idtl...dt . ,
Si F prserve l'orientation on a
det(dF(t)) > Opourtoutt

et alors
6. Intgration des formes diffrentielles
219
2) Cas d'une varit
Soient X une varit diffrentiable de classe Cq de dimension n oriente et (U,h)une carte de X dont le systme de coordonnes locales ( 2 1 , . . . ,zn) est positivement orient. Si w E CE ( U )est une forme diffrentielle continue de degr n support compact dans U , on pose
o le membre de droite est l'intgrale de la forme (h-l)*w sur l'ouvert h ( U )de IW" au sens du 1).
Vrifions que cette dfinition est indpendante du choix de la carte (U,h).Soit
(U,k) autre carte dont le systme de coordonnes locales est positivement une orient, alors l'application F = h O k-' : k ( U ) -+ h ( U )est un diffomorphisme de classe C qui prserve l'orientation et d'aprs le cas tudi en 1) '
(h-')*w=
L U )
JL,,
F*(h-l)*w =
ce qui prouve l'indpendance cherche.
.I,,,,
(h-1O
F)*w= JL(u)(k-l)*w
Considrons maintenant le problme de l'intgration des formes diffrentielles dont le support n'est plus contenu dans un domaine de carte. Soit X une varit diffrentiable de classe Cq, de dimension n, orientable, il existe alors un atlas U de X dont les domaines de carte sont connexes et tel que pour deux cartes (U,k)et (U',h') de U on ait det J(h' O h - l ) ( y ) > O pour tout y = h ( z ) , z E U ri U', o J dsigne la matrice jacobienne, d'aprs la Proposition 6.2. Supposons X connexe, oriente et considrons un atlas U = ( U i , h i ) i Ecor~ ~ respondant l'orientation de X . Soit ( x i ) i Eune partition de l'unit subordonne au recouvrement ( U i ) i E Si.w est une forme diffrentielle continue de degr n, ~ support compact dans X , on pose
On montre facilement que cette dfinition est indpendante du choix de la partition de l'unit et de l'atlas correspondant l'orientation. Si X n'est pas connexe, on pose w o les X sont les composantes connexes de X . i w=
sx
iEi
sx
'
L'expression w dfinie ci-dessus s'appelle l'intgrale de la n-forme diffrentielle w sur la varit oriente X. On remarque que si l'on change l'orientation de X , l'intgrale est multiplie par -1. Remarque :On n'a dfini l'intgrale que pour les formes diffrentielles continues support compact, il est clair que comme dans le cas de Rn on peut tendre cette notion d'autres classes de formes, par exemple les formes coefficients L1.
sx
220
7. THORME DE STOKES
Nous ne prouverons pas dans ce paragraphe le Thorme de Stokes sous ses hypothses les plus gnrales mais seulement le cas particulier qui est utilis dans ce livre. Thorme 7.1. Soit X une varit diffrentiable oriente de classe CQ,q 2 2, de dimension n et soit D CC X un ouvert relativement compact dans X bord de classe c1.S i w E c:-,(D) aiors
Remarques
1) L'hypothse de rgularit sur w signifie que w est dfinie et continue sur et que les coefficients de w dans un systme de coordonnes locales associes une carte (U,h ) sont de classe C1 dans U nD, c'est--dire que les drives partielles de ces coefficients dfinies sur U n D s'tendent continment U n D.
2) L'orientation de bD est suppose tre l'orientation induite par celle de D et on a pos
o i est l'injection de bD dans X . Dmonstration du Thorme 7.1. L'ensembleD tant compact, on peut trouver un nombre fini de cartes (U,,h,)l<,ie de X telles que DC pour un certain 2, aiors h, = (r,hl)o hl : Vi + IRn-' est dfini par restriction U, n bD des coordonnes locales sur bD et D n U, = {x E U, I -1 < r ( z ) < O}. Soit (x,) une partition de l'unit de classe CQ subordonne au recouvrement Par linarit il suffit de prouver que
i=1
u U, et si U, f l bD#0
(uz)l<zie.
bDnU,
xzw=
L,,
d ( x , w ) pour 1 F 5
e.
ConsidronstoutdabordlecasobDnU, # 0,alors (U,nbD,i, = h:lbDnu,) est une carte positivement oriente de bD. Pour simplifier les critures nous noterons U la place de U,, h la place de h, et x la place de xz.
n
j=l
g j E C1( u n O)sont support compact. Alors ( k - ' ) * i * ( x w ) = gl(O,tz,. . . ,tn)dtz A . . . A d t ,

et
On pose ( h - ' ) * ( x w ) =
g j ( t ) d t l A . . . A dtj-1 A dtj+' A . . A d t , o les
7. Thorme de Stokes
n
22 1
(h-')*d(Xw) = d ( ( h - l ) * x w ) = x ( - l ) + l % d t l dtj j=l

Puisque h ( D n U ) c { t E IRn
A dt,.
I -1 < tl < O } , ona

... dt,.
Les fonctions gj tant support compact, on obtient
%dtj
=O
j = 2, ...,n et
=/
su,
(k-l)*i*(xw) =
h(bDnU)
Supposons maintenant que Ui n bD = 0. On peut supposer que Vi c D et puisque JbDnU, x z w = O, il suffit de prouver que d ( x i w ) = O. En reprenant les calculs du cas prcdent, on remarque que l'on doit intgrer sur IRn des drives de fonctions C' support compact et que l'indice j = 1 se comporte cette fois comme les autres et par consquent d ( x i w ) = O. O
su,
Remarques 7.2
1) Si X est une varit compacte et X = D alors bD = toute forme w E ~ ? : - ~ ( x ) .
0 et
sx dw
= O pour
2) On peut tendre facilement le Thorme de Stokes aux domaines bord de classe C' par morceaux dfinis de la manire suivante : il existe un recouvrement fini { U I , .. . ,Ut} de bD par des ouverts de X et des fonctions ri E C'(!Yi) telles que
et pour tout sous-ensemble {il, . . . ,iv} de { 1, . . . ,e} on a dri, A . . . A driY # O sur Ui, A . . . A Viy. note Ci = {x E V I ri(.) = O } & = C n bD alors On i i les ensembles s i sont des varits et bD = formule de Stokes est encore valable.
U Si. Si on pose
i=l
sbD
w=
;=I
so w la s a
Annexe B
Thorie des faisceaux
Cette annexe runit les lments de thorie des faisceaux ncessaires la comprhension de la dmonstration de lisomorphisme de Dolbeault donne au chapitre V.
Dfinition 1. SoitX un espace topologique. Un prfaisceau 3 sur X est la donne U il pour chaque ouvert U de X dun ensemble non vide 3( ) , ii) pour chaque couple (U,V)douverts de X tel que U c V dune application de restriction
PUV :
3 ( V )+ 3(W
telle que 1) pour tout ouvert U de X , puu = I , 2) si U c V c W alors puw = puv pour simplifiers la place de p u v s .
p v ~ Si s E 3( )on crira souvent . V
Si les ensembles 3 ( U )sont des groupes abliens (resp. des anneaux) et les applications puv des homomorphismes de groupe (resp. danneau), le prfaisceau F est un prfaisceau de groupes abliens (resp. danneaux). Dans ce cas 3 ( 0 ) = {O}. Si 3 et sont des prfaisceaux de groupes abliens (ou danneaux), un morphisme de prfaisceau p : 3 + est une collection dhomomorphismes pu : <(U) + ( U ) qui commutent avec les applications de restriction, i.e. telle que 3 Puv O cpv = vu O Puv. Dfinition 2. Un prfaisceau 3 est un faisceau si et seulement sil satisfait aux axiomes de recollement. (RI) Sis1,s2 E 3 ( U ) oU = U Vi etsipu,usl = P U , U S Z pourtouti E I
%I
alorssi = s2. (Rz)Si U =
u Ui et si pour chaque i
%I
I il existe si E 3 ( U i ) vrifiant les
conditions de compatibilit
224
B. Thorie des faisceaux
alorsilexistes E 3 ( U ) telle que pu,^^ = si. Exemples :Si X est une varit analytique complexe O, C&, O sont des faisceaux sur X .
A. Cohomologie de Cech valeurs dans un faisceau 3
5a 5
CO,
VL,q
Soient X un espace topologique, 3 un faisceau de groupes abliens sur X et U = (Ui)iE~recouvrement ouvert de X . Sip E N,on note a = ( ( Y O , . . . ,ap) un tout lment de IP+' et on pose U, = U,, n. . TWO,. Unep-cochanec du recouvrement U valeurs dans 3 est une application qui tout lment a E IP+' associe un lment c, de 3 ( U a )et qui est alterne comme fonction de a. L'ensemble CP(U,3) des p-cochanes de U valeurs dans 3 est muni d'une structure de groupe ablien dduite de celle de 3. On dfinit l'opration cobordhp : CP(U,3) + CP+l(U,F)par
P 1 +
(SPC),
=
j=O
(-
l ) j C a o . . .&, ...aP + l
lu,
o la notation & j signifie que l'indice aj a t supprim. On pose CP(U,F)= O et S P = O pourp < O. En degr O et 1 on obtient par exemple
p = 1,c =
(C,,),(S
c)ap. = (cp. O
+ CaB)IU,o,.
Le lecteur vrifiera aisment que S P + l
S p = O.
On note ZP(U,.F) = { c E CP(U,.F) I 6Pc = O } le groupe desp-cocycies valeurs dans 3 et
EP(U,F) = {Sp-lc I c E C p - y U , F ) }
le groupe des p cobords valeurs dans 3,E p ( U , 3 ) est alors un sous-groupe de Z.(U,F). On peut dors introduire le groupe quotient
H P ( U , 3 )= Z P ( U , 3 ) / E P ( U , 3 )
on l'appelle le p-ime groupe de cohomologie de Cech de 3 relativement U . Remarquons que si c est un O-cocycle alors c, - CO = O dans U, n Up pour tout a et p. Les ( C , ) , ~ I dfinissent alors un lment s E 3(X) que slue = c,. Donc tel
H 0 ( U , 3 )= F ( X ) .
U, c'est--dire tel qu'il existe une application p : J
Maintenant, soit V = ( V , ) ~ , J autre recouvrement de X qui est plus fin que un + I telle que V, c U p ( j )pour tout j E J . On peut alors dfinir une application p. : C ' ( U , 3 ) + C'(VIF) en posant
(flC)~O-%
- Cp(<ro)...p(a,)lVe,,.,,~.
Cohomologie de tech valeurs dans un faisceau 3
225
I1 est clair que cette application commute avec 6 et dfinit donc une application p* : HP(U,F) -+ HP(V,F). Notons que l'application p* est indpendante du choix de p . En effet, si p' est une autre application ayant les mmes proprits que p , les applications p' et p'* sont homotopes. Dfinissons l'application h : P C p ( U , F )+ Cp-'(V,F) par
Un calcul direct donne la formule dhomotopie
6P-l
h + hP+'SP = P
Pp.
Par consquent si c est un cocycle, on obtient p"c - p'c = Sh'c est un cobord et p* concide donc avec p i * . Considrons qu'un recouvrement de X est un sous-ensemble de P ( X ) ,la famille de tous les recouvrements de X est alors un ensemble et nous allons pouvoir considrer la limite inductive des groupes H P ( U , 3 )par rapport l'application p * . Le p-ime groupe de cohomoiogie de cech de 3 sur X , H P ( X , 3 ) ,est la limite inductive
H P ( X , F )= 9 H P ( U , 3 )
U
quandU dcrit l'ensemble des recouvrements ouverts de X. Plus prcisment, cela signifie que les lments de H P ( X , 3 )sont les classes d'quivalence dans l'union disjointes des groupes HP(U,F) o un lment de H P ( U , 3 ) et un lment de HP(V,.F)sont identifis si leurs images concident dans H P ( W , T ) pour un recouvrement W de X plus fin que U et V .
Proposition 3. Soient X une varit diffrentiable de classe C et E le faisceau des " germes de fonction de classe CM sur X . Si 3 est un faisceau de -modules sur X , alors H P ( U , 3 ) = O pour toutp > O et tout recouvrementU de X . En particulier H P ( X , 3 ) = O pourp > O.
Dmonstration. Soient c E Z P ( U , 3 )et ( ( p i ) i ~une partition C " donne au recouvrement U . Si a E IP, on pose
de l'unit subor-
c; =
iI
(pica,.
I1 est clair que c' E CP-' ( U , 3 ) , 8est un faisceau de &-moduleset si Q E P+' car
P
(Sp-lc'), = ~ ( P i ~ ( - l ) ~ C i a o . . . , . . . , = &7i(Ca p
iEI
j=o
(6PC)iao...a,)
iEI
=
iEI
(pic,
= c,
car c est un cocycle. Ce qui termine la dmonstration.
226
B. Thorie des faisceaux
B. Suite exacte longue de cohomologie

Soient F$,% trois faisceaux de groupes abliens sur X , cp et $des morphismes de faisceau tels que la suite
O + F + 4 % 4 0
soit exacte, cest--dire cp est injectif, $ est surjectif et limage de cp est gale au noyau de $. Cette suite exacte dfinit une suite exacte
C P ( U , F ) + C(U,) 4 C(U,E)
mais en gnral la dernire application nest pas surjective. On note C,$(U,%) limage de CP(U,) dans CP(U,%). On voit facilement que 6 envoie C,$(U,E) dans C (U,%).On a ainsi dfini le complexe des cochanes relevables et on note ; H ; ( U , E ) les groupes de cohomologie associs. On obtient alors la suite exacte
+C P ( U , F ) + C(U,) 4 C,$(U,%)+ o.
Le thorme suivant rsulte alors directement du Lemme du serpent, que nous exposerons la fin de cette annexe. Thorme 4. Il existe un morphisme de connexion
6 : H;(U,%) --+ H P + l ( U , F )
et une suite exacte longue O --+ HO(U,F)
5 HO(U,) -%H i ( U , % ) d; H ( U , F ) -5 Hl(U,) 5H i ( U , % ) it H 2 ( U , F ) 4. . .
o cp* et $* sont les applications naturellement induites par cp et $,

Si V = (V,)jEjest un recouvrement plus fin que U et p : J -+ I une application telle que V, C U,,j) pour tout j E J , on peut dfinir comme prcdemment une application
p* : H,$(U,%)--+ H,$(V,%)
qui est indpendante du choix de p. Thorme 5. Si X est paracompact (cest--diresi X est spar et si tout recouurement de X admet un recouvrement plus fin localementfini) et si
O+F++E+O
est une suite exacte defaisceaux, il existe une suite exacte longue
+HO(X,F) --+ HO(X,) +HO(X,R) +H ( X , F ) --+
+H 1 ( X , )4 H l ( X , X ) +H 2 ( X , F ) --+ . . .
qui est la limite inductive sur les recouvrementsU de X des suites exactes du Thorme 4.
Lemme du serpent Dmonstration. I1 suffit de prouver que l'application naturelie
227
9 H $ ( U , X ) +lq,HP(U,3t)
U U
est un isomorphisme. Pour cela nous aiions montrer que toute cochane de 3t devient relevable dans aprs avoir pris un recouvrement plus fin. Lemme 6. Sic E C P ( U , X ) ,il existe un recouvrementv = ( V j ) j E plusfin queU et ~ uneapplicationp : J + I t e l s q u e p c E C ; ( V l i ) . Dmonstration. Puisque X est paracompact, on peut supposer que U est localement fini. On peut choisir un recouvrement (Wi)i,l tel que c V pour tout i. i Pour chaque x E X, choisissons un voisinage ouvert V, de x tel que alors i) si x E Wi, V, c Wi, ii) si x E V ou si V, n Wi # 0, aiors V, c Vi, i iii) si x E V,, Q E Ip+', alors c, E C p ( U , , X ) se relve dans (V,). Un tel voisinage V, existe car par dfinition des morphismes de faisceaux toute section de 3t se relve localement en une section de G et comme x n'appartient qu' un nombre fini d'ensembles Wi (resp. Vi)on n'a besoin de relever qu'un nombre fini de section et il n'y a qu'un nombre fini de condition pour satisfaire i) et ii).
w i
Choisissons p : X -+ I telle que 5 E W f ( , )pour tout x. La condition i) implique alors V, C IVf(,) donc le recouvrement V = ( V z ) z ,est plus fin que ~ U.Si Vzo...,p# 0, on a
v,,
n Wf(,,) 3 KO K, # 0 pour 0 5 j 5 P n
et donc V z o c U f ( z o ~ . . .daprs ii). La condition iii) implique que la section f(zp) c ~ ( ~ ~ ) . .se relve~dans (V,,) et en particulier dans (V,o . . . , p ) . Par cons.~(, ) O quent pPc est relevable dans G.
C. Lemme du serpent
Un complexe de groupes abliens ( K ' , d ) est une suite
o les K Qsont des groupes abliens et les dQdes homomorphismes de groupe tels que dQ+' O dQ = O . Les groupes de cohomologie associs au complexe ( K ' , d ) sont les H Q ( K ' )= ker dq/ I m d Q - l . Un morphisme cp du complexe ( K ' , d ) dans le complexe (L',b) est une suite ( V ~ ) ~ , dhomomorphismes de groupes cpQ : K Q -+ LQsatisfaisant les relations N de commutation
cpQ'l
O
dQ = 69 O cpQ.
I1 en rsulte que cpQ(ker Q ) c ker 6 9 et cpq(1rndQ-') c IrnbQ-'. Par consquent d cp induit, pour chaque q, un homomorphisme CpQ : H Q ( K * + H Q ( L * ) . )
228
B . Thorie des faisceaux
Lemme 7. Soit
--+
K'
-f+
L'
-% M'
-+O
une suite exacte courte de complexes de groupes abliens. Il existe alors un homomorphisme de connexion
799
: H Q ( M ' )-+ H Q + l ( K * )
telle que la suite longue de cohomologie
+HO(K') --+ HO(L') + HO(M') 3 H l ( K ' ) -+ -+ H l ( L ' ) -+ H l ( M ' ) -5 2 ( K * )+ . . . H
soit exacte. De plus pour tout diagramme commutatifde suites exactes courtes de complexes de groupes abliens.
--+
K'
--+ L'
--+ M'
Le diagramme de suites exactes longues de cohomologie associe
est cornmutat$
Dmonstration. Commenons par construire l'homomorphisme de connexion 6. Considrons le diagramme commutatif suivant o les lignes sont exactes
1
O - + O 0
KQ
-+ KQ+1 + LQ+1
dq+'
9 2
--$
1 1
3
@+I
1
LQ
1
Mq
+ O
--+
dq
1-Yq $ MQ+1 5 1 1-P+'

6q 6q+'
Kq+2
~ 9 + 2
$ 2
~ q f 2
1.
Si m E keryq reprsente l'lment { m } de H q ( M ' ) dors 6{m} = {k} E H q + l ( K )est la classe obtenue par la construction suivante
Lemme du serpent
229
k E Kq+1
's bQ[ I
E
P l
Lq+1
*q+1
1
0E
-Yq
c ) -
Mq+1
L'lment e est choisi tel que $ q ( e ) = m, ce qui est possible car $Q est surjective. Comme $ q + 1 ( 6 q e ) = yq(m) = O, il existe un unique lment k E KQ+ltel que (pq+'(k) = bq.! cause de l'exactitude de la ligne q 1. L'lment k est en fait contenu dans ker dq+' car ( p Q f 2 est injective. En effet
@+2
( dq + l IC) = P + ' ( ( p q + l k ) = P + ' ( S Q C ) = O
=+ dQ+'k = o.
L'application 29q sera bien dfinie si on prouve que la classe de cohomologie { k } ne dpend que de { m }et non du reprsentant m choisi. Soit 6 un autre reprsentant de m, alors m = m yq-lp. Grce la surjectivit de $"', il existe X E LQ-' telle que $-'(A) = p. Soit E Lq tel que $ q ( ) = m dp = $ q ( l + W I X ) . Puisque la ligne q est exacte on a = 1 6 q - l ~ ( p q ( t c ) o IC. E ~q alors S q = bq! b q ' p q ( ~ ) ( p Q + ' ( k - ) o = k d 4 1 ~ .la mme classe de cohomologie que = a
IC.
Montrons l'exactitude de la suite longue de cohomologie. Prouvons tout d'abord que ker 194 = Im $ 4 . Si { m } E I r n $ q , on peut choisir m tel que m = $?(e) avec bqC = O, il rsulte alors de la dfinition de 294 que 29q{m} = O. Rciproquement si d q { m } = { k } = O, cela signifie que k = @IC. donc @e = (pq+'(k) = ( p q + l ( d q ~ ~=) bq((p'J(i;)) i n = $"(a). . s Alors e - @ ( I C . ) E ker6q et m = $ q ( [ - @ ( I C . ) ) donc { m } E Im$Q. Montrons maintenant que Im 29q= ker +q+'. Soit { k } un lment de ker $q+' alors cpq+l(k) E Irnbq, il existe donc C tel que cpqfl(k) = 691. Si m = $ q ( [ ) on a, par dfinition de 294, {k} = 29q{m}. L'inclusion inverse est immdiate par dfinition de 29Q. La dmonstration de l'galit Im = ker $ q ainsi que la commutativit du dernier diagramme sont laisses au lecteur, O
+Q
Annexe C
Analyse fonctionnelle
Nous dsignerons par E et F des espaces de Banach sur @.

Dfinition 1. Une application 1inaireT de E dans F estcompacte sipour toutsousensemble born U de E , T (U ) est relativement compact dans F .
Remarque :I1 rsulte immdiatement de la dfinition quune application linaire compacte est continue.
Rappelons les proprits classiques des oprateurs compacts
Thorme 2. Soient E un espace de Banach, T une application linaire compacte de E dans lui-mme. 1) dim ker(1 T ) < +m. ii) Im(I + T ) est un sous-espaceferm de E . iii) dim ker(1 T ) = dim(E/ Im(1 T ) ) .
+ +
Le lecteur intress par la dmonstration de ces rsultats pourra consulter [Ru]. Dfinition 3. On appelle oprateur de E dans F une application linaire T dfinie sur un sous-espace vectoriel D ( T ) de E valeurs dans F . Lespace D ( T ) est le domaine de dfinition de T . Le graphe ( T ) de loprateurT est le sous-espace vectoriel de E x F form des ) couples ( z , T ( z )oz dcritD(T). Un oprateur T de E dans F est dit ferm si le graphe ( T ) de T est un sousespace vectorielferm de E x F .
Remarque :Daprs le thorme du graphe ferm un oprateur T de E dans F est une application linaire continue de E dans F si et seulement si D ( T ) = E et T est ferm.
Les propositions suivantes sont prouves dans lappendice 2 de [HelLe 11. Pour la commodit du lecteur nous les redmontrons ici.
232
C. Analyse fonctionnelle
Proposition 4. Soit T un oprateur ferm de E dans F de domaine de dfinition D ( T ) . Supposons que T ( D ( T ) )soit de codimensionfinie dans F , alors T ( V ( T ) ) est un sous-espace vectoriel ferm de F .
Dmonstration. Notons n la codimension du sous-espace T ( V ( T )dans F . Choi) sissons une application linaire S : C + F telle que Im S T ( D ( T ) )= F . Soit T loprateur de E @ C dans F dont le domaine de dfinition est D ( T ) = D ( T ) @ C et qui est dfini par T ( z )= T ( z )pour z E D ( T ) {O} et T(z)= S(z) pour z E {O} @ C. Loprateur T est ferm et T ( D ( T ) = F . )
Munissons D ( T ) de la norme graphe associe loprateur T, i.e. si z E = IIzlI llT(z)ll,D ( T ) est alors un espace de Banach. En effet soit (Z)CN une suite de Cauchy dans (D(T),ll /IrT,)alors ( X , ) , ~ N et ( T ( z , ) ) , ~ N des suites de Cauchy dans les espaces de Banach E @ C* et F . sont I1 existe donc z E E @ C et y E F tels que lim z = x et lim T(z,) = y. ,
D ( T ) , IIzIlr,,
71-03
n-03
Loprateur T tant ferm x E D ( T )et y = T ( z )par consquent z tend vers z , dans (D(T),llIr,,). Posons ker T = {x E D(T) I T ( z ) = O } , cest un sous-espace ferm de (D(T),ll[IrT,)car T est un oprateur ferm. Lespace vectoriel D ( T ) / ker T est donc un espace de Banach. Notons !? loprateur de D ( T ) /ker T dans F induit par T , cest une bijection de D ( T ) / ker T sur F qui est continue car T est
h
un o p r h u r ferm. Le thorme de lapplication ouverte implique alors que son inverse (TI)- est un oprateur linaire continu de F sur D ( T ) /ker T . On a
T ( D ( T ) ) ((?)-)-(D(T) =
+ {O}/
ker T)
et D ( T ) {O}/ ker T est un sous-espace ferm de D ( T ) / ker T ; la continuit de (TI)- implique donc que T ( D ( T ) ) un sous-espace vectoriel ferm de F . O est
Proposition 5. Soit T un oprateur ferm de E dans F de domaine de dBnition V ( T ) .Supposons que i) T ( D ( T ) )= F . ii) Il existe une application linaire continue S de F dans E tel que Im S c D ( T ) et I - T S est une application linaire compacte de F dans lui-mme. Alors il existe une application linaire continue? de F dans E telle que Im ? c D ( T )etTF = I .
Dmonstration. Posons K = T S - I,par hypothse cest une application linaire compacte de F dans F et T S = I K . Daprs le Thorme 2 , il, ker T S est de dimension finie il possde donc un supplmentaire topologique G dans F , i.e. G est un sous-espace vectoriel ferm de F et F = G e k e r TS. Daprsle Thorme 2 iil et iiil,Im T S est un sous-espace vectoriel ferm de codimension finie dans F , il admet donc lui aussi un supplmentaire topologique H dans F , i.e. H est un sousespace vectoriel ferm de F et F = H @ Im T S , de plus dim H = dim ker T S .
Analyse fonctionnelle
233
Puisque T ( D ( T ) ) = F , on peut construire une application linaire R : kerTS -+ D ( T ) telie que TR(kerTS) = H et T R ( z ) # O pour tout IC # O dans kerTS (si ( e l , . . . , e k ) est une base de kerTS, ( h l , .. . , h k ) une base H et &,i = 1 , . . . ,IC des lments de D ( T ) tels que T ( & ) = hi, il suffit de poser R(ei) = t i ) .On dfinit alors une application linaire continue de F dans E en posant $(x) = S(z) si z E G
$(IC) R ( z ) si x E kerTS. =
Alors T S est inversible et
5= S(TS)-l convient.
Bibliographie
[Bo] [Brl]
BOCHNERs. - Analytique and meromorphic continuation by means of Greens formula, Ann. of Math. 44 (ig43),652-673.
BREMERMANN - ber die Aquivalenzder pseudokonvexen Gebiete H.J. und der Holomorphegebiete im Raum von n komplexen Veranderlichen, Math. Ann. 128 (ig54),63-91.
H.J. BREMERMANN - Complex convexity, Trans. of the A.M.S. 82 (19561, 17-51.
[Br2]
P. [Ca/Thl CARTAN ET THULLEN - Zur Theorie der Singularitaten der FunkH. tionen mehrerer komplexen Veranderlichen, Math. Ann. 106 (ig32), 617-647.
[ci]
[Ci/St]
CIRKAE.M. - Analytic representation of CR functions, Math. USSR

Sbornik 27 (ig75), 526-553.
E.L. CIRKA ET STOUT - Removable singularitiesin the boundary, AsE.M. pects of Math., Vieweg E26 (i994), 43-104.
J. ET L. et [Di/Sc] DIEUDONN SCHWARTZ- La dualit dansles espaces (F) (vF), Ann. Inst. Fourier (Grenoble) 1 (ig4g),61-101.
[Dol] [Do21 [Eh] [Gr]
P. DOLBEAULT- Formes diffrentielles et cohomologie sur une varit analytique complexe 1, Ann, of Math. 64 (1956),83-130.
DOLBEAULT- Formes diffrentielles et cohomologie sur une varit P. analytique complexe Il, Ann. of Math. 65 (ig57),282-330.
L. EHRENPREIS - A new proof and an extension of Hartogstheorem, Bull. Amer. Math. Soc. 67 (1961),507-509.
GFIAUERT - On Levis problem and the embedding of real analytic H. manifolds, Ann. of Math. 68 (1958),460-472.
H. [GrlLi] GRAUERT ET LIEB I.. - Das Ramirezsche Integral und die Losung der Gleichungd f = LY im Bereich der beschrankten Formen, Proc. Conf. Complex Analysis, Rice Universityl969, Rice Univ. Studies 56 (1970),
236
Bibliographie
29-50. [Gu] [Harl

GUNNING - introduction to holomorphic functions ofseveral comR.C. plex variables,Wadsworth and Brooks Kole, Belmont, 1990. HARTOGS - Einige Folgerung aus der Cauchyschen integralformel bei F. Funktionen mehrerer Veranderlichen,Mnch. Ber. 36 (1906),223-242.
[HalLaI HARVEY ET LAWSON B. - On boundaries o f complex analytic varieties R. i, Ann. of Math. 102 (ig75),233-290. [Hel]
HENKIN G.M. - integral representations o f functions holomorphic in strictly pseudoconvex domains and some applications, Math. USSR Sb. 7 (1969),597-616.
[He21
HENKIN - integral representations o f functions in strictlypseudoG.M. convex domains and applications to the d-problem, Math. USSR Sb. 11 (1970),273-281.
[He/Lel] HENKIN G.M. ET LEITERERJ. - Theory o f functions on complex manifolds, Akademie-Verlag Berlin and Birkhaser-Verlag Basel, Boston, Berlin, 1984. [He/Le2] HENKIN ET LEITERERJ. - Andreotti-Grauert theory by integral forG.M. mulas, Akademie-Verlag Berlin and Progress in Math. 74 BirkhaserVerlag Basel, Boston, Berlin, 1988. [Hol] [Ho21 HORMANDER L2 estimates and existence theorems for thed operaL. tor, Acta. Math. 113 (1965),89-152.
L. HORMANDER An introduction to complex analysis in several variables, 2nd ed., North Holland Publishing CO., Amsterdam, 1973.
[KolNi] KOHN J.J. ET NIRENBERG - A pseudoconvex domain not admitting a L. holomorphic support function, Math. Ann. 201 (ig73),265-268.
KOPPELMAN - The Cauchyintegral for differentialforms, Bull. Amer. w. Math. Soc. 73 (1967),554-556. KRANTZS.G. - Function theory ofseveral complex variables,John Waiey and Sons, New York, 1982.
KYTMANOV A.M. - The Bochner-Martinelli integral and its applications, Birkhaser-Verlag Basel, Boston, Berlin, 1995.
LANG s. - Algebra, Addison-Wesley Publishing CO., 1972.
LAUFER - On the infinite dimensionalityof the Dolbeault cohomoH.B.

logiegroups, Proc. Amer. Math. Soc. 52 (i975),293-296.
LAURENT-THIBAUT Produits de courants et formule des rsidus, c. Bull. Soc. Math. France, 2e srie 105 (i981),113-158. LAURENT-THIBAUT Sur lextension des fonctions C R dans une vac. rit de Stein, Ann. Math. Pura ed. Appl. 150 (1988),141-152.
Bibliographie
237
[L-TiLe] LAURENT-THIBAUTLEITERER - Andreotti-Grauert theory on real c. ET J. hypersurfaces, Quaderni della Scuola Normale Superiore di Pisa, 1995.
LELONGP. - Les fonctions plurisousharmoniques, Ann. Ec. Norm. Sup. 62 (1945),301-338. LELONGP. - La convexit et les fonctions analytiques de plusieurs variables complexes, J. Math. Pures Appl. 31 (ig5z), 191-219. LEVIE.E. - Studii siu punti singolari essenziali delle funzioni analitiche di due O pi variabili complesse, Ann. Math. Pura ed. Appl. 17 (igio), 61-87. LUPACCIOLU - Someglobal result on extension ofCR objects in comG. plex manifolds, Trans. of the A.M.S. 321 (19901,761-774. LUPACCIOLU - Characterisation ofremovable sets in stronglypseudoG. convex boundaries, Ark. Mat. 32 (igg4),455-473. LUPACCIOLU ET TOMASSINI- Un teorema di estensione per le CRG. G. funzioni, Ann. Math. Pura ed. Appl. 137 (19841,257-263.
MARTINELLI- Alcuni teoremi integrali per le funzioni analitiche di E. pi variabili complesse, Mem. della R. Acad. dItalia 9 (19381,269-283.
MARTINELLI - Sopra una dimostrazione de R. Fueterper un teorema E. di Hartogs, Comm. Math. Helv. 15 (ig4z/43), 340-349.
NARASIMHAN - Several complex variables, Univ. of Chicago Press, R. Chicago, 1971.
NARASIMHAN - Analysis on real and complex manifolds, 2nd ed., R. Masson et Cie, Paris, 1973.
NORGUET - Surles domaines dholomorphie des fonctions uniformes E.
de plusieurs variables complexes (passage du local au global), Bull. Soc. Math. France 82 (19541, 137-159.
OKA - Collected Papers, Transl. by R.Narasimhan with comments by K. H. Cartan, R. Remmert ed., Springer-Verlag, New-York, 1984. RAMIREZ E. - Ein Divisionsproblem und Randintegraldarstellungen in der komplexen Analysis, Math. Ann. 184 (1970),172-187.
RANGER.M. - Holomorphic functions and integral representations in several complex variables, Graduate text in Math 108, Springer-Verlag, New York, Berlin, Heidelberg,Tokyo, 1986.
DE RHAM G. -
Varits diffrentiables, Hermann, Paris, 1960.
ROSSI H.
- The local maximum modulus principle, Ann. of Math. 72 (196O), 1-11.
ROSAYJ.P. ET STOUT - Rados theorem forCR functions, Proc. Amer. E.L. Math. Soc. 106 (19891, 1017-1026.
238
Bibliographie
RUDIN w. - Functional Analysis, 2nd ed., Mc Graw-Hill International Editions, 1991.
SCHWARTZ Thorie des distributions, Hermann, Paris, 1966. L. SLODKOWSKI Analytic set-valued functions and spectra, Math. Ann. z. 256 (i981),363-386. [SPI
SPIVAK - A comprehensive introduction to differential geometry, PuM. blish or Perish, Inc., Houston, 1970-1979. STOLZENBERG Uniform approximation on smooth curves, Acta G. Math. 115 (19661, 185-198.
E.L. STOUT - The theory of uniform algebras, Bogden and Quigley, Tarrytown on Hudson, 1971.
B.M. WEINSTOCK - Continuous boundary values ofanalytic functions of several complex variables, Proc. Amer. Math. Soc. 21 (1969), 463-466.
Index des notations
Espaces de fonctions, de formes diffrentielles espace des fonctions continues sur D espace.desfonctions IC fois continment diffrentiables surD espace des fonctions indfiniment diffrentiables sur D espace des fonctions continues localement holdriennes d'ordre (Y dans D espace des fonctions de classe C k dans D espace des formes diffrentielles de type (p,y) coefficients dans (D) espace des formes diffrentielles de degr p de classe C " support compact dans X espace des courants de dimension p sur X espace des courants de degr y sur X espace des courants sur X espace des formes diffrentielles de classe C " pact de X
support com
1.1
1.1
1.1
111.2
111.2
111.2 11.1
11.1
11.1
11.2 11.2
espace des formes diffrentielles de type (p,y), d-exactes coefficients dans C" ( X ) espace des courants d-exacts sur X espace des fonctions de classe C" sur X
v.4 v.4 11.1
espace des formes diffrentielles de degr p de classe sur X espace des formes diffrentielles de bidegr ( p , q ) de classe C sur X " espace des formes diffrentielles de classe C dans X "
c"
II. 1
11.7
11.2
240
Index des notations
Ep(X)
espace des formes diffrentielles de classe Coo, de bidegr ( p , q ) support dans la famille O
-
11.7
v.4
d-cohomologie des formes C" d-cohomologie des courants groupe de cohomologie de Dolbeault de bidegr ( p , q ) de X groupe de cohomologie de Dolbeault support dans la famille O groupe de cohomologie de Dolbeault Z,",,(D)/Ep!,2(D) groupe de cohomologie de Cech du faisceau F espace des fonctions holdriennes d'ordre (Y dans D espace des fonctions holomorphes sur D espace des applications holomorphes de D dans Cm faisceau des germes de p-formes holomorphes espace des fonctions plurisousharmoniques sur D espace des formes diffrentielles de type ( p , q ) ,d-ferme coefficients dans C" (A) espace des courants 8-ferms sur X
v.4
11.7
11.7
v11.3
v.4
111.2 1.1
1.5 v.4
v1.2
v.4
v.4
espace des formes diffrentielles de type ( p , q ) ,de classe Coo, 8-fermes sur X
11.7
ZgyX)
espace des formes diffrentielles d-fermes de classe Coo, de bidegr ( p , q ) support dans la famille O
11.7
boule de centre et de rayon r de C Y enveloppe holomorphiquement convexe de K relativement
<
111.1
VI.1
v1.3
1.2
1.2
R
enveloppe psh-convexe de K relativement R polydisque de centre et de rayon T bord distingu du polydisque P support singulier du courant T espace tangent en x X espace cotangent en z X espace tangent holomorphe en x X espace tangent antiholomorphe en x X
<
11.3
A.4 A.3
11.5
11.5
Index des notations

Normes
24 1
Ilf Ilk,D
norme Ck sur D norme uniforme sur D norme holdrienne d'ordre a sur D norme sur @"
11 .
1l.f
[ID
I. 1
111.2 I1 .
If
la,D
I4
K(T,S)
Autres symboles indice de Kronecker des courants T et S courant d'intgration sur Y

11.3 I .1 I
[YI
Index terminologique
analytique ensemble analytique 13 sous-varit analytique complexe 13, 179 varit analytique complexe 43 atlas 204 atlas complexe 43 biholomorphe 12 Bochner formule de Bochner-Martinelli 65 formule de Bochner-MartinelliKoppelman 61 noyau de Bochner-MartinelliKoppelman 56 Thorme de Bochner 80 transforme de Bochner-Martinelli 73 bord distingu 4 bout 92 carte carte 203 ouvert de carte 203 Cauchy fonction Cauchy-Riemann (CR) 77 fonction C R de classe Cm 94 formule de Cauchy 4 ingalits de Cauchy 5 oprateurs d e Cauchy-Riemann tangentiels 54 systme de Cauchy-Riemann homogne 2 champ champ devecteurs 211 champ de vecteurs holomorphe 47 cochaine 224 cocycles 224 cohomologie groupe de cohomologie d e Cech 224 groupes de cohomologie de Dolbeault 50 groupes de cohomologie de Dolbeault support 51 convexe holomorphiquement convexe 112, 179 O(R)-convexe 112 O@)-convexe 190
coordonnes coordonnes holomorphes 44 coordonnes locales 205 cotangent espace cotangent 208 espace cotangent en un point 207 courant courant de degr q 26 courant de dimension p 23 courant dintgration 24 courants dordre 6 24 diffrentielle diffrentielle 207 diffrentielle extrieure 213 dimension dimension 204 dimension complexe 43 disque analytique 131 distribution 28 domaine dholomorphie 109 enveloppe enveloppe dholomorphie 117 enveloppe holomorphiquement convexe 110, 179 enveloppe psh-convexe 131 exhaustion 132, 175 extension lment dextension strictement pseudo. convexe 176 extension strictement pseudoconvexe 159, 177 extension strictement pseudoconvexe lmentaire 157 faisceau 223 fonction dfinissante 51 forme forme diffrentielle 208 forme diffrentielle de degr T 212 germe 207
Hartogs
phnomne de Hartogs 17, 91 proprit de Hartogs-Bochner Cm 94
244
Index terminologique
Hessien complexe 125 holomorphe 2 image image directe 27 image rciproque 27, 215 indice de Kronecker 38 inversion locale 12 isomorphisme de Dolbeault 103 Kontinuitatssatz 131 Lemme de Morse 135 Lemme de Schwarz 9 Levi forme de Levi 125 polynme de Levi 128 noyaux rgularisants 30 oprateur domaine de dfinition d u n oprateur 231 oprateur 23 1 oprateur compact 231 oprateur de Cauchy-Riemann 50 oprateur ferm 231 oprateurs rgularisants de de Rham 36 partition de lunit 206 plurisousharmonique plurisousharmonique 124 strictement plurisousharmonique 125 polydisque 4 prfaisceau morphisme de prfaisceau 223 prfaisceau 223 principe du maximum 9 produit extrieur 212
proprit de la sous-moyenne 120 pseudoconvexe pseudoconvexe 132 strictement pseudoconvexe 138, 174 rgularises 30 section de Leray 96 singularit illusoire 189 singularit illusoire faible 194 sous-harmonique 118 Stokes formule de Stokes pour lindice de Kronecker 41 Thorme de Stokes 220 support support dun courant 25 support singulier 38 tangent espace tangent 21 1 espace tangent complexe 53 espace tangent en un point 209 thorme Thorme de Bochner 80 Thorme de lapplication ouverte 8 Thorme de Montel 11 Thorme de Rad0 16 Thorme de Riemann 15 varit varit analytique complexe 43 varit diffrentiable 204 sous-varit analytique complexe 13, 179 varit de Stein 179

Theorie Des Fonctions Holomorphes de Plusieurs Variables

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Theorie Des Fonctions Holomorphes de Plusieurs Variables

Uploaded by

Copyright:

Available Formats

Thorie des fonctions holomorphes de plusieurs variables

CHEZ LE MME DITEUR

Dans la mme collection

mthodes physiques de l'observation, par P. Lna. 1996, 2e dition,

Thorie des fonctions holomorphes de plusieurs variables

Interditions / CNRS ditions

O 1997, Interditions, 5, rue Laromiguire, 75241 Paris Cedex 05

ISBN : 2-7296-0660-2 ISSN : 2-271-05501-6

Table des matires

Proprits lmentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . .

Courants. structures complexes . . . . . . . . . . . . . .

III Noyau et formule de Bochner-Martinelli . Applications . . . 55

Table des matires

Formule de Stokes pour les fonctions C R . . . . . . . . . . .

5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un thorme d'extension de fonctions CR . . . . . . . . . . 87

Extension de fonctions holomorphes et de fonctions CR dans les varits . . . . . . . . . . . . . . . . . . . . .

1 Domainesdholomorphieetconvexitholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexit . . . . . . . . . . . . . . . . . . . . 129

danslesdomainesstrictementpseudoconvexes . . . . . . . . 163 7 Problme de Levi dans cc" . . . . . . . . . . . . . . . . . 170

Table des matires

. . . . . . 189 . . . . . . 190 . . . . . . 192 . . . . . . 194

.......................... Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . Index des notations . . . . . . . . . . . . . . . . . . . . . Index terminologique . . . . . . . . . . . . . . . . . . . .

Proprits lmentaires locales des fonctions holomorphes de plusieurs variables complexes

I. Proprits lmentaires locales

Les oprateurs de drivation holomorphe et antiholomorphe sont dfinis par

Si a = ( a l , .. . ,an)E P et ,8 = (pl,.. ,&) E P . on si 2 = ( 5 1 , . . . ,xn)est un point de R", pose

lV sont des multi-indices et

JaJ a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x= x " l . . ' x : " , = a 1

N,on dfinit la norme C k de f sur D par

Par un calcul simple on obtient

Une fonction f E C ' ( I l ) est donc holomorphe sur D si et seulement si

L'application Sa est clairement @-linaire et Ta est la conjugue de l'application

C-linaire Ta dfinie par Ta =

$$(u)dzj(a). Comme toute application R-

I. Proprits lmentaires locales

2. FORMULE DE CAUCHY DANS LES POLYDISQUES

g(C)dCl. . . dCn = inr1 . . . T ,

g(C())eisl . . . eiendl ... d, rjeieJ p o u r j = 1 , . . .,n.

2. Formule de Cauchy dans les polydisques

I. Proprits lmentaires locales

o 1 dsigne le multi-indice (1,1,. . . ,1) E IV. On a alors la majoration

et on en dduit la formule (2.4)en faisant tendre p vers T .

En multipliant les deux membres de (2.6)par pa+n et en intgrant par rapport

en utilisant le Thorme de Fubini et un passage en coordonnes polaires.

le corollaire est dmontr.

est absolument convergente si

c w finie < +cc.

Sous cette condition il existe un lment unique A de C tel que

a, et A est appele somme de la srie

est une permutation de I , srie Vla

an(,) est convergente et sa somme est

2. Formule de Cauchy dans les polydisques

De plus en drivant sous le signe

dans la formule (2.1), on obtient

La deuxime assertion du thorme est une consquence du Lemme 2.5.

I. Proprits lmentaires locales

Dmonstration. Daprs le Thorme 2.6, lensemble

f E O ( D )si et seulement si f est holo-

morphe sparment par rapport chaque variable.

3. THORME DE LAPPLICATION OUVERTE

Si f nest pas constante alors lapplication f : D ouvert de D est un ouvert de Cl.

-+ @ est ouverte (i.e. limage d u n

I. Proprits lmentaires locales

IzI onobtient lQ(lzl)l 5