SL(d,Z)

Ann. I. H. Poincaré – PR 38, 4 (2002) 581–612  2002 Éditions scientifiques et médicales Elsevier SAS. All rights reserved S0246-0203(01)01105-0/FLA

PRINCIPES D’INVARIANCE POUR LES FLOTS DIAGONAUX SUR SL(d, R)/SL(d, Z) Stéphane LE BORGNE IRMAR, Université de Rennes I, 35042 Rennes Cedex, France Reçu le 23 janvier 2001, revisé le 9 juillet 2001

R ÉSUMÉ. – Nous démontrons les principes d’invariance de Donsker et Strassen pour les flots sur SL(d, R)/SL(d, Z) définis par des matrices diagonales. La technique utilisée est la même que dans [9]. La théorie des représentations des groupes de Lie fournit des estimations de décorrélation. On en déduit un résultat d’équirépartition des feuilles dilatées par le flot qui nous permet ensuite d’appliquer la méthode de Gordin. Nous établissons également un résultat de régularité pour l’équation de cobord.  2002 Éditions scientifiques et médicales Elsevier SAS A BSTRACT. – We prove the Donsker and Strassen invariance principles for the flows on SL(d, R)/SL(d, Z) defined by diagonal matrices. For this, we use decorrelation estimations given by the representation theory of Lie groups. From them we deduce a result of equidistribution of unstable leaves for the flow and we follow Gordin’s method. We also establish a regularity result for the coboundary equation.  2002 Éditions scientifiques et médicales Elsevier SAS

Introduction et énoncés des résultats Depuis l’article de Sinaï [21] paru en 1960, la preuve du théorème limite central (TLC) dans les systèmes dynamiques de type hyperbolique a fait l’objet de très nombreux travaux. Pour les systèmes d’Anosov, on se sert généralement du codage obtenu grâce à la construction de partitions markoviennes (cf. par exemple [13,20]). Lorsque l’on sort de ce cadre (abandon de la compacité de l’espace ou de la régularité de la transformation, affaiblissement de la condition de régularité) différentes techniques peuvent être utilisées ([6,9,18,19,24]). La méthode des martingales, développée par Billingsley, Ibragimov puis Gordin [12] permet d’obtenir des résultats plus précis que le seul TLC, tel le principe d’invariance. Elle peut être appliquée à des situations où on ne dispose pas de partitions markoviennes (cf. par exemple les articles [9,18,24]). Nous employons ici cette méthode dans le cas des systèmes définis par l’action d’un groupe à un paramètre de matrices diagonales sur SL(d, R)/SL(d, Z) pour d
3. Notons G le groupe SL(d, R) et  le sous-groupe SL(d, Z). L’espace quotient G/  a une structure de variété différentiable. La mesure de Haar sur G, µ, donne une mesure

582

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

finie sur G/  invariante par translation à gauche que nous noterons µ¯ et supposerons normalisée (µ(G/ ¯ ) = 1). Nous désignerons par x la classe à gauche modulo  de l’élément x de G. Soient (Ti )di=1 une suite décroissante de d nombres positifs non tous égaux à 1 dont le produit vaut un. Appelons T la matrice     T =  



T1 T2

   .  

0 ..

. Td−1

0

Td Le groupe à un paramètre      



   T =       



T1t

T2t

t

0 ..

. t Td−1

0

Tdt

     

    t ∈R        

définit sur G/  un flot, noté encore T t , préservant la mesure µ¯ ¯ T t : G/  −→ G/  : x¯ −→ T t x. ¯ est mélangeant (cf. [5]) donc pour toute fonction Le système dynamique (G/ , T t , µ) f intégrable sur G/ , pour presque tout x¯ ∈ G/ , on a 1 lim t →∞ t

t



f (T s x) ¯ ds =

f (y) ¯ dµ( ¯ y). ¯

G/ 

0

Soit f une fonction de carré intégrable d’intégrale nulle. Sa variance, sous l’action du flot, peut être définie comme la limite, si elle existe  N

1  σ 2 (f ) = lim  n N

2   f (T s ·) ds  .  2

0

Sous la condition ∞

 s   T f, f  ds < ∞,

0

la variance existe et est égale à : σ (f ) = 2

∞





T s f, f ds.

2

0

583

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Lorsque σ = σ (f ) est strictement positif, nous dirons que la fonction f vérifie : – le théorème limite central (TLC) si     t      s  1   √ ¯ f T x¯ ds − t µ(f ¯ ) < α − (α) = 0, lim sup µ¯ x: t →∞ α   σ t 0

où  est la fonction de répartition de la loi normale centrée réduite. – le principe d’invariance de Donsker (PID) si le processus à valeurs dans l’espace des fonctions continues sur [0, 1] défini par 



1 x¯ → s → ξt (s, x) ¯ = √ σ t

t s







f T x¯ du u

t >0

0

converge faiblement vers la mesure de Wiener lorsque t tend vers l’infini, – le principe d’invariance de Strassen (PIS) si, presque sûrement, l’ensemble de fonctions sur [0, 1] 

1 s → ζt (s, x) ¯ = 2 (2t σ log log t)1/2

t s







f T x¯ du

0

u

t >0

est relativement compact dans l’ensemble des fonctions continues sur [0, 1] d’ensemble limite l’ensemble des fonctions g absolument continues sur [0, 1] telles que 1

g(0) = 0 et

g(t) ˙ 2 dt  1,

0

où g˙ désigne la dérivée de g. Nous dirons qu’une fonction f est un cobord au sens du flot s’il existe une application h finie mesurable telle que, pour tout t, pour presque tout x, on ait : t









f T s x¯ ds = h T t x¯ − h(x). ¯

0



¯ ds converge en probabilité vers 0 et Dans ce cas, quand t tend vers l’infini, √1t 0t f (T s x) f ne vérifie pas le théorème limite central. Fixons une distance riemannienne d0 sur G invariante par translation à droite et définissons une distance sur G/  en posant d(x, ¯ y) ¯ = inf d0 (x, yγ ). γ ∈

Nous noterons B(x, ¯ r) (resp. B0 (x, r)) la boule de centre x¯ (resp. x) et de rayon r pour la distance d (resp. d0 ).

584

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Soit C > 0 et p ∈ ]0, 1[ deux réels. Nous dirons qu’une fonction f définie sur G/  est (C, p)-höldérienne si, pour tout couple de points x¯ et y¯ pris dans G/ , on a   f (x) ¯ − f (y) ¯   Cd(x, ¯ y) ¯ p.

Un ensemble U ⊂ G/  étant donnés, nous désignons son bord par ∂U et, pour tout réel positif r, définissons l’ensemble ∂U (r) par 



∂U (r) = y¯ ∈ G/ /B0 (Id, r)y¯ ∩ ∂U = ∅ . Nous dirons qu’un ensemble U ⊂ G/  est (C, p)-régulier si, pour tout r > 0, 



µ¯ ∂U (r)  Cr p . Nous allons prouver les deux théorèmes suivants. T HÉORÈME A. – Soit f une fonction höldérienne ou une indicatrice d’un ensemble régulier. Alors, si f n’est pas un cobord, elle vérifie le principe d’invariance de Donsker et le principe d’invariance de Strassen. T HÉORÈME B. – Une fonction höldérienne qui est un cobord est un cobord dans l’ensemble des fonctions höldériennes. Ainsi, d’après le théorème B, une fonction höldérienne dont l’intégrale le long d’une orbite périodique n’est pas nulle, n’est pas un cobord et, d’après le théorème A, elle vérifie le principe d’invariance de Donsker et le principe d’invariance de Strassen. La technique que nous proposons ne s’applique bien qu’en temps discret. Nous ¯ mènerons donc toute l’étude dans le cadre du système dynamique (G/ , T = T 1 , µ). 2 La variance σ (ϕ) est définie comme la limite (si cette limite existe et est finie) :  1 ϕ + T ϕ + · · · + T n−1 ϕ 2 . 2 n→+∞ n

σ 2 (ϕ) = lim

Notons Sn ϕ la somme ϕ + T ϕ + · · · + T n−1 ϕ. Les versions discrètes des énoncés de l’introduction sont : – le principe d’invariance de Donsker (PID ) : soit D l’ensemble des fonctions continues à droite et ayant une limite à gauche sur [0, 1] muni de la tribu borélienne pour la topologie de Skorokhod. Lorsque σ 2 n’est pas nul, définissons le processus aléatoire à valeurs dans D 1 ξn (t, x) = √ S[nt ] ϕ(x), σ n

0  t  1; n = 1, 2, . . . .

Nous dirons que la fonction ϕ vérifie le principe d’invariance de Donsker si σ 2 n’est pas nul et si la loi de ξn converge faiblement vers la mesure de Wiener sur D. – le principe d’invariance fort de Strassen (PIS ) : soit C0 l’espace des fonctions continues sur [0, 1] muni de la topologie de la convergence uniforme et K

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

585

l’ensemble des fonctions g absolument continues sur [0, 1] telles que g(0) = 0



et

g˙ 2 dt  1,

où g˙ désigne la dérivée de g par rapport à t. Si σ 2 n’est pas nul, pour tout x dans X, considérons l’élément ζ(·, x) de C0 défini comme l’interpolation affine par morceaux de l’application définie en k/n, k  n, par : ζn (k/n, x) =

1

Sk ϕ(x). (2nσ 2 log log n)1/2

Nous dirons que la fonction ϕ vérifie le principe d’invariance fort de Strassen si σ 2 n’est pas nul et si, presque sûrement, l’ensemble {ζn , n > 2} est relativement compact dans C0 et l’ensemble de ses points limites coïncide avec K. C’est une version forte de la loi du logarithme itéré. Nous allons prouver que les fonctions ϕ appartenant à la classe C introduite ci-dessous vérifient les propriété (PID ) et (PIS ). La classe C est un ensemble de fonctions que l’on peut bien approcher par convolution. Dans la section 1, paragraphe 8 (corollaire 1.8), nous introduisons un opérateur différentiel ( et un entier m. Pour tout nombre réel strictement supérieur à 1, ρ, nous appellerons ρ-identité approchée une suite (χn ) de fonctions définies sur G, positives ou nulles, indéfiniment dérivables, d’intégrale 1, telle que, il existe C > 0 telle que, pour tout n, – le support de χn soit inclus dans B0 (Id, ρ −n ), – (m χn ∞  Cρ Cn , – χn est lipschitzienne de constante de Lipschitz ρ Cn . De telles suites existent. (Etant donnée une fonction χ positive ou nulle, indéfiniment dérivable, d’intégrale 1 dont le support est inclus dans B0 (Id, r0 ) on peut poser χn (·) = cn ρ Dn χ((ρ n −1 (.))) où cn est une constante de normalisation ( et r0 sont définis au paragraphe 1.5).) Soit ψ une fonction localement intégrable sur G. Posons : χn ∗ ψ(x) =

 G



−1



ψ g x χn (g) dµ(g) =







ψ(g)χn xg −1 dµ(g).

G

Identifions l’algèbre de Lie de G à l’ensemble des champs de vecteurs sur G invariants à droite. Alors, pour tout n, les fonctions χn ∗ ψ sont indéfiniment différentiables et, pour tout opérateur différentiel ( appartenant à l’algèbre enveloppante universelle de ¯ définie sur G/ . On G, ((χn ∗ ψ) = ((χn ) ∗ ψ. Soit ϕ une fonction µ-intégrable lui associe une fonction ϕ définie sur G localement intégrable en posant ϕ(x) = ϕ(x). ¯ On vérifie immédiatement (sur la première définition) que χn ∗ ϕ est invariante par translation à droite par les éléments de . Il lui correspond donc une fonction définie sur G/  : nous la noterons ϕn . La classe C est l’ensemble des fonctions ϕ ayant les propriétés suivantes (les normes ¯ :  · p sont les normes de l’espace (G/ , µ))

586

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

(1) 4 (1a) ϕ  ∈L , ¯ = 0. (1b) G/  ϕ(z) dµ(z) (2) Pour toute ρ-identité approchée (χn ), il existe des constantes C > 0 et p > 0 telles que, pour tout n on ait : (2a) (m (ϕn )2  Cρ Cn , (2b) ϕn − ϕ4  Cρ −pn , (2c) ϕn est höldérienne de constante de Hölder Cρ Cn . Nous allons démontrer le théorème suivant. Rappelons que ϕ est un cobord au sens du système s’il existe une fonction h mesurable telle que ϕ = h − T h.

T HÉORÈME A . – Un fonction ϕ appartenant à C qui n’est pas un cobord vérifie les propriétés (PID ) et (PIS ). La preuve que nous proposons consiste à construire une filtration An telle que les fonctions mentionnées dans l’énoncé satisfassent aux hypothèses du théorème suivant (cf. [14] page 145) : T HÉORÈME G. – Soient (X, A, µ, T ) un système dynamique ergodique inversible, (An ) une filtration de A telle que An ⊂ An+1 = T −1 An et f une fonction dans L2 (µ) telle que   E(f |An ) < ∞ 2

et

n<0

  f − E(f |An ) < ∞. 2 n>0

Alors, soit il existe une fonction h de carré intégrable telle que f = h − T h, soit la fonction f vérifie (TCLF) et (PIS ). Le théorème A se déduit du théorème A : pour montrer qu’une fonction f vérifie les théorèmes limites en temps continu énoncés dans l’introduction, on commence par appliquer le théorème A à la fonction ϕf définie par : ¯ = ϕf (x)

1





f T s x¯ ds.

0

Pour cela il suffit de vérifier que ϕf appartient à l’ensemble C. Il nous faut ensuite pouvoir passer des énoncés discrets (PID ) et (PIS ) aux énoncé (PID) et (PIS). Cela est fait en annexe pour les fonctions höldériennes et les indicatrices d’ensembles réguliers. Plan de l’article La section 1 est une liste de rappels, définitions et notations. Nous verrons, dans la section 2, comment les propriétés de mélange exponentiel du flot permettent de montrer la bonne répartition de morceaux de variétés dilatées par le flot. Nous donnons ensuite la construction d’une filtration en tribus dont les atomes sont des morceaux de feuilles dilatées par le flot (section 3). Cette construction est menée avec suffisamment de soins pour obtenir quelques estimations utiles dans la section 4 où l’on donne la preuve du théorème A .

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

587

Enfin, la section 5 est consacrée à la preuve du théorème B et au problème des fonctions cobords. La technique exposée dans ce travail peut être appliquée à d’autres flots sur des espaces homogènes de groupes de Lie semi-simples (par exemple les flots définis dans [16] sur des espaces homogènes compacts). Nous avons choisi de traiter un cas simple non compact. Signalons enfin que Dolgopyat propose dans [11] une démarche proche de celle que nous exposons ici. Je remercie Jean-Pierre Conze à qui ce travail doit beaucoup (le présent article reprend les idées exposées dans [9]). Merci également à Yves Guivarc’h et Marc Peigné pour d’utiles références et d’intéressantes discussions et au rapporteur pour ses remarques et suggestions. 1. Rappels 1.1. Décomposition d’Iwasawa Soit A le groupe des matrices diagonales à coefficients strictement positifs de déterminant 1. Si K et N désignent respectivement le groupe spécial orthogonal et le groupe “trigonal strict supérieur”, formé des matrices triangulaires supérieures de valeurs propres égales à un, l’application : (k, a, n) −→ kan est un homéomorphisme de K × A × N sur SL(d, R) qui transporte la mesure de Haar dg de G en 

5(a) dk da dn

!

avec 5(a) =

aii /ajj . i
1.2. Domaines de Siegel D ÉFINITION. – Soient t, u des réels positifs et 



At = a ∈ A/aii  tai+1i+1 , i = 1, . . . , d − 1 , 



Nu = n ∈ N/|nij |  u . On appelle domaine de Siegel de SL(d, R) tout ensemble de la forme St,u = K.At .Nu . Les ensembles St,u sont d’assez bonnes approximations d’un domaine fondamental pour la relation de congruence modulo . En effet, d’une part, lorsque les paramètres u et t sont suffisamment grand le domaine de Siegel St,u contient un domaine fondamental pour la relation de congruence modulo  (voir [1]) : √ T HÉORÈME 1.1. – On a SL(d, R) = St,u SL(d, Z) dès que t
2/ 3 et u
1/2. D’autre part, les domaines de Siegel sont recouverts par des réunions finies de domaines fondamentaux (voir [8] page 259 et suivantes) :

588

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

T HÉORÈME 1.2. – Il existe un ensemble fini Ft,u inclus dans  (dépendant uniquement de d, t, u) tel que si x appartient à St,u alors l’ensemble x ∩ St,u est inclus dans xFt,u . 1.3. Fonctions höldériennes et espaces Lr P ROPOSITION 1.3. – Pour tout r < ∞ une fonction höldérienne sur G/  appartient ¯ à Lr (G/ , µ). Démonstration. – Soit ϕ une fonction höldérienne. Il existe C > 0 et p ∈ ]0, 1] tels que |ϕ(x, ¯ y)| ¯  Cd(x, ¯ y) ¯ p. Il suffit donc de montrer que la fonction x¯ → d(x, ¯ Id) appartient à tous les espaces r ¯ ou encore, puisque d(x, ¯ Id)  d0 (x, Id) que, pour tout r ∈ [1, ∞[, L (G/ , µ) 

d0 (x, Id)r dµ(x) ¯ < ∞.

(∗∗)

St,u

L’invariance de d0 par translation à droite donne : d0 (kan, Id)  d0 (kan, an) + d0 (an, n) + d0 (n, Id) = d0 (k, Id) + d0 (a, Id) + d0 (n, Id). Les ensembles K et Nu étant compacts, l’inégalité (∗∗) est vérifiée si 

d0 (a, Id)r 5(a) da < ∞.

At

En utilisant encore une fois l’invariance par translation à droite de d0 , on voit que, pour tout n > 0, on a 



d0 (a, Id)  nd0 a 1/n , Id . On en tire la majoration d0 (a, Id)  C max | log(aii /ai+1i+1 )|. i

Pour tout i = 1, . . . , d − 1 posons maintenant bi = log(aii /ai+1i+1 ). On a 

d0 (a, Id)r 5(a) da At







max bir i ]−∞,log t ]d−1

exp

j −1  i


bk db1 · · · dbd−1 < ∞.

✷

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

589

1.4. Feuilles stables, instables et neutres La relation 

T xT −1

 ij

=

Ti xij Tj

permet d’identifier les variétés stables, instables et neutres du difféomorphisme T . Considérons la partition de {1, . . . , d} en les ensembles Jk définis par : – pour tout k, pour tout i, j appartenant à Jk , on a Ti = Tj , – pour tout k, n tels que k < n, pour tout i appartenant à Jk , tout j appartenant à Jn , on a Ti > Tj . Désignons par hJi Jj une matrice indéxée par l’ensemble Ji × Jj , par I dJi la matrice identité indexée par Ji . Les variétés stables, instables et neutres de T sont données par les orbites de groupes de matrices triangulaires ou diagonales par blocs. La variété instable passant par x¯ = x est la variété immergée Hu x définie par le groupe Hu des matrices de la forme 

IdJ1  0   hu =  ...   0

hJ1 J2 IdJ2 .. .

... ... .. .

hJ1 Jl−1 hJ2 Jl−1 .. .

hJ1 Jl hJ2 Jl .. .

0 0

... ...

IdJl−1 0

hJl−1 Jl IdJl

0

    .  

La variété stable passant par x¯ = x est la variété immergée Hs x définie par le groupe Hs des matrices de la forme 

Id J1 hJ2 J1 .. .

   hs =   h

Jl−1 J1

hJl Jl

0 IdJ2 .. .

... ... .. .

0 0 .. .

hJl−1 J2 hJl J2

... ...

Id Jl−1 hJl Jl−1

0 0 .. .



   .  0 

Id Jl

La variété neutre passant par x¯ = x est la variété immergée He x définie par le groupe He des matrices de la forme 

hJ1 J1  0  he =  .  .. 0

hJ2 J2 .. .

... ... .. .

0 0 .. .

0

...

hJl Jl

0

   . 

Prenons deux exemples. Si la suite (Ti ) est strictement décroissante alors les groupes Hu , Hs et He sont respectivement les groupes des matrices unipotentes triangulaires supérieures, des matrices unipotentes triangulaires inférieures et des matrices diagonales de déterminant 1.

590

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Si T1 > T2 = T3 = · · · = Td alors les variétés neutres sont les orbites de l’action du groupe des matrices de la forme 

h11  0   he =  ...   0

0



0 h22 .. .

... ... .. .

h2(l−1) .. .

0 h2d .. .

h(d−1)2 hd2

... ...

h(d−1)(d−1) hd(d−1

h(d−1)d hdd

0

   .  

La dimension de ces variétés est d 2 − 2d + 1. Dans tous les cas la dimension des feuilles neutres est supérieure ou égale à d − 1. Lorsque d
3 la transformation T t n’est donc pas un flot d’Anosov. 1.5. Coordonnées locales Appelons Eij les éléments de la base canonique de M(d, R). L’ensemble Bu = {Eij / i ∈ Jk , j ∈ Jl , k > l} forme une base de l’algèbre de Lie du groupe nilpotent Hu . Appelons du son cardinal et notons (Yu,1 , . . . , Yu,du ) ses éléments par commodité. On définit de même (Ye,1 , . . . , Ye,de ) et (Ys,1, . . . , Ys,ds ) des bases des algèbres de Lie de He et Hs (ds = du , (Ye,1 , . . . , Ye,de ) contient des éléments de la forme Eii − Ejj ). Soit D = d 2 − 1 la dimension de SL(d, R). L’application  : RD = Rds +d0 +du −→ G (ts,1 , . . . ts,ds , te,1 , . . . te,de , tu,1 . . . tu,du ) 

−→ exp

du 





tu,i Yu,i exp

1

de 





te,i Ye,i exp

1

ds 



ts,i Ys,i

1

est un difféomorphisme d’un voisinage de 0 sur un voisinage de l’identité. Notons ?(r) l’ensemble {g ∈ SL(d, R)/∃h ∈ M(d, R), h∞  r, g = Id + h}, ¯ r)) la boule de centre x (resp. x) ¯ et de rayon r pour la distance B0 (x, r) (resp. B(x, d0 (resp. d). On montre l’existence de constantes C0 et r0 , telles que, pour r  r0 , on ait : 



"

? C0−2 r ⊂  − C0−1 r, C0−1 r

#D 









⊂ B0 (Id, r) ⊂  ] − C0 r, C0 r[D ⊂ ? C02 r . (I)

Nous ferons fréquemment référence à cette suite d’inclusions. 1.6. Décomposition de la mesure de Haar Nous noterons ms , mu , me les mesures de Haar sur Hs , Hu , He . Il existe une fonction multiplicative 5e définie sur He telle que, pour toute fonction ϕ à continue à support dans B0 (Id, r0 ),  G

ϕ(g) dµ(g) =



ϕ(hs he hu )5e (he ) dhs dhe dhu . Hs ×He ×Hu

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

591

1.7. Rayon d’injectivité Désignons par π la projection canonique de G sur G/ . On remarque que si la ¯ r) restriction de π à B0 (x, r) est bijective alors on peut identifier isométriquement B(x, et B0 (Id, r). Appelons rayon d’injectivité de G/  en x¯ le rayon r maximal pour lequel cette identification est possible. La variété G/  n’est pas compacte. Le rayon d’injectivité peut prendre des valeurs arbitrairement petites. L EMME 1.4. – Soit un “parallélipipède” de volume 1 dont les arêtes sont de normes inférieures à L. Il existe une constante c > 0 telle que : (a) toutes les arêtes soient de normes supérieures à c/Ld−1 , (b) l’une des arêtes forme avec les faces qui ne la contiennent pas un angle α tel que sin α
c/Ld , (c) le parallélipipède contienne une boule de rayon c/L2d−1 . Soit D un domaine fondamental inclus dans l’ensemble de Siegel S2/√3,1/2 . Pour tout entier positif k notons Ek l’ensemble {x ∈ G/x∞ ∈ [ek−1 , ek ]}. Un calcul d’intégrale montre qu’il existe une constante c1 > 0 telle que Ek ∩ D est de µ-mesure inférieure à e−c1 k . P ROPOSITION 1.5. – Il existe c0 tel que, pour tout k et tout x appartenant à D ∩ Ek , la projection canonique π : G −→ G/  : x −→ x = x¯ est un difféomorphisme de (] − c0 e−k/c0 , c0 e−k/c0 [D )x sur son image. Démonstration. – Soient x un élément de Ek ∩ D et γ un élément de  différent de l’identité. Les vecteurs lignes de x sont de normes inférieures à ek et forment un parallélipipède de volume 1 (x ∈ SL(d, R)). On peut donc affirmer (lemme 1.4 a) et b)) que l’un au moins des vecteurs lignes de x : – est de norme supérieure à ce−k(d−1) , – forme avec l’orthogonal un angle α tel que sin α
ce−kd . Comme les coefficients de x(γ − Id) sont les produits scalaires des vecteurs lignes de x par les vecteurs colonnes de γ − Id = 0 on en déduit : x(γ − Id)∞
ce−(2d−1)k . Cela signifie que x + {y/y∞ < ce−(2d−1)k } = (Id + {yx −1 /y∞  ce−(2d−1)k })x ne contient aucun élément de x autre que x. Grâce au lemme 1.4 (c), comme x −1 ∞ est inférieur à d!edk , on montre qu’il existe une constante c2 > 0 telle que l’ensemble (Id + {yx −1 /y∞ < ce−(2d−1)k }) contienne ?(c2 e−(d(2d−1)+2d−1)k). On déduit alors le résultat des inclusions (I). ✷ 1.8. Mélange Soient ϕ et ψ deux fonctions indéfiniment dérivables sur G/  de moyennes nulles. Grâce à la théorie des représentations des groupes de Lie, nous allons donner une

592

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

majoration du produit scalaire T n ϕ, ψ. Nous ne donnerons pas de détail, nous contentant d’indiquer comment les résultats classiques ([4,23]) s’appliquent. Nous reprenons un raisonnement trouvé dans [16]. Soit A+ l’ensemble des matrices diagonales de déterminant un dont les coefficients diagonaux ai sont positifs et forment une suite décroissante. Soit A la fonction de Harish–Chandra, équivalente à 4π log a/a en l’infini, définie par : −1/2 2π   cos2 θ  2   dθ. A(a) =  4 + sin θ  a 0

Soit ã un élément de A+ . Notons C(ã) la quantité

%$C(ã) = min A

&

ai /aj .

i=j

On trouvera le théorème suivant dans le livre de Howe et Tan ([15] page 215). T HÉORÈME 1.6. – Soit ã un élément de A+ . Soit K un sous-groupe compact maximal de SL(d, R). Soit U une représentation unitaire de SL(d, R) (d
3) sans vecteur invariant. Alors, si u et v sont deux vecteurs K-finis, on a |u, U (ã)v|  uv(dim Vect Ku dim Vect Kv)1/2 C(ã). Une représentation unitaire sans vecteur invariant, U , de SL(d, R) sur un espace de Hilbert F induit une représentation du sous-groupe compact maximal K = SO(d, R). Cette représentation se décompose en une somme directe hilbertienne de représentations irréductibles de dimensions finies. Notons Kˆ l’ensemble des classes d’équivalence de ˆ représentations irréductibles de K et δ un élément de K. Fixons une base du système de racines, R, de K l’algèbre de Lie de K. Appelons W la chambre de Weyl associée. Chaque représentation irréductible de K est déterminée de façon unique par une forme linéaire appartenant à un réseau et à W (appelé poids dominant de la représentation). Soient δ un élément de Kˆ et γ (δ) le poids dominant correspondant. La formule de Weyl donne la dimension, d(δ), de δ en fonction de γ : d(δ) =

α, γ + ρ , α, ρ α∈R+

où R+ est l’ensemble des racines positives et ρ la demi-somme des racines positives. ˆ notons ξδ le caractère de δ et χδ = d(δ)ξδ . Posons Pour tout δ ∈ K, P (δ) = U (χδ ) = d(δ)



ξδ (k)U (k) dk. K

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

593

Les relations d’orthogonalité sur les caractères permettent de montrer que P (δ) est un projecteur. C’est le projecteur sur la composante isotypique Fδ de F . On a F=

'

P (δ)F.

δ∈Kˆ

Un vecteur v appartenant à Fδ est K-fini : dim Vect Kv  d(δ)2 . On dit qu’un vecteur v est indéfiniment dérivable si l’application k → U (k)v est indéfiniment dérivable. On définit sur l’espace des vecteurs indéfiniment dérivables la représentation dérivée de U , qui est une représentation de l’algèbre de Lie de K et qui s’étend en une représentation de l’algèbre enveloppante universelle de K. Nous utiliserons la même lettre U pour désigner ces trois représentations. base orthonormale pour un produit scalaire invariant sur K. Soit X1 , . . . , Xn une ( L’opérateur ( = 1 − ni=1 Xi2 appartient au centre de l’algèbre enveloppante universelle de K. On en déduit (lemme de Schur) que, si µδ est une représentation appartenant à δ, il existe c(δ) tel que µδ (() = c(δ)µδ (1). Les opérateurs ((Xi ) étant anti-hermitiens, c(δ) est un nombre réel supérieur ou égal à 1. On montre (cf. [2]) qu’il existe un produit scalaire Q tel que c(δ) = 1 + Q(γ (δ) + ρ) − Q(ρ). Pour tout vecteur indéfiniment dérivable v, on a d’une part P (δ)U (()v = c(δ)P (δ)v, d’autre part P (δ)v  v, ce qui entraîne que, pour tout entier m positif, pour tout δ appartenant à K, on a  

 

P (δ)v  c(δ)−m U (m v . L’ensemble Kˆ s’identifie à l’ensemble des points d’un réseau appartenant à l’adhérence de la chambre de Weyl W . Comme la fonction d(δ) est( polynomiale et la fonction c(δ) est quadratique, si m est suffisamment grand la somme δ∈Kˆ d(δ)c(δ)−m est finie. On peut alors énoncer le théorème suivant : T HÉORÈME 1.7. – Soient v et w deux vecteurs indéfiniment dérivables d’une représentation U sans vecteur invariant. Il existe des constantes C > 0 et m telles que      U (a)v, ˜ w0  CC(a) ˜ (m v  (m w .

Démonstration. – On a

) *       U (a)v,   ˜ w =  U (a)P ˜ (δ)v, P (ζ )w  δ∈Kˆ

 CC(a) ˜

 ˆ ∈Kˆ δ∈K,ζ

ζ ∈Kˆ

P (ζ )wP (δ)vd(δ)d(ζ )

594

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612









 CC(a) ˜ (m v  (m w 

d(δ)d(ζ )c(δ)−m c(ζ )−m

ˆ ∈Kˆ δ∈K,ζ



  



 CC(a) ˜ (m v  (m w 

d(δ)c(δ)−m

!2

.

✷

δ∈Kˆ

C OROLLAIRE 1.8. – Soient v et w deux fonctions indéfiniment dérivables définies sur G/  d’intégrales nulles. Il existe ζ > 1, C0 > 0 et un entier m tel que 





|T n v, w|  C0 (m v  (m w ζ −|n| .

(M)

Démonstration. – Le théorème précédent s’applique à la représentation régulière sur l’espace L20 (SL(d, R)/SL(d, Z)) (qui n’a pas de vecteur invariant). ✷ 2. Répartition des variétés instables Dans ce paragraphe et les deux suivants nous allons prouver le théorème A . La démonstration repose sur le fait que les feuilles dilatées par T sont bien réparties dans G/ . Il est nécessaire de disposer d’une information quantitative. Nous l’obtenons ici (comme dans [9]) à partir du résultat de décorrélation rappelé en I. Ce lien entre la décorrélation et la répartition des feuilles instables a déjà été utilisé par différents auteurs (cf. par exemple [17]). Appelons ?u (r) l’ensemble des matrices unipotentes appartenant à Hu dont les coefficients non diagonaux sont de valeurs absolues inférieures à r. Fixons ε > 0 et considérons un ensemble F ⊂ Hu contenant la “boule” ?u (ε). Désignons par Bs (Id, ε) (resp. Be (Id, ε)) l’ensemble Hs ∩ B0 (Id, ε) (resp. He ∩ B0 (Id, ε)). Notons Un l’ensemble T n Bs (Id, ε)T −n × T n Be (Id, ε)T −n × T n F T −n ⊂ Hs × He × Hu . Si l’application U0 −→ G : (hs , he , hu ) −→ hs he hu x¯ est un difféomorphisme sur son image, notée Ux¯F,ε , nous dirons que F définit un (F, ε)pavé en x. ¯ P ROPOSITION 2.1. – Soit ϕ une fonction appartenant à la classe C. Pour tout ρ > 1, n
1, ε > 0, F ⊂ Hu contenant ?u (ε), toute ρ-identité approchée (χn ) et tout x¯ tels que U = Ux¯F,ε soit un (F, ε)-pavé, il existe C0 et p tels qu’on ait l’inégalité :   1   m (T n F T −n ) u 







 

ϕ[ n−1 ] hu T n x¯ dhu  M

T n F T −n 

!

µ(∂U ¯ (ρ −n )) + ζ −n ρ 2C0 n   + ρ C0 n/M ε p . D ε La constante ζ est celle que nous avons introduite au corollaire 1.8. Les fonctions ϕk sont les convolées de ϕ avec les fonctions χk et la constante p est la constante intervenant dans la définition de la classe C (voir l’introduction). C0

595

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Démonstration. – L’inégalité de mélange (M) (rappelée dans le paragraphe 1) appliquée à χn ∗ 1U et ϕ[ n−1 ] , le fait que ϕ appartienne à C et les propriétés de la suite χn M assurent l’existence d’une constante C1 telle que :  −n  T χn ∗ 1U , ϕ

[ n−1 M ]

      C  (m χn ∗ 1U  (m ϕ 0

 

ζ [ n−1 M ] 2

2

−n



 C1 ρ 2C1 n ζ −n .

On a aussi  −n  T 1U , ϕ



[ n−1 M ]



T

−n







M

Par ailleurs, on peut écrire : 



− T −n (χn ∗ 1U ), ϕ   ϕ[ n−1 ] 2 µ¯ ∂U ρ −n . 

1U , ϕ[ n−1 ] =



ϕ[ n−1 ] (y) ¯ dµ( ¯ y) ¯

M

M

T nU

=







5e (he )ϕ[ n−1 ] hs he hu T n x¯ dhs dhe dhu . M

Un

Les ensembles Be (Id, ε) et Bs (Id, ε) sont respectivement invariants et contractés par T , donc, pour tout n, et tout (hs , he ) ∈ Bs (Id, ε) × Be (Id, ε), il existe une constante C2 > 0 telle que : 



¯ T n hu T −n T n x¯  C2 ε. d T n hs he hu T −n T n x, Comme ϕ[ n−1 ] est (Cρ C[ M on a :  ϕ

n−1 M ]

, p)-höldérienne, pour tout (hs , he , hu ) appartenant à Un ,



[ n−1 M ]







n−1 hs he hu T n x¯ − ϕ[ n−1 ] hu T n x¯   Cρ C[ M ] C2 p ε p , M

donc,     −n      T 1U , ϕ n−1 − 5e (he )ϕ n−1 hu T n x¯ dhs dhe dhu   CC  p ρ C[ n−1 M ] ε p µ(U ¯ ). 2 [ M ] [ M ]   Un

En utilisant les inégalités précédentes et en divisant par µ(U ¯ )) (qui est supérieur à cε D pour une certaine constante c), on obtient l’existence d’une constante C0 > 0 telle que :   1   m (T n F T −n ) u

 C0









 

ϕ[ n−1 ] hu T n x¯ dhu  M

T n F T −n 

!

µ(∂U ¯ (ρ −n )) + ζ −n ρ 2C0 n  n−1 + ρ C0 [ M ] ε p . D ε

✷

3. La filtration Comme dans le cas d = 2 traité dans [9], nous construisons la fitration (An )n∈Z permettant d’appliquer le théorème 2.1 à partir d’un recouvrement R. Il nous faut imposer quelques conditions à R. Rappelons que Ek désigne l’ensemble des matrices

596

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

dont la norme infinie est comprise entre ek−1 et ek . La constante c0 a été introduite à la proposition 1.5 la constante r0 au paragraphe 1.5 (Coordonnées locales). L EMME 3.1. – Il existe C > 0 tel que pour tout k on puisse recouvrir Ek ∩ D par au plus eCk ensembles de la forme (] − c0 e−k/c0 , c0 e−k/c0 [D )x. Démonstration. – Soit x une matrice appartenant à Ek ∩ D. Dans GL(d, R), l’en2 2 semble ?(C0−1 c0 e−k/c0 )x est un parallélipipède de volume (C0−1 c0 )d e−kd /c0 contenu  dans une boule de rayon ek+1 . Il contient donc (lemme 1.3) une boule de rayon ce−k/c où c est une constante indépendante de k. L’ensemble Ek ∩ D est inclus dans l’ensemble des matrices ayant des coefficients inférieurs à ek qui s’identifie à l’hypercube de côtés ek 2 2  2  dans Rd . Cet hypercube est la réunion de (1/c)d e(1+1/c )d k hypercubes de côté ce−k/c . L’énoncé du lemme en découle (on utilise encore une fois les inclusions (I)). ✷ Choisissons un recouvrement R de G/  infini dénombrable vérifiant, pour certaines constantes positives C1 et C2 , les conditions suivantes : (R1) Le recouvrement est décrit par une famille (xi , εi )i∈N ∈ (G × R∗+ )N :  





R =  ] − εi , εi [D x¯i : i ∈ N . (R2) Pour tout i, l’application ] − C1 εi , C1 εi [D → G/  : v → (v)x¯i est un difféomorphisme de ] − C1 εi , C1 εi [D sur son image. (R3) Pour tout i, les éléments de R dont l’intersection avec (] − εi , εi [D )x¯i est non vide sont tous inclus dans (] − C1 εi , C1 εi [D )x¯i . (R4) Le nombre d’ensembles appartenant à R dont l’intersection avec Ek n’est pas vide est inférieur à eC2 k . 1 (R5) Pour tout i, εi  min(xi −C ∞ , r0 ). La construction d’un tel recouvrement peut se mener de la manière suivante. Il existe une constante C telle que, pour tout γ ∈ , pour tout x ∈ G, on ait 



(Cγ )−1 xγ   x  C γ −1 xγ .

(∗)

Pour tout k
0, on recouvre Ek ∩ D par au plus eCk ensemble de la forme (] − c0 e−k/c0 , c0 e−k/c0 [D )x de telle sorte que la réunion des ensembles considérés soit incluse dans un domaine de Siegel St,u (lemme 3.1). Au domaine St,u nous avons associé dans le théorème 1.2 l’ensemble fini Ft,u inclus dans . Grâce à l’encadrement (∗) on sait qu’il existe un nombre C  tel que si x appartient à Ek alors, pour tout γ +   appartenant à Ft,u , xγ appartient à Cj =−C  Ek+j . Notons C1 la constante C02 (1+ 2eC /c0 ). L’application ] − c0 e−k/c0 , c0 e−k/c0 [D → G/  : v → (v)x¯ est un difféomorphisme de ] − c0 e−k/c0 , c0 e−k/c0 [D sur son image (proposition 1.5). On peut recouvrir chaque ensemble (] − c0 e−k/c0 , c0 e−k/c0 [D )x par un nombre fini d’ensembles de la forme (]C1−1 c0 e−k/c0 , C1−1 c0 e−k/c0 [D )xi de manière à avoir la propriété R2. Si y est un point appartenant à (] − εi , εi [D )x¯i ∩ (] − εj , εj [D )x¯j alors la distance d(x¯i , x¯j ) est inférieure à C0 (εi + εj ) (inclusions (I)) et (] − εj , εj [D )x¯j ⊂

597

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

B0 (Id, C0 (εi + 2εj ))x¯i ⊂ (] − C02 (εi + 2εj ), C02 (εi + 2εj )[D )x¯i . La propriété R3 en  découle car on peut majorer uniformément εj /εi par eC /c0 . En effet (] − εi , εi [D )x¯i ∩ (] − εj , εj [D )x¯j ne peut être non-vide que s’il existe γ ∈ Ft,u tel que xj γ appartienne  à (Ek−1 ∪ Ek ∪ Ek+1 ) ∩ St,u (théorème 1.2) et donc εj /εi est inférieur à eC /c0 . L’intersection d’un ensemble (] − εi , εi [D )x¯i avec la projection canonique de Ek +  n’est non vide que si xi appartient à Cj =−C  Ek+j . On en déduit que la propriété R4 est vérifiée avec C2 une constante dépendant de C  , C et C1 . La propriété R5 ne pose pas de problème. Soit x¯ dans G/ , notons εx¯ le plus grand des εi tels que x¯ appartienne à (] − εi , εi [D )x¯i . Il existe un entier i tel que εx¯ = εi et x¯ soit l’image par π d’un point x 1 de G appartenant à (] − εi , εi [D )xi . Comme (propriété (R5)) εi  xi −C ∞ , on montre −C1 en utilisant les inclusions (I) que εx¯  (1 + C0 r0 )x∞ . Définissons la partition Q de G/  de la façon suivante : Q=

,-

.

AR /AR = R ou c R ,

R∈R

puis la partition P par ¯ P(x) ¯ = Q(x) ¯ ∩ ?u (C1 εx¯ )x, enfin 







¯ = P(x) ¯ ∩ T P T −1 x¯ ∩ T 2 P T −2 x¯ ∩ · · · . P0∞ (x) Pour tout n ∈ Z appelons An la tribu dont les atomes sont les éléments de T −n P0∞ . L’atomes de An contenant x¯ est 











¯ = T −n P T n x¯ ∩ T −(n−1) P T n−1 x¯ ∩ T −(n−2) P T n−2 x¯ ∩ · · · An (x) 



= T −n A0 T n x¯ . ¯ = P(x) ¯ ∩ A−1 (x) ¯ montre que les atomes de A−1 sont des réunions finies L’égalité A0 (x) d’atomes de A0 . La famille (An )n∈Z vérifie donc la condition An ⊂ T −1 An = An+1 . Définissons l’ensemble Wnδ,β par (δ, β ∈ ]1, ∞[) 







Wnδ,β = x¯ ∈ G/ /∀k
0 ?u β n δ −k T −k x¯ ⊂ Q T −k x¯



.

¯ donc εx¯
β n . Si x¯ appartient à Wnδ,β en particulier on a l’inclusion ?u (β n )x¯ ⊂ R(x), Le point x¯ est donc l’image par π (la projection sur G/ ) d’un point x de G de norme  · ∞ inférieure à ((1 + C0 r0 )β −n )1/C1 . Le groupe Hu est dilaté par la transformation T : il existe ξ > 1 tel que, pour tout r > 0, l’ensemble T ?u (r)T −1 contienne l’ensemble ?u (ξ r). On en déduit le lemme suivant. L EMME 3.2. – Si δ < ξ alors, pour x¯ appartenant à Wnδ,β , on a l’inclusion 



¯ ?u β n x¯ ⊂ P0∞ (x).

598

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Démonstration. – Soit x¯ un élément de Wnδ,β . Par définition, pour tout entier k
0, on a









?u β n δ −k T −k x¯ ⊂ P T −k x¯ , donc













?u β n δ −k ξ k x¯ ⊂ T k ?u β n δ −k T −k x¯ ⊂ T k P T −k x¯ . Si δ < ξ , on obtient l’inclusion annoncée : 



?u β n x¯ ⊂

-





T k P T −k x¯ = P0∞ (x). ¯

✷

k
0

L EMME 3.3. – Il existe C3 > 0 et q > 0 tels que, pour tout ε > 0, on ait 



µ¯ x¯ ∈ G/ : ?u (ε)x¯ ∩ ∂Q(x) ¯ = ∅  C3 ε q . Démonstration. – L’ensemble Ek est recouvert par la réunion d’au plus eC2 k pavés de la forme (] − εi , εi [D )xi . On a donc 



¯ = ∅  eC2 k ε. µ¯ x¯ ∈ Ek : ?u (ε)x¯ ∩ ∂Q(x) On a vu (paragraphe 1.7) que pour tout k, on a µ(E ¯ k )  e−c1 k . On peut donc écrire : 

¯ = ∅ µ¯ x¯ ∈ G/ : ?u (ε)x¯ ∩ ∂Q(x) 



L  





µ¯ x¯ ∈ Ek : ?u (ε)x¯ ∩ ∂Q(x) ¯ = ∅ + µ¯

L 

Ek

L+1

0





∞ /

eC2 k ε +

∞ 

e−c1 k

L+1

0

e

L+1

−c1 (L+1)

ε+e





/ 1 − e−c1 .

En choisissant L convenablement en fonction de ε on obtient le résultat. L EMME 3.4. –

c

✷



µ¯ Wnδ,β  C4 β nq . Démonstration. – C’est une conséquence de l’invariance de µ¯ par T et du lemme 3.3 : c













µ¯ Wnδ,β = µ¯ x¯ ∈ G/ /∃k
0?u β n δ −k T −k x¯ ∩ ∂Q T −k x¯ = ∅ 

∞  









µ¯ x¯ ∈ G/ /?u β n δ −k T −k x¯ ∩ ∂Q T −k x¯ = ∅





k=0



∞ 



q

C3 β n δ −k .

✷

k=0

Pour montrer la bonne répartition des atomes de An nous avons également besoin d’une information sur la régularité de leurs bords (il faut majorer le terme µ(∂U ¯ (ρ −n ))

599

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

dans l’inégalité de la proposition 2.1). La nilpotence du groupe Hu permet d’obtenir cette information par des arguments algébriques très simples. L EMME 3.5. – Il existe un compact K ⊂ Rdu tel que, pour tout k, pour tout x¯ ∈ Ek , il existe un ensemble Ex¯ inclus dans K dont le bord est constitué d’au plus d 2 eC2 k morceaux de surfaces algébriques de degré d tel que l’on ait : ¯ P(x) ¯ = exp(Ex¯ )x. ˜ x) Démonstration. – Soit x¯ ∈ G/ . Un ensemble R étant donné, convenons que R( ¯ désigne R si x¯ appartient à R, son complémentaire sinon. La propriété R4 du recouvrement R assure qu’il existe un entier l  eC2 k et une famille i1 , . . . , il tels que l’ensemble Q(x) ¯ soit défini par Q(x) ¯ =

l -

 R( x¯ij ).

j =1

La propriété R3 entraîne que, pour tout j = 1, . . . , l, il existe (tu,1 , . . . , tu,du , . . . , ts,ds ) appartenant à ] − C1 εij , C1 εij [D tels que 

x¯ = exp

du 



tu,k Yu,k exp

k=1



de 





te,k Ye,k exp

k=1

ds 



ts,k Ys,k x¯ij .

k=1

Considérons un du -uplet (v1 , . . . , vdu ). Comme Hu est nilpotent de degré d, il existe des j polynômes Pk (v) de degrés inférieurs ou égaux à d dont les coefficients dépendent de (tu,1 , . . . , tu,du ) tels que 

exp

du 





vk Yu,k x¯ = exp

k=1

du 



Pk (v)Yu,k exp

k=1



de 



te,k Ye,k exp

k=1



ds 



ts,k Ys,k x¯ij .

k=1

(

u vk Yu,k )x¯ appartient à (] − εij , εij [D )x¯ij si et seulement si, pour Le point exp( dk=1 tout i, Pi (v) appartient à ] − εij , εij [. On en déduit que l’ensemble défini dans l’énoncé de la proposition est décrit par



j



/ ] − εij , εij [ . Ex¯ = v ∈ ] − C1 εx¯ , C1 εx¯ [du / ∀(k, j ) ∈ [1, du ] × [1, l], Pk (v) ∈ ou ∈

✷

Notons λu la mesure de Lebesgue sur Rdu . L EMME 3.6. – Soient K un compact de Rdu et ε un réel positif. Il existe une constante C5 dépendant uniquement de K telle que, pour toute hypersurface algébrique S ⊂ Rdu de degré inférieur ou égal à d, on ait λu {x ∈ K/d(x, S) < ε}  C5 ε. L EMME 3.7. – Il existe une constante C6 > 0 telle que, si x¯ ∈ Wnδ,β alors on a 



¯ ¯ ∩ ∂P0∞ (x) ¯ = ∅ < C6 β −C6 n ε. mu y¯ ∈ P0∞ (x)/? u (ε)x

600

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Démonstration. – Soit x¯ un élément de Wnδ,β . Par définition, pour tout entier k
0, on a 











?u β n δ −k T −k x¯ ⊂ P T −k x¯ , donc 



?u β n δ −k ξ k x¯ ⊂ T k P T −k x¯ . ¯ donc, si β n δ −k ξ k > r0 , l’ensemble P(x) ¯ est Par ailleurs on sait que P(x) ¯ ⊂ ?u (r0 )x, n −k k ∞ ¯ On en déduit que P0 (x) ¯ est égal à inclus dans ?u (β δ ξ )x. ¯ P0∞ (x)

=

[(ln r0 +n ln β)/ ln(ξ/δ)] -





T k P T −k x¯ .

k=0

Comme on l’a vu un peu plus haut il existe un point x de G se projetant sur x¯ de norme inférieure à ((1 + C0 r0 )β −n )1/C1 . Il existe donc une constante C  telle que, pour tout entier k compris entre 0 et [(ln r0 − n ln β)/ ln(ξ /δ)], on ait T k x∞   ¯ est constitué par au eC n log β . Cela entraîne (propriété R4) que le bord de P0∞ (x)  plus d 2 [(ln r0 − n ln β)/ ln(ξ /δ)]eC C2 n log β images par l’application exponentielle de morceaux d’hypersurfaces de degré d contenues dans le compact K défini dans le lemme 3.5. En utilisant le lemme 3.6, le fait que mu est l’image par l’application exponentielle de la mesure de Lebesgue et les inclusions (I), on obtient : 

¯ y, ¯ ∂P0∞ (x)) ¯ <ε mu y¯ ∈ P0∞ (x)/d( #

"

 

< d 2 (ln r0 − n ln β)/ ln(ξ /δ) e−C C2 n log β C0 C5 ε.

✷

4. Preuve du théorème A
Il nous suffit (théorème G cf. Introduction) d’établir la convergence des deux séries : 

E(f |An )2 < ∞



et

n<0

f − E(f |An )2 < ∞.

n>0

Les partitions Pn∞ sont mesurables au sens de Rokhlin. Pour tout n, il existe donc des familles de probabilités conditionnelles (mP )P ∈Pn∞ permettant d’exprimer l’espérance conditionnelle par rapport aux tribus An : pour toute fonction f intégrable, pour mpresque tout x, ¯ = E(f |An )(x)



f (y) dmPn∞ (x)(y). Pn∞ (x) ¯

Par construction il existe une famille {F (n, x)} ¯ n∈Z,x∈G/ ¯  de sous-ensembles de Hu relativement compacts contenant Id tels que pour tout n ∈ Z et tout x¯ ∈ G/ , on ait : 







¯ = F (n, x) ¯ x¯ = T −n A0 T n x¯ = T −n F 0, T n x¯ T n x. ¯ An (x)

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

601

Les probabilités conditionnelles s’expriment, pour toute fonction f intégrable, pour µ¯ presque tout x, ¯ sous la forme : ¯ = E(f |An )(x)

1 −n mu (T F (0, T n x)T n )



f (hu x) ¯ dhu .

(E)

T −n F (0,T n x)T n

Donnons-nous une fonction ϕ appartenant à la classe C et considérons les constantes C0 et p associées à ϕ dans la proposition 2.1. Choisissons un nombre C7 supérieur à  −1 C6 + D, puis δ inférieur à ξ (voir lemme 3.2), β dans l’intervalle ]1, ζ ((2C0 +1)C7 ) [,  ρ dans l’intervalle ]β C7 , ( βζC7 )1/2C0 [ et enfin M suffisamment grand pour que ρ soit 

inférieur à β Mp/C0 . ¯ Prenons un point x¯ ∈ Wnδ,β . Nous avons montré l’inclusion : ?u (β n )x¯ ⊂ P0∞ (x) F (0,x),β ¯ n est (lemme 3.2). La propriété R2 du recouvrement assure que l’ensemble Ux¯ un pavé. Cela signifie que les hypothèses de la proposition 2.1 décrivant la vitesse de répartition des feuilles dilatées sont satisfaites, donc que l’on a (l’entier n considéré ici est négatif) :   1   m (T −n F (0, x)T ¯ n) u



C0







ϕ[ 1−n ] hu T

−n

M

T −n F (0,x)T ¯ n

  x¯ dhu  

!



−C  n µ(∂U ¯ (ρ n )) + ζ n ρ −2C0 n 0 M β np , + ρ nD β

soit encore (cf. l’égalité (E))  E(ϕ

|An ) [ 1−n M ]



T

−n

et, puisque

  ! −C  n  ¯ (ρ n )) + ζ n ρ −2C0 n 0  µ(∂U np  M x  C0 +ρ β , nD

β





µ¯ ∂U ρ n



 C6 β −C6 n ρ n

(lemme 3.7), les choix que nous avons faits pour les paramètres β, ρ, M assurent qu’il existe η > 1 et C8 > 0 tels que  E(ϕ

|An ) [ 1−n M ]





T −n x   C8 ηn .

Nous avons aussi montré que µ( ¯ c Wnδ,β ) est inférieur à C4 β nq (lemme 3.4). Coupons 2 E(E(ϕ[ 1−n ] |An ) ) en deux : M



E E(ϕ[ 1−n ] |An ) M

2



=



E(ϕ[ 1−n ] |An ) (x) ¯ dµ( ¯ x) ¯ +



E(ϕ[ 1−n ] |An )2 (x) ¯ dµ( ¯ x). ¯

2

M

δ,β

T −n Wn

M

δ,β

T −nc Wn

La première des deux intégrales est inférieure à C8 ηn et on majore la seconde par χ[ 1−n ] ∗ ϕ4 (C4 β nq )1/2 grâce à l’inégalité de Cauchy. L’inégalité triangulaire et le fait M que ϕ appartienne à C donne alors :

602

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

      E(ϕ|An )  E(ϕ − ϕ 1−n |An ) + E(ϕ 1−n |An ) [ M ] [ M ] 2 2 2     1−n 1/2 −[ ] nq n 1/2

 Cρ

M

+ ϕ[ 1−n ] 4 C4 β

+ C8 η

M

,

et la convergence de la première série est établie. Les atomes de la tribu An sont les images par T −n des atomes de la tribu A0 qui sont des morceaux de feuilles dilatées par T . Par suite, lorsque n tend vers +∞ le diamètre des atomes de An décroît exponentiellement vite vers 0 : il existe C9 > 0 et γ > 1 tels que, pour tout x¯ ∈ G/ , pour tout n
0, on ait 



Diam Pn∞  C9 γ −n . L’inégalité triangulaire, les propriétés (22) et (23) (des fonctions de la classe C) fournissent alors la majoration suivante :       E(ϕ|An ) − ϕ   E(ϕ − ϕ n−1 |An ) + ϕ n−1 − E(ϕ n−1 |An ) + ϕ n−1 − ϕ2 [ ] [ ] [ ] [ ] 2 2 2 M

 2Cρ

−pn/M

+ Cρ

M

Cn/M

M

M

p C9 γ −np .

Si M est choisi suffisamment grand la convergence de la seconde série est établie.

✷

5. Preuve du théorème B Comme pour le théorème A, nous commençons par nous ramener au temps discret. Rappelons qu’étant donnée une fonction f nous avons noté ϕf la fonction ¯ = ϕf (x)

1





f T s x¯ ds.

0

Comme dans [9] on montre que, pour une fonction f , si ϕf appartient à la classe C, les deux assertions suivantes sont équivalentes : – f est un cobord au sens du flot, ¯ – ϕf est un cobord pour le système (G/ , T , µ). Nous allons prouver la proposition suivante : P ROPOSITION 5.1. – Soit ϕ une fonction höldérienne sur G/ . Si ϕ est un cobord mesurable alors il existe une fonction h höldérienne d’ordre p/2 telle que ϕ = h − h ◦ T . Lorsque f est höldérienne, ϕf l’est aussi donc la proposition entraîne le théorème B. La preuve que nous proposons est la même que celle que nous avons déjà donnée dans [9]. Commençons par un lemme général. L EMME 5.2. – Soit G un groupe de Lie de dimension n, G son algèbre de Lie, X1 , . . . , Xk des éléments de G engendrant G. Supposons que les crochets de Lie répétés des Xi de longueur inférieure à m engendrent linéairement l’espace vectoriel G. Alors il existe C > 0, a > 0, un entier N et une suite (i1 , . . . , iN ) d’éléments de {1, . . . , k} tel que, pour tout r  a, l’application

603

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

#

ϕ : −Cr 1/m , Cr 1/m

"N

→ B0 (Id, r) ⊂ G:

(t1 , . . . , tN ) → exp(t1 Xi1 ) · · · exp(tN XiN ) soit surjective. Nous ne donnerons qu’une idée de preuve de ce résultat. Démonstration. – Considérons Y1 , . . . , Yn une base de G constituée de crochets de Lie répétés des éléments Xi . Notons mi la longueur du crochet définissant Yi . La formule de Campbell–Hausdorff, appliquée une ou deux fois, nous livre les égalités suivantes, pour t petit : 

 

exp(tX) exp(tZ) exp(−tX) exp(−tZ) = exp t 2 [X, Z] + o t 2 , exp(tX) exp(tZ) exp(−tX) exp(−tZ) exp(tW ) exp(−tX)  #

"

 

exp(tZ) exp(tX) exp(−tZ) exp(−tW ) = exp t 3 [X, Z], W + o t 3 . De la même façon, pour tout i = 1, . . . , n, il existe pi et une suite (j1i , . . . , jpi i ) tels que 



exp ±t mi Yi + o t mi



= exp(±tXj i ) · · · exp(±tXjpi ). 1

(∗ ∗ ∗)

i

Fixons maintenant deux constantes C > 0 et a > 0 tels que, pour r  a m , l’application ψ : ] − Cr, Cr[n −→ G: (t1 , . . . , tn ) −→ exp(t1 Y1 ) · · · exp(tn Yn ) soit un difféomorphisme de ] − Cr, Cr[n sur son image, image qui contienne la boule B0 (Id, nr). Pour tout élément x de B0 (Id, (n − 1)r) il existe (t1 , . . . , tn ) ∈ [−Cr 1/m , Cr 1/m ]n tel que 







x = exp ±t1m1 Y1 · · · exp ±tnmn Yn . L’égalité (∗ ∗ ∗) assure que les courbes #

"









C1 : −Cr 1/m , Cr 1/m −→ G: t −→ exp ±t m1 Y1 x et

#

"





C2 : −Cr 1/m , Cr 1/m −→ G: t −→ exp ±tXj 1 · · · exp ±tXjp1 x 1

1

sont très proches l’une de l’autre pour les petites valeurs du paramètre. Par conséquent, quitte à jouer un peu sur les constantes, comme C1 rencontre l’ensemble B0 (Id, (n − 1)r) ∩ ψ({0}×] − Cr, Cr[n−1 ), on peut assurer que la courbe C2 rencontre B0 (Id, nr) ∩ ψ({0}×] − Cr, Cr[n−1 ). Autrement dit, tout élément x de B0 (Id, (n − 1)r) peut s’écrire sous la forme 







x = exp(±tXj 1 ) · · · exp(±tXjp1 ) exp ±t m2 Y2 · · · exp ±t mn Yn . 1

1

On remplace ainsi successivement chaque expression exp(±t mi Yi ) par le produit exp(±tXj i ) · · · exp(±tXjpi ) correspondant pour obtenir le résultat. ✷ 1

i

604

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Le lemme précédent signifie que l’on peut atteindre tous les points de la boule B0 (Id, r) en se déplaçant sur une ligne brisée formée de morceaux de courbes intégrales des champs X1 , . . . , Xk (pendant un temps éventuellement beaucoup plus long que r). Le résultat suivant (dont nous aurons besoin) exprime que, si on exige que les sommets de la ligne brisée appartiennent à un ensemble de mesure pleine prescrit, on peut encore atteindre presque tous les points de la boule. C’est un corollaire du lemme 5.2 et du théorème de Fubini. C OROLLAIRE 5.3. – Soit X ⊂ G un ensemble de mesure de Haar pleine. Il existe C > 0, a > 0 et un ensemble de mesure pleine XN tels que pour tout x ∈ XN pour tout r  a, pour presque tout y ∈ B0 (Id, a)x, il existe une suite (i1 , . . . , iN ) d’éléments de {1, . . . , k}, un N -uplet (t1 , . . . , tN ) ∈ [−Cd0 (x, y)1/m , Cd0 (x, y)1/m ]N tel que x

∈X

exp(tN XiN )x

∈X

exp(tN−1 XiN ) exp(tN XiN )x .. .

∈X

(1)

y = exp(t1 Xi1 ) · · · exp(tN XiN )x ∈ X Démonstration. – Fixons un réel positif r inférieur à a ( lemme 5.2). On montre en utilisant le théorème de Fubini qu’il existe un ensemble X1 ⊂ X de mesure pleine tel que, pour tout x ∈ X1 , exp(tXiN )x appartient à X pour presque tout t ∈ [−Cr 1/m , Cr 1/m ]. De la même façon il existe un ensemble X2 ⊂ X1 de mesure pleine tel que exp(tXiN−1 )x appartient à X1 pour presque tout t ∈ [−Cr 1/m , Cr 1/m ]. On continue jusqu’à obtenir XN ⊂ XN−1 un ensemble de mesure pleine tel que, pour tout x ∈ XN , pour presque tout (t1 , . . . , tN ) ∈ [−Cr 1/m , Cr 1/m ]N , on ait (1). L’image de [−Cr 1/m , Cr 1/m ]N par l’application φ (t1 , . . . , tn ) −→ exp(t1 Xi1 ) · · · exp(tN XiN ) contient B0 (Id, r). Grâce au théorème de Sard on sait que l’ensemble des points en lesquels la dérivée de φ n’est pas de rang maximum a une image négligeable. Comme φ est localement conjuguée à une application linéaire surjective en un point où la dérivée est surjective, l’image d’un sous-ensemble de mesure pleine de [−Cr 1/m , Cr 1/m ]N contient un sous-ensemble de mesure pleine de B0 (Id, r). On en déduit que, pour tout entier k, pour presque tous les points de B0 (x, 2−k a) \ B0 (x, 2−k−1 a) il existe #



(t1 , . . . , tN ) ∈ −C 2−k−1 a

1/m



, C 2−k−1 a

tel que l’on ait (1). Comme B0 (x, a) = prouvé. ✷

+

1/m "N

#

⊂ −Cd0 (x, y)1/m , Cd0 (x, y)1/m

−k −k−1 a), k B0 (x, 2 a) \ B0 (x, 2

"N

le corollaire est

On vérifiera sans difficulté que les crochets de Lie de longueur inférieure à 2 des éléments des deux bases (Y1i , . . . , Ydii ) de Hi (i = s, u) engendrent l’algèbre de Lie de G. Donnons maintenant la preuve de la proposition 5.1. Démonstration. – Les vecteurs Yi,1 , . . . , Yi,di forment une base de Hi (i = s, u). Comme on l’a vu dans le paragraphe I, pour tout j = 1, . . . , ds , tout k = 1, . . . , du , il

605

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

existe des constantes réelles positives inférieures à 1, λsj et λuk (dépendant uniquement de T ) telles que, pour tout n
0 et tout t ∈ R, on ait les égalités : 



T n exp(tYs,j )T −n = exp λnsj tYs,j ,





T −n exp(tYu,k )T n = exp λnuk tYu,j .

Appelons λ√ le plus grand des réels λsj et λuk . Il existe P tel que, pour tout t ∈ √ [−C a, C a], pour tout i = u, s, tout j = 1, . . . , di , on ait :   √ |t| √  d0 Id, exp(tYi,j )  P |t|. P √ √ Pour tout x ∈ G, tout t ∈ [−C a, C a] et tout entier n
0, on a alors : 

d0 T n x, T n exp(tYs,j )x 













= d0 T n x, exp tλnsj Ys,j T n x = d0 Id, exp tλnsj Ys,j 











√

P λnsj |t|

 P λn d0 Id, exp(tYs,j ) = P λn d0 x, exp(tYs,j )x , et de la même façon, d0 (T −n x, T −n exp(tYu,k )x)  P λn d0 (Id, exp(tYu,k )). Si la fonction ϕ est un cobord mesurable alors n−1/2 Sn ϕ converge en probabilité vers 0. Comme ϕ vérifie les hypothèses du théorème G (voir l’introduction), il existe une fonction h de carré intégrable telle que ϕ = h − T h (sinon n−1/2 Sn ϕ convergerait en loi vers une variable gaussienne non dégénérée). En particulier, il existe h intégrable d’intégrale nulle telle que ϕ = h − T h. En les relevant dans G, jusqu’à la fin de la preuve, nous considérerons que h et ϕ sont des fonctions -périodiques définies sur G. Pour tout entier n
1, notons Sn ϕ et S−n ϕ les sommes Sn ϕ =

n−1 

k

T ϕ,

S−n ϕ =

0

−1 

T k ϕ.

−n

L’égalité de cobord fournit les identités suivantes : N N 1  1  Sn ϕ = h − T n h, N 1 N 1

N N 1  1  S−n ϕ = −h + T −n h. N 1 N 1

Notons 



N N 1  1  Sn ϕ(x) = − lim S−n ϕ(x) . X = x ∈ G/ h(x) = lim N 1 N 1

(

(

N −n 1 n h Les transformations T et T −1 étant ergodiques, les suites N1 N 1 T h et N 1 T tendent vers 0 presque partout donc X est de mesure pleine. La régularité de ϕ et les propriétés de contraction de T conduisent aux inégalités suivantes : il existe R positif et λ ∈ [0, 1[ tels que

606

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

 k   T ϕ(x) − T k ϕ exp(tYs,j )x        p = ϕ T k x − ϕ T k exp(tYs,j )x   Rd0 T k x, T k exp(tYs,j )T −k T k x    k p k −k p

 Rd0 Id, T exp(tYs,j )T 

p

 Rd0 Id, exp λsj tYs,j

 RP λk d0 x, exp(tYs,j )x . On a donc n−1      k  p Sn ϕ(x) − Sn ϕ exp(tYs,j )x   RP λ d0 x, exp(tYs,j )x . 0

On en déduit que si x et exp(tYs,j )x appartiennent tous les deux à X , il existe R  tel que      h(x) − h exp(tYs,j )x   R  d0 x, exp(tYs,j )x p .

(2)

(

On montre de la même façon en utilisant l’égalité h(x) = − lim N1 N 1 S−n ϕ que si x et exp(tYu,k )x appartiennent tous les deux à X , il existe R 
R  tel que l’on ait,      h(x) − h exp(tYu,k )x   R  d0 x, exp(tYu,k )x p .

(3)

Ceci signifie que la restriction de h à X est régulière le long des flots exp(tYu,k ) et exp(tYs,j ). D’après le corollaire 5.3, il existe un entier N , un ensemble de mesure pleine XN et une suite (X1 , . . . , XN ) de vecteurs tous égaux à l’un des Yu,k ou Ys,j tels que, pour √tout élément√x de XN , pour presque tout y ∈ B0 (x, a), il existe (t1 , . . . , tN ) ∈ [−C d0 (x, y), C d0 (x, y)]N tel que x

∈X

exp(tN XN )x

∈X

exp(tN−1 XN−1 ) exp(tN XN )x ∈ X .. . y = exp(t1 X1 ) · · · exp(tN XN )x ∈ X . Les inégalités (2) et (3) entraînent : |h(x) − h(y)| 





 h(x) − h exp(tN XN )x   







+ h exp(tN XN )x − h exp(tN−1 XN−1 ) exp(tN XN )x  + · · ·  







+ h y = exp(t1 X1 ) · · · exp(tN XN )x − h exp(t2 X2 ) · · · exp(tN XN )x   

 R  d0 x, exp(tN XN )x 

p

+ d0 exp(tN XN )x, exp(tN−1 XN−1 ) exp(tN XN )x 

p

···

p

+ d0 y = exp(t1 X1 ) · · · exp(tN XN )x, exp(t2 X2 ) · · · exp(tN XN )x . en z) et le NLes applications t → exp(tXj )z sont √ lipschitziennes √ (uniformément N uplet (t1 , . . . , tN ) appartient à [−C d0 (x, y), C d0 (x, y)] donc les N distances

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

607

√ apparaissant ci-dessus sont comparables à d0 (x, y) : il existe L > 0 tel que |h(x) − h(y)|  Ld0 (x, y)p/2 . Pour tout x ∈ G, notons P (x, a) l’ensemble des points y de B0 (x, a) tels que |h(x) − h(y)|  Ld0 (x, y)p/2 . Convenons de plus que P 1 (x, a) est égal à P (x, a) tandis que P −1 (x, a) désigne c B0 (x, a). Nous avons montré que si x ∈ XN alors µ(P (x, a)) = µ(B0 (x, a)). Soit (xn )n
1 une famille d’éléments de XN dénombrable et dense dans G/ . Les ensembles /

n -

P εk (xk , a)

ε∈{−1,1}n k=1

sont de mesure pleine pour tout n
1, et forment une famille décroissante. Leur intersection X∞ =

/

∞ -

P εk (xk , a)

∗ ε∈{−1,1}N k=1

est de mesure pleine. Soient x et y deux points de X∞ tels que d0 (x, y) < a et (xki )i∈N∗ une sous-suite de (xn )n
1 tendant vers x. Comme x et y sont éléments de X∞ , lorsque i est assez grand, on a :         h(x) − h(y)  h(x) − h(xk ) + h(xk ) − h(y)  L d0 (x, xk )p/2 + d0 (xk , y)p/2 . i i i i

On en déduit que la restriction de h à X∞ est höldérienne d’ordre p/2. La fonction h0 continue sur G, égale à h sur X∞ est höldérienne d’ordre p/2, -périodique et vérifie ϕ = h0 − T h0 . ✷ Annexe A. Passage du temps continu au temps discret A.1. La classe C et les fonctions höldériennes et indicatrices Nous vérifions que si f est une fonction höldérienne ou une indicatrice d’ensemble régulier, alors la fonction ϕ = ϕf appartient à la classe C défini par un paramètre p dépendant de la régularité de f . Jusqu’à la fin du paragraphe, K désignera une constante telle que, pour tout z ∈ B0 (Id, 1) ∪ {T s /s ∈ [0, 1]}, on ait l’inégalité : d(zx, ¯ zy) ¯  Kd(x, ¯ y). ¯ • Lorsque f est (C, p)-höldérienne, ϕf est (CK p , p)-höldérienne car  1       s   s   ϕf (x)  ¯ − ϕf (y) ¯ =  f T x¯ − f T y¯ ds    0

C

1 0



d T s x, ¯ T s y¯

p

ds  CK p d(x, ¯ y) ¯ p.

608

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

La propriété (1a) est une conséquence du fait (établi dans le paragraphe I) que les ¯ On obtient la propriété fonctions höldériennes appartiennent à tous les espaces Lp (µ). (1b) grâce au théorèmes de Fubini. On a (m (ϕn ) = ((m χn ) ∗ ϕ donc  m    ( ϕn   (m χn  ϕ2  Cρ Cn ϕ2 ; 0 2 2

la propriété (2a) est établie. La propriété (2b) est une conséquence des lignes de calculs qui suivent :   ϕn (x) ¯ − ϕ(x) ¯ =



 





ϕ z−1 x¯ − ϕ(x) ¯ χn (z) dµ(z)  CK p

G

 CK p





p

d z−1 x, ¯ x¯ χn (z) dµ(z)

G





p

d z−1 , I d χn (z) dµ(z)  CK p ρ −pn .

G

Enfin l’inégalité suivante est plus forte que (2c) :   ϕn (x) ¯ − ϕn (y) ¯ =



 







ϕ z−1 x¯ − ϕ z−1 y¯ χn (z) dµ(z)

G

 CK p





p

d z−1 x, ¯ z−1 y¯ χn (z) dµ(z)  CK 2p d(x, ¯ y) ¯ p.

G

¯ ) vérifie les • Soit U un ensemble (C, p)-régulier. On montre que f = 1U − µ(U propriétés (1a), (1b) et (2a) (avec les mêmes arguments que dans le cas d’une fonction höldérienne). Passons à la propriété (2b) : ϕn − ϕ4  2ϕ∞ ϕn − ϕ1

    1 1  s −1   s    4 f T z y¯ dsχn (z) dµ(z) − f T y¯ ds  dµ( ¯ y) ¯    G/ 

4

1

G 0

0

     s     s −1  f T z y¯ dsχn (z) ds dµ(z) − f T y¯  dµ( ¯ y). ¯   

0 G/ 

G

Si, pour tout élément z de B0 (Id, ρ −n ), T s z−1 y¯ et T s y¯ appartiennent tous les deux à  c s −1 ¯ n (z) dµ(z) et f (T s y) ¯ sont égaux. Autrement dit f (T s y) ¯ U ou G f (T z y)χ  U alors s −1 ¯ n (z) dµ(z) ne peuvent être distincts que pour les y¯ pour lesquels il et G f (T z y)χ existe z ∈ B0 (Id, ρ −n ) tel que T s z−1 y¯ appartienne à U alors que T s y¯ appartient à U c , ou l’inverse, c’est-à-dire si y¯ appartient à l’ensemble /









T −s T s zT −s U ∩ U c ∪ T s zT −s U c ∩ U .

z∈B0 (Id,ρ −n )

Comme la distance d(T −s zT s , Id) vérifie 







d T −s zT s , Id = d T −s z, T −s  Kd(z, Id)  Kρ −n

609

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

cet ensemble est inclus dans T −s ∂U (2Kρ −n ). Par hypothèse U est (C, p)-régulier ; on obtient (2b) : ϕn − ϕ4  4

1





µ¯ T −s ∂U 2Kρ −n



ds  4C2p K p ρ −pn .

0

Enfin la propriété (2c) se déduit des inégalités suivantes :   ϕn (x) ¯ − ϕn (y) ¯ 













|ϕ(v)|χn yv −1 − χn xv −1  dµ(v)

G









|ϕ(v)|d0 yv −1 , xv −1 ρ Cn dµ(v)

B0 (Id,ρ −n )y∪B0 (Id,ρ −n )x







 2µ B0 Id, ρ −n d0 (y, x)ρ Cn . A.2. Passage des énoncés (PID
) et (PIS
) aux énoncés (PID) et (PIS) On a l’égalité : σ (f ) = σ (ϕf ). Nous noterons cette quantité σ jusqu’à la fin du paragraphe. Les calculs qui suivent montrent comment on peut passer des énoncés discrets aux énoncés continus. On a : t u





f T x¯ ds = s

k+1 [[t ]u]−1 

t u



f T x¯ ds +

0

0



s





f T s x¯ ds

[[t ]u]

k

¯ + = S[[t ]u] ϕf (x)

t u





f T s x¯ ds.

[[t ]u]

Pour tout t > 0 et u ∈ [0, 1], la quantité tu − [[t]u] est comprise entre 0 et 2. On a donc :  t u



1  P sup √  t u∈[0,1]

[[t ]u]



P

s



[[t ]u]+2

√   s  f T ·  ds > ε t

sup u∈[0,1]



=P

    f T · ds  > ε  



P

sup

k=0,...,[t ]

√   s  f T ·  ds ◦ T k > ε t

0

sup





[t ] 

P

√   s  f T ·  ds > ε t



t +1  6 3 ε t

0

√   s  f T ·  ds ◦ T k > ε t

0

  2 G/ 

√   s  f T ·  ds ◦ T [[t ]u] > ε t

 2

0

0

 2

2 u∈[0,1]

[[t ]u]

2

 (t + 1)P



0

  s  f T x¯  ds

6

dµ( ¯ x). ¯





610

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

Par ailleurs, en utilisant l’inégalité de Jensen et le théorème de Fubini, on a aussi :   2 G/ 

  s  f T x¯  ds

6

dµ( ¯ x) ¯

0



 2

 5

2 G/ 

  s 6 f T x¯  ds



dµ( ¯ x) ¯ 2

2 

  s 6 f T x¯  dµ( ¯ x) ¯ ds  26 f 6 .

5

6

0 G/ 

0

Nous avons prouvé dans les rappels que les fonctions que nous considérons appartiennent à à tous les espaces Lp . Finalement, nous avons montré que : 

 t u

1  P sup √  t u∈[0,1]

[[t ]u]

   t + 1 26 f 66  f T s · ds  > ε  3  t ε6 



ce qui suffit pour affirmer que presque sûrement √1t | ment vers 0 lorsque t tend vers l’infini. L’égalité

 tu

[[t ]u] f (T

s

·) ds| converge uniformé-

   1   √ S[[t ]u] ϕf − √1 S[[t ]u] ϕf  = o(1/t)S[[t ]u] ϕf  t  [t]

entraîne que presque sûrement la différence    1   √ S[[t ]u] ϕf − √1 S[[t ]u] ϕf   t  [t]

tend vers 0 uniformément en u. On montre de manière semblable que la même chose vaut pour     1 1    (2[t]σ 2 log log[t])1/2 S[[t ]u] ϕf − (2tσ 2 log log t)1/2 S[[t ]u] ϕf .

Ecrivons alors : 1 √ σ t

t u 0



!

  1 1 1 √ − √ f T s x¯ ds = √ S[[t ]u] ϕf (x) ¯ + S[[t ]u] ϕf (x) ¯ σ [t] σ t σ [t]

1 + √ σ t

t u





f T s x¯ ds.

[[t ]u]

Les deux derniers termes du membre de droite convergent en probabilité vers 0 (remarques précédentes) et le premier converge en loi vers le mouvement brownien (théorème A ). La première partie du théorème A est acquise. Intéressons-nous maintenant à la deuxième partie. On a

611

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

1 ¯ = ζt (u, x) 2 (2tσ log log t)1/2

t u





f T s x¯ ds

0

1 S[[t ]u] ϕf (x) ¯ = 2 (2[t]σ log log[t])1/2  ! 1 1 − S[[t ]u] ϕf (x) ¯ + (2tσ 2 log log t)1/2 (2[t]σ 2 log log[t])1/2 1 + 2 (2tσ log log t)1/2







f T s x¯ ds

[[t ]u]

1

ϕ

¯ + = ζ[t ]f (u, x)

t u

ϕ

(2[t]σ 2 log log[t])1/2

S[[t ]u] ϕf (x) ¯ − ζ[t ]f (u, x) ¯ !

1 1 − S[[t ]u] ϕf (x) ¯ + 2 1/2 2 (2tσ log log t) (2[t]σ log log[t])1/2 1 + 2 (2tσ log log t)1/2

t u





f T s x¯ ds,

[[t ]u]

ϕ

¯ désigne l’interpolation définie dans l’introduction pour l’énoncé du principe où ζ[t ]f (u, x) d’invariance de Strassen dans le cas du temps discret (PIS ). Comme on l’a déjà vu, les troisième et quatrième termes de cette somme tendent presque sûrement uniformément ], on a : vers 0. Pour tout u ∈ [ [tk] , k+1 [t ] k+1        s  1 1 ϕf   f T x¯  ds. ¯ − ζ[t ] (u, x) ¯   (2[t]σ 2 log log[t])1/2 S[[t ]u] ϕf (x) 2 1/2 (2[t]σ log log[t]) k

Le calcul fait plus haut, permet donc d’affirmer que le deuxième terme tend aussi presque sûrement vers 0 uniformément en u. La deuxième partie du théorème A est une conséquence du théorème A appliqué à ϕf .

RÉFÉRENCES [1] Borel A., Introduction aux groupes arithmétiques, Publications de l’Institut de Mathématique de l’Université de Strasbourg, XV. Actualités Scientifiques et Industrielles, No. 1341, Hermann, Paris, 1969. [2] Bourbaki N., Éléments de mathématique : groupes et algèbres de Lie. Chapitre 9. Groupes de Lie réels compacts. [Chapter 9. Compact real Lie groups], Masson, Paris, 1982. [3] Bourbaki N., Éléments de mathématique. Fascicule XXIX. Livre VI : Intégration. Chapitre 7. Mesure de Haar. Chapitre 8. Convolution et représentations, Actualités Scientifiques et Industrielles, No. 1306, Hermann, Paris, 1963. [4] Bröcker T., tom Dieck T., Representations of compact Lie groups, Graduate Texts in Mathematics, Vol. 98, Springer-Verlag, New York, 1995.

612

S. LE BORGNE / Ann. I. H. Poincaré – PR 38 (2002) 581–612

[5] Bauer M., Broise A., Dal’bo F., Guimier F., Guivarch Y., Peigné M., Propriétés de mélange pour les groupes à un paramètre de SL(d, R), Séminaires de probabilités de université de Rennes 1, 1992. [6] Bunimovich L.A, Sina˘ı Ya.G., Chernov N.I., Statistical properties of two-dimensional hyperbolic billiards, Uspekhi Mat. Nauk 46 4 (280) (1991) 43–92, 192 (Russian) translation in: Russian Math. Surveys 46 (4) (1991) 47–106. [7] Burton R., Denker M., On the central limit theorem for dynamical systems, Trans. Am. Math. Soc. 302 (1987) 715–726. [8] Cassels J.W.S., Rational Quadratic Forms, Academic Press, 1978. [9] Conze J.-P., Le Borgne S., Méthode de martingales et flot géodésique sur une surface de courbure négative constante, Ergodic Theory Dynam. Systems 21 (2) (2001) 421–441. [10] Conze J.-P., Raugi A., Convergence des potentiels pour un opérateur de transfert, applications aux systèmes dynamiques et aux chaînes de Markov. Fascicule de probabilités, Publ. Inst. Rech. Math. Rennes, Univ. Rennes I, Rennes, 1998. [11] Dolgopyat D., Limit theorems for partially hyperbolic systems, preprint. [12] Gordin M., The central limit theorem for stationary processes, Soviet Math. Dokl. 10 (1969) 1174–1176, translation from Dokl. Akad. Nauk SSSR 188 (1969) 739–741. [13] Guivarc’h Y., Hardy J., Théorèmes limites pour une classe de chaînes de Markov et applications aux difféomorphismes d’Anosov, Ann. Inst. H. Poincaré Probab. Statist. 24 (1) (1988) 73–98. [14] Hall P., Heyde C.C., Martingale Limit Theory and its Application, Probability and Mathematical Statistics, Academic Press, New York, 1980. [15] Howe R., Tan E.-C., Nonabelian harmonic analysis. Applications of SL(2, R). Universitext, Springer, New York, 1992. [16] Katok A., Spatzier R., First cohomology of Anosov actions of higher rank abelian groups and applications to rigidity, Inst. Hautes Études Sci. Publ. Math. 76 (1994) 131–156. [17] Kleinbock D.Y., Margulis G.A., Bounded orbits of nonquasiunipotent flows on homogeneous spaces, in: Sina˘ı’s Moscow Seminar on Dynamical Systems, Amer. Math. Soc. Transl. Ser. 2, 171, pp. 141–172. [18] Le Borgne S., Limit theorems for non-hyperbolic automorphisms of the torus, Israel J. Math. 109 (1999) 61–73. [19] Le Jan Y., The central limit theorem for the geodesic flow on noncompact manifolds of constant negative curvature, Duke Math. J. 74 (1) (1994) 159–175. [20] Ratner M., The central limit theorem for geodesic flows on n-dimensional manifolds of negative curvature, Israel J. Math. 16 (1973) 181–197. [21] Sina˘ı Ja.G., The central limit theorem for geodesic flows on manifolds of constant negative curvature, Soviet Math. Dokl. 1 (1960) 983–987. [22] Volny D., Counter examples to the central limit problem for stationary dependent random variables, Yokohama Math. J. 36 (1988) 70–78. [23] Warner G., Harmonic analysis on semi-simple Lie groups. I., Die Grundlehren der mathematischen Wissenschaften, Band 188, Springer, New York, 1972. [24] Young L.-S., Statistical properties of dynamical systems with some hyperbolicity, Ann. of Math. (2) 147 (3) (1998) 585–650.