Groupes linéaires à valeurs propres positives et automorphismes des cônes convexes

Groupes linéaires à valeurs propres positives et automorphismes des cônes convexes

C. R. Acad. Sci. Paris, t. 325, Serie I, p. 471-474, 1997 Theorie des groupes/Group Theory Groupes Iineair-es it valeurs propres positives et automor...

262KB Sizes 0 Downloads 64 Views

C. R. Acad. Sci. Paris, t. 325, Serie I, p. 471-474, 1997 Theorie des groupes/Group Theory

Groupes Iineair-es it valeurs propres positives et automorpbismes des cones convexes Yves BENOIST CNRS, Universite Paris VlI, UFR de Mathernatiques, 2, place Jussieu , 75251 Paris Cedex OS , France. E-mail : [email protected] .fr

Resume,

Je montre que Ie groupe lineaire GL(m, R) contient un sous-groupe Zariski-dense dont tous les elements n'ont que des valeurs propres positives si et seulement si m ;E 2 modulo 4. Je generalise cet enonce a taus les groupes algebriques reels. Je decris les adherences de Zariski possibles pour les sous-groupes r de GL( m , R) qui preservent un cone ouvert convexe saillant n de Rm et dont l'action sur Rm est irreductible. Je montre comment ces deux problemes sont relies.

Linear groups with positive eigenvalues and outomorpldsms of convex cones

Abstract.

I show that the linear group GL( m , R) contains a Zariski dense subgroup all of whose eigenvalues are positive if and only if m ;E 2 modulo 4. I extend this statement to any real algebraic group. I describe the Zariski closure of the subgroups r of GL( m, R) which preserve a properly convex open cone n of Rna and whose action on Rna is irreducible. I show how these two problems are related.

1. Groupes lineaires it valeurs propres positives On munit le groupe lineaire GL(m, R) de la topologie de Zariski. Les fermes de cette topologie sont les ensembles des zeros d'une famille de polynomes, On parlera de parties Zariski-ouvertes, Zariski-fermees, Zariski-connexes, Zariski-denses, ... etc . Dans cette Note, un groupe lineaire algebrique reel G est un sous-groupe Zariski-ferme de GL( m, R) et une representation de G est un morphisme rationnel p de G dans Ie groupe lineaire GL(V) d'un espace vectoriel reel V de dimension tinie. Remarquons que Ie fait qu'un element 9 de G soit a valeurs propres reelles (resp. positives) ne depend pas du plongement de G dans GL(m, R). Le groupe G est dit deploy« si {g E G / 9 est a valeurs propres positives} est une partie Zariski-dense de G. Un sous-groupe r de GL( m, R) est dit a valeurs propres reelles (resp. positives) si toutes les valeurs propres de tous les elements de r sont reelles (resp. positives). Note presentee par Michel

DUFLO.

0764-4442197/03250471 © Acadernie des Sciences/Elsevier, Paris

471

Y. Benoist Rappelons que dans un groupe algebrique deploye, tout sous-groupe Zariski-dense contient un sous-groupe Zariski-dense a valeurs propres reelles (voir I'appendice A.6 de [3]). La premiere partie du theoreme suivant decrit les adherences, pour la topologie de Zariski, des groupes lineaires valeurs propres positives.

a

TfffioRtME 1. - Soit G un groupe linea ire algebrique reel deploye. On a les equivalences suivantes : 1) G contient un sous-groupe Zariski-dense a valeurs propres positives <==> G n 'admet pas de representations irreductibles symplectiques non triviales. 2) Tout sous-groupe de G Zariski-dense contient un sous-groupe Zariski-dense a valeurs propres positives <==> Toutes les representations irreductibles de G sont orthogonales.

GL(m, R) et SL(m, R) Spin(p, p + 1) Spin(p,p) SO(p,p) et SO(p,p + 1) G semi-simple adjoint

Condition 2

Condition 1

Exemples p

m"!- 2 modulo 4 et p + 1 "!- 2 modulo p"!- 2 modulo 4 toujours toujours

4

jamais p et p + 1 "!- 2 modulo 4 p == 0 modulo 4 toujours Wo =-1

Remarque. - En particulier, tout sous-groupe Zariski-dense de 8L(2, R) conticnt un element a valeurs propres negati ves (ce fait est demontre dans [4]), et iI existe des sous-groupes zariskidenses de 8L(3, R) a valeurs propres positives (par exemple, les groupes d'holonomie des structures projectives convexes sur les surfaces, construits dans [5]).

2. Automorphismes des cones convexes saillants Un cone ouvert convexe n de V = Rm est dit sail/ant si son adherence ne contient pas de droites. La premiere partie du theorerne ci-dessous decrit les adherences de Zariski G des sous-groupes I' de GL(m,R) qui preservent un cone convexe saillant f! de Rm et dontl'action sur Rm est irreductible. Remarquons que Ie groupe G est un groupe reductif et que Vest une representation irreductible de G dans un espace vectoriel reel de dimension finie. Void quelques rappels de theorie des representations dont nous avons besoin. Soient G un groupe algebrique reel reductif Zariski-connexe. Notons AO la composante connexe d'un sous-tore deploye maximal A de G et A+ une chambre de Weyl de AO. On note P Ie reseau des poids (relatif au systeme de racines restreintes de AO). II est muni de l'ordre habituel : " ~ JL <==> "(a) ~ JL(a) Va E A+ . Soit (V,p) une representation irreductible reelle de G. Pour" dans P, on note VA I'espace de poids correspondant VA := {v E V / Va E AO p(a)v = "(a)v} et rnA := dim VA la multiplicite de ce poids. L'ensemble des poids de AO dans V contient un unique element maximal Xv appele le plus haut poids restreint de V. La representation (V, p) est dite proximale si Ia multiplicite du plus haut poids est 1. Deux representations irreductibles reelles proximales de G seront dites egales modulo 2 si Ia difference de leur plus haut poids restreint est dans 2P. THtORtiME 2. - Soient V = Rm et G c GL(V) un sous-groupe algebrique Zariski-connexe. On a les equivalences suivantes : 1) G contient un sous-groupe Zariski-dense r qui preserve un cone ouvert convexe sail/ant n de V <==> Vest une representation irreductible proximale de G et n'est pas egale modulo 2 a une representation irreductible proximale symplectique non trivia Ie.

472

Groupes lineaires

a valeurs

prop res positives et automorphismes des cones convexes

2) Tout sous-groupe de G Zariski-dense contient un sous -groupe Zariski-dense qui preserve un cone ouvert convexe sail/ant 0 de V ¢=::} Vest une representation irreductible proximale de G et est egale modulo 2 a une representation irreductible proximale orthogonale. Remarques. - (I) Lorsque G est deploye, toutes les representations irreductibles reelles de G sont pro ximales. (2) Une representation irreductible proximale de G est absolument irreductible, (3) On note L Ie centralisateur de A dans G et P" Ie reseau des caracteres rationnels deployes de L. Un tel caractere est entierernent determine par sa restriction a AO , ce qui permet d'identifier P" avec un sous-reseau du reseau P' des caracteres rationnels de A, lui me me etant un sou s-reseau de P. On a les inclusions 2P C P'' c P' C P. Remarquons que I'application V -+ X\ · induit une bijection de I'ensemble de s representations irreductibles proximales de G dans I'ensemble des poids dominants (relativement a A+) de P" (voir [I]). (4) II est facile de determiner au vu du plus haut poids restreint d'une representation irreductible proximale si celle-ci est orthogonale, symplectique ou non autoduale. (5) Les representations irreductibles reelles proximales dont Ie plus haut poids restreint est dans 2P ne sont autres que les repre sentations spheriques, i.e. celles qui admettent un vecteur non nul invariant par un sous-groupe compact maximal K de G (voir [7]). II n'est pas difficile de verifier que les representations spheriques sont exactement celles pour lesquelles il existe dan s V un cone ouvert convexe saillant G-invariant.

3. Cones strictement con vexes saillants divisibles Un cone convexe saillant de R'" est dit strictement convexe si les segments ouverts inclus dans l'adherence de n qui ne sont pas radiaux sont inclus dans O . On dit qu'un sous-groupe discret I' de GL(m..R) divise un cone convexe saillant n de Rill s'il preserve n et si Ie quotient f\n est compact. On dit alors que n est divisible (voir [13]) .

Exemple. - soient 'l une form e quadratique lorentzienne sur Rm et n un cone de futur pour q. i.e. une des composantes connexes convexes de {v E Rm / q(v) #- O} . Alors n est divi sible: les

sous-groupes r qui divi sent H sont les reseaux cocompacts du groupe des similitudes de q. Le resultat suivant se dernontre avec les memes idee s que Ie theoreme 2.

COROLLAIRE. - Soit T un sous-groupe discret de GL(m , R) qui divise un cone strictement convexe sail/ant n qui n'est pas un cone de futur pour une forme quadratique lorentzienne sur R"'. Alors I' est Zariski-dense dans GL(m , IR).

Remarques. - (1) Reciproquernent, D. Johnson et J. Millson construisent dans [9], en toutes dimensions m ~ 3 et pour certains reseaux cocompacts I' de SO(m - 1, I), des deformations Pt(r) dans GL(m, R) qui sont Zariski-denses. II resulte de [10] et [II] que, pour t petit, pt(f) divise un cone convexe saillant Ot. On peut montrer que ces cones Ot sont strictement convexes. (2) Une etude tres complete des cones convexes saillants divisibles en dimension 3 est due a W. Goldman dans [5] .

4. Positlvite dans I'ensemble limite Donnons maintenant la structure de la demonstration du theoreme 2. Soient V = Rm et Q(V) = {(v , f) E P(V) x P(V·) / I (v) = O}. On dit qu 'un triplet ((Vi ' II) , (V2 ' h) , (V3 ' fJ)) de Q(V) est positif (resp. negatif) si I,(v)) > 0 (resp. < 0).

II '#)

473

Y. Benoist

Soient G un groupe algebrique reel reductif Zariski-connexe, (V, p) une representation irreductible de G et r un sons-groupe de G Zariski-dense. On montre tout d'abord : LEMME I. - Si r preserve un cone ouvert convexe sail/ant de V, alors pest proximale. On suppose desormais la representation p proximale. On peut alors considerer I'ensemble limite Ar de r dans Q(V) (voir [6] et [2]). LEMME 2. - r contient un sous-groupe Zariski-dense qui preserve un cone ouvert convexe sail/ant de V si et seulement si l'ensemble limite A r contient un triplet positif. Remarquons que l' ensemble limite A a n' est autre que la G-orbite du couple (v+, f+) OU v+ (resp. f+) est la droite de plus haut poids de V (resp. V·). Pour Y dans l'algebre de Lie g de G, on note nv(Y) := inf'[n E N / f+(Yn v+) ::f:. O} EN U 00. Le theorerne 2 se deduit alors du lemme : LEMME 3. - On a les equivalences suivantes : A a contient un triplet positif (resp. negatif) <===? Il existe Y dans g tel que nv(Y) est pair (resp. impair) <===? V n'est pas egal modulo 2 a une representation irreductible proximale symplectique (resp. orthogonale). Le theoreme I se demontre de la merne facon en procedant simultanement avec toutes les representations irreductibles proximales de g.

Note remise Ie 28 mai 1997, acceptee Ie 19 juin 1997.

References bibliographiques [I] Abels H., Margulis G. et Soifer G., 1995. Semigroups containing proximal linear maps, Israel J. Math., 91, p. 1-30. [2] Benoist Y., 1997. Proprietes asymptotiques des groupes lineaires, Geom. Funct. Anal. 7, p. 1-47. . [3] Benoist Y. et Labourie F., 1993. Sur les diffeomorphismes d'Anosov affines a feuilletages stable et instable differentlables, Invent. Math. Ill, p. 285-308. [4] Choi S. et Goldman W., 1993. Convex real projective structures on closed surfaces are closed, Proc. Amer. Math. Soc. 118, p. 657-661. [5] Goldman W., 1990. Convex real projective structures on compact surfaces, J. Differential Geom.• 31, p. 791-845. [6] Guivarc'h W., 1990. Produits de matrices aleatoires et applications, Ergodic Theory Dynamical Systems. 10. p. 483-512. (7) Helgason S., 1984. Groups and geometric analysis. Acad. Press. (8) Humphreys J., 1975. Linear algebraic groups, 21 Springer. [9] Johnson D. et Millson J., 1984. Deformation spaces associated to compact hyperbolic manifolds, in Discrete subgroups... Progr. in Math. 67, p. 48-106. [10) KOSIUI J ••L., 1968. Deformation des connexions localement plates, Ann. lnst. Fourier. p. 103-114. [II] Thurston W. The geometry and topology of three manifolds. in preparation. [12) Tits J., 1972. Free subgroups in linear groups, J. Algebra 20. p. 250-270. (13) Vey J., 1970. Sur les automorphismes affines des ouverts convexes saillants, Ann. Scuola Norm. Sup. Pisa, 24. p. 641-665.

474