Sous-groupes paraboliques et représentations de groupes branchés

C. R. Acad. Sci. Paris, t. 332, Série I, p. 789–794, 2001 Théorie des groupes/Group Theory

Sous-groupes paraboliques et représentations de groupes branchés Laurent BARTHOLDI a , Rostislav I. GRIGORCHUK b a b

11, chemin de la Barillette, 1260 Nyon, Suisse Steklov Institute of Mathematics, Gubkina 8, Moscow 117966, Russia Courriel : [email protected]; [email protected]

(Reçu le 15 juillet 2000, accepté après révision le 5 mars 2001)

Résumé.

Soit G un groupe branché (au sens de [9]) agissant sur un arbre T. Un sous-groupe parabolique P est le stabilisateur d’un rayon géodésique infini de T. On note ρG/P la représentation quasi régulière associée. Si G est discret, ces représentations sont irréductibles, mais si G est profini, elles se décomposent en une somme directe de représentations de dimension finie ρG/Pn+1
ρG/Pn , où Pn est le stabilisateur d’un sommet de niveau n de T. Pour quelques exemples concrets (dont un groupe branché virtuellement sans torsion), on décompose complètement ρG/Pn en composantes irréductibles ; (G, Pn ) et (G, P ) sont des paires de Gelfand (donnant des algèbres de Hecke abéliennes).  2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS

Parabolic subgroups and representations of branch groups Abstract.

Let G be a branch group (in the sense of [9]) acting on a tree T. A parabolic subgroup P is the stabilizer of an infinite geodesic ray in T. We denote by ρG/P the associated quasiregular representation. If G is discrete, these representations are irreducible, but if G is profinite, they split as a direct sum of finite-dimensional representations ρG/Pn+1
ρG/Pn , where Pn is the stabilizer of a level-n vertex in T. For a few concrete examples (notably a virtually torsion-free branch group), we completely split ρG/Pn in irreducible components; (G, Pn ) and (G, P ) are Gelfand pairs (producing abelian Hecke algebra).  2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS

Abridged English version We initiate in this paper the study of unitary representations of groups of branch and fractal nature. The importance of this class of groups was made clear in [9,1] and the numerous papers cited therein. A branch group is a group G acting on a d-regular rooted tree T, with a finite-index subgroup K such that K d embeds in K by acting on the d subtrees below the root of T. A parabolic subgroup P is the stabilizer of an infinite ray in T. We establish their weak maximality, and study the corresponding quasi-regular representations ρG/P . Note présentée par Mikhael G ROMOV. S0764-4442(01)01946-2/FLA  2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS. Tous droits réservés

789

L. Bartholdi, R.I. Grigorchuk

If G is a discrete branch group, these representations are irreducible. If G is a profinite branch group, ρG/P is a direct sum of the trivial representation and of the finite-dimensional representations ρG/Pn+1
ρG/Pn , where Pn is the stabilizer of a level-n vertex in the tree on which G acts.
etc., one of which, Γ, is We formulate our results by focusing explicitly on a few typical examples: G, G, the first occurrence of a virtually torsion-free branch group. The facts known of our examples are collected in the following table: G


G

Γ

K

Γ

K

Γ

Just-infinite

+

+

+

+

−

−

+

Just-nonsolvable

+

+

+

+

+

+

+

Branch

+

+

+

+

−

−

+

Weak branch

+

+

+

+

+

+

+

Fractal

+

+

+

−

+

+

+

Congruence property

+

+

+

+

?

?

+

Torsion

+

−

−

−

−

−

+

(1)Virtually torsion-free

−

−

+

+

+

+

−

(2) Intermediate growth

+

+

+

+

+

+

+

(3) Finitely L-presented

+

+

+

+

+

+

+

(4)

+

+

+

+

?

?

−

Finite width

Property (1) is new for branch groups; (2) is studied in [8,1]; (3) is studied in [12,4,2]; (4), conjectured for G as early as 1989 by the second author, is studied in [13,5,3]. A thorough treatment of G appears in [11].

1. Introduction Nous amorçons dans cette Note l’étude des représentations unitaires de groupes fractals et branchés. L’importance de cette classe de groupes a été mise en évidence dans [9,1] et les nombreuses références qui s’y trouvent. Nous définissons des sous-groupes paraboliques P , démontrons leur maximalité faible, et étudions les représentations quasi régulières ρG/P associées. Si G est un groupe branché discret, ces représentations sont irréductibles. Si G est un groupe branché profini, ρG/P est la somme directe de la représentation triviale de G et des représentations de dimension finie ρG/Pn+1
ρG/Pn , où Pn est le stabilisateur d’un sommet de niveau n dans l’arbre sur lequel G agit. Nous avons formulé nos résultats en nous concentrant sur quelques exemples typiques ; l’un d’eux, Γ, est le premier exemple de groupe branché virtuellement sans torsion. Nous donnons plus de détails dans [4]. 2. Définitions principales Les groupes considérés sont des groupes d’automorphismes d’arbres réguliers enracinés. Soit Σ = {1, 2, . . . , d} un alphabet fini. L’ensemble des sommets de l’arbre T = Td associé est l’ensemble des suites finies sur Σ ; deux suites sont reliées par une arête si une suite peut être obtenue à partir de l’autre par ajout à droite d’une lettre de Σ. La racine de l’arbre est la suite vide. Soit G < Aut(T). Soit StabG (σ) le sous-groupe de G constitué des automorphismes fixant la suite σ, et soit StabG (n) le sous-groupe de G constitué des suites fixant toutes les suites de longueur n :

790

Représentations de groupes branchés

StabG (σ) = {g ∈ G | gσ = σ},

StabG (n) =



StabG (σ).

σ∈Σn

Les StabG (n) sont des sous-groupes distingués d’indice fini dans G. Soit Gn le quotient G/ StabG (n). Si g ∈ Aut(T) fixe la suite σ, on note g|σ l’élément de Aut(T) associé à la restriction aux suites commençant par σ, ce qui s’écrit en formules σg|σ (τ ) = g(στ ). Comme le sous-arbre en-dessous de n’importe quel sommet est isomorphe à T, on obtient une application ψ : StabAut(T) (1) → Aut(T)Σ , h → (h|1 , . . . , h|d ), qui est un isomorphisme de groupes. Le groupe G est sphériquement transitif si son action sur Σn est transitive pour tout n ∈ N. On supposera toujours que cette condition est satisfaite ; G est fractal si pour chaque sommet σ de T on a StabG (σ)|σ ∼ = G, où l’isomorphisme est induit par l’identification de T avec le sous-arbre enraciné en σ. On a alors pour n tout n une injection StabG (n) → Gd . Si σ est une suite et g ∈ Aut(T) est un automorphisme, on note g σ l’élément de Aut(T) agissant comme g sur les suites commençant par σ, et trivialement sur les autres : g σ (στ ) = σg(τ ), et g σ (τ ) = τ si τ ne commence pas par σ.  Le stabilisateur rigide de σ est RistG (σ) = {g σ | g ∈ G} ∩ G, et on note RistG (n) = σ∈Σn RistG (σ). D ÉFINITIONS 1. – Soit G < Aut(T) un groupe sphériquement transitif. (i) G est régulièrement branché sur K s’il possède un sous-groupe K < StabG (1) d’indice fini tel que K Σ < ψ(K). (ii) G est branché si RistG (n) est d’indice fini dans G pour tout n. (iii) G est faiblement branché si tous ses stabilisateurs rigides RistG (σ) sont infinis. Remarquons que, pour les groupes fractals, (i) implique (ii) et (ii) implique (iii) dans les définitions ci-dessus. Remarquons aussi qu’en principe ces notions dépendent du choix de T et de l’action de G. Toutes ces définitions sont aussi valables dans la catégorie des groupes profinis, mais dans ce cas il faut considérer Aut(T) comme un groupe profini avec sa toplogie naturelle, et G doit être un sous-groupe fermé. 3. Exemples principaux 3.1. Le groupe G. – Ce groupe a été défini par le second auteur en 1980 [7] ; il agit sur l’arbre T2 . Soit a l’automorphisme de T2 permutant les deux branches à la racine. Soit récursivement b, c, d respectivement l’automorphisme agissant comme a, a, 1 sur la branche gauche et comme c, d, b sur la branche droite ; en formules, ψ(b) = (a, c), ψ(c) = (a, d) et ψ(d) = (1, b). Soit G = a, b, c, d.
– Cet autre groupe a été défini par les auteurs dans [5] ; il agit aussi sur T2 . Avec 3.2. Le groupe G.
et ψ(d)
= (1,
b). Soit la même notation que ci-dessus, on définit
b,
c, d
par ψ(
b) = (a,
c), ψ(
c) = (1, d)

On a G
d

b. Soit K
G  G.
= a,
b,

> G = a,
b

= [a,
b], [a, d]
G c, d. c,
cd, 3.3. Les groupes Γ, Γ et Γ. – Les trois groupes suivants sont des sous-groupes de Aut(T3 ). Soit a ∈ Aut(T3 ) permutant cycliquement les trois branches supérieures ; soit r ∈ Aut(T3 ) défini récursivement par ψ(r) = (a, 1, r) et de même soient s et t définis par ψ(s) = (a, a, s) et ψ(t) = (a, a−1 , t). Soit Γ = a, r, et K = ar, ra  Γ. Soit Γ = a, s, et K = sa−1 , a−1 s  Γ. Soit Γ = a, t ; il a été étudié dans les années 80 par Narain Gupta and Said Sidki [10]. 4. Propriétés algébriques Nous résumons les propriétés principales de nos exemples dans le tableau ci-dessous. Remarquons que tous ces groupes sont résiduellement finis. Un point d’interrogation ( ?) indique que la propriété n’est pas connue pour ce groupe.

791

L. Bartholdi, R.I. Grigorchuk

Rappelons qu’un groupe G est juste-infini s’il est infini et si tous les quotients propres sont finis ; G est juste-non-résoluble s’il n’est pas résoluble et si tous ses quotients propres le sont. Le groupe G a la propriété de congruence si tout sous-groupe de G d’indice fini contient StabG (n) pour un certain n ; G a croissance intermédiaire si pour une quelconque métrique des mots sur G le volume des boules croît à un taux plus rapide que polynomial et plus lent qu’exponentiel ; G est de largeur finie s’il existe une borne uniforme sur le rang des quotients γn (G)/γn+1 (G) de sa suite centrale descendante. G est de L-présentation finie s’il peut être présenté à l’aide d’un nombre fini de générateurs et de la clôture d’un nombre fini de relations par itération d’une substitution sur l’ensemble générateur. G


G

Γ

K

Γ

K

Γ

Juste-infini

+

+

+

+

−

−

+

Juste-non-résoluble

+

+

+

+

+

+

+


K

Γ







−

−

Γ

Régulièrement branché sur

[a, b]

G

Γ




Faiblement branché

+

+

+

+

+

+

+

Fractal

+

+

+

−

+

+

+

Propriété de congruence

+

+

+

+

?

?

+

Torsion

+

−

−

−

−

−

+

(1) Sous-groupe sans torsion d’indice

∞

∞

3

1

3

1

∞

(2)

Croissance intermédiaire

+

+

+

+

+

+

+

(3)

L-présentation finie

+

+

+

+

+

+

+

(4)

Largeur finie

+

+

+

+

?

?

−

La propriété (1) est nouvelle pour les groupes branchés ; (2) est étudiée dans [8,1] ; (3) est étudiée dans [12,4,2] ; (4), conjecturée pour G dès 1989 par le second auteur, est étudiée dans [13,5,3]. La référence [11] consacre un chapitre entier à G. 5. Sous-groupes paraboliques Soit T = Σ∗ un arbre enraciné. Un rayon e dans T est une géodésique infinie partant de la racine de T, ou de manière équivalente un élément de ∂T = ΣN . Soit G < Aut(T) un sous-groupe quelconque et soit e un rayon. Le sous-groupe parabolique associé est Pe = StabG (e), noté P ci-dessous. Lespoints suivants  méritent une attention particulière : – e∈∂T Pe = g∈G P g = 1 (c’est-à-dire que P a un noyau trivial) ; – soit e = e1 e2 · · · ∈ ΣN un rayon infini est soient Pn = StabG (e1 . . . en ) les sous-groupes stabilisant un point de niveaun. Alors les Pn sont d’indice dn dans G (puisque G agit transitivement sur Σn ) et satisfont Pe = n∈N Pn ; – P est d’indice infini dans G et a la même image que Pn dans le quotient Gn . Soit G un groupe branché, et soit H un sous-groupe quelconque ; H est faiblement maximal si H est d’indice infini dans G, mais si tous les sous-groupes de G contenant strictement H sont d’indice fini dans G. (On remarque que tout sous-groupe infini de type fini possède des sous-groupes faiblement maximaux, d’après le lemme de Zorn.) T HÉORÈME 1. – Soit P un sous-groupe parabolique d’un groupe régulièrement branché G. Alors P est faiblement maximal. Si G est un groupe branché, le sous-groupe parabolique P peut être décomposé explicitement en une extension scindée, itérée par des groupes finis. Par exemple, pour G, on pose e = 22 . . . et P = Pe , obtenant le :

792

Représentations de groupes branchés

T HÉORÈME 2. – P/P  est un 2-groupe infini élémentaire, engendré par les images de c, d et des éléments de la forme (1, . . . , 1, (ac)4 ) dans RistG (n) pour tout n ∈ N. On a la décomposition suivante :           b, (ac)4  c, (ac)4 , P = B × K × (K × · · ·)  (ac)4 où chaque facteur B, K, K, . . . de niveau n dans la décomposition agit sur le sous-arbre juste sous en mais ne contenant pas en+1 . Ici, B est la clôture normale de b, et K est la clôture normale de [a, b]. 6. Représentations quasi régulières Si H est un sous-groupe du groupe discret G, on note ρG/H la représentation quasi régulière de G sur 2 (G/H) ; si H = 1, c’est la représentation régulière gauche de G. Le commensurateur du sous-groupe H de G est  commG (H) = g ∈ G | H ∩ H g est d’indice fini dans H et H g . De façon équivalente, commG (H) est l’ensemble des g ∈ G tels que les classes à droite gH et g −1 H ont des orbites finies pour l’action de H sur G/H par multiplication à gauche. Un critère de George Mackey affirme que, pour un groupe infini G, la représentation quasi régulière ρG/H est irréductible si et seulement si commG (H) = H. T HÉORÈME 3. – Si G est un groupe fractal faiblement branché, alors commG (P ) = P . C OROLLAIRE 4. – Pour G fractal et faiblement branché, il y a une quantité non dénombrable de représentations irréductibles non équivalentes de la forme ρG/P , où P est un sous-groupe parabolique. Une situation complètement différente se présente si G est un groupe profini ; soient en effet ρG/Pn les représentations de dimension finie. Elles forment une tour ascendante de représentations, avec ρG/Pn+1 =  ρG/Pn ⊕ πn⊥ pour des représentations πn⊥ . On remarque aussi que le sous-groupe P = n
0 Pn est fermé. T HÉORÈME 5. – Soit G un groupe profini branché et soit P un sous-groupe parabolique. Alors la représentation quasi régulière ρG/P se décompose en une somme de représentations de dimension finie :

ρG/P = πn⊥ . n
0

 = proj lim Gn la complétion profinie du groupe discret G relativement à sa suite {StabG (n)}n∈N Soit G  sont en correspondence de sous-groupes d’indice fini. Alors les représentations irréductibles de G biunivoque avec les représentations irréductibles des groupes finis Gn = G/ StabG (n).  Or ρGn est une sous-représentation de ρG/Pn ⊗ · · · ⊗ ρG/Pn (avec dn facteurs), puisque StabG (n) = g∈G/Pn Png . On est ainsi amené à étudier les représentations ρG/Pn et leurs composantes irréductibles. On poursuit l’étude de nos exemples de base dans la section suivante. 7. Algèbres de Hecke et paires de Gelfand D ÉFINITION 2. – Soit G un groupe et H un sous-groupe. On pose Q = commG (H) et        HqH . C [G, H] = f : Q → C  f (hqh ) = f (q), ∀h, h ∈ H et supp(f ) ⊂ finie

 C’est une algèbre pour le produit de convolution (f · g)(x) = y∈G f (xy)g(y −1 ), qui agit à droite sur 2 (G/H). L’algèbre de Hecke (aussi appelée algèbre d’intersection), L(G, H), est la clôture faible de C [G, H] dans L(2 (G/H)), et elle coïncide avec le commutant de ρG/H (G) dans L(2 (G/H)). L’algèbre L(G, H) est engendrée topologiquement par les fonctions (H, H)-bi-invariantes sur Q à support compact, où de façon équivalente par les fonctions caractéristiques des doubles classes HqH. Le résultat suivant souligne l’importance des algèbres de Hecke dans l’étude de la décomposition des

793

L. Bartholdi, R.I. Grigorchuk

représentations ([6], Section 11D) : supposons que H est d’indice fini dans G. Alors L(G, H) est une algèbre semi-simple. Il y a une bijection canonique entre les composantes isotypiques de ρG/H et les facteurs simples de L(G, H), associant Mn (C) à une composante de multiplicité n. Ainsi, si L(G, H) est abélienne, la décomposition en G-modules simples de ρG/H a autant de composantes qu’il y a de doubles classes HgH dans G. Quant aux doubles classes de Pn dans G, elles sont données par les orbites de Pn sur G/Pn , ou, en d’autres termes, par les orbites de Pn sur Σn . Celles-ci peuvent être décrites explicitement :
le sous-groupe Pn a n + 1 orbites dans Σn ; ce sont {2n } et les L EMME 6. – Pour les groupes G et G, n−1−i 2 1Σ pour 0
i < n. Les orbites des groupes profinis P dans ΣN sont {2∞ } et les 2i 1ΣN pour tout i ∈ N. Pour les trois exemples Γ, Γ et Γ, le sous-groupe Pn a 2n + 1 orbites dans Σn ; ce sont {3n } et les i 3 1Σn−1−i et 3i 2Σn−1−i pour 0
i < n. Les orbites des groupes profinis P dans ΣN sont {3∞ } et les 3i 1ΣN et 3i 2ΣN pour tout i ∈ N. i

T HÉORÈME 7. – Les représentations ρG/Pn et ρG
/Pn se décomposent en somme directe de n + 1 composantes irréductibles, une de degré 2i pour tout i ∈ {1, . . . , n − 1} et deux de degré 1. se décomposent en somme directe de 2n + 1 composantes Les représentations ρΓ/Pn , ρΓ/Pn et ρ Γ/Pn

irréductibles, deux de degré 3i pour tout i ∈ {1, . . . , n − 1} et trois de degré 1. On a vu que l’algèbre de Hecke L(G, Pn ) est de dimension linéaire en n. Sa structure est encore plus claire si on introduit la définition suivante : soit G un groupe et H un sous-groupe. La paire (G, H) est une paire de Gelfand si toutes les sous-représentations irréductibles de ρG/H ont multiplicité 1, ou de façon équivalente si L(G, H) est abélienne. T HÉORÈME 8. – Pour nos cinq exemples (G, P ) et (G, Pn ) sont des paires de Gelfand pour tout n ∈ N.
Pn ) ∼ Ainsi, L(G, Pn ) ∼ = L(G, = Cn+1 et L(Γ, Pn ) ∼ = L(Γ, Pn ) ∼ = L(Γ, Pn ) ∼ = C2n+1 . On a L(G, P ) ∼ =C ∞ ∼  pour tous les groupes discrets considérés, et L(G, P ) = C pour leur complétion profinie. Remerciements. Les auteurs remercient le « Fonds national suisse pour la recherche scientifique » et l’Université hébraïque de Jérusalem.

Références bibliographiques [1] Bartholdi L., Croissance des groupes agissant sur des arbres, Thèse de doctorat (PhD), Université de Genève, 2000. [2] Bartholdi L., L-presentations and branch groups, J. Algebra (à paraître), math.GR/0007062. [3] Bartholdi L., Lie algebras and growth in branch groups, Preprint, 2000, math.GR/0101222. [4] Bartholdi L., Grigorchuk R.I., On parabolic subgroups and Hecke algebras of some fractal groups, Proc. Conf. Bielefeld (à paraître), math.GR/9911206. [5] Bartholdi L., Grigorchuk R.I., Lie methods in growth of groups and groups of finite width, in: Atkinson M. et al. (Eds.), Computational and Geometric Aspects of Modern Algebra, London Math. Soc. Lect. Note Ser., Vol. 275, Cambridge Univ. Press, Cambridge, 2000, pp. 1–27. [6] Curtis C.W., Reiner I., Methods of Representation Theory; Vol. I, John Wiley & Sons, New York, 1990, With Applications to Finite Groups and Orders, Reprint of the 1981 original, Wiley-Interscience. [7] Grigorchuk R.I., On Burnside’s problem on periodic groups, Funkt. Anal. i Prilozhen. 14 (1) (1980) 53–54. [English translation: Funct. Anal. Appl. 14 (1980) 41–43.]. [8] Grigorchuk R.I., On the Milnor problem of group growth, Dokl. Akad. Nauk SSSR 271 (1) (1983) 30–33. [9] Grigorchuk R.I., Just infinite branch groups, in: du Sautoy M.P.F., Segal D., Shalev A. (Eds.), New Horizons in pro-p Groups, Birkhäuser Boston, Boston, MA, 2000, pp. 121–179. [10] Gupta N.D., Sidki S.N., On the Burnside problem for periodic groups, Math. Z. 182 (1983) 385–388. [11] Harpe P. de la, Topics in Geometric Group Theory, University of Chicago Press, 2000. [12] Lysionok I.G., A system of defining relations for the Grigorchuk group, Mat. Zametki 38 (4) (1985) 503–516, 634. [13] Rozhkov A.V., Lower central series of a group of tree automorphisms, Mat. Zametki 60 (2) (1996) 225–237, 319.

794