Espace des sous-groupes des groupes de Baumslag-Solitar généralisés

Résumé de la thèse

L’objet de cette thèse est l’étude de la topologie de l’espace des sous-groupes d’un groupe dénombrable, ainsi que de la dynamique induite par l’action par conjugaison. Plus précisément, on cherche à comprendre le noyau parfait de cet espace et à quantifier le « chaos » de cette action en étudiant trois propriétés (énoncées de la moins forte à la plus forte) : l’existence d’une orbite dense, la haute transitivité topologique, et le μ-mélange topologique (pour une certaine mesure de probabilité μ sur le groupe). Les groupes étudiés dans cette thèse sont les groupes de Baumslag-Solitar généralisés (GBS). Un GBS de rang d ∈ ℕ* est un groupe agissant cocompactement sur un arbre orienté avec stabilisateurs de sommets et d’arêtes isomorphes à ℤ^d. Des exemples de tels groupes incluent les groupes de Baumslag-Solitar. Le groupe de Baumslag-Solitar BS(m, n) de paramètres m, n ∈ ℤ* est défini par deux générateurs b et t soumis à l’unique relation tb^mt^{−1} = b^n. Les groupes de Baumslag-Solitar généralisés forment une classe plus large de groupes, qui inclue également les groupes fondamentaux de complémentaires de nœuds toriques dans ℝ^3, les produits semi-directs ℤd ⋊_{ρ} Fr (où Fr désigne le groupe libre de rang r < ∞ et ρ : Fr → GLd(ℤ) est un homomorphisme), et les groupes de Leary-Minasyan à titre d’exemples. Leur étude passe par la théorie de Bass-Serre, qui établit un dictionnaire entre groupes agissant sur des arbres et itérations d’amalgames et de HNN-extensions de stabilisateurs de sommets au-dessus de stabilisateurs d’arêtes. L’espace des sous-groupes des groupes de Baumslag-Solitar a été étudié par Carderi, Gaboriau, Le Maître et Stalder en 2025. Plus précisément, ils ont donné une description explicite du noyau parfait et ont mis en évidence des phénomènes de haute transitivité topologique pour l’action par conjugaison sur le noyau parfait. Dans le Chapitre 1, on étudie le caractère topologiquement μ-mélangeant pour l’action par conjugaison de BS(m, n) sur son noyau parfait. Pour les groupes de Baumslag-Solitar non-unimodulaires (i.e. les BS(m, n) tels que |m| ≠ |n|), on montre que les résultats de Carderi, Gaboriau, Le Maître et Stalder sont optimaux pour une large classe de mesures μ. Orthogonalement à ce résultat, on obtient un renforcement de la haute transitivité en μ-mélange topologique dans le cas unimodulaire. Les chapitres 2 et 3 s’intéressent aux questions mentionnées précédemment dans le cadre des groupes de Baumslag-Solitar généralisés. Après avoir décrit le noyau parfait, on met en évidence une partition dénombrable de cet espace en Fσ invariants contenant chacun une orbite dense. Si d=1, ces Fσ sont en fait des Gδ, l’action est même hautement topologiquement transitive, et la partition est explicite. Le dernier chapitre de cette thèse est consacré à une application des résultats du chapitre 3. On montre que la plupart des GBS (i.e. ceux ne contenant pas de sous-groupe normal abélien non trivial) sont dans la classe A des groupes admettant une action fidèle, transitive et moyennable, introduite par Glasner et Monod dans un article de 2007. On fournit ainsi de nouveaux éléments de réponse à leur question « Quels groupes agissant sur des arbres sont dans A ? ». Quand d = 2, la seule obstruction est la propriété (T ) relativement à un sous-groupe normal isomorphe à ℤ^2.

This thesis deals with the topology of the space of subgroups of a given countable group and the dynamics induced by the conjugation action on it. More specifically, the goal is to understand the perfect kernel of this space and to quantify the “chaos” induced by this action via an investigation of the following three properties (from weakest to strongest): the existence of a dense orbit, high topological transitivity, and topological μ-mixing (for some probability measure μ on the group). The groups that are studied in this thesis are generalized Baumslag-Solitar groups (GBS groups). A GBS group of rank d ∈ ℕ* is a group that acts cocompactly on an oriented tree with vertex and edge stabilizers isomorphic to ℤ^d. Examples of such groups include Baumslag-Solitar groups. The Baumslag-Solitar group of parameters m, n ∈ ℤ* is defined by two generators b and t that are subject to the unique relation tb^mt^{−1} = b^n. Generalized Baumslag-Solitar groups form a wider class of groups that also include fundamental groups of torus knots, semidirect products ℤd ⋊_{ρ} Fr (where Fr is the free group of rank r < ∞ and ρ: Fr → GLd(ℤ) is a homomorphism), and Leary-Minasyan groups, for example. Their study relies on Bass-Serre theory, which establishes a correspondence between groups acting on trees and iterations of amalgams and HNN-extensions of vertex stabilizers over edge stabilizers. The study of the space of subgroups of Baumslag-Solitar groups was performed by Carderi, Gaboriau, Le Maître and Stalder in 2025. More specifically, they gave an explicit description of the perfect kernel and unveiled high topological transitivity phenomena for the conjugation action on the perfect kernel. In Chapter 1, we study topological μ-mixing properties for the conjugation action of BS(m,n) on its perfect kernel. Concerning non-unimodular Baumslag-Solitar groups (i.e. the BS(m,n)'s such that |m| ≠ |n|), we prove that the results of Carderi, Gaboriau, Le Maître and Stalder are optimal for a large class of measures μ. Orthognoally to this result, we obtain a strengthening of high topological transitivity into topological μ-mixing when the group is unimodular. Chapters 2 and 3 are devoted to the study of the aforementioned questions for generalized Baumslag-Solitar groups. We provide a description of the perfect kernel and unveil a countable invariant partition of this space into Fσ subsets that contain a dense orbit. If d=1, those Fσ's are in fact Gδ's, the conjugation action is even highly topologically transitive on each piece, and this partition is explicit. The last chapter of this thesis consists of an application of the results obtained in the third chapter. We prove that most GBS groups (i.e. those that do not contain any non-trivial abelian normal subgroup) are in the class A of groups admitting a transitive, faithful, and amenable action, introduced by Glasner and Monod in 2007. We thus provide new elements to answer their question “Which groups acting on trees are in A ?”. If d=2, the only obstruction is relative property (T) to a normal subgroup isomorphic to ℤ^2.