Représentation irréductible

En mathématiques, une représentation irréductible est un concept utilisé dans le cadre de la théorie des représentation d'un groupe. C'est une représentation qui n'admet qu'elle-même et la représentation nulle comme sous-représentation. Le théorème de Maschke démontre que dans de nombreux cas, une représentation est somme directe de représentations irréductibles.

Définitions et exemples

Définitions

Dans toute la suite de l'article, G désigne un groupe et (V, ρ) une représentation linéaire de G sur un corps K.

• Une représentation (V, ρ) est dite irréductible si V et {0} sont distincts et sont les deux seuls sous-espaces stables.
• Un caractère d'une représentation est dit irréductible si la représentation associée l'est.

La théorie des représentations s'exprime aussi en termes de G-modules, c'est-à-dire de modules sur l'algèbre K[G] du groupe. V dispose naturellement d'une structure de G module. Dans ce contexte, la définition prend la forme suivante :

• Une représentation (V, ρ) est dite irréductible si V est simple en tant que G-module.
• Une représentation (V, ρ) est dite isotypique si ses sous-G-modules simples sont isomorphes deux à deux.

Exemples

• Toute représentation de dimension un est irréductible.
• Il n'existe qu'une représentation irréductible et fidèle du groupe symétrique d'indice trois. Les articles Représentations du groupe symétrique d'indice trois et Représentations du groupe symétrique d'indice quatre contiennent une analyse exhaustive des représentations irréductibles de ces groupes.
• La représentation standard du groupe des isométries linéaires du plan euclidien (c'est-à-dire l'action linéaire naturelle du groupe orthogonal sur ce plan) est irréductible.

Théorème de Maschke

Le théorème de Maschke indique que tout sous-espace irréductible de la représentation (V, ρ) est facteur direct, c'est-à-dire qu'il possède un sous-espace supplémentaire stable.

Ce théorème s'applique au moins dans deux cas importants :

• Si le groupe est fini et si la caractéristique de K ne divise pas son ordre.
• Si le groupe est un groupe compact.

Dans ce cas, le module V est semi-simple. Toute représentation de G est alors somme directe de représentations irréductibles. Plus précisément, toute représentation de G est somme directe de ses sous-représentations isotypiques, et chacune de ces composantes est elle-même (de façon non unique) somme directe de sous-représentations irréductibles deux à deux équivalentes.

Par exemple pour la représentation régulière d'un groupe fini, chaque composante isotypique est somme directe de d copies d'une même représentation irréductible de degré d.

Cas d'un groupe fini

On suppose dans ce paragraphe que G est un groupe fini d'ordre g et que la caractéristique de K ne divise pas g. Le théorème de Maschke s'applique alors. (W, σ) désigne ici une représentation irréductible de G de degré d. On suppose enfin que le polynôme X^g - 1 est scindé dans K.

Fonction centrale

L'espace vectoriel des fonctions centrales, c'est-à-dire constantes sur chaque classe de conjugaison, à valeurs dans K, est muni d'une forme bilinéaire symétrique canonique ( | ) pour laquelle les caractères irréductibles forment une base orthonormée. En particulier :

• Il existe autant de représentations irréductibles distinctes que de classes de conjugaison dans le groupe.

Caractère

Lorsque K est de caractéristique nulle, la forme bilinéaire précédente fournit une condition nécessaire et suffisante commode pour déterminer l'irréductibilité d'une représentation.

• Un caractère χ est irréductible si et seulement si (χ|χ)=1.

Algèbre du groupe

L'algèbre K[G] correspond à un enrichissement de la structure algébrique de la représentation régulière. Le centre de l'algèbre est l'anneau commutatif des fonctions centrales, sur lequel il est possible d'utiliser des théorèmes d'arithmétique. Ils permettent par exemple de démontrer la propriété suivante :

• Le degré d'une représentation irréductible divise l'ordre du groupe.

(Une démonstration en caractéristique nulle est donnée dans la section « Entier algébrique » de l'article « Algèbre d'un groupe fini », mais la section « Représentation induite » ci-dessous le démontre en caractéristique quelconque.)

Produit tensoriel

Le produit tensoriel introduit une bijection entre les représentations de deux groupes G₁ et G₂ et le produit direct G de G₁ et G₂ :

• Si (W, σ) est une représentation irréductible de G, le groupe produit direct de G₁ et G₂, alors il existe une représentation irréductible (W₁, σ¹) de G₁ et une (W₂, σ²) de G₂ tel que (W, σ) est isomorphe au produit tensoriel des deux représentations précédentes. Réciproquement, tout produit tensoriel de deux représentations irréductibles de G₁ et G₂ est une représentation irréductible de G.

Représentation induite

Dans le cas où N est un sous-groupe normal de G, les représentations induites permettent d'établir une relation entre une représentation irréductible σ de G et sa restriction à N :

• Ou bien il existe un sous-groupe H de G contenant N et différent G tel que σ soit induite par une représentation irréductible de H, ou bien la restriction de σ à N est isotypique.

On en déduit le corollaire suivant :

• Si N est un sous-groupe normal abélien de G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/N.

Il est de plus à noter que le critère d'irréductibilité de Mackey fournit une condition nécessaire et suffisante pour qu'une représentation induite soit irréductible.

Démonstrations

• Ou bien il existe un sous-groupe H de G contenant N et différent G tel que (W,σ) soit induite par une représentation irréductible de H, ou bien la restriction de σ à N est isotypique. (Serre, p. II - 16)

Soit W_i, où i varie de 1 à n, la décomposition canonique de la restriction de σ à N en composantes isotypiques. On dispose alors de l'égalité :

$W=\bigoplus _{i=1}^{n}W_{i}$

Si s est un élément de G et si i est un entier compris entre 1 et n, alors σ(s)W_i est encore une composante isotypique. On remarque que, comme W est une représentation irréductible de G l'action du groupe σ(G) est transitive sur la famille des W_i.

Si n est égal à 1, c'est-à-dire que W₁ est égal à W, alors la restriction de σ à N est isotypique.

Dans le cas contraire, considérons le sous-groupe H de G formé des éléments laissant globalement invariant W₁. Il est distinct de G et contient N. Soient θ' la restriction de σ à H et θ la sous-représentation de θ' sur le sous-espace W₁. Alors θ est irréductible et σ est induite par θ.

Pour démontrer la proposition suivante, un lemme est nécessaire :

• Si C est le centre du groupe G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/C. (Serre, p. II - 4)

Notons c l'ordre du sous-groupe C de G, et (W, σ) une représentation irréductible de G, de degré d. Si z est un élément de G, alors σ(z) commute avec tous les éléments σ(s) si s parcourt G. Le lemme de Schur permet de conclure que σ(z) est une homothétie, notons λ(z) son rapport. On remarque que l'application λ est un morphisme de groupe de C dans K^*.

Considérons alors un entier strictement positif m et la représentation σ^m produit tensoriel m fois de la représentation σ à valeur dans W $\otimes \cdots \otimes$ W. Si z₁, … , z_m est un élément de C^m, alors l'image de z₁ $\otimes \cdots \otimes$ z_m par σ^m est une homothétie de rapport λ(z₁ … z_m).

Notons H le sous-groupe de G^m formé des éléments (z₁ , … , z_m) tel que le produit de toutes les coordonnées soit égal à un. C'est un sous-groupe du centre de G^m, il est donc normal. Par passage au quotient, on obtient une représentation irréductible de G^m/H. Le degré d ^m de la représentation σ^m est donc un diviseur de g^m/c^m-1. Cette relation est vraie pour tout m, ce qui démontre le lemme.

• Si N est un sous-groupe normal abélien de G, alors le degré de toute représentation irréductible de G divise l'ordre du groupe quotient G/N. (Serre, p. II - 17)

Démontrons cette proposition par récurrence sur l'ordre de G. La représentation irréductible de G est ici notée (W, σ).

Si la restriction de σ à N est isotypique, alors, comme N est abélien et que les seules représentation irréductibles d'un groupe abélien fini sont de degré un, l'image de N par σ est composée d'homothéties. Notons G' et N' les images de G et N par σ. Considérons la représentation identité de G' à valeur dans GL(W). Le lemme précédent montre que le degré de cette représentation divise l'ordre du groupe quotient de G' par son centre. Or son centre contient N' car ce sous-groupe est composé d'homothéties. Le degré de σ, c'est-à-dire la dimension de W est donc un diviseur de l'ordre de G' /N' . Enfin l'application canonique de G/N dans G' /N' est surjective donc l'ordre de G' /N' est un diviseur de celui de G/N, ce qui termine la démonstration dans ce cas.

Si la restriction de σ à N n'est pas isotypique, alors il existe un groupe H distinct de G et contenant N, tel que la représentation (W, σ) soit induite par une représentation irréductible (W₁, θ) de H. Alors le degré de la représentation θ divise l'indice [H:N] par hypothèse de récurrence. Le degré de σ est égal à celui de θ que multiplie l'indice [G:H] et donc est un diviseur de [G:H].[H:N] et donc de [G:N].

Références

• Jean-Pierre Serre, Représentations linéaires des groupes finis [détail des éditions]
• (en) Marshall Hall, Jr., The Theory of Groups [détail des éditions]
• Serge Lang, Algèbre [détail des éditions]
• N. Bourbaki, Éléments de mathématique, Algèbre, chap. VIII

Lien externe

Cours de représentation des groupes finis par Michel Broué de l'université de Paris VII