|

Problème MPSI-PCSI : endomorphismes nilpotents, noyaux et images itérés

↩ Chapitre : Algèbre linéaire (MPSI-MP) · Algèbre linéaire (PCSI-PSI)

Introduction

Un endomorphisme u est nilpotent si l’une de ses puissances est nulle. Ces endomorphismes apparaissent partout : dérivation des polynômes de degré borné, décalage d’une base, matrices triangulaires strictes.

Le problème montre qu’un nilpotent vérifie toujours u^n=0 en dimension n et étudie la suite croissante des noyaux \operatorname{Ker}u^k. Il passe ensuite à un endomorphisme quelconque : avec la suite décroissante des images \operatorname{Im}u^k, il établit la décomposition de Fitting E=\operatorname{Ker}u^r\oplus\operatorname{Im}u^r, puis termine par des applications.

Le sujet

Problème pour la MPSI et la PCSI. Durée indicative : 3 heures. Programme : espaces vectoriels de dimension finie, familles libres, sommes directes et supplémentaires, applications linéaires, noyau et image, théorème du rang, sous-espaces stables, matrices, trace.

Niveau : ★★. Faisable : au second semestre, après le chapitre Algèbre linéaire (dimension finie et matrices).

Énoncé et corrigé

Dans tout le problème, E est un \mathbb K-espace vectoriel de dimension finie n\geqslant1 (\mathbb K=\mathbb R ou \mathbb C) et u\in\mathcal L(E) est nilpotent : il existe q\in\mathbb N^* tel que u^q=0. On note p le plus petit de ces entiers, appelé indice de u, et N_k=\operatorname{Ker}u^k pour k\in\mathbb N (avec u^0=\mathrm{id}_E).

Partie I – L’indice est au plus n

1 ▷ Justifier l’existence de x\in E tel que u^{p-1}(x)\neq0, puis montrer que la famille \left(x,u(x),\dots,u^{p-1}(x)\right) est libre. En déduire que p\leqslant n, puis que u^n=0.

Indication

Partir d’une relation \sum\lambda_ku^k(x)=0, supposer les \lambda_k non tous nuls, considérer le plus petit indice i tel que \lambda_i\neq0 et appliquer u^{p-1-i}.

Corrigé

Par minimalité de p, u^{p-1}\neq0 : il existe x avec u^{p-1}(x)\neq0.

Soit \displaystyle\sum_{k=0}^{p-1}\lambda_ku^k(x)=0 avec des \lambda_k non tous nuls, et i le plus petit indice tel que \lambda_i\neq0. En appliquant u^{p-1-i}, tous les termes d’indice k>i deviennent \lambda_ku^{p-1+k-i}(x)=0 (car p-1+k-i\geqslant p), et il reste \lambda_iu^{p-1}(x)=0, d’où \lambda_i=0 : contradiction. La famille est libre.

Une famille libre de E a au plus n éléments, donc p\leqslant n, et u^n=u^{n-p}\circ u^p=0.

2 ▷ On suppose p=n. Montrer que \mathcal B=\left(u^{n-1}(x),\dots,u(x),x\right) est une base de E et écrire la matrice de u dans \mathcal B. Quel est le rang de u ?

Indication

Une famille libre de n vecteurs en dimension n est une base. L’image du j-ième vecteur est le (j-1)-ième.

Corrigé

D’après la question 1, \mathcal B est libre et a n éléments : c’est une base.

On a u\left(u^{n-1}(x)\right)=0 et u\left(u^{k}(x)\right)=u^{k+1}(x) : la matrice de u dans \mathcal B est la matrice J_n dont les seuls coefficients non nuls sont des 1 juste au-dessus de la diagonale.

Les n-1 dernières colonnes de J_n forment une famille libre et la première est nulle : \operatorname{rg}u=n-1.

Partie II – Les noyaux itérés

3 ▷ Montrer que N_k\subset N_{k+1} pour tout k, et que si N_k=N_{k+1}, alors N_{k+1}=N_{k+2}. En déduire que \{0\}=N_0\subsetneq N_1\subsetneq\dots\subsetneq N_p=E.

Indication

Pour la seconde propriété, si x\in N_{k+2}, regarder u(x). Pour la conclusion, raisonner par l’absurde : une égalité N_k=N_{k+1} avec k<p se propagerait jusqu’à N_p.

Corrigé

Si u^k(x)=0, alors u^{k+1}(x)=u(0)=0 : N_k\subset N_{k+1}.

Supposons N_k=N_{k+1} et soit x\in N_{k+2}. Alors u^{k+1}(u(x))=0, donc u(x)\in N_{k+1}=N_k, c’est-à-dire u^{k+1}(x)=0 : x\in N_{k+1}. D’où N_{k+2}\subset N_{k+1}, puis l’égalité.

N_p=E et N_{p-1}\neq E. Si l’on avait N_k=N_{k+1} pour un k<p, on aurait par récurrence N_k=N_{k+1}=\dots=N_p=E, donc u^{p-1}=0 si k\leqslant p-1 : contradiction. Les inclusions sont donc strictes jusqu’au rang p.

4 ▷ On pose \delta_k=\dim N_{k+1}-\dim N_k. Montrer que la suite (\delta_k) est décroissante.

Indication

Choisir un supplémentaire S de N_{k+1} dans N_{k+2}. Montrer que u est injective sur S, que u(S)\subset N_{k+1} et que u(S)\cap N_k=\{0\}.

Corrigé

Soit S un supplémentaire de N_{k+1} dans N_{k+2}, de sorte que \dim S=\delta_{k+1}.

Si s\in S, u^{k+1}(u(s))=u^{k+2}(s)=0, donc u(S)\subset N_{k+1}.

Si s\in S et u(s)\in N_k, alors u^{k+1}(s)=0, donc s\in S\cap N_{k+1}=\{0\}. Ceci prouve à la fois que u restreinte à S est injective (cas u(s)=0) et que u(S)\cap N_k=\{0\}.

Ainsi u(S) et N_k sont en somme directe dans N_{k+1}, et \dim u(S)=\dim S. Donc \delta_{k+1}=\dim S\leqslant\dim N_{k+1}-\dim N_k=\delta_k.

5 ▷ Montrer qu’il existe une base de E dans laquelle la matrice de u est triangulaire supérieure à diagonale nulle. En déduire que \operatorname{tr}u=0.

Indication

Construire une base adaptée à la suite N_1\subset N_2\subset\dots\subset N_p=E en complétant de proche en proche. Utiliser u(N_{k+1})\subset N_k.

Corrigé

On choisit une base de N_1, que l’on complète en une base de N_2, et ainsi de suite jusqu’à une base \mathcal B de N_p=E (théorème de la base incomplète).

Si e est un vecteur de \mathcal B introduit pour compléter N_k en N_{k+1}, alors u(e)\in N_k car u^k(u(e))=u^{k+1}(e)=0 : u(e) est combinaison linéaire des vecteurs de \mathcal B introduits avant e. La matrice de u dans \mathcal B est donc triangulaire supérieure à diagonale nulle.

La trace étant la somme des coefficients diagonaux et ne dépendant pas de la base, \operatorname{tr}u=0.

Partie III – Images itérées et décomposition de Fitting

Dans cette partie, u\in\mathcal L(E) est quelconque (pas forcément nilpotent). On garde la notation N_k=\operatorname{Ker}u^k et l’on pose I_k=\operatorname{Im}u^k. On remarquera que la question 3, hormis sa dernière phrase, n’utilise pas la nilpotence de u.

6 ▷ Montrer que I_{k+1}\subset I_k pour tout k\in\mathbb N et que \dim N_k+\dim I_k=n.

Indication

u^{k+1}(x)=u^k(u(x)). Pour l’égalité, appliquer le théorème du rang à u^k.

Corrigé

Si y=u^{k+1}(x), alors y=u^k(u(x))\in I_k : la suite des images est décroissante pour l’inclusion.

Le théorème du rang appliqué à u^k\in\mathcal L(E) donne \dim\operatorname{Ker}u^k+\operatorname{rg}u^k=\dim E, c’est-à-dire \dim N_k+\dim I_k=n.

7 ▷ Montrer qu’il existe un entier r\leqslant n tel que N_r=N_{r+1}. On note r le plus petit d’entre eux. Montrer que N_k=N_r et I_k=I_r pour tout k\geqslant r.

Indication

Tant que les inclusions N_k\subset N_{k+1} sont strictes, la dimension augmente d’au moins 1. Pour les images, comparer les dimensions grâce à la question 6.

Corrigé

Si l’on avait N_k\subsetneq N_{k+1} pour k=0,\dots,n, on aurait \dim N_{k+1}\geqslant\dim N_k+1, donc \dim N_{n+1}\geqslant n+1>\dim E : impossible. Il existe donc k\leqslant n tel que N_k=N_{k+1}, et le plus petit, r, vérifie r\leqslant n.

D’après la question 3 (dont l’argument est valable pour tout endomorphisme), N_r=N_{r+1} entraîne N_{r+1}=N_{r+2}, puis par récurrence N_k=N_r pour tout k\geqslant r.

Pour k\geqslant r, on a I_k\subset I_r et, par la question 6, \dim I_k=n-\dim N_k=n-\dim N_r=\dim I_r : donc I_k=I_r.

8 ▷ Montrer que N_r\cap I_r=\{0\}, puis que E=N_r\oplus I_r.

Indication

Si x=u^r(y) et u^r(x)=0, alors y\in N_{2r}. Pour conclure, utiliser les dimensions.

Corrigé

Soit x\in N_r\cap I_r : il existe y tel que x=u^r(y), et u^r(x)=u^{2r}(y)=0. Donc y\in N_{2r}=N_r (question 7), d’où x=u^r(y)=0.

La somme N_r+I_r est donc directe, et \dim(N_r\oplus I_r)=\dim N_r+\dim I_r=n par la question 6. Ainsi E=N_r\oplus I_r.

9 ▷ Montrer que N_r et I_r sont stables par u, que l’endomorphisme induit par u sur N_r est nilpotent et que celui induit sur I_r est un automorphisme de I_r.

Indication

u commute avec u^r. Pour l’automorphisme, montrer que u(I_r)=I_{r+1} et utiliser la question 7, puis la dimension finie.

Corrigé

u commute avec u^r. Si x\in N_r, u^r(u(x))=u(u^r(x))=0 : u(x)\in N_r. Si x=u^r(y)\in I_r, u(x)=u^r(u(y))\in I_r.

L’endomorphisme u' induit sur N_r vérifie u'^r=0 : il est nilpotent (d’indice r, d’après le choix de r).

L’endomorphisme u'' induit sur I_r a pour image u(I_r)=u\left(u^r(E)\right)=I_{r+1}=I_r : il est surjectif, donc bijectif puisque I_r est de dimension finie. C’est un automorphisme de I_r.

Remarque

La décomposition E=\operatorname{Ker}u^r\oplus\operatorname{Im}u^r est la décomposition de Fitting : tout endomorphisme d’un espace de dimension finie est la « somme » d’un nilpotent et d’un automorphisme agissant sur deux sous-espaces supplémentaires. Si u est nilpotent d’indice p, on a r=p, N_p=E et I_p=\{0\} ; si u est bijectif, r=0, N_0=\{0\} et I_0=E.

Attention : en général, \operatorname{Ker}u et \operatorname{Im}u ne sont pas supplémentaires (prendre u nilpotent non nul) ; c’est en passant aux puissances que l’on obtient la somme directe. La question suivante en donne un exemple où il faut aller jusqu’à r=2.

10 ▷ Soit u l’endomorphisme de \mathbb R^3 de matrice B=\begin{pmatrix}1&0&0\\1&0&1\\0&0&0\end{pmatrix} dans la base canonique (e_1,e_2,e_3). Déterminer \operatorname{Ker}u et \operatorname{Im}u ; sont-ils supplémentaires ? Calculer N_k pour k\leqslant3, en déduire r et vérifier que \mathbb R^3=N_r\oplus I_r. Décrire les endomorphismes induits.

Indication

Lire les colonnes : u(e_1)=e_1+e_2, u(e_2)=0, u(e_3)=e_2.

Corrigé

u(xe_1+ye_2+ze_3)=xe_1+(x+z)e_2, donc \operatorname{Ker}u=\operatorname{Vect}(e_2) et \operatorname{Im}u=\operatorname{Vect}(e_1,e_2). Comme e_2\in\operatorname{Ker}u\cap\operatorname{Im}u, ils ne sont pas supplémentaires.

u^2(e_1)=u(e_1+e_2)=e_1+e_2, u^2(e_2)=0, u^2(e_3)=u(e_2)=0, donc N_2=\{x=0\}=\operatorname{Vect}(e_2,e_3). De même u^3(e_1)=e_1+e_2 et u^3(e_3)=0, donc N_3=N_2. Ainsi N_0\subsetneq N_1\subsetneq N_2=N_3 et r=2.

I_2=\operatorname{Vect}(e_1+e_2), et la famille (e_2,e_3,e_1+e_2) est une base de \mathbb R^3 : \mathbb R^3=N_2\oplus I_2.

Sur N_2, e_3\mapsto e_2\mapsto0 : l’endomorphisme induit est nilpotent d’indice 2. Sur I_2, u(e_1+e_2)=e_1+e_2 : l’endomorphisme induit est l’identité, un automorphisme.

Partie IV – Applications

11 ▷ Soit A=\begin{pmatrix}0&1&1\\0&0&1\\0&0&0\end{pmatrix}. Calculer A^2 et A^3, donner l’indice de A et les dimensions de \operatorname{Ker}A^k pour k\in\{1,2,3\}.

Indication

Le produit de deux matrices triangulaires strictes « décale » les coefficients d’un cran vers le coin supérieur droit.

Corrigé

A^2=\begin{pmatrix}0&0&1\\0&0&0\\0&0&0\end{pmatrix} et A^3=0 : l’indice vaut 3=n.

\operatorname{rg}A=2, \operatorname{rg}A^2=1, \operatorname{rg}A^3=0, donc par le théorème du rang \dim\operatorname{Ker}A=1, \dim\operatorname{Ker}A^2=2, \dim\operatorname{Ker}A^3=3 : la suite (\delta_k) vaut 1,1,1, et l’on est dans le cas de la question 2.

12 ▷ Soit A\in\mathcal M_n(\mathbb K) nilpotente d’indice p. Montrer que I_n-A est inversible et donner son inverse. Calculer (I_3-A)^{-1} pour la matrice de la question 11.

Indication

Penser à l’identité (1-x)(1+x+\dots+x^{p-1})=1-x^p, valable dans \mathcal M_n(\mathbb K) car I_n et A commutent.

Corrigé

Comme I_n et A commutent, (I_n-A)(I_n+A+\dots+A^{p-1})=I_n-A^p=I_n. Donc I_n-A est inversible et (I_n-A)^{-1}=\displaystyle\sum_{k=0}^{p-1}A^k.

Pour la matrice de la question 11 : (I_3-A)^{-1}=I_3+A+A^2=\begin{pmatrix}1&1&2\\0&1&1\\0&0&1\end{pmatrix}.


Pour aller plus loin

Pr. Elakili, agrégé de mathématiques et professeur en classes préparatoires depuis 25 ans, accompagne aussi quelques étudiants vers les écoles d’ingénieurs, à Casablanca et à distance. En savoir plus

Publications similaires