13.2 Valeurs singulières

Soit \(\mathbf{A} \in \mathbb{R}^{m \times n}\). Puisque \(\mathbf{A}\mathbf{A}^\mathsf{T}\) et \(\mathbf{A}^\mathsf{T}\mathbf{A}\) sont toutes deux réelles et symétriques, leurs valeurs propres sont des nombres réels d’après le corollaire 7.1. De plus, elles sont diagonalisable en base orthonormée selon le théorème 10.5. Nous allons procéder à l’étude approfondie de leurs valeurs propres.

Premièrement, les valeurs propres de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) et les valeurs propres de \(\mathbf{A}\mathbf{A}^\mathsf{T}\) sont non négatifs, comme nous l’avons vu à la section précédente.

Ensuite, on voit que chaque valeur propre positive de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) est aussi une valeur propre de \(\mathbf{A}\mathbf{A}^\mathsf{T}\). En effet, si \(\mathbf{v} \neq \mathbf{0}\) est un vecteur propre de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) associé à une valeur propre \(\lambda\), alors \(\mathbf{u} = \mathbf{A} \mathbf{v}\) est un vecteur propre de \(\mathbf{A}\mathbf{A}^\mathsf{T}\) également associé à \(\lambda\) : \[\mathbf{A}\mathbf{A}^\mathsf{T}\mathbf{u} = \mathbf{A}(\mathbf{A}^\mathsf{T}\mathbf{A})\mathbf{v} = \mathbf{A}(\lambda \mathbf{v}) = \lambda \mathbf{A}\mathbf{v} = \lambda \mathbf{u}.\] Notons que \(\mathbf{u} \neq \mathbf{0},\) autrement \[\begin{align*} 0 & = \mathbf{u}^\mathsf{T}\mathbf{u} \\ & = (\mathbf{A}\mathbf{v})^\mathsf{T}(\mathbf{A}\mathbf{v}) \\ & = \mathbf{v}^\mathsf{T}\mathbf{A}^\mathsf{T}\mathbf{A} \mathbf{v} \\ & = \mathbf{v}^\mathsf{T}(\lambda \mathbf{v}) \\ & = \lambda \mathbf{v}^\mathsf{T}\mathbf{v} \\ & = \lambda \|\mathbf{v}\|^2 > 0, \end{align*}\] ce qui serait une contradiction.

On peut montrer de la même façon que toute valeur propre de \(\mathbf{A}\mathbf{A}^\mathsf{T}\) est aussi une valeur propre de \(\mathbf{A}^\mathsf{T}\mathbf{A}\). Conséquemment, \(\mathbf{A}\mathbf{A}^\mathsf{T}\) et \(\mathbf{A}^\mathsf{T}\mathbf{A}\) ont les mêmes valeurs propres. De plus, les valeurs propres ont les mêmes multiplicités. (Puisque les deux matrices sont diagonalisables, nous n’avons pas vraiment besoin de distinguer la multiplicité algébrique et la multiplicité géométrique.) On réalise mieux ce fait en démontrant le résultat suivant :

Proposition 13.1 Soit \(\{\mathbf{v}^{(1)},\ldots, \mathbf{v}^{(k)}\}\) une base de l’espace vectoriel des vecteurs propres de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) associé à la valeur propre positive \(\lambda\). Alors, les vecteurs \(\mathbf{u}^{(1)} = \mathbf{A}\mathbf{v}^{(1)},\ldots, \mathbf{u}^{(k)} = \mathbf{A}\mathbf{v}^{(k)}\) sont linéairement indépendants.

Comme nous avons démontré au préalable, \(\mathbf{u}^{(i)}\) est un vecteur propre de \(\mathbf{A}\mathbf{A}^\mathsf{T}\) associé à \(\lambda\) pour chaque \(i = 1,\ldots, k\). Ainsi, si \(\mathbf{u}^{(1)},\ldots, \mathbf{u}^{(k)}\) sont linéairement indépendants, la multiplicité géométrique de \(\lambda\) par rapport à \(\mathbf{A}\mathbf{A}^\mathsf{T}\) doit être supérieure ou égale à \(k\). En utilisant un argument similaire dans l’autre direction, on voit que la multiplicité géométrique de \(\lambda\) par rapport à \(\mathbf{A}^\mathsf{T}\mathbf{A}\) et celle par rapport à \(\mathbf{A}\mathbf{A}^\mathsf{T}\) sont égales.

Démonstration. (Proposition 13.1) Supposons qu’au contraire \(\mathbf{u}^{(1)},\ldots, \mathbf{u}^{(k)}\) ne soient pas linéairement indépendants. Alors il existe des scalaires \(\alpha_1,\ldots, \alpha_k \in \mathbb{R}\) non tous nuls tels que \[\alpha_1 \mathbf{u}^{(1)} + \cdots + \alpha_k \mathbf{u}^{(k)} = \mathbf{0}.\]

En multipliant chacun des côtés à gauche par \(\mathbf{A}^\mathsf{T}\), nous obtenons \[\alpha_1 \mathbf{A}^\mathsf{T}\mathbf{u}^{(1)} + \cdots + \alpha_k \mathbf{A}^\mathsf{T}\mathbf{u}^{(k)} = \mathbf{0},\] ou, de façon équivalente, \[(\alpha_1 \lambda)\mathbf{v}^{(1)} + \cdots + (\alpha_k\lambda) \mathbf{v}^{(k)} = \mathbf{0}.\]

Puisque \(\lambda > 0\) et que \(\alpha_1,\ldots, \alpha_k \in \mathbb{R}\) sont non tous nuls, on en déduit que \(\alpha_1\lambda,\ldots, \alpha_k\lambda\) sont non tous nuls. Ceci contredit l’indépendence linéaire de \(\mathbf{v}^{(1)},\ldots,\mathbf{v}^{(k)}.\)

Soient \(\lambda_1,\ldots, \lambda_r\) les valeurs propres positives de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) ou \(\mathbf{A}\mathbf{A}^\mathsf{T},\) ordonnées selon \(\lambda_1 \geq \cdots \geq \lambda_r\). Les valeurs singulières de \(\mathbf{A}\) sont \(\sigma_i = \sqrt{\lambda_i}\), \(i = 1,\ldots, r.\)

Exercice

1. Soit \(\mathbf{A} = \begin{bmatrix} 1 & 2 & 0 \\ 0 & 1 & 2\end{bmatrix}.\) Déterminez toutes les valeurs singulières de \(\mathbf{A}\).

Solution

1. Notons que \[\mathbf{A}^\mathsf{T}\mathbf{A} = \begin{bmatrix} 1 & 2 & 0 \\ 2 & 5 & 2 \\ 0 & 2 & 4 \end{bmatrix}.\] Puisque \[\begin{align*} \chi_{\mathbf{A}^\mathsf{T}\mathbf{A}}(\lambda) & = \begin{vmatrix} 1 - \lambda & 2 & 0 \\ 2 & 5-\lambda & 2 \\ 0 & 2 & 4 -\lambda \end{vmatrix} \\ & = (1-\lambda)(5-\lambda)(4-\lambda)-4(1-\lambda)-4(4-\lambda) \\ & = -\lambda^3 + 10\lambda^2 - 21 \lambda \\ & = -\lambda(\lambda-3)(\lambda-7), \end{align*}\] les valeurs propres de \(\mathbf{A}^\mathsf{T}\mathbf{A}\) sont 0, 3, et 7. Ainsi, les valeurs singulières de \(\mathbf{A}\) sont \(\sqrt{7}\) et \(\sqrt{3}.\)