11.1 Cas d’une matrice de plein rang
Dans cette section, nous développons une formule afin d’obtenir la projection orthogonale dans \({\operatorname{Col}({\mathbf{A}})}\) si \(\mathbf{A}\) est une matrice de plein rang. Le cas où \(\mathbf{A}\) n’est pas nécessairement de plein rang sera discuté lorsque nous aurons discuté des pseudo-inverses.
Soient \(\mathbf{A} \in \mathbb{R}^{m\times n}\) et \(\mathbf{u} \in \mathbb{R}^m\). Rappelons qu’il existe \(\mathbf{y}, \mathbf{z} \in \mathbb{R}^m\) tels que \(\mathbf{u} = \mathbf{y} + \mathbf{z}\), où \(\mathbf{y}\) est la projection orthogonale de \(\mathbf{u}\) dans \({\operatorname{Col}({\mathbf{A}})}\) et \(\mathbf{A}^\mathsf{T}\mathbf{z} = \mathbf{0}.\)
On voit que \(\mathbf{A}^\mathsf{T}\mathbf{u} = \mathbf{A}^\mathsf{T}(\mathbf{y} + \mathbf{z}) = \mathbf{A}^\mathsf{T}\mathbf{y}\). Puisque \(\mathbf{y} \in {\operatorname{Col}({\mathbf{A}})}\), il existe \(\mathbf{w} \in \mathbb{R}^n\) de sorte que \(\mathbf{y} = \mathbf{A}\mathbf{w}\). Il s’ensuit que \[\mathbf{A}^\mathsf{T}\mathbf{u} = \mathbf{A}^\mathsf{T}\mathbf{A} \mathbf{w}.\]
Si \(\mathbf{A}\) est de plein rang, on utilise le fait que \(\mathbf{A}^\mathsf{T}\mathbf{A}\) est inversible (démonstration laissée en exercice) afin d’obtenir que \[\mathbf{w} = (\mathbf{A}^\mathsf{T}\mathbf{A})^{-1} \mathbf{A}^\mathsf{T}\mathbf{u}.\] Ainsi, \[\mathbf{y} = \mathbf{A}\mathbf{w} = \mathbf{A}(\mathbf{A}^\mathsf{T}\mathbf{A})^{-1} \mathbf{A}^\mathsf{T}\mathbf{u}.\]
Posons \[\mathbf{P}_{\mathbf{A}} = \mathbf{A}(\mathbf{A}^\mathsf{T}\mathbf{A})^{-1} \mathbf{A}^\mathsf{T}.\] La projection orthogonale de tout \(\mathbf{u} \in \mathbb{R}^n\) dans \({\operatorname{Col}({\mathbf{A}})}\) est donc \(\mathbf{P}_{\mathbf{A}} \mathbf{u}.\) On appelle \(\mathbf{P}_{\mathbf{A}}\) la matrice de projection associée à \(\mathbf{A}.\)
Exemple 11.1 Soit \(\mathbf{A} = \begin{bmatrix} 1 & 0 \\ 2 & 1 \\ -1 & 2\end{bmatrix}.\) Notons que \(\mathbf{A}\) est de plein rang, et que \({\operatorname{Col}({\mathbf{A}})} = \operatorname{Vect}\left ({ \begin{bmatrix} 1 \\2 \\ -1\end{bmatrix}, \begin{bmatrix} 0 \\ 1 \\ 2\end{bmatrix} } \right).\) Alors, \[\mathbf{P}_{\mathbf{A}} = \mathbf{A}(\mathbf{A}^\mathsf{T}\mathbf{A})^{-1} \mathbf{A}^\mathsf{T} = \begin{bmatrix} \frac{1}{6} & \frac{1}{3} & -\frac{1}{6} \\ \frac{1}{3} & \frac{13}{15} & \frac{1}{15} \\ -\frac{1}{6} & \frac{1}{15} & \frac{29}{30} \end{bmatrix}.\]
Exercices
Soit \(\mathbf{A} \in \mathbb{R}^{n \times n}\) une matrice inversible. Déterminez \(\mathbf{P}_{\mathbf{A}}.\)
Démontrez que si \(\mathbf{A} \in \mathbb{R}^{m\times n}\) est de plein rang, alors \(\mathbf{A}^\mathsf{T}\mathbf{A}\) est inversible.
Solutions
Notons que \[\mathbf{P}_{\mathbf{A}} = \mathbf{A}(\mathbf{A}^\mathsf{T}\mathbf{A})^{-1} \mathbf{A}^\mathsf{T} = \mathbf{A}\mathbf{A}^{-1} (\mathbf{A}^\mathsf{T})^{-1} \mathbf{A}^\mathsf{T}= \mathbf{I}.\]
D’après la décomposition \(\mathbf{A} =\mathbf{Q}\mathbf{R},\) où \(\mathbf{Q}\) est orthogonale et \(\mathbf{R}\) est de la forme \(\begin{bmatrix} \mathbf{R'} \\ \mathbf{0}\end{bmatrix},\) où \(\mathbf{R'} \in \mathbb{R}^{n\times n}\) est une matrice triangulaire supérieure, nous avons \[\mathbf{A}^\mathsf{T}\mathbf{A} = (\mathbf{Q}\mathbf{R})^\mathsf{T}(\mathbf{Q}\mathbf{R}) = \mathbf{R}^\mathsf{T}\mathbf{Q}^\mathsf{T}\mathbf{Q}\mathbf{R} = \mathbf{R}^\mathsf{T}\mathbf{R} = \mathbf{R'}^\mathsf{T}\mathbf{R'}.\] Puisque \(\mathbf{A}\) est de rang \(n\), \(\mathbf{R'}\) l’est également. Donc, \(\mathbf{R'}\) est inversible, ce qui implique que \(\mathbf{R'}^\mathsf{T}\mathbf{R'}\) est inversible. Ainsi, \(\mathbf{A}^\mathsf{T}\mathbf{A}\) est aussi inversible.