Factorisations matricielles

Les factorisations matricielles expriment une matrice comme un produit de facteurs plus simples — triangulaires, orthogonaux ou diagonaux — à partir desquels des solutions, des ajustements par moindres carrés et des informations spectrales peuvent être obtenus de manière stable.

Definition

Une factorisation matricielle est une représentation d'une matrice comme un produit de deux matrices ou plus avec une structure spéciale, choisie de manière à ce que les problèmes fondamentaux — résolution de systèmes, ajustement de données, calcul du rang ou des normes — deviennent simples et numériquement stables.

Scope

Ce sujet couvre la factorisation QR (via les réflexions de Householder et les rotations de Givens ou Gram-Schmidt), la factorisation de Cholesky pour les matrices symétriques définies positives, et la décomposition en valeurs singulières, ainsi que leur utilisation dans les problèmes de moindres carrés, la détermination du rang et l'approximation de rang faible.

Core questions

• Comment la factorisation QR résout-elle les problèmes de moindres carrés sans former les équations normales mal conditionnées ?
• Quand la factorisation de Cholesky est-elle applicable, et pourquoi est-elle moins coûteuse et plus stable que la décomposition LU générale pour les matrices symétriques définies positives ?
• Quelles informations sur le rang, la norme et l'approximation de rang faible la décomposition en valeurs singulières révèle-t-elle ?
• Quel schéma d'orthogonalisation — Householder, Givens ou Gram-Schmidt — préserve le mieux la précision ?

Key theories

Factorisation QR et orthogonalisation

Toute matrice peut être écrite sous la forme A = QR, où Q a des colonnes orthonormées et R est triangulaire supérieure ; calculée avec les réflexions de Householder, elle est stable en arrière et fournit la voie standard vers les solutions des moindres carrés linéaires.

Décomposition en valeurs singulières

Toute matrice se factorise en A = U S V-transposée, où U et V sont orthogonales et S est diagonale avec des valeurs singulières non négatives ; la SVD révèle le rang, la norme 2 et le nombre de conditionnement, les quatre sous-espaces fondamentaux, et l'approximation de rang faible optimale via le théorème d'Eckart-Young.

Factorisation de Cholesky

Une matrice symétrique définie positive se factorise en A = L L-transposée, où L est triangulaire inférieure ; la factorisation ne nécessite pas de pivotement pour la stabilité et coûte environ deux fois moins cher que la décomposition LU générale.

Mechanisms

La factorisation QR de Householder introduit des zéros sous la diagonale, colonne par colonne, en utilisant des réflexions orthogonales, accumulant Q implicitement ; les rotations de Givens annulent des entrées individuelles et conviennent aux contextes de matrices creuses ou de mise à jour. Cholesky exploite la symétrie et la définie-positivité pour calculer L directement. La SVD est calculée en deux phases — une bidiagonalisation par transformations orthogonales suivie d'une diagonalisation itérative de la forme bidiagonale — en maintenant toutes les quantités intermédiaires bien conditionnées.

Clinical relevance

Les factorisations matricielles sont les moteurs de l'ajustement de données par moindres carrés, de l'analyse en composantes principales et de la réduction de dimensionnalité, de la régularisation des problèmes inverses mal posés, des systèmes de recommandation et de la réduction de l'ordre des modèles, où la SVD en particulier fournit le résumé de rang faible mathématiquement optimal des données de grande dimension.

History

L'utilisation numérique systématique des factorisations orthogonales s'est développée dans les années 1950 et 1960 avec les réflexions de Householder et l'algorithme de Golub-Kahan pour la SVD, qui a transformé la décomposition en valeurs singulières d'un outil théorique en un outil calculable de manière routinière et l'a rendue centrale pour les moindres carrés et l'analyse de données.

Key figures

• Alston S. Householder
• Gene H. Golub
• William Kahan

Seminal works

• trefethen1997
• golub2013

Frequently asked questions

Pourquoi utiliser QR plutôt que les équations normales pour les moindres carrés ?

La formation des équations normales élève au carré le nombre de conditionnement de la matrice, ce qui peut nuire à la précision. Une factorisation QR opère avec la matrice originale par des transformations orthogonales et est stable en arrière, ce qui permet d'obtenir des solutions de moindres carrés plus fiables.

Qu'est-ce qui rend la SVD si largement utilisée ?

La SVD révèle simultanément le rang, la norme, le nombre de conditionnement et l'approximation de rang faible optimale d'une matrice, le tout grâce à des facteurs orthogonaux qui sont numériquement bien conditionnés, ce qui explique pourquoi elle est à la base de la compression de données, du débruitage et de la réduction de dimensionnalité.