Factorisation d’une matrice A sous la forme A = U Σ V^* où U et V sont matrices unitaires (orthogonales en réel) et Σ est une matrice diagonale (ou rectangulaire) de valeurs singulières non négatives, révélant le rang, l’image et le noyau.

Principe

La SVD fournit des bases orthonormées d’entrée et de sortie qui rendent l’action de A diagonale à un facteur d’échelle près : A envoie le i-ème vecteur singulier droit sur le i-ème vecteur singulier gauche multiplié par la i-ème valeur singulière. Elle existe pour toute matrice et est unique à un signe/phase près en cas de valeurs singulières distinctes.

Démonstration

Pour A = [[3,0],[0,2]] une SVD est U=I, Σ=diag(3,2), V=I. En analyse en composantes principales, la SVD d’une matrice de données centrée identifie les directions principales orthogonales et leurs variances (les valeurs singulières au carré). En moindres carrés, la SVD fournit un solveur stable et la pseudoinverse en inversant les valeurs singulières non nulles.

Mauvaise application

Appliquer la SVD aux données sans recentrage ni normalisation (confondre la moyenne globale avec le signal), ou tronquer les valeurs singulières sans vérifier l’effet sur les quantités d’intérêt. Confondre la SVD avec l’éigendecomposition de A (au lieu de A^*A) pour des matrices non symétriques.

Conséquence

La SVD donne la meilleure approximation de rang réduit en normes spectrale et de Frobenius, calcule la pseudoinverse de Moore–Penrose, met en évidence le rang numérique et le noyau pour la régularisation et stabilise les solutions inverses linéaires.

Inversion

Considérer la décomposition comme nécessitant la même base de diagonalisation à gauche et à droite (c.-à-d. supposer que A est unitarily diagonalizable) — la notion inversée est l’éigendecomposition, qui échoue souvent pour les matrices non normales ou rectangulaires.

Limite

S’applique à toutes les matrices finies et aux opérateurs compacts sur espaces de Hilbert ; les extensions aux tenseurs requièrent d’autres décompositions multilinéaires. La SVD suppose une structure de produit scalaire et produit des facteurs orthonormés, excluant les décompositions sur bases non orthogonales.

Tension sémantique

Tension entre SVD et éigendecomposition/décomposition polaire : toutes décrivent la structure d’un opérateur mais imposent des contraintes de base différentes (orthonormée vs directions invariantes) et diffèrent par existence/unicité ; il faut choisir la décomposition adaptée au problème.

Synthèse

La SVD factorise toute matrice en bases orthonormées d’entrée/sortie et une diagonale de facteurs d’échelle non négatifs (valeurs singulières), révélant le rang, la répartition d’énergie et des façons stables d’inverser ou d’approximer l’opérateur.