Einzelwertzerlegung (SVD) Tutorial
Wo die Spalten von U sind die linken singulären Vektoren (gene Koeffizientenvektoren); S (die gleichen Abmessungen wie A) hat Singulärwerte und diagonal ist (Modus Amplituden); und V T hat Zeilen, die die rechten Singulärvektoren (Expressionsniveau Vektoren) sind. Der SVD stellt eine Erweiterung der ursprünglichen Daten in einem Koordinatensystem, in dem der Kovarianzmatrix diagonal ist.
Die Berechnung der SVD besteht aus der Eigenwerte und Eigenvektoren von AA T zu finden und AT A. Die Eigenvektoren von ATA die Spalten von V bilden die Eigenvektoren von AA T machen Sie auch die Spalten von U. auf, die singulären Werte in S sind Quadratwurzeln die singulären Werte der Eigenwerte von T AA oder AT A. sind die diagonalen Einträge der S-Matrix und werden in absteigender Reihenfolge angeordnet sind. Die Einzelwerte sind immer reelle Zahlen. Wenn die Matrix A eine reelle Matrix ist, dann sind U und V auch real.
Um zu verstehen, wie für SVD zu lösen, lassen Sie uns das Beispiel der Matrix nehmen, die in Kuruvilla et al wurde:
In diesem Beispiel ist die Matrix eine 4x2-Matrix. Wir wissen, dass für eine n × n-Matrix W, dann ein von Null verschiedenen Vektor x die Eigenvektor von W, wenn:
Für einige skalare l. Dann wird der skalare l ein Eigenwert von A genannt, und x gesagt wird ein Eigenvektor von A entspricht, l sein.
So finden Sie die Eigenwerte der oben genannten Unternehmen wir Matrizen AA T und T A. berechnen Wie bereits erwähnt. die Eigenvektoren von AA T bilden die Spalten von U, so können wir die folgende Analyse tun U. zu finden
Nun, da wir eine n × n-Matrix haben, können wir die Eigenwerte der Matrix W. bestimmen
Da W x = l x dann (W- l I) x = 0
Für einen einzigartigen Satz von Eigenwerten zu Determinante der Matrix (W- l I) muß gleich Null sein. So aus der Lösung der charakteristischen Gleichung, | W- l I | = 0 erhalten wir:
0.117 (vier Eigenwerte, da es ein Polynom vierten Grades ist). Dieser Wert kann verwendet werden, um den Eigenvektor zu bestimmen, die in den Spalten von U. platziert werden können Somit erhalten wir die folgenden Gleichungen:
19.883 x1 + 14 x2 = 0
14 x1 + 9,883 x2 = 0
Nach den ersten beiden Gleichungen Vereinfachung erhalten wir ein Verhältnis, das den Wert von x1 bis x2 betrifft. Die Werte von x1 und x2 so gewählt sind, dass die Elemente des S den Quadratwurzeln der Eigenwerte sind. Somit wird eine Lösung, die die obige Gleichung X 1 = -0,58 und X 2 = 0,82 und x3 = x4 = 0 (dies ist die zweite Spalte der Matrix U) erfüllt.
Setzt man den anderen Eigenwert erhalten wir:
-9,883 x1 + 14 x2 = 0
14 x1 - 19.883 x2 = 0
Somit wird eine Lösung, die diesen Satz von Gleichungen erfüllt, ist x1 = x2 = 0.82 und -0.58 und x3 = x4 = 0 (dies ist die erste Spalte der Matrix U). Die Kombination dieser erhalten wir:
In ähnlichem A T A macht die Spalten von V, so wir eine ähnliche Analyse durchführen können den Wert von V finden
und in ähnlicher Weise erhalten wir den Ausdruck:
Schließlich, wie bereits erwähnt, ist die S die Quadratwurzel des Eigenwerts von AA T oder A T A und kann direkt mit uns erhalten werden, geben:
Beachten Sie, dass: s 1> s 2> s 3> ... das ist, was das Papier wurde von der Figur 4 des Kuruvilla Papiers anzeigt. In diesem Papier wurden die Werte berechnet und normalisiert, so daß der höchste Einzelwert gleich 1 war.