Uppgift 1 - Linjär Algebra (Medel nivå)

En datavetare arbetar med att förbättra prestandan hos en maskininlärningsmodell genom att använda Principal Component Analysis (PCA) för dimensionsreduktion. Datasetet består av 3-dimensionella datapunkter som representeras i en matris $X$: $$X = \begin{bmatrix} 2 & 0 & 1 \\ 3 & 5 & 1 \\ 4 & 2 & 2 \\ 5 & 3 & 3 \\ 6 & 4 & 4 \end{bmatrix}$$ Datavetaren vill transformera dessa datapunkter till en ny bas definierad av de två största egenvektorerna av kovariansmatrisen för $X$. Bestäm de två största egenvektorerna och använd dem för att transformera $X$ till den nya basen.

SVAR

De två största egenvektorerna är $v_1 = \begin{bmatrix} 0.577 \\ 0.577 \\ 0.577 \end{bmatrix}$ och $v_2 = \begin{bmatrix} 0.707 \\ -0.707 \\ 0 \end{bmatrix}$. Den transformerade matrisen $Y$ är: $$Y = \begin{bmatrix} 1.732 & -0.707 \\ 4.041 & -1.414 \\ 4.899 & -0.707 \\ 6.364 & 0 \\ 7.828 & 0.707 \end{bmatrix}$$

STEG-FÖR-STEG LÖSNING

Steg 1

Beskrivning: Beräkna kovariansmatrisen för $X$.

Beräkning: Kovariansmatrisen $C = \frac{1}{n-1}X^TX$ där $n$ är antalet datapunkter.

Resultat: $C = \begin{bmatrix} 2.5 & 2.5 & 2.5 \\ 2.5 & 2.5 & 2.5 \\ 2.5 & 2.5 & 2.5 \end{bmatrix}$

Steg 2

Beskrivning: Beräkna egenvärden och egenvektorer för kovariansmatrisen $C$.

Beräkning: Lös $\det(C - \lambda I) = 0$ för egenvärden $\lambda$ och använd dessa för att hitta egenvektorer.

Resultat: Egenvärden: $\lambda_1 = 7.5$, $\lambda_2 = 0$, $\lambda_3 = 0$. Egenvektorer: $v_1 = \begin{bmatrix} 0.577 \\ 0.577 \\ 0.577 \end{bmatrix}$, $v_2 = \begin{bmatrix} 0.707 \\ -0.707 \\ 0 \end{bmatrix}$.

Steg 3

Beskrivning: Transformera matrisen $X$ till den nya basen definierad av de två största egenvektorerna.

Beräkning: Multiplicera $X$ med matrisen av de två största egenvektorerna: $Y = X \cdot [v_1 \, v_2]$.

Resultat: $Y = \begin{bmatrix} 1.732 & -0.707 \\ 4.041 & -1.414 \\ 4.899 & -0.707 \\ 6.364 & 0 \\ 7.828 & 0.707 \end{bmatrix}$

NÖDVÄNDIG KUNSKAP

Egenvärden och egenvektorer Grundläggande

Förståelse för hur man beräknar egenvärden och egenvektorer för en matris.

Läs mer →

Matrismultiplikation Grundläggande

Förmåga att multiplicera matriser för att transformera data.

Läs mer →

ÖVNINGSUPPGIFTER

Uppgift 1 (Nivå A)

Fråga: Beräkna egenvärden och egenvektorer för matrisen $\begin{bmatrix} 4 & 1 \\ 1 & 3 \end{bmatrix}$.

Förklaring: Använd karakteristiska ekvationen $\det(A - \lambda I) = 0$ för att hitta egenvärden och lös sedan för egenvektorer.

TANKESÄTT OCH STRATEGI

Första intryck

Identifiera att uppgiften handlar om att använda PCA för dimensionsreduktion genom att hitta egenvektorer av en kovariansmatris.

Lösningsstrategi

Beräkna kovariansmatrisen, hitta egenvärden och egenvektorer, och använd dessa för att transformera data.

Verifieringsmetod

Kontrollera att de beräknade egenvektorerna är ortogonala och att transformationen bevarar dimensionsreduktionen.

Nyckelbegrepp

Kovariansmatris Egenvärden Egenvektorer Matrismultiplikation

Ansvarsbegränsning: Denna tjänst tillhandahålls "som den är" utan garantier av något slag. Vi tar inget ansvar för hur materialet används eller för eventuella felaktigheter i uppgifter, lösningar eller annan information. Använd alltid eget omdöme och verifiera informationen genom andra källor när det är viktigt.