Please enable JavaScript.
Coggle requires JavaScript to display documents.
선형대수 17일차 - Coggle Diagram
선형대수 17일차
머신러닝에서 Eigen decomposition
머신러닝이 다루는 일반적 행렬 symmetric positive definition matrix를 주로 다룬다.
feature by feature 행렬의 원소가 의미하는 바는 두 feature간의 similarity를 의미 합니다.
\(A \cdot B = \lvert\lvert A \lvert\lvert \lvert\lvert B \lvert\lvert cos\theta \) 해당 식에서 두 벡터가 바라보는 방향이 동일하면 두 벡터의 correlation이 높다는 의미입니다.
\(\theta\)가 작아지면 두벡터의 관련성이 높아집니다.
correlation matrix
PCA
covariance matrix
각 feature별로 평균 0으로 맞추고 내적(inner product)로 계산한게 covariance matrix입니다.
style transfer
style transfer
feature간의 inner product를 기준으로 한 similarity matrix의 역할을 합니다.
low-rank approximation of matrix
\(A = U\sum V^T = \sum^n_{i=1} \sigma_i u_i v_i^T\)
최적의 \( A_r \) 찾기
\( \hat{A_r} = \sum_{i =1} ^{r} \sigma_i u_i v_i^T \)
\( \sigma_1 \geq \sigma_2 \geq ... \geq \sigma_r \)
prominence norm
element를 전부 제곱해서 더하는 방식으로 구한다.
dimension reducing matrix
\( \hat{G} = \underset{G}{argmin} \lvert \lvert S - X^T G G^T X \lvert \lvert_F \)