Dive into Data Science

Practical한 측면에서 보면, PCA와 SVD의 performance 차이는 유의미하지 않음. [참조] 공돌이의 수학정리노트 https://www.youtube.com/watch?v=cq5qlYtnLoY

변수 선택/추출을 통한 차원 축소 ˙ 변수 선택 (selection) : 분석 목적에 부합하는 소수의 예측 변수만을 선택 - 장점 : 선택한 변수 해석 용이 - 단점 : 변수간 상관관계 고려 어려움 ˙ 변수 추출 (extraction) : 예측 변수의 변환을 통해 새로운 변수 추출 - 장점 : 변수간 상관관계 고려, 일반적으로 변수의 개수를 많이 줄일 수 있음 - 단점 : 추출된 변수의 해석이 어려움 Feature selection Feature Extraction Supervised Information gain, Stepwise regression, LASSO, Genetic algorithm, many more... Partial Least Squares(PLS) Unsupervised PCA lo..

정의. Let A be an n * n matrix. A number λ is said to be an eigen value of A if there exists a nonzero solution vector K of the linear system AK = λK The solution vector K is said to be an eigen vector corresponding to the eigen value λ. 기하학적 의미 - 우변 (λK) : 벡터의 크기 변화 - 좌변 (AK) : K라는 벡터를 A(행렬)가 선형변환 K 벡터를 선형변환(A 행렬만큼) 시켰을 때, K 벡터의 방향은 변화하지 않고 크기만 변화할 때 변화한 크기를 eigen value라 하고, 그 벡터 K을 eigen vector하..