Elements of Statistical Learning은 기본적인 회귀분석 모형들부터 Ensemble learning, (Undirected) Graphical model까지 다양한 내용들을 다루며, 현재 통계학의 관점에서 쓰여진 기계학습 교재 중 바이블로 꼽힌다. 석사 과정 진학을 앞둔 겨울방학 동안 이 책을 통해 공부한 내용을 이 블로그에 정리해 둘 것이다. 이 방대한 교재의 모든 챕터를 커버하기 보다는, Basis Expansions과 Regularization을 다루는 Chapter 5를 시작으로, 아래 챕터들에 대해 좀더 심도있게 공부하고자 한다.

다룰 챕터들

Ch 5. Basis Expansions and Regularization
Ch 6. Kernel Smoothing Methods
Ch 8. Model Inference and Averaging
Ch 9. Additive Models, Trees, and Related Methods
Ch 10. Boosting and Additive Trees
Ch 12. Support Vector Machines and Flexible Discriminants
Ch 14. Unsupervised Learning
Ch 15. Random Forests
Ch 16. Ensemble Learning
Ch 17. Undirected Graphical Models
Ch 18. High-Dimensional Problems: p ≫ N