[n213]Ridge Regression

Data Science/2. 기계학습

착한곰돌e 2021. 6. 21. 23:29

■ Key words

ㆍ

■ 주요내용

ㆍ

- λ : try a bunch of values for λ and use Cross Validation, to determine which one results in the lowest Variance

- ridge regression model 수식

- L2 Norm

- 선형회귀모델의 식과 Ridge 회귀모델의 식이 무엇이 다른가 : λ의 역할 확인

- λ값로 편향을 시키면서 과적합을 조정하고, 일반화한다; 과적합을 조정

→ 한 가지 특성에 대해 덜 민감하게 만들어주는 것

→ 회귀선의 설명력을 더 크게 해주는 것 / 변화가 적은 특성을 민감도를 떨어뜨려서 설명에서 배제

→ 영향력이 큰 / 설명력이 큰 특성만 남기는 것

→ feature selection!

- 이산형 데이터 / 범주형 데이터인지 확인하고 수치화 되어있는 범주형 데이터는 별도로 코딩을 해야 한다

- one hot encoding : 컴퓨터가 계산을 더 빠르게 할 수 있음

- one hot encoding은 categorical data만 encoding을 해줌

- fit_transform / transfrom은 Sci-kit learn에 많이 쓰이는 함수임; fit은 train data, 그냥은 test data에 적용; test에 fit_transform을 적용하면 data leakage가 일어남(정답유출)

- library 버전 확인 : !pip show 『라이브러리명』/ pd.show_versions() / print('sklearn ' + sk.__version__) / !pip list(전체 라이브러리 확인)

→ 코랩 판다스 업그레이드

■ 주요함수

ㆍ판다스 프로파일링

■ Reference

ㆍ판다스 프로파일링 : https://wikidocs.net/47193

ㆍparameter(파라미터) / attribute(속성) : https://honinbo-world.tistory.com/45