Day6 생각 정리

오늘 시도한 기법

• LGBM Regressor

 

1. 생각
   1. 저번에 해결하고자 하는 것처럼 LGBM Regressor의 파라미터를 조정해보자.
   2. 필요 없어 보이는 열을 제거해보자.
2. 실행
   1. LGBM Regressor의 파라미터를 조정함.
      1. max_depth: 15 → 30
      2. Learning rate: 0.05 → 0.001
      3. n_estimators: 2000 → 5000
   2. Correlation이 낮은 year, month, day 값을 없애보자.

1. 1.  
2. 결과
   1. 807점이 나왔다.
   2. 818점이 나왔다.
3. 분석
   1. LGBM Regressor의 파라미터 값이 이미 최적이 되어있었기 때문에 오히려 역효과가 나온 것일 수 있다.
      1. 하이퍼파라미터 말고 다른 방법을 찾아야 한다.
   2. 아무리 Correlation이 낮다고 해도, 실질적으로 Test 입력 값으로 넣을 때 바뀌는 것들이 year, month, day이므로 섣불리 지울 수 없다.
      1. 다른 열을 추가하거나 가공하는 방법을 바꿔야 할 것 같다.

 

해결할 리스트

• 다른 사용 가능한 Regressor를 찾아볼 것
• 열 가공 처리를 어떻게 할 지 생각할 것
• 잘 나온 모델들을 가지고 Ensenble 모델을 만들어볼 것
• LSTM 코드의 시간을 줄일 수 있는 방법을 생각할 것