Day9 생각 정리

오늘 시도한 기법

• LSTM
• Bi-Directional LSTM

 

1. 생각
   1. 저번 LSTM의 unit, 층을 바꿔보자.
2. 실행
   1. unit이 15였던 층을 전부 20으로 변환했고, 2번에 걸쳐 output length를 줄였던 것을 한 번에 output length 줄였다.
   2. 1번에서 Batch size를 바꾸고, LSTM 코드를 Bidirectional LSTM 코드로 바꿨다.
3. 결과
   1. 1439점이 나왔다.
   2. 1474점이 나왔다.
4. 분석
   1. 저번에는 1430점이 나왔는데, 층을 완전히 변화하여 모델을 다른 구조로 변화해야 할 것 같다.
   2. 시간은 조금 더 걸리더라도 Batch size를 크게 하면 안될 것 같다. 또한 Bidirectional LSTM 코드의 형태도 다른 구조로 변화하여 실험해야 할 것 같다.

 

해결할 리스트

• 다른 사용 가능한 Regressor를 찾아볼 것
• 열 가공 처리를 어떻게 할 지 생각할 것
• 잘 나온 모델들을 가지고 Ensenble 모델을 만들어볼 것
• 새로운 형태의 LSTM 모델을 연구해볼 것
• +(New) Batch size를 좀 더 줄여서 LSTM 모델, Bidirectional LSTM 모델을 학습해볼 것