Silinu's AI Study

바둑판 만들기 렌주룰 적용한 오목 알고리즘 만들기 + 바둑판에 같이 그리기 오목 알고리즘 + 강화 학습으로 실험하기 학습된 강화 학습 가중치 + 바둑판에 같이 그리기

오늘 시도한 기법 LSTM 생각 LSTM을 시간을 줄이고, item끼리 묶어서 학습해보자. 실행 아래 링크와 같이 Activation(leaky relu)을 lambda 함수로 지정하여 바꿔주고, epoch를 10000번 진행하였다. 시계열 모델 Lambda Activation 1번 + 일요일을 0으로 처리하였다. 2번에서 Activation을 elu로 바꿔주고, epoch를 1000번 진행하였다. 결과 1937점이 나왔다. 1925점이 나왔다. 1430점이 나왔다. 분석 시간이 줄어들었지만 1번의 epoch에 1.5 ~ 2.1초 정도이기에 거의 24시간은 걸린 것 같다. epoch 수를 바꾸거나 모델을 다른 형태로 변화해야할 것 같다. 일요일을 0으로 바꾸는 것이 점수가 더 좋게 나왔다는 것은 결국 일..

GPU 환경에서 TensorFlow의 시계열 모델(SimpleRNN, LSTM, Bidirectional LSTM 등)을 만들다 보면 아래와 같은 warning이 발생한 경험이 있을 것이다. WARNING:tensorflow:Layer lstm_1 will not use cuDNN kernels since it doesn't meet the criteria. It will use a generic GPU kernel as fallback when running on GPU. 이 WARNING이 발생하면 GPU를 사용할 때 cuDNN 커널을 사용하지 못해서 속도가 느려진다. 이 WARNING은 cuDNN이 Activation 함수를 아래 함수만 지원해서 주로 생긴다. sigmoid tanh 실제로 본인이 ..

오늘 시도한 기법 LGBM Regressor LSTM 생각 LGBM Regressor의 파라미터를 조정해보자. LSTM을 item끼리 묶어서 학습해보자. Item, Corporation, Location 별로 나눠서 LGBM Regressor 학습해보자. 실행 LGBM Regressor의 파라미터를 조정하였다. subsample: 0.6 → 0.8 item끼리 나눠서 학습하였다. 각 열별로 나눠서 LGBM Regressor를 학습하였다. 결과 789점이 나왔다. 1419점이 나왔다. 913점이 나왔다. 분석 LGBM Regressor의 파라미터 값을 변화한다고 해도 기존의 점수보다 크게 변동되지 않는다. 이 모델말고 다른 모델을 찾아야 한다. 학습 시간이 줄어서 저번보다는 빠르게 학습했지만, 더 줄일 수..

오늘 시도한 기법 LGBM Regressor 생각 저번에 해결하고자 하는 것처럼 LGBM Regressor의 파라미터를 조정해보자. 필요 없어 보이는 열을 제거해보자. 실행 LGBM Regressor의 파라미터를 조정함. max_depth: 15 → 30 Learning rate: 0.05 → 0.001 n_estimators: 2000 → 5000 Correlation이 낮은 year, month, day 값을 없애보자. 결과 807점이 나왔다. 818점이 나왔다. 분석 LGBM Regressor의 파라미터 값이 이미 최적이 되어있었기 때문에 오히려 역효과가 나온 것일 수 있다. 하이퍼파라미터 말고 다른 방법을 찾아야 한다. 아무리 Correlation이 낮다고 해도, 실질적으로 Test 입력 값으로 ..

오늘 시도한 기법 LGBM Regressor Cat Boost Regressor LSTM + NN 생각 LSTM + NN 모델의 층을 얕게, Learning rate 값을 줄여서 학습해보자. 점수가 높게 나온 Regressor들의 하이퍼 파라미터를 조정해보자. 실행 LSTM + NN 모델의 하이퍼 파라미터를 다음과 같이 변경하여 학습하였다. Learning Rate: 0.001 → 0.00001 LSTM Unit: 30 → 10 Dense: (1024, 512, 256, 128, 1) → (512, 128, 1) Regressor의 하이퍼 파라미터를 다음과 같이 추가 및 조정하였다. LGBM Regressor max_depth: 100 → 16 learning_rate, subsample 추가 CatBo..

현재까지 시도한 기법 Random Forest Regression LSTM + NN 공휴일 표시 열 추가 test 때 공휴일 0으로 작성 LGBM Regressor XGB Regressor Cat Boost Regerssor Day 1 생각 처음에는 먼저 Baseline 코드를 실행해보자. 시계열 데이터이므로 각각의 Item, Corporation, Location에 따라 데이터를 나눠 LSTM 기법으로 학습해보자. 실행 코드 공유에 나와있는 Random Forest Regression 기법을 사용하였다. 각 Item, Corporation, Location별로 데이터를 나누니 39개의 데이터가 만들어졌다. 각각의 데이터 당 LSTM + NN 모델로 학습하였다. 처음에 50번, 10번, 깊이를 줄여 10..

본 내용에서는 yolo는 커스텀한 데이터를 활용하여 yolo model을 통해 학습하고 실시간으로 적용하는 것을 목표로 한다. 본 내용에서는 예제로써 실시간 손가락의 숫자를 맞추는 것을 목표로 한다. 본 내용에서 사용한 Webcam은 다이소에서 5,000원에 파는 pc용 화상 카메라이다. 본 내용은 window 환경에서 진행하며, Anaconda 가상 환경을 사용한 Jupyter notebook 환경에서 진행한다. 만약 Anaconda 환경이 컴퓨터에 깔려져 있지 않다면 아래 링크를 참조합니다. https://silinu-ai.tistory.com/3 Jupyter notebook(주피터 노트북) 설치하기 총 2가지 단계로 이루어져 있다. 1. 아나콘다 다운로드 https://www.anaconda.co..

본 내용에서는 손가락의 숫자를 실시간으로 맞추는 것을 목표로 한다. 본 내용은 window 환경에서 진행하며, Anaconda 가상 환경을 사용한 Jupyter notebook 환경에서 진행한다. 만약 Anaconda 환경이 컴퓨터에 깔려져 있지 않다면 아래 링크를 참조합니다. https://silinu-ai.tistory.com/3 Jupyter notebook(주피터 노트북) 설치하기 총 2가지 단계로 이루어져 있다. 1. 아나콘다 다운로드 https://www.anaconda.com/products/individual#windows Free Download | Anaconda Anaconda's open-source Distribution is the easiest way to perform Pyt..

본 내용에서는 손가락의 숫자를 실시간으로 맞추는 것을 목표로 한다. 본 내용은 window 환경에서 진행하며, Anaconda를 깔아둔 상태이다. 만약 Anaconda 환경이 만들어져 있지 않다면 아래 링크를 참조합니다. https://silinu-ai.tistory.com/3 Jupyter notebook(주피터 노트북) 설치하기 총 2가지 단계로 이루어져 있다. 1. 아나콘다 다운로드 https://www.anaconda.com/products/individual#windows Free Download | Anaconda Anaconda's open-source Distribution is the easiest way to perform Python/R data science and machine l..