Silinu's AI Study

오늘 시도한 기법 Autoencoder + VGG19 생각 학습 시 VGG19 모델 구조를 사용해보자. 실행 Autoencoder 모델 구축 과정을 VGG19 모델 구조로 변경하여 Encoder, Decoder를 구축하였다. 결과 없음 분석 Confusion Matrix를 확인하였을 때, 너무 극단적인 상황이 발생하여 제출을 하지 못했다. 극단적인 상황: 전부 이상 사진이라고 분류하거나 혹은 정상 사진이라고 하는 경우 threshold 값을 percentile 값만 맞추고, 다른 것을 추가적으로 임의로 손대고 싶지 않은데, 극단적인 상황까지 가는 것 같다. 다시 초심으로 돌아가야 할 필요가 있을 것 같다. 해결할 리스트 하이퍼 파라미터에 따른 실험 진행할 것 Autoencoder 외에 다른 모델을 적용할..

오늘 시도한 기법 Autoencoder 생각 하이퍼파라미터를 변경 후 학습해보자. 실행 아래와 같이 변경하여 실험을 진행하였다. Autoencoder 모델 Activation 변경하기 Epoch 줄이기 결과 0.71~0.81점이 나왔다. 분석 0.81점이 나온 것도 threshold 기준을 결과를 보고 직접 바꾼 것이라 크게 의미가 없는 듯하다. 학습 방법을 완전히 바꿔야 할 필요가 있다. 결과 값을 확인했을 때, ReLU 변경은 크게 차이가 나지 않는다. overffiting 방지를 위한 Epoch 줄이기 기법은 오히려 분류를 잘 못해내는 원인이 되어 다르게 학습해야 한다. 해결할 리스트 하이퍼 파라미터에 따른 실험 진행할 것 Autoencoder 외에 다른 모델을 적용할 것

오늘 시도한 기법 Autoencoder 생각 하이퍼파라미터를 변경 후 학습해보자. 실행 아래와 같이 변경하여 실험을 진행하였다. Autoencoder 모델 Leaky ReLU, ELU의 기울기 변경하기 Unit 수를 증가하기 결과 0.68~0.78점이 나왔다. 분석 Unit 수를 증가한다고 해서 더 성능이 좋아지거나 하지는 않았다. 학습 도중 갑자기 loss가 급격히 올라가는 구간이 발생했는데, 왜 그런건지 생각해봐야 할 필요가 있다. Leaky ReLU, ELU 기울기가 1 이하인 것 보다는 이상일 때 더 성능이 좋게 나왔다. 하지만 이것도 일반화할 수는 없을 것 같다. Activation을 다르게 바꿔보는 실험도 필요하다. 오늘 학습 결과를 전체적으로 살펴보면, 학습 데이터 셋 기준으로 thresho..

오늘 시도한 기법 Autoencoder 생각 하이퍼파라미터를 변경 후 학습해보자. 실행 아래와 같이 변경하여 실험을 진행하였다. Autoencoder 모델 LeakyReLU, ELU의 기울기 변경하기 Input image size 변경하기 train transforms 내의 Randomgrayscale, Normalize 빼기 Epoch 변경하기 Learning rate에서 scheduler 사용하기 Autoencoder에 층을 더 쌓기 결과 0.41~0.81점이 나왔다. 분석 RandomgGrayscale, Normalize를 빼니까 overffiting 되는 것 같다. 제거하기 전에는 분포가 0.005 정도의 차이가 났던 것에 비해 현재는 0.0001의 차이가 난다. 이에 따라 threshold 기준..

오늘 시도한 기법 Autoencoder 생각 Autoencoder 모델 파라미터를 변경 후 학습해보자. 1번에서 학습된 모델을 바탕으로 threshold의 percentile에 따른 실험을 해보자. 실행 아래와 같이 변경하여 실험을 진행하였다. Autoencoder 모델 layer의 unit 수를 증가하기 Activation 값 변경하기 Kernel size, stride 수 변경하기 Epoch, Learning rate 변경하기 padding 변경하기 batch size 변경하기 1번에서 실험된 모델을 바탕으로 threshold의 percentile에 따른 실험을 진행하였다. 0.25~0.5 사이 값으로 변경하여 테스트를 진행함 결과 0.22~0.52점이 나왔다. 분석 Batch size는 변경할 수록..

오늘 시도한 기법 Autoencoder Autoencoder + IsolationForest 생각 Autoencoder 학습 후, threshold의 percentile에 따른 실험을 해보자. Autoencoder 학습 후, embedding에 사용하고, IsolationForest 학습을 해보자. test에 사용되는 transform을 바꿔보자. 실행 아래와 같이 실험을 진행하였다. Autoencoder 학습하기 train dataset을 입력으로 넣고, 출력으로 MSE 값을 리스트로 저장하기 MSE 값의 percentile에 따라 threshold 기준 값 정하기 Threshold 기준: [5%, 25%, 45%, 65%, 85%] test dataset을 입력으로 넣고, 출력으로 나온 MSE 값을 ..

해당 링크는 다음과 같습니다. 반도체 소자 이상 탐지 AI 경진대회(Semiconductor abnormalities detection) Day1~3 Day4 Day5 Day6 Day7 Day8 Day9 GitHub Link

현재까지 시도한 기법 Pretrained ResNet50 + IsolationForest Pretrained ResNet34 + IsolationForest Pretrained ResNet101 + IsolationForest Pretrained ResNet152 + IsolationForest ResNet34 Fine-Tuning + IsolationForest GoogleNet Fine-Tuning + IsolationForest ResNet18 Fine-Tuning + IsolationForest YOLOv8m Autoencoder Day 1 생각 처음에는 먼저 Baseline 코드를 실행해보자. Baseline에서 조금씩 변형하면서 코드를 실행해보자. YOLOv8 모델로 정상 사진만 인식해보자. ..

해당 링크는 다음과 같습니다. 제주 특산물 가격 예측 AI 경진대회(Jeju special product price prediction) Day1~4 Day5 Day6 Day7 Day8 Day9 Day10 Day11 Day12 Day13 Day14 Day15 Day16 GitHub Link

해당 링크는 다음과 같습니다. 강화 학습 오목(AI Gomoku) 코드 구축 순서 바둑판 만들기 오목 프로그램 만들기 1 오목 프로그램 만들기 2(장목, 44룰 추가) 오목 프로그램 만들기 3(33룰 추가) 오목 프로그램 만들기 4 강화 학습 + 오목 1 강화 학습 + 오목 2 강화 학습 + 오목 3 강화 학습 + 오목 4 강화 학습 + 오목 5