Silinu's AI Study

GPU 환경에서 TensorFlow의 시계열 모델(SimpleRNN, LSTM, Bidirectional LSTM 등)을 만들다 보면 아래와 같은 warning이 발생한 경험이 있을 것이다. WARNING:tensorflow:Layer lstm_1 will not use cuDNN kernels since it doesn't meet the criteria. It will use a generic GPU kernel as fallback when running on GPU. 이 WARNING이 발생하면 GPU를 사용할 때 cuDNN 커널을 사용하지 못해서 속도가 느려진다. 이 WARNING은 cuDNN이 Activation 함수를 아래 함수만 지원해서 주로 생긴다. sigmoid tanh 실제로 본인이 ..