[ML] 03. 딥러닝 주요 모델

Deep Learning main Model

• Deep Learning이란?
  • Neural Network : 입력, 은닉, 출력층으로 구성된 모형으로서 각 층을 연결하는 노드의 가중치를 업데이트하면서 학습
  • Overfitting이 심하게 일어나고 학습시간이 오래 걸림
  • But, 다양한 layer을 통해 복잡한 데이터의 학습이 가능하도록 한다.(graphical representation learning)
  • 알고리즘 및 GPU 발전이 deep learning의 부흥을 이끌었다.

• 다양한 형태로 발전(CNN, RNN, AutoEncoder등)
• 다양한 분야로 발전(Object detection, Image Resolution, Style transfer, colorization등)
• 네트워크의 구조의 발전(ResNET, DenseNet등)
• 네트워크 초기화 기법
• 다양한 activation function(ReLu, ELU, SeLu등)
• Generalization, overfitting 문제 존재

CNN(Convolution Neraul Network)

• 이미지 지역별 feature을 뽑아서 neural network 학습

GAN(Generative Adversrial Network)

• 생산적 적대 신경망
• Data를 만들어내는 Generator와 만들어진 data를 평가하는 Discriminator가 서로 대립(Adversarial)적으로 학습해가며 성능을 점차 개선해 나가자는 개념
  • Discriminator를 학습시킬 때에는 D(x)가 1이 되고 D(G(z))가 0이 되도록 학습(진짜 데이터를 진짜로 판별, 가짜 데이터를 가짜로 판별)
  • Generator를 학습시킬 때에는 D(G(z))가 1이 되도록 학습(가짜 데이터를 discriminator가 구분 못하도록 학습)
• 참고 : https://untitledtblog.tistory.com/152

강화학습(Reinfocement Learning)

• Q-learning
  • 현재 상태에서부터 먼 미래까지 가장 큰 보상을 얻을 수 있는 행동을 학습하게 하는 것
• Q-learning + Deep Learning : DQN(Deep Reinforcement Learning)
  • 현재는 잘 사용하지 않음.

    

     

딥러닝 주요 모델