Deep Learning 1차 세미나

2021.03.04 세미나 정리

 

1. Machine Learning 

- 경험을 통해 자동으로 개선하는 컴퓨터 알고리즘 연구, 인공지능의 한 분야.

- 컴퓨터가 학습할 수 있도록 하는 알고리즘과 기술을 개발하는 분야.

- ex : 자연어, Regression, 컨볼루션신경망(이미지 처리 개선 위주, 딥러닝의 한 종류)

 

2. Deep Learning

- 사람의 뉴런과 비슷한 "신경망"을 구성하여 컴퓨터가 심층적으로 학습할 수 있는 모델

 

3. 머신러닝 학습 종류

- 지도학습 : 정답이 있는 데이터를 학습, 회귀/분류 등의 종류로 나뉘어짐

- 비지도학습 : 정답이 없는 데이터를 학습, 군집화(ex:아이폰 사진 분류)/연관규칙(ex:마트소비패턴분석) 등의 종류

- 강화학습 : 알파고..나 게임 등, 보상을 최대화 하는 행동 또는 행동 순서를 컴퓨터가 계속해서 익혀나가는 학습법

 

4. 딥러닝 소프트웨어

- 계층적인 그래프를 만들어 유사 Neural Network를 구성한다

- 많이 쓰이는 소프트웨어로 TensorFlow, Pytorch가 있음.

 

5. TensorFlow-Pytorch 비교

TensorFlow	Pytorch
구글	페이스북
Static graph - 그래프 구조가 명확해야함, -> 학습된 이후 추가 수정이 불가능함. 그래프 형성 이전에 미리 고려되어야 한다.	Dynamic graph - 런타임에도 그래프 구조 형성이 가능, 학습중에도 형성 가능.
멀티플랫폼 지원, Android/iOS에 적용 가능

6. ?

- Static graph - Dynamic graph 차이?

: TensorFlow와 Pytorch의 가장 큰 차이는 그래프 형성 및 사용 방식으로, TensorFlow는 static graph를, Pytorch는 dynamic graph를 사용한다. 

: Static graph (Computational graph)의 경우 런타임의 추가적인 학습을 통해 그래프를 형성할 수 없고, 한번 최적화 한 이후 추가 수정이 불가능한 그래프... 로 보이고........ 학습 데이터에 대해 미리 고려하여 그래프를 형성해둬야 하는 듯. 상대적으로 low level..이고, 그래프를 "명시적으로" 구성한 다음에 그 그래프를 실행한다.

: Dynamic graph의 경우 런타임 및 학습 중에도 그래프 구조의 추가적인 형성이 가능한게 큰 차이인 것으로 보인다.......... forward pass할 때마다 매번 그래프를 다시 구성한다는데 forward pass가 뭐지?

- 컴퓨터비전에서의 세그멘테이션이란

: Semantic segmentation. - 이미지를 구성하고 있는 픽셀들을 구별하는 기능. 

: Instance segmentation - 시맨틱 세그멘테이션 + 고유 객체 감지 기능

: www.samsungsds.com/kr/insights/autonomous_driving.html

- 학습 데이터가 많으면 좋은가? (과적합, 과학습 등)

: Overfitting. 

: untitledtblog.tistory.com/68