딥러닝의 역사: 딥러닝 이전 | AI숏츠

 

딥러닝은 오늘날 이미지 인식, 음성 인식, 자연어 처리 등 다양한 분야에서

뛰어난 성능을 보여주고 있다.

 

하지만 2012년 AlexNet이 등장하기 전까지는 지금과 같은 딥러닝(CNN 기반)

방식이 아니라 전통적인 컴퓨터 비전 기법이 주류였다.

 

---

1. 전통적인 컴퓨터 비전의 흐름

 

딥러닝 이전에는 데이터로부터 자동으로 특징을 학습하는 것이 불가능했다.

 

사람과 자전거를 구분

따라서 연구자들은 사람이 직접 설계한 특징 추출 방법을 통해

이미지를 수치 벡터로 바꾸고

그 벡터를 머신러닝 알고리즘에 넣어 분류하는 방식이

일반적으로 사용되었다.

 

이러한 방식을 사람의 손으로 직접 설계하였다고 해서 hand-crafted desgined라고 부른다. 

 

 

2. 특징 추출기 [Feature Extractor]

 

 

이미지에서 중요한 패턴을 뽑아내는 기법들이다:

• SIFT [Scale-Invariant Feature Transform]
• HOG [Histogram of Oriented Gradients]
• LBP [Local Binary Pattern]

이러한 기법들은 사람이 직접 어떤 것이 중요한 특징인지 설계해야 했다,

HOG을 이용하여 표현을 추출한 이미지

3.분류기 [Classifier]

 

추출된 특징을 입력으로 받아 이미지가 어떤 클래스인지 분류하는 머신러닝 알고리즘:

• SVM [Support Vector Machine]
• k-NN [k-nearest Neighbors]
• Logistic Regression

 

이러한 머신러닝 알고리즘의 성능 = 특징을 얼마나 잘 뽑았는가

---

 4.ImageNet과의 만남

 

2009년 대규모 이미지 데이터셋인 ImageNet이 공개되면서 연구가 가속화됨

2010년 부터 시작된 ILSVRC (ImageNet Large Scale Visual

Recongition Challenge) 대회에서도 처음에는 전통 머신러닝 방식이 우세함.

 

오류율

2010년 : 28%

2011년 : 25%

 

사람의 오류율이 5%임을 고려해 보았을 때 성능이 좋지 않은 것을 확인할 수 있다. 

 

 

5.딥러닝 이전 시대의 한계

• 사람이 직접 특징을 설계해야함
• 복잡한 데이터에 일반화하기 어려움
• 대규모 데이터 활용 한계

 

이후 2012년에 AlexNet이 등장하면서 딥러닝이 핵심으로 떠오르게 됨

 

 

요약

딥러닝 이전의 이미지는 전통적인 머신러닝이 주류로 사용되었다.