Stanford 대학교에서 2023년에 발표한 이미지 생성 논문 해당 논문이 발표된 2023년에는 diffusion 모델을 활용하여 이미지 생성이 대중적으로 많이 사용되기 시작한 시기이다. 사용자의 프롬프트를 받아서 이를 이미지로 생성하는 text-to-image 모델은 매우 고품질의 이미지를 생성할 수 있다. 그러나 정확한 자세나 모양 등은 텍스트로만 표현하기에는 어렵고 이는 모델이 이미지를 컨드롤하는데 한계가 존재한다. 이러한 미세한 컨트롤을 모델이 할 수 있도록 학습하는 것은 어려웠는데 문제점이 존재한다. 물체 모양, 사람 포즈 같은 특정 문제만을 위해서 학습할 수 있는 데이터 수는 가장 기본적인 text-to-image모델의 데이터수보다 5만배 적다. 즉 한정적인 데이터만을 활용할 수 있다. 만..

https://arxiv.org/pdf/1512.03385 2015년에 수백만장의 이미지를 분류하는 대회인 ILSVRC [ImageNet Large Scale Visual Recognition Challenge]에서 가장 좋은 성능을 좋은 ResNet을 구현하여 우승하였고 이 ResNet의 아이디어에서 층을 더 깊게 쌓는 딥러닝 모델이 등장하게 되었다. ResNet의 아이디어란 이전의 입력값을 그대로 결과값에 추가하는 Residual Connection[잔차 연결]을 이용하며 해당 개념은 아래에서 설명한다. 2015년 이전까지의 딥러닝 모델의 흐름2010년과 2011년의 사람이 직접 필터를 설계한 머신러닝 기반의 모델 이후로 2012년에 처음으로 CNN 기반의 딥러닝 모델인 AlexNet이 등장하여..

6강 : Training CNNs and CNN Architectures지난 강의를 통해서 CNN의 핵심 구조인 합성곱과 풀링에 대해서 살펴보았고 이번 강의에서는 CNN의 자세한 구조와 모델을 학습하기 위한 하이퍼파라미터와 정규화에 대해서 살펴볼 것이다. 그리고 본격적으로 딥러닝을 활용한 모델인 2012년의 AlexNet과 조금 더 발전된 VGGNet 그리고 ResNet까지 살펴볼 것이다. CNN의 구성 요소 CNN에 포함되는 구성요소는 다음과 같이 6가지 요소로 나눌 수 있다: 1. 합성공층 [Convolution Layers] 입력 데이터의 특징을 추출하기 위해서 사용되면 가중치 필터를 거치면서 아웃풋으로 특징맵(feature map)을 다음 층으로 넘긴다. 2. 풀링층 [Pooling Lay..

5강 : Image Classification with CNNs이번 5강에서는 AI와 딥러닝에 있어서 굉장히 중요한 Convoultional Neural Network (CNN)에 대해서 다룰 예정이다.CNN을 활용한 AlexNet이 2012년 등장하고 나서 2020년까지 대부분의 컴퓨터비전의 작업들에서 CNN이 사용되었다. 2021년부터 Transformer가 본격적으로 등장하기 전까지 CNN이 사용되어 왔고 Transformer 역시 CNN의 합성곱층이 포함되어 있다. 이미지 분류의 이해이전 수업에서의 신경망에서 완전 연결층 [Fully-Connected Layer]와 신경망을 비선형[non-linearity]를 적용할 수 있게 해주는 활성화 함수[Activation Function]을 통해서 ..

3강 : Regularization and Optimization이번 강의에서는 크게 정규화(Regularization)과 최적화(Optimization) 두 축으로 다루어 볼 예정이다. 딥러닝과 컴퓨터 비전에 있어서 이 두가지의 방법은 매우 핵심적으로 사용되며 중요하다. 정규화는 훈련 성능을 약간 낮추는 대신 새 데이터에 대해서 더 잘 맞추는 일반화 능력을 높이는 방법으로 모델 복잡도 억제를 통해 과적합(Overfitting)을 방지한다. 최적화는 손실함수을 최소화하는 과정에서 어떻게 이동할지에 대해서 알아보며 경사 하강법(Gradient Descent)을 기반으로 다양한 업그레이드 버전들을 학습할 예정이다. 정규화란? (Regularization)정규화를 최대한 간단하게 요약하자면 "간단한 모델 선호..

1강 : Introduction 첫 번째 강의에서는 컴퓨터 비전이 무엇인지 그리고 AI와 컴퓨터 비전 분야의 역사에 대해서 다루고 CS231n의 강의 학습 방향과 과제 등을 소개함.CS231n의 강의는 Fei Fei 교수와 Ehsan Adeli 교수 그리고 대학원생 조교 Zane Durante이서 강의를 진행할 예정이다. 이번 1강에서는 컴퓨터 비전의 역사에 대해서 주요하게 다루었는데 역사를 이해하면 어떠한 기술이 무슨 한계를 극복하기 위해 발전되었고 기초적인 단계에서부터의 원할한 이해를 하는데 도움이 될 것이라고 생각한다. 컴퓨터 비전이란? 컴퓨터 비전으로 이루고자 하는 목표는 다음과 같다: 물체를 인식하고 (고양이 얼굴을 인식함) 무엇을 인지하고 있는지를(고양이로 인지) 구별함인간을 비롯한 동물의 ..