EunChan's Tech Blog EunChan's Tech Blog

딥러닝의 3대 석학이라고 불리는 얀 르쿤(Yann LeCun) 교수가 GAN(Generative Adversarial Network)을 가리켜 최근 10년간 머신러닝 분야에서 가장 혁신적인 아이디어라고 할 만큼 GAN은 가장 많은 관심을 받고 있는 기술 중에 하나이고 재미있는 연구 분야입니다. 오늘은 Generative Adversarial Networks에 대해서 포스팅해보도록 하겠습니다. GAN에서 다루고자 하는 모든 데이터는 확률분포를 가지고 있는 랜덤변수(Random Variable)이기 때문에 먼저 확률분포의 개념을 알아야 합니다. 확률분포 확률 번수가 특정한 값을 가질 확률을 나타내는 함수를 의미합니다. 예를 들어 주사위를 던젔을때 나올 수 있는 확률 변수 X라고 합시다. 확률 변수 X는 1,..

Pose Estimation에 딥러닝을 적용하는 알고리즘이 나오자 빠른 발전을 이루었습니다. Pose Estimation도 2D Pose Estimation, 3D Pose Estimation으로 나뉘는데요 오늘은 2D Pose Estimation을 간략하게 요약해 포스팅해보도록 하겠습니다 Pose Estimation 사람의 신체 관절인 Key Point가 어떻게 구성되어있는지 위치를 측정(Localization)하고 추정(Estimation)하는 문제입니다. 주요 Key Point → Head, Neck, Sholder, Elbow, Wrist, Hip, Knee, Ankle Pose Estimation의 대표적인 성능평가 지표 성능평가지표는 데이터셋에 따라 조금씩 명칭이 바뀌는 것 같습니다. Perc..

Computer Vision에 다양한 분야가 있습니다. 그중에서도 가장 활발이 연구되고 있는 Object Detection에 대해서 포스팅해보도록 하겠습니다. Object Detection Object Detection이란 여러 물체에 대해 어떤 물체인지 분류하는 Classification 문제와 그 물체가 어디 있는지 Bounding Box 위치 정보를 나타내는 Localization 문제를 해결하는 분야입니다. Object Detection Milestiones 위의 이미지를 보면 Object Detection에 많은 영향을 미친 알고리즘들을 시간의 흐름에 따라 정리되어 있습니다. 요약하자면 다음과 같습니다. Traditional Detection 알고리즘 - VJ det, HOG det … Pasc..

이번에는 자연어(NL, Natural Language)나 음성신호, 주식과 같은 연속적인(sequential) 시계열(time series) 데이터에 많이 사용되는 모델인 순환 신경망(Recurrent Neural Network)에 대해 포스팅해 보도록 하겠습니다 순차 데이터(Sequential Data) 순환 신경망(RNN)을 공부하기 전에 먼저 순환 신경망(RNN)에 사용하는 순차 데이터(Sequential Data)에 대해 알아야 합니다 순차 데이터(Sequential Data)란 순서가 의미가 있으며, 순서가 달라질 경우 의미가 손상 되는 데이터를 순차 데이터(Sequential Data)라고 합니다. 시간적 의미가 있는 경우 Temporal Sequence라고 하며, 일정한 시간차라면 Time ..

오늘은 Convolution 방법 중 하나인 Depthwise Separable Convolution 내용을 포스팅해보도록 하겠습니다. Depthwise Separable Convolution 방법은 Xecption, Mobilenet V1, V2에 사용되고 있는데요 오늘의 포스팅은 CodeEmporium의 동영상을 참고하여 만들었습니다! 먼저 기본적인 Convolution을 알아보도록 하겠습니다. Convolution DF는 Height와 Width의 크기이고 M은 Channel 크기입니다. 따라서 Input shape은 (DF,DF,M) 입니다. DK는 필터에 해당합니다. 필터의 채널은 인풋과 같기 때문에 똑같이 M입니다. 인풋이 필터를 거쳐 Convolution을 하게 되면 결과물로 매트릭스가 한 ..

경사 하강 학습법은 최적화 이론의 한 방법입니다. 최적화 이론은 어떤 함수가 있을 때 함수의 출력이 최적의 값을 찾아내는 이론을 말합니다. 그중에서도 딥러닝에서는 경사 하강법을 많이 사용하는데요 학습한 부분들을 정리하며 포스팅해보겠습니다. 수정해야 할 부분이 있으시면 댓글로 달아주시면 감사하겠습니다 경사 하강법(Gradient Descent) 함수 $f(x)$에서 경사를 따라 여러번의 스텝(step)을 통해 최적점(최솟값)으로 다가가는 것을 경사 하강법이라고 합니다 경사는 기울기(미분, Gradient)를 이용해 계산합니다. 경사 하강법(Gradient Descent)의 학습률(Learning rate) 경사하강법에서 학습률(Learning rate)을 값을 지정해야 해야 합니다.(Step size라고 ..

이번에는 computer vision에서 가장 기본이 되는 CNN에 대해서 포스팅을 하려고 합니다. CNN의 등장 Convolutional Neural Networks(CNN)은 Deep Neural Networks에서 기존의 이미지나 영상 데이터를 처리할 때 발생하는 문제점들을 보안한 방법입니다. 기존의 이미지 영상처리 방법은 2차원 이미지(채널 포함 시 3차원)를 1차원 배열로 변환한 다음에 FNN (Fully- connected multi layered Neural Network) 신경망으로 학습시키는 방법입니다. FNN은 벡터 형태로 표현된 데이터를 입력 받기 때문에 이미지를 반드시 벡터화해야 하는데, 이미지를 벡터화하게 되면 인접 픽셀간의 상관관계가 무시됩니다. 일반적으로 이미지 데이터는 인접한..

딥러닝(Deep Learning) 머신러닝의 한 분야로 연속된 층(Layer)에서 점직적으로 의미 있는 표현을 배우는데 강점이 있으며, 데이터로부터 표현을 학습하는 새로운 방식입니다. 딥러닝에서 딥(Deep)은 연속된 층으로 표현을 학습한다는 개념을 나타냅니다 층 기반 표현 학습(Layered representations learning), 계층적 표현 학습(Hierarchical representations learning)이라고도 합니다. 신경망(Neural Network) 딥러닝은 층(Layer)들을 쌓아서 구성한 신경망(Neural Network)이라는 모델을 사용하여 학습을 진행합니다. 신경망은 뉴런(Neuron)들로 이루어진 그룹을 의미합니다. 신경망은 원래 신경 생물학의 용어입니다. 뉴런들의..