TY_IT💻

순차 데이터를 어떻게 순환 신경망을 통해 처리하는지 알아보자. 기억 시스템 만약 시리 같은 개인 비서의 경우 올바른 대답을 하려면 입력을 받을 때마다 그 내용을 기억해야 한다. 반대로 이전 입력을 기억하지 않는 시스템은 무기억 시스템이라 한다. 얕은 신경망(Shallow Neural Network)이 무기억 시스템의 예시 n번째 Time-Step에 대한 결과가 이전 입력에 영향 받지 않는다. 기본적인 순환 신경망 (Vanilla Recurrent Network) Vanilla RNN의 구조는 shallow NN 구조에 '순환(recurrent)'이 추가된 것이다. 순환: n-1번째 time step이 n번째 time step으로 다시 돌아오는 것 기억 시스템이므로 RNN의 출력은 이전의 모든 입력에 영향..

순환 신경망은 입력이나 출력을 순차 데이터로 뽑기 위한 신경망이다. 따라서 순차 데이터(Sequential Data)에 대한 이해가 필요하다. 순차데이터란? 순서가 달라질 경우 의미가 손상되는 데이터, 즉 순서가 의미있는 데이터 시간적 의미가 있는 경우 temporal sequence 일정한 시간차라면 time series ex) DNA 염기 서열(sequential data), 기온 변화(temporal sequence), 샘플링된 소리 신호(time series) ※ Resampling (보간 + 샘플링) Temporal Sequence 신호를 Time Series로 변환하기 위해 신호를 보간(interpolation)하고 이를 균일 시간 간격으로 sampling 한다. 순차 데이터와 심층 신경망 순..

CNN(Convolutional Neural Network)의 convolution layer는 convolution을 통해서 feature map의 크기를 줄인다. Deconvolution은 CNN의 역연산으로 CNN과 반대로 feature map의 크기를 증가시킨다. 이런 Deconvolution은 어디에 쓰일까? 바로 Semantic Segmantation이다. Semantic Segmentation이란 Computer Vision Tasks들 중 하나이다. 위의 그림에 잘 설명되어 있는데, Object Detection은 물체가 있는 위치를 찾아 Bounding Box를 그리는 작업이고 Semantic Segmentation이란, 이미지를 픽셀 단위로 구분해 각 픽셀이 어떤 object class..

무려 1년전에 정리해놓은 논문 올리기 ㅎㅅㅎ Image Recognition에 입문할 때 좋은 논문이라고 생각한다. Very Deep Convolutional Networks for Large-Scale Image Recognition arxiv.org/abs/1409.1556 Very Deep Convolutional Networks for Large-Scale Image Recognition In this work we investigate the effect of the convolutional network depth on its accuracy in the large-scale image recognition setting. Our main contribution is a thorough eva..

CPU, GPU, NPU, TPU 모두 데이터를 읽어 연산처리 기능을 수행하는 Processing Unit이다. 하지만 딥러닝 모델 학습 및 추론 시 CPU보다는 다른 유닛을 통해 연산을 수행하는 일이 많기 때문에 개념을 알고가야한다. CPU(Centralized Processing Unit) 코어가 몇 개인지, 클록 스피드가 얼마나 되는지가 성능의 지표. 고성능 컴퓨터일수록 코어의 수가 많다 → multi-core, hyper-threading GPU(Graphic Processing Unit) CPU와 비슷한 점이 많지만, CPU와 달리 그래픽 관련 작업이나 병렬처리에 매우 효과적이다. → 대규모 병렬 곱셈 NPU(Neural Processing Unit) 인공지능 모델의 인공신경망 연산을 효율적으로..

딥러닝 모델 중 하나인 CNN(Convolutional Neural Network)에 대해 알아보자. CNN은 computer vision problem에서 많이 쓰인다. 특히 그 중 많이 활용되는 것은 object detection이다. Object Detection이란? Feature extraction(특징 추출) 이미지에서 끌어낼 수 있는 유용한 feature 추출 Bounding Box 생성 object를 감싸는 bounding box 생성 Class classification bounding box 안의 object가 어떤 class인지 분류하는 과정 CNN(Convolutional Neural Network) image의 형태를 보존하도록 행렬 형태의 데이터를 입력받아 정보 손실을 방지하고,..

ahnty0122.tistory.com/58 [Deep Learning] 딥러닝/머신러닝/인공지능의 차이, 인공신경망 개념 딥러닝에 대해 이해하려면 먼저 인공지능, 머신러닝, 딥러닝의 차이점을 알아야한다. 인공지능(AI): 사람의 지능을 모방해 사람이 하는 복잡한 일을 할 수 있는 기계를 만드는 것 머신러닝(ML): 입 ahnty0122.tistory.com Machine Learning Workflow 위의 글에서 인공신경망을 학습하는 과정에 대해 적어놨는데, 이 인공신경망을 학습하는 방법에 대해 알아보자. 미리 정해진, 답이 있는 트레이닝 데이터로 머신러닝 알고리즘을 학습해 모델을 얻는 training(학습)과정을 거쳐 올바르게 학습이 되는지 임의의 입력데이터를 통해 결과를 확인하는 test 과정을 ..

딥러닝에 대해 이해하려면 먼저 인공지능, 머신러닝, 딥러닝의 차이점을 알아야한다. 인공지능(AI): 사람의 지능을 모방해 사람이 하는 복잡한 일을 할 수 있는 기계를 만드는 것 머신러닝(ML): 입력되어 있는 데이터를 통해 각각의 상황에 맞도록 학습시키는 것 딥러닝(DL): 머신러닝으로 학습한 부분들을 기반으로 스스로 판단해 새롭게 대처하는 것 (=end-to-end machine learning) 딥러닝이 end-to-end machine learning인 이유는 처음부터 끝까지 컴퓨터가 학습하는 것으로, 머신러닝처럼 사람이 데이터에서 일부 특징을 뽑아서 기계에게 전달해 학습시키는 것이 아니라 데이터 자체를 컴퓨터에 전달하는 등 사람의 개입이 아예 없기 때문이다. 인공지능, 머신러닝, 딥러닝의 정의를 ..