[Deep Learning] Google Cloud TPU(CPU, GPU, NPU, TPU 개념)

CPU, GPU, NPU, TPU 모두 데이터를 읽어 연산처리 기능을 수행하는 Processing Unit이다.

 

하지만 딥러닝 모델 학습 및 추론 시 CPU보다는 다른 유닛을 통해 연산을 수행하는 일이 많기 때문에 개념을 알고가야한다.

 

CPU(Centralized Processing Unit)

 

https://en.wikipedia.org/wiki/Central_processing_unit

 

• 코어가 몇 개인지, 클록 스피드가 얼마나 되는지가 성능의 지표.
• 고성능 컴퓨터일수록 코어의 수가 많다 → multi-core, hyper-threading

 

GPU(Graphic Processing Unit)

 

 

• CPU와 비슷한 점이 많지만, CPU와 달리 그래픽 관련 작업이나 병렬처리에 매우 효과적이다. → 대규모 병렬 곱셈

 

NPU(Neural Processing Unit)

• 인공지능 모델의 인공신경망 연산을 효율적으로 하기 위해 설계된 프로세서

 

TPU(Tensor Processing Unit)

• Google에서 제작한 NPU의 이름
• GPU, CUDA 등보다 빠르고 경제적으로 사용할 수 있다.
• cloud.google.com/tpu

구글에서 90일동안 구글 클라우드 플랫폼 무료체험을 지원한다. 밑의 url에서 사용가능 !

아래 주소로 들어가면 자세한 TPU 설명을 볼 수 있다.

Cloud TPU  |  Google Cloud

---

하지만 모든 연산에서 GPU, NPU가 우월한 것은 아니고, 식의 형태에 따라 CPU가 유리한 경우도 많다.

cloud.google.com/tpu

GPU만 사용해봤는데, TPU 사용... 해봐야지...