[이화여대 강의] Orientation

심재형 교수님의 인공지능융합기반시스템개론 을 정리한다.

 

인공지능 (특히 딥러닝) 에서 필수적으로 알아야 할 부분은 파이썬으로 짜인 코드 뿐 아니다.

거대한 모델을 돌리기 위한 하드웨어 최적화도 매우 중요하다.

본 수업에서는 이 하드웨어와 하드웨어를 최적화하기 위한 소트프웨어에 대해 더 자세히 다루도록 한다.

즉 이를 AI computing system 이라고 한다. 아래 내용을 수업에서 배울 것이다.

 

AI computing 시스템 : AI 모델을 처리하기 위한 HW + SW

• Framework
  • Pytorch, Tensorflow
  • 보통 딥러닝 프레임워크에서 → 머신 코드로 번역하는 compile 과정을 거치지않고 이미 pre-compile 된 (런타임)라이브러리를 통해 함수를 호출하여 gpu 에게 넘겨준다.
• Runtime Library:
  • cuDNN, TensorFlow Lite, clDNN 등
• Hardware :
  • cpu(central processing unit, 모든 컴퓨터에 있는, 코어는 몇 개 없어서 딥러닝 모델을 돌릴 수 는 있지만 느리다.)
  • gpu(, 연산 가속화, 코어개수가 만 개 이상)
  • npu(neural processing unit, AI 반도체, 요즘 나온 딥러닝만을 위한 칩)

 

** 블로그 작성을 교수님께 미리 양해를 얻었다. (감사합니다!)