AWS & GCP 가상머신에 GPU 머신 사용방법

 

AWS

AWS는 EC2생성 시 Type를 선택하여 GPU 모델을 선택할 수 있습니다.

어느 리전에도 동일하게 GPU 타입을 선택하여 GPU 머신을 사용할 수 있습니다.

 

 

P3타입 - NVIDIA Tesla V100 GPU

P2타입 - NVIDIA K80 GPU

 

G4타입 - NVIDIA T4 Tensor 코어 GPU

G3타입 - NVIDIA Tesla M60 GPU

 

Google Cloud

구글 클라우드의 경우 VM instances에 GPU를 추가할 수 있게 구성되어 있습니다.

서버를 생성할 시에  'CPU platform and GPU'를 눌러 메뉴를 확장합니다.

 

확장을 하면 CPU 타입을 선택할 수 있고, GPU를 추가할 수 있습니다. Add GPU를 눌러 추가를 할 수 있습니다.

 

GPU 타입은 총 5가지로 NVIDIA Tesia K80, P4, T4, V100, P100을 지원합니다.

현재 아이오와 리전에 사용가능한 GPU는 4가지 입니다.

한가지 단점이라고 말하면 리전과 AZ에 따라 사용할 수 있는 GPU가 제한이 됩니다.

V100을 사용하고 싶으면 아시아 리전중에 타이완 리전에서만 사용이 가능합니다.

 

 

 

참고자료 

https://cloud.google.com/compute/docs/gpus#gpus-list

https://aws.amazon.com/ko/blogs/korea/new-p2-instance-type-for-amazon-ec2-up-to-16-gpus/

https://aws.amazon.com/ko/about-aws/whats-new/2018/12/introducing-amazon-ec2-p3dn-instances-our-most-powerful-gpu-instance-yet/

https://aws.amazon.com/ko/ec2/instance-types/