여러분은 GPU가 사실 AI에 온전히 적합한 하드웨어가 아니라는 사실을 알고 계신가요?
사실 엔비디아가 생산하는 그래픽처리장치(GPU)는 이름처럼 PC 디스플레이에 그래픽 화면을 출력해주기 위한 장치예요. 디스플레이, 즉 모니터는 픽셀 단위로 화면을 표시하는데, 흔히 1080p로 표기되는 해상도는 해당 디스플레이 장치에 픽셀이 얼마나 들어가는지를 표기하고 있어요. 1080x720(FHD) 해상도 디스플레이는 단순 계산으로 777,600개의 픽셀을 표시하죠.
GPU는 이 픽셀 하나하나마다 출력해야 할 데이터를 계산하기 위해 고안됐는데요. 게임처럼 실시간으로 변하는 화면을 표현하려면 수십 만 개의 픽셀을 한번에, 병렬 처리할 필요성이 있겠죠? 그래서 GPU는 태생적으로 '단순 계산을 한번에, 많이 처리할 수 있는 능력'을 갖추고 있어요.
그리고 AI에 필요한 것도 '단순 데이터의 대량 병렬 처리 기능'이에요. 컴퓨터 공학자들은 이미 만들어진 GPU의 하드웨어 기능을 어떻게 계산에 활용해볼 수 없을까 고민하게 됐는데요. 이렇게 탄생하게 된 게 바로 '그래픽 처리장치의 범용 연산(GPGPU, General-Purpose computing on Graphics Processing Units)', 즉 GPU를 '다른 용도'로 사용할 수 있도록 만들어주는 기술이에요.
맹점은 GPU가 태생적으로 디스플레이 출력을 위해 설계됐다는 점이에요. AI에 필요한 연산을 명령하기 위해서는 여전히 중앙처리장치(CPU)가 필요하고, AI 연산에 특화된 주문형반도체(ASIC)에 비해서는 전력 효율성이나 성능이 떨어질 수 있죠. 그래서 일각에선 GPU 다음에 주목받을 하드웨어는 구글의 TPU와 같은 ASIC이 될 거라는 전망이 제시되고 있어요. #ASIC #GPGPU #구글 #엔비디아
|