IDC의 부사장인 마리오 모랄레스는 “GPU가 AI와 머신러닝의 모델링, 시뮬레이션, 학습, 추론과 같은 고성능 워크로드에 혁신을 가져왔지만, 전력 소비가 많고 추가 냉각이 필요하다”라고 설명했다.
게다가 GPU는 현재 공급이 부족한 상황이다. 엔비디아, AMD, 인텔(Intel) 등은 새로운 프로세서 출시 계획을 발표하거나 생산량을 늘리기 위해 노력하고 있다. 지난 10월 모건스탠리(Morgan Stanley) 분석가들은 엔비디아의 최신 블랙웰 GPU의 향후 12개월 분 예약이 완료됐다고 언급했다.
모랄레스에 따르면 최근 기술 발전으로 IT 구매자와 서비스 제공업체는 맞춤형 가속기를 대안으로 삼고 있다. 그는 “이런 가속기는 우수한 가격 대비 성능과 가격 효율성으로 더 나은 투자 수익을 제공하기 때문에 클라우드 인프라에서 점점 더 중요해지고 있다”라고 전했다.
