클라우드 전략을 재고하게 하는 퍼펙트 스톰이 다가오고 있다. 2025년의 중앙 무대에는 클라우드 아키텍처가 자리한다. 상투적인 과장 표현이 아니다.
먼저 방 안의 코끼리와 같은 존재, 생성형 AI 에 대해 이야기해야 한다. 생성형 AI 모델 실행에 필요한 컴퓨팅 요구 사항은 차원을 달리 한다. 기존 클라우드 배포가 어린이 장난처럼 보일 지경이다. 가트너 전망에 따르면, 엔터프라이즈 AI 워크로드는 2025년까지 전체 클라우드 인프라 용량의 30% 이상을 차지할 것으로 예상된다. AI 기반 클라우드 지출이 빠르게 증가하고 있다는 점에서 이러한 전환은 현재진행형이다.
이와 관련해 중요한 현실은 퍼블릭 클라우드 비용이 이사회의 새로운 골칫거리가 되고 있다는 점이다. 필자가 줄기차게 외치는 현실이다. 지난 10년간의 ‘리프트 앤 시프트’ 파티는 막대한 기술 부채를 발생시켰다. 청구서를 볼 때마다 숨이 막힐 지경이다. 클라우드 서비스에 당초 예산의 두세 배를 지출하고 있다는 사례가 들려오곤 하는데, 이는 AI 워크로드를 추가하기 전의 이야기다.
요즘 필자가 가장 많이 받는 컨설팅 요청이 있다. IT 부서가 퍼블릭 클라우드 리소스에 왜 그렇게 많은 비용을 지출하고 있는지 파악해 달라는 요청이다. 불과 10년 전만 해도 IT 인프라에 거의 관심이 없던 이사회, CEO, CFO들이 이런 요청을 하고 있다.
수요를 주도하는 투자자
여기서 흥미로운 점이 있다. 스마트 머니(Smart money)들이 리소스 활용도를 최적화하여 클라우드 비용을 절감하는 데 초점을 맞추고 있다. 스마트 머니란 클라우드 아키텍처에 대한 보다 정교한 접근 방식을 추구하는 기관 투자자들을 말한다. 이들은 더 이상 ‘퍼블릭 클라우드에 올인’하는 스토리를 믿지 않는다. 대신 하이브리드 클라우드 아키텍처, 엣지 컴퓨팅의 통합, 클라우드 네이티브 최적화 패턴, 워크로드를 온프레미스 환경으로 되돌릴 수 있는 가능성에 관한 까다로운 질문을 던지고 있다.
다음의 상황을 생각해본다. 대규모 언어 모델을 실행 중이고 민감한 데이터를 처리해야 하는 경우, 퍼블릭 클라우드 GPU 인스턴스에 대해 프리미엄 요금을 지불하고 싶은가? 이것이 바로 프라이빗 클라우드 아키텍처의 르네상스가 일어나고 있는 이유다. 이제 프라이빗 클라우드는 데이터 주권을 유지하면서 AI 워크로드를 지원하도록 설계되고 있다.
공급업체는 어떨까? 공급업체들은 뒤처지지 않기 위해 안간힘을 쓰고 있다. 기존 클라우드 공급업체들은 더 나은 하이브리드 솔루션을 제공하기 위해 경쟁하고 있으며, 엔터프라이즈 기술 기업들도 프라이빗 클라우드 플랫폼을 향해 힘을 합치고 있다. 컨설팅 회사들은 “클라우드 파트너를 사용하세요”라는 메시지에서 “지난 10년간 해온 일을 다시 생각해 봅시다”라는 메시지로 바꾸고 있다.
즉 2025년은 종전과 크게 다를 가능성에 대비해야 한다는 결론이다. 클라우드가 평범하게 진화하는 해가 아니다. 오히려 시스템 설계 방식에 근본적인 변화가 일어나는 해가 될 것이다. 혁신적인 기업들은 이미 이러한 변화에 대비하고 있으며, 기술 변화의 흐름에 뒤처질 수 있는 많은 기업들도 이러한 변화에 대비하고 있다.
2025년을 위한 게임 계획
다가오는 클라우드 아키텍처 르네상스에 대비하기 위해서는 몇 가지 단계를 밟아야 한다. 좋은 소식은? 검증된 기존 기술에 새로운 개념과 프로세스를 도입하고 적용하면 된다는 것이다.
먼저, 집안을 정리해야 한다. 향후 3~6개월은 현재의 클라우드 지출 및 활용 패턴을 심층적으로 분석하는 데 투자할 필요가 있다. 경영진에게 보여주는 가공된 수치가 아니라 실제 수치를 확인해야 한다. AI 및 머신러닝 (ML) 워크로드는 현재 예상치를 뛰어넘어 폭발적으로 증가할 것이며 이를 구체적으로 예측한다. 이 작업을 수행하는 동안 퍼블릭 클라우드 배포에서 어떤 워크로드가 비용을 낭비하고 있는지 파악하면 깜짝 놀랄 것이다.
다음으로, 합리적인 워크로드 배치 전략을 개발한다. 데이터 중력, 성능 요구 사항 및 규제 제약을 고려한다. 그저 최신 트렌드를 따르는 것이 아니라 비즈니스 현실에 부합하는 결정을 내려야 한다는 이야기다. 하이브리드 및 프라이빗 클라우드 투자에 대한 명시적인 ROI 모델을 만들 필요가 있다.
이제 기술 아키텍처에 대해 이야기해본다. 데이터 파이프라인 최적화, 엣지 컴퓨팅 통합, AI/ML 인프라 요건 충족에 초점을 맞춰야 한다. 멀티클라우드 연결은 더 이상 선택 사항이 아니라 생존을 위한 필수 요건이다. 하지만 여기에 문제가 있다. 철저한 보안 및 규정 준수 프레임워크도 유지해야 한다는 것이다.
이와 관련해 조직적 부분이 매우 중요한데, 대부분의 기업이 이를 잘못 이해하고 있다. 인프라 전문가, 데이터 과학자, 재무 분석가, 보안 전문가가 결합된 클라우드 경제 책임 부서를 설립하는 방안을 권장할 수 있다. 이 부서는 단순한 IT 팀이 아니라 실질적인 가치를 창출해야 하는 비즈니스 부서다. 투자 우선순위도 바뀌어야 한다. 자동화된 오케스트레이션 도구, 클라우드 관리 플랫폼 및 데이터 패브릭 솔루션에 집중하도록 한다.
재무의 중요성
재무 관리는 매우 중요하다. 적절한 지불 거절 메커니즘을 구현하고 명시적인 총소유비용 모델을 개발한다. 직원들이 클라우드 지출에 대해 책임을 지도록 한다. 부서에서 클라우드 사용의 실제 비용을 알게 되면 행동이 어떻게 달라지는지 놀랄 것이다. 단 핀옵스에 주의할 필요가 있다. 핀옵스에는 가치가 있지만, 일부 ‘핀옵스 컨설턴트’가 핀옵스를 설명하고 구현하는 방식은 잘못된 메트릭으로 이어지곤 한다.
이러한 전환은 평가 및 계획부터 시작하여 파일럿 프로젝트를 거쳐 본격적인 구현에 이르기까지 12~24개월에 걸쳐 이뤄져야 한다. 하지만 이것은 단순한 IT 프로젝트가 아니라는 점을 기억할 필요가 있다. 모든 이해관계자의 동의가 필요한 비즈니스 혁신 이니셔티브다.
2025년의 승자는 클라우드 서비스에 가장 많은 비용을 지출하는 기업이 아니다. 비즈니스 목표에 부합하는 지능적이고 유연한 클라우드 아키텍처를 구축하는 조직이 승자가 될 것이다. 시장에 밀려 뒤늦게 시작하기에 미리 준비할 시점이 바로 지금이다. 나중의 ‘내가 진작에 말했지’라며 잘난 체하려고 남기는 뻔한 경고가 아니다.
dl-ciokorea@foundryco.com
