생성형 AI를 실험하는 조직은 일반적으로 오픈AI의 챗GPT나 앤쓰로픽의 클로드와 같은 클라우드 기반 서비스를 엔터프라이즈 계정을 사용한다. 초기 필드 테스트를 성공적으로 마무리하면 해당 기술을 더 많이 배포하는 양상을 보인다.
글로벌 컨설팅 회사 SSA & 컴퍼니의 응용 솔루션 부문 리더인 닉 크레이머는 “경영진을 위한 요약본을 작성하거나 마케팅 콘텐츠를 제작하는 데 생성형 AI를 사용하는 기업이 이미 흔하다. 내년에는 이러한 사용 사례가 분명히 더 늘어난다. 이에 더해 다른 기업 애플리케이션에 생성형 AI가 탑재되는 경향이 증가할 것”이라고 말했다.
챗GPT, 오피스 365, 세일즈포스 사용만으로는 차별화 요소가 되기 어렵다. 생성형 AI가 차별화 요소 또는 경쟁 우위 요소가 되려면 기업은 다른 조직의 활용 방식을 넘어서는 방법을 찾아야 한다. 즉, 맞춤형 모델을 만들거나, 기존 모델을 미세 조정하거나, 검색 증강 생성(RAG) 임베딩을 사용해야 한다. 이는 시스템을 훈련하고 배포하기 위한 인프라에 투자해야 한다는 의미로 이어진다.