AI를 사용할 때의 기대와 다른 결과를 낳는 것, AI 관련 비용이 순식간에 통제 불능 수준에 도달하는 것, AI와 데이터가 가진 위험으로 인한 도전, AI가 직원 복지에 미치는 영향이 바로 그것이다. 각각에 대한 가트너의 설명은 다음과 같다.
첫째, ‘AI를 사용하면서 기대했던 비즈니스의 이점(Benefits) 항상 실현되는 것은 아니다.’ 생성형 AI를 같은 기업, 조직, 직원 등이 사용한다고 해도, 그것을 사용하는 사람들이 창출한 비즈니스 가치가 동일한 것은 아니다. 생산성 향상의 결과가 사람마다 조직마다 다르게 나타날 수 있다.
가트너가 2024년 2분기에 미국, 영국, 인도, 호주, 중국의 디지털 작업자 5,000명을 대상으로 설문조사를 보면, 중동 및 아프리카(EMEA)의 직원들은 생성형 AI를 활용해 일주일에 평균적으로 3.27 시간을 절약했다고 답변했다. 하지만 모든 직원이 생성형 AI를 사용한다고 해서 이와 동일한 결과를 얻는 것은 아니다.
가트너의 리서치 담당 수석 애널리스트인 대릴 플러머는 “AI 생산성의 진정한 과제는 바로 여기에 있다. 생성형 AI를 통한 생산성 향상은 균등하게 분배되지 않으며, 개인의 관심도와 도입 수준뿐만 아니라 업무의 복잡성과 경험 수준에 따라 직원마다 이득이 달라진다”라고 밝혔다.
그래서 “이러한 문제에 효율적으로 대처하기 위해서는 CIO가 포트폴리오처럼 AI 주는 이점을 관리해야 한다. 이를 위해 각각의 혜택 영역에서 베팅 규모를 결정하고 이 포트폴리오 전반에 걸쳐 위험과 보상을 관리해야 한다”고 조언하다.
가트너는 데이터 접근을 관리하고 보호하며 AI 가치를 안전하게 제공할 수 있도록, 데이터 및 AI를 관리하는 ‘기술 샌드위치’라는 새로운 접근 방식이 필요하다고 밝혔다.
Gartner
둘째, ‘AI 비용은 빠르게 통제 불능 상태가 될 수 있다.’ CIO가 생성형 AI 비용이 어떻게 산정되고 확장되는지 제대로 이해하지 못하면 비용 계산에서 상상을 초월하는 오차가 발생할 수 있다. 가트너는 이럴 경우 비용 오차가 500~1,000%까지 발생할 수 있다고 추정한다.
2024년 6월과 7월에 300명 이상의 CIO를 대상으로 진행한 설문조사에서, 90% 이상의 CIO가 비용 관리 때문에 AI로 가치를 창출하는 데 한계가 있다고 답변했다. 가트너는 AI를 사용하는 데 위험 요인으로 보안이나 환각 문제만큼 비용이 큰 비중을 차지하고 있다고 전했다.
플러머는 “CIO는 AI 청구서를 이해해야 한다. 비용 구성 요소와 가격 책정 모델 옵션을 이해하고, 이러한 비용을 절감하고 공급업체와 협상하는 방법을 알아야 한다. CIO는 기술의 작동 방식뿐 아니라 비용이 어떻게 확장될지 테스트하는 개념 증명을 만들어야 한다”고 강조했다.
셋째, ‘모든 곳에서 새로운 도전과 위험을 야기하는 데이터와 AI.’ AI 활용에서 데이터는 반드시 필요한 핵심 요소이면서 자원이지만 AI와 데이터는 더 이상 IT 부서가 직접 통제할 수 있는 중앙 집중식 자산이 아니다. 따라서 데이터 접근을 관리하고 보호하며, AI 가치를 안전하게 제공할 수 있도록 데이터 및 AI를 관리하는 새로운 접근 방식이 필요하다.
이를 위해 미래의 AI 기술 스택으로 ‘기술 샌드위치(tech sandwich)’라는 개념으로 접근해야 한다고 설명한다. 기술 샌드위치의 맨 아래에는 중앙 집중화된 IT 모든 데이터와 AI가 있고, 맨 위에는 모든 곳에서 오는 모든 데이터와 AI가 위치한다. 가운데는 이러한 모든 것을 안전하게 보호하는 신뢰, 위험, 보안 관리(TRiSM) 기술이 위치한다.
플러머는 “CIO의 임무는 AI의 혼란을 처리할 수 있으면서도 새로운 기회를 열어둘 수 있는 기술 샌드위치를 설계하는 것이다. AI 안정형 조직(AI 이니셔티브가 10개 이하)은 인간 팀과 위원회를 통해 기술 샌드위치를 관리할 것이다. AI 가속화 조직은 신뢰를 구축하고, 위험을 모니터링하며, 안전한 AI를 위해 보안을 관리하도록 설계된 일련의 기술인 보안 관리 기술을 대규모로 추가할 것”이라고 설명했다.
넷째, ‘AI 사용은 직원의 성과와 복지에 긍정적, 부정적 영향을 미칠 수 있다.’ AI에 대한 직원들의 반응 극단적이면서 다양하게 나타날 수 있다. 일부는 강한 친밀감을 느낄 수 있고, 다른 직원들은 위협이나 분노의 대상으로 삼을 수도 있다. 이러한 격렬한 반응이 직원들의 업무 성과에 부정적인 영향을 미치는 의도하지 않은 행동 결과로 이어질 수 있다.
문제는 이를 적극적으로 관리하는 조직이 거의 없다는 점이다. 가트너가 지난 6월부터 7월까지 진행한 설문에서는 중동 및 아프리카 지역의 CIO 중에서 13%만이 생성형 AI가 직원 복지에 미칠 수 있는 잠재적인 부정적 영향을 완화하기 위해 집중하고 있다고 답변했다.
플리머는 “대부분의 기업은 AI가 직원들의 기분을 어떻게 만드는지 충분히 궁금해하지 않는다. 이는 AI가 모든 종류의 의도하지 않은 행동 결과를 초래할 수 있기 때문에 중요하다. 중요한 점은 변화 관리를 사용하여 이를 관리할 경우 누가 어떤 행동 결과를 소유하는지 의도적으로 파악해야 한다는 것이다. 조직은 기술 및 비즈니스 결과와 마찬가지로 행동 결과를 엄격하게 관리해야 한다”라고 조언했다.
dl-ciokorea@foundryco.com
