‘AI 에이전트가 온다’ 기업이 알아야 할 핵심 포인트

많은 기업이 AI 에이전트에 주목하고 있다. IDC의 보고서에 따르면, 향후 3년 이내에 글로벌 2000 기업 중 최소 40%가 AI 에이전트와 에이전트 워크플로우를 활용해 지식 업무를 자동화할 전망이다. 이를 성공적으로 구현할 경우 생산성은 2배로 증가할 것으로 예상된다.

AI 에이전트가 기대에 부응한다면, 기업은 업무 수행 방식에 있어 중대한 변화를 겪게 될 것이다. 

IDC의 퓨처 오브 워크 부문 리서치 부사장인 에이미 루미스는 “사람은 단순히 새로운 기술을 채택하라는 요구를 받는 것이 아니라, 자신이 수행하는 업무 방식 자체를 바꾸라는 요청을 받고 있다. 솔루션 업체는 AI가 누구의 어떤 업무를 수행하는지, 그리고 그 방식 자체를 얼마나 변화시키고 있는지 충분히 인지하지 못하는 것 같다”라고 말했다.

AI 에이전트란 무엇인가? 

기본적인 수준에서 AI 에이전트는 현재 많은 업무 소프트웨어에 내장된 AI 도구의 진화된 형태로 볼 수 있다. 사용자가 요청한 작업, 문서 요약이나 이메일 초안 작성과 같은 콘텐츠 생성이나 정보 검색을 돕는 비서 혹은 코파일럿으로 이미 자리 잡은 도구의 다음 단계다. 

반면, 자율 AI 에이전트(autonomous AI agent)는 사람의 개입이 거의 혹은 전혀 없이 복잡한 다단계 작업을 수행할 수 있다. 이는 LLM과 워크플로우 자동화 트리거 및 작업의 결합으로 이루어진다. 이런 기술의 목표는 독립적으로 계획하고 추론하며, 작업을 실행할 수 있는 지능적이고 강력한 비서를 만드는 데 있다. 인간의 감독이 최소한으로 필요한 형태로 업무를 처리할 수 있는 것이다.

S&P 글로벌 마켓 인텔리전스(S&P Global Market Intelligence)의 워크포스 생산성 및 협업 부문 리서치 디렉터인 크리스 마시는 “오랫동안 우리는 ‘업무를 위한 업무’ 즉, 바쁜 업무와 실제 업무를 방해하는 단순 반복 작업에 대해 이야기해 왔다. 이제 에이전트가 그런 불필요한 작업을 자동화함으로써 고부가가치 업무를 신속하게 처리할 수 있는 진정한 기회가 왔다고 생각한다”라고 말했다.그러나 에이전트의 정의는 여전히 불명확하다. LLM 기반 에이전트는 새롭게 떠오르는 기술로, “에이전트”라는 이름이 붙은 도구의 수준과 관련 용어 사용 방식에는 상당한 차이가 존재한다.

생성형 AI 도구의 초기 단계와 마찬가지로, 기업이 이 기술을 어떻게 사용할지에 대한 의문도 여전하다. IDC 애널리스트들은 AI 에이전트 성능에 대한 비즈니스 회의론, 개인정보 보호 문제, 명확하지 않은 가격 책정, “전통적으로 문서화되지 않은 비즈니스 프로세스 외부에서” 지식 업무가 수행되는 방식에 대한 기술 격차 등을 주요 과제로 지적했다.

그럼에도 딜로이트는 생성형 AI를 사용하는 기업의 1/4이 2025년까지 “에이전트형 AI” 파일럿 프로젝트나 개념 증명을 시작할 것이며, 2027년까지 그 비율이 절반으로 증가할 것으로 전망했다. 딜로이트 보고서 집필팀은 “일부 산업과 특정 사용례에서는 2025년 하반기에 에이전트형 AI가 기존 워크플로에 실제로 채택될 가능성이 있다”라고 말했다. 

마시는 “에이전트형 AI가 약속하는 ‘실질적인 이익’을 실현하려면, 기업과 팀이 새로운 환경에 적응하기 위해 상당한 노력이 필요하다. 그리고 더 큰 질문이 있다. 올바른 데이터 아키텍처를 갖췄는가? 다음 단계의 에이전트형 AI를 현실화하기 위한 적절한 통합 전략이 있는가? 등이다”라고 강조했다.

AI 에이전트 개발 및 관리 옵션, 빠르게 확대 중

지난 1년간 AI 에이전트를 구축하고 관리할 수 있는 선택지가 급격히 늘어났다. 스타트업부터 대형 기술 기업에 이르기까지 다양한 기업에서 AI 에이전트 구축을 위한 전용 프레임워크와 개발 플랫폼을 이미 출시했다. RPA(robotic process automation) 소프트웨어 제공업체는 에이전트를 차세대 지능형 자동화 도구로 홍보하고 있다. 

최근에는 엔터프라이즈 소프트웨어 제공업체도 자사 애플리케이션에 노코드 플랫폼을 추가하고 있다.

세일즈포스는 최근 열린 드림포스(Dreamforce) 행사에서 AI 에이전트를 구축할 수 있는 로우코드 도구인 에이전트 빌더(Agent Builder)를 발표했다. 한편, 마이크로소프트는 최근 코파일럿 스튜디오(Copilot Studio)에 포함되는 ‘자율형 에이전트’ 빌더를 공개 미리보기로 출시했다. 

이런 움직임은 시작에 불과하다. 가트너는 오는 2028년까지 엔터프라이즈 애플리케이션의 1/3이 ‘에이전틱 AI(agentic AI)’를 포함하게 될 것으로 전망했다. 이는 2024년 기준 1% 미만에서 크게 증가하는 것이다. 이로 인해 일상적인 업무 결정의 15%는 자율적으로 이루어질 것으로 예측했다.

AI 에이전트는 다양한 사무직 노동자가 정기적으로 사용하는 디지털 업무 애플리케이션에서도 점점 더 많이 도입되고 있다. 아사나, 아틀라시안, 박스(Box), 슬랙 등이 최근 몇 달 사이 이런 기능을 처음으로 발표한 기업이다. IDC의 에이미 루미스는 “어떤 면에서는 마이크로소프트 365 코파일럿처럼 현재 사용 중인 생산성 앱에 이런 기능이 자연스럽게 통합될 것”이라고 말했다.

Microsoft

앤트로픽과 오픈AI 같은 기업이 개발 중인 에이전트는 사용자의 컴퓨터를 직접 제어하며 여러 애플리케이션에서 작업을 대신 수행하는 것을 목표로 하고 있다. 

이처럼 다양한 도구가 개발 중이거나 시장에 출시됨에 따라 그 속도를 따라잡으려는 기업 사이에서는 혼란이 가중되고 있다.

IDC의 루미스는 “여러 업체가 다양한 에이전트를 발표하고 있는데, 이를 구매하려는 기업의 입장에서 보면 ‘러시아가 온다’라는 외침 대신 ‘에이전트가 온다’라는 외침과 비슷한 상황이다. 새로운 제품과 용어, 그리고 생산성을 높인다는 수많은 약속에 압도당하고 있다”라고 지적했다. 

현재 소프트웨어 제공업체들은 “에이전트”라는 용어를 각기 다르게 해석하고 있으며, 시장에 등장한 도구들은 복잡성과 자율성 측면에서 다양한 수준을 보여주고 있다.

지난 10월 행사에서 마이크로소프트는 컨설팅 기업 맥킨지가 구축한 클라이언트 온보딩 에이전트를 사례를 소개했다. 이 에이전트는 고객 이메일이 도착하면 작동을 시작하며, 이메일에서 관련 세부 정보를 추출하고 일련의 작업을 수행한다. 이전 상호작용 여부를 확인하고, 고객의 요구사항을 요약하고, 고객과 만날 적합한 맥킨지 직원을 식별한 후, 직원에게 관련 정보를 포함한 이메일을 작성해 전송한다. 맥킨지는 이 에이전트를 통해 리드 타임을 90% 단축하고, 관리 업무를 30% 줄일 수 있었다고 주장했다.

마이크로소프트는 이 외에도 좀 더 제한된 기능을 가진 에이전트를 개발했다. 예를 들어, 마이크로소프트 365 코파일럿에 제공되는 사전 구축된 임플로이 셀프 서비스(Employee Self-Service) 에이전트는 HR 프로필 업데이트와 같은 특정 작업을 대신 수행할 수 있지만, 대부분 워크데이나 서비스나우와 같은 애플리케이션에서 데이터를 기반으로 사용자 질의에 응답하는 AI 비서로 기능한다.

마찬가지로 셰어포인트 에이전트는 특정 파일에서 정보를 검색하는 데 도움을 주는 맞춤형 AI 비서로 기능한다. 마이크로소프트 이그나이트(Ignite) 컨퍼런스에서 발표된 여러 에이전트 중 하나인 팀즈용 퍼실리에이터(Facilitator) 노트 작성 에이전트는 궁극적으로 회의를 처음부터 끝까지 관리할 것으로 기대되지만, 초기 버전은 이미 코파일럿이 협업 앱에서 제공하는 기능에서 크게 벗어나지 않은 것으로 보인다.

이들 기능은 유용할 수 있지만, 이는 에이전트가 마케팅되는 다양한 방식을 보여주는 사례다. 

AI 에이전트가 가져올 또 다른 업무 혁신

많은 비즈니스 및 업무 애플리케이션에서 제공되는 에이전트 빌더 도구는 별다른 전문 지식 없이도 사용할 수 있다. 이런 접근성은 다양한 노동자가 자신만의 에이전트를 관리하고 조율할 수 있다는 가능성을 열어준다.

일부 소프트웨어 제공업체는 모든 지식 노동자가 자신의 업무를 돕는 에이전트를 구축하게 될 것이라고 주장하고 있다.

마이크로소프트의 비즈니스 애플리케이션 부문 기업 부사장 브라이언 구드는 지난 10월 컴퓨터월드와의 이메일 인터뷰에서 “지금 모든 사람이 마이크로소프트 365에서 스프레드시트나 프레젠테이션을 만들 수 있는 것처럼 미래에는 모든 사람이 에이전트를 생성할 수 있어야 한다”라고 말했다. 

마이크로소프트는 코파일럿 스튜디오 앱과 함께 마이크로소프트 365 코파일럿 비서에 “경량형” 에이전트 빌더를 추가했다. 이 도구는 AI 비서의 비즈챗(BizChat) 인터페이스를 통해 자연어 프롬프트로 다양한 직원이 에이전트를 생성하도록 유도하는 것을 목표로 한다.

IDC의 최근 보고서는 AI 에이전트의 도입 덕분에 앞으로 몇 년간 지식 노동자가 일상 업무와 프로젝트 중심의 작업 및 워크플로우에 접근하는 방식이 “혁신적으로 변화”할 것이라고 예측했다. 보고서 집필팀은 “비효율적인 프로세스와 부족한 기술적 지원에 대한 불만이 커짐에 따라 직원은 LLM의 새로운 기능을 활용해 업무의 일부를 자동화하고 확장할 수 있다는 사실을 빠르게 깨달을 것이다”라고 덧붙였다. 

IDC 애널리스트들은 2025년 말까지 개발 경험이 없는 지식 노동자 1/5이 자신만의 에이전트 워크플로를 구축할 것으로 전망했다. 보고서에 따르면, 공식적인 개발 경험이 없더라도 LLM의 대화형 기능을 활용해 개인화된 에이전트 워크플로우를 생성할 수 있을 것으로 예상된다. 과제, 프로세스, 문제, 목표를 일반 언어로 설명하면, 언어 모델이 실행에 필요한 코드, 스크립트, 자동화 루틴으로 변환한다. 

S&P 글로벌의 크리스 마시는 모든 형태의 노동자가 개별 생산성을 위한 에이전트를 만들 수 있는 잠재력이 있다고 보지만, 주요 비즈니스 프로세스를 자동화하는 에이전트를 구축하는 이들은 소수에 그칠 것이라고 내다봤다. 마시는 “예를 들어, 영업팀에서 워크플로우 자동화 작업이 많다면, 이를 담당할 사람은 아마도 영업 운영 담당자일 것이다. 마케팅 부서에서도 마찬가지로 마케팅 운영 담당자가 이를 담당하게 될 가능성이 높다”라고 말했다.

AI 에이전트 도입은 지식 업무 수행 방식에 또 하나의 중대한 변화를 요구한다. 많은 기업에서 하이브리드-원격 근무 모델로의 전환은 아직 완료되지 않았으며, 생성형 AI 비서 역시 초기 도입 단계에 불과하다. 이런 상황에서 AI 에이전트를 비즈니스 프로세스에 추가하는 것은 업무 방식에 또 다른 혼란을 불러올 것이다.

보스턴 컨설팅 그룹(Boston Consulting Group)의 수석 파트너 매튜 크롭은 “장기적으로는 비즈니스 워크플로우가 사람 중심에서 AI 중심으로 바뀌게 될 것이라고 믿는다”라고 말했다.

새로운 자동화 기술의 도입은 필연적으로 일자리 감소에 대한 우려를 불러일으킨다. 하지만 IDC 루미스는 에이전트 기술이 업무를 자동화하는 데 그칠 것이 아니라, 일자리 자체를 재구성할 것이라고 내다봤다.

루미스는 “이 기술이 일자리를 없앤다는 의미는 아니다. 다른 것에 집중하게 된다는 뜻이다. 사람의 역할은 자동화를 관리하거나 개발하는 것으로 바뀔 것이다. 따라서 어느 정도는 기술적으로 더 기민하게 움직일 필요가 있다”라고 강조했다.

포레스터 리서치의 수석 애널리스트 크레이그 르 클레어는 순수한 일자리 수는 그대로 유지되거나 증가하겠지만, 점점 더 발전하는 자동화로 인해 결국에는 필요한 역할의 유형이 크게 바뀔 것이라고 전망했다. 

르 클레어는 “에이전트는 주로 전문가 범주인 디지털 엘리트와 중간 사무직이나 백오피스에서 수행하는 하위 수준의 인지적 업무에 영향을 미칠 것이다. 이런 분야에서 가장 큰 변화가 발생할 것”이라고 말했다. 

또한 “AI가 일자리를 완전히 없애기보다는, 중간 사무직 노동자가 현장 업무로 이동하거나, 긍정적으로는 AI 운영자로 전환되면서 상위 직급으로 이동할 기회를 얻게 될 것이다. 반면, ‘디지털 엘리트’는 자신의 전문 자격이 덜 중요해지는 상황에 직면할 것”이라고 덧붙였다. 

AI 에이전트를 배포할 준비가 되었는가?

자동화는 미래의 업무 방식을 혁신할 잠재력을 지니고 있지만, 단기적으로는 현실적인 제약이 존재한다.

1세대 생성형 AI 비서와 코파일럿은 가트너가 말하는 ‘환멸의 골짜기(trough of disillusionment)’ 단계에 접어들었다. 많은 프로젝트가 변화 관리, ROI 명확성 부족, 보안 우려 등 여러 요인으로 인해 여전히 파일럿 단계에 머물러 있다. 여기에 더해 언어 모델이 잘못된 답변을 생성하는 ‘환각(hallucination)’ 문제도 걸림돌로 작용한다. AI 에이전트 배포 시에도 동일한 문제에 직면할 가능성이 높다.

기업은 LLM 기반 에이전트가 자율적으로 작동하고 비즈니스 시스템에 접근하도록 허용하는 데 신중할 수밖에 없다. 에이전트가 프로그래밍된 한계 내에서만 행동한다고 하더라도 마찬가지다.현재로서는 대부분 기업이 어느 정도의 인간 개입을 원할 것이다. 보스턴 컨설팅 그룹의 크롭은 “적어도 현재로서는 사람이 개입하지 않고 이 기술을 배포할 수 있는 상황은 없을 것이다”라고 말했다. 즉, 인간 노동자가 에이전트의 행동을 모니터링하며, 더 위험한 행동을 하기 전에 반드시 확인 과정을 거친다는 의미다. 다만, 크롭은 기술이 성숙해짐에 따라 AI의 환각 문제가 줄어들고 에이전트의 추록 능력이 빠르게 개선될 것이라고 확신했다. 

그 과정에서 많은 어려움이 있겠지만, S&P 글로벌 마켓 인텔리전스의 마시는 AI와 자동화의 결합이 궁극적으로 업무 수행 방식에 ‘중대한’ 영향을 미칠 것이며, 이는 최근 기술 혁신으로 촉발된 그 어떠한 업무 환경 변화보다 훨씬 더 큰 영향을 미칠 것으로 예상했다. 

마시는 “생산성 향상은 실제로 이루어질 것이라고 확신한다. 지난 5년간 발생한 모든 변화를 생각해 보면, 이번 변화가 단연코 가장 클 것이다”라고 강조했다. 
dl-ciokorea@foundryco.com