에이전틱 AI는 이제 기술 분야에서 생성형 AI를 넘어 가장 주목받는 기술이 되고 있다. 다만 한 가지 큰 문제가 있다. 이에 대한 표준 정의가 아직 없다는 점이다.
수십 또는 수백 개에 이르는 벤더가 각자의 에이전틱 AI 제품을 내세우고 있는 상황에서, 명확한 정의가 없다 보니 CIO와 IT 리더들은 신기술을 도입하고자 할 때 혼란을 겪기 쉽다.
일부 AI 전문가들은 에이전틱 AI를 기업 내에서 자율적으로 의사결정을 내리고, 과거 경험에서 학습하며, 상황에 따라 반응을 조정할 수 있는 도구로 정의했다. 반면 다른 전문가는 단순히 일정 수준의 의사결정 기능을 갖춘 AI라면 모두 에이전틱 AI로 볼 수 있다고 언급했다.
일부 비평가는 대부분의 벤더들이 아직 ‘진정한’ 의미의 자율성을 가진 에이전틱 AI를 제공하지 않고 있다고 지적했다. 대신 단순한 AI 챗봇이나 어시스턴트, 대규모 언어 모델(LLM)에 추가된 기능을 에이전틱 AI라고 홍보하는 경우가 많다고 언급했다. 페리곤(Perigon)의 제품 담당 부사장 잭 바솔로뮤는 “이른바 에이전트라는 것들 대부분은 사실상 LLM을 포장하거나 ‘고도화한 LLM 워크플로우’에 불과하다”라고 설명했다.
에이전트 열풍
은행 업무 소프트웨어 기업인 백베이스(Backbase)의 AI 부문 리더인 크리스 샤얀은 “현재 IT 업계에는 ‘에이전트 워싱’ 현상이 만연해 있다”라고 언급했다.
샤얀은 “여러 차례 벤더 설명회를 들어봤는데, 기본적인 자동화 기능이 자율 에이전트로 새롭게 포장되는 경우가 많았다. 에이전트로 홍보되는 많은 솔루션이 실제로는 단순히 더 나은 인터페이스를 갖춘 기존 알고리즘에 불과했다. CIO와 CTO가 이 차이를 구분하는 데 어려움을 겪고 있다”라고 지적했다.
샤얀의 정의에 따르면, 에이전트는 여러 단계를 논리적으로 추론할 수 있고, 어느 정도 독립적으로 의사결정을 내릴 수 있어야 한다. 예를 들어, 은행 업계에서는 최근 AI 에이전트를 도입해 이상 거래 패턴을 감지하고, 지속적인 인간의 감독 없이도 적절한 조치를 취할 수 있도록 하고 있다.
그는 “소프트웨어에서 자율성이란, 정보 수집부터 대안 분석, 실행, 결과 학습까지 모든 과정을 독립적으로 처리할 수 있는 능력을 의미한다. 에이전트와 기존 AI 시스템을 구분하는 핵심은 정해진 가이드라인 내에서 스스로 새로운 상황에 적응하며 작동할 수 있는가에 있다”라고 덧붙였다.
기술 트렌드의 최전선에 있는 CIO들은 현 시점의 기술 수준과 보유 데이터, 그리고 각 비즈니스 프로세스가 기업 내에서 얽혀 있는 방식을 고려할 때 모든 업무가 에이전틱 AI에 적합한 것은 아니라는 점을 깨닫고 있다.
‘자율적’이지 않은 에이전트
표준화된 정의가 없는 상황에서, 비평가들은 IT 리더가 광고와 달리 제대로 작동하지 않는 제품을 구매할 가능성이 있다고 지적했다.
바솔로뮤는 “모든 솔루션이 에이전트로 불리면 CIO는 자율성을 제공하지 못하는 소프트웨어에 예산을 낭비할 수 있다. 이로 인해 팀의 불만, 자원 낭비, AI에 대한 신뢰 저하로 이어질 수 있다. 에이전트 시대를 향해 가고 있는 것은 분명하지만, 그 단계에 도달하기까지는 시간이 필요하다”라고 말했다.
샤얀 역시 이런 혼란으로 인해 실제 수준보다 높은 기대치를 설정해 잘못된 구매 결정을 내릴 수 있다고 언급했다. 그는 “CIO가 에이전트 기반 솔루션이라고 생각하고 도입했지만, 실제로는 고도화된 자동화에 불과하다면 에이전트가 가진 혁신 가능성을 놓치고, 그럼에도 불구하고 더 많은 비용을 지불하게 될 수 있다. 이런 상황은 실망스러운 투자수익률(ROI)로 이어지고, 전사적 AI 전략에도 부정적인 영향을 줄 수 있다”라고 설명했다.
에이전트의 자율성은 ‘연속적인 구조’
AI 에이전트에 대한 정의가 다양한 상황에서 AI 전문가들이 이 문제를 바라보는 시각에도 차이가 있었다. 바솔로뮤는 진정한 의미의 에이전트가 실제로 도입되기까지는 약 1년 정도 남았다고 봤다. 반면 데이포스(Dayforce)의 최고 AI 책임자인 데이비드 로이드는 에이전틱 AI가 단순히 자율성이 ‘있다/없다’의 문제가 아니라, 다양한 기능이 연속적으로 존재하는 구조에 가깝다고 주장했다.
로이드는 “많은 AI 도구가 점차 일정 수준의 자율성을 갖추기 시작했다. 예를 들어, 사용자의 과거 행동을 학습해 그에 따라 조치를 취하거나 추천을 제공하는 AI 어시스턴트가 여기에 해당한다”라며, “이를 연속적인 변화로 바라봐야 한다. 한쪽 끝은 아직 먼 미래의 목표이고, 다른 쪽 끝은 현재 실질적으로 구현 가능한 수준”이라고 언급했다.
로이드는 에이전틱 AI의 정의 자체보다, 조직이 도입하는 AI가 실제로 어떤 용도에 적합한지 찾는 것이 더 중요하다고 말했다. 그는 “우리 스스로에게 ‘이 기술이 비즈니스 가치나 측정 가능한 효과를 주는가?’라는 질문을 던져야 한다. 그렇지 않다면 그저 멋진 상상에 불과하다”라고 지적했다.
여행 소프트웨어 및 서비스 업체 트레볼루션(TrEvolution)의 데이터 과학 총괄인 일리아 바데에프는 LLM이 점점 더 에이전트와 유사한 기능을 추가하면서 에이전트와 기존 AI 간의 경계가 흐려질 것이라고 전망했다.
바데에프는 현재 ‘AI 에이전트’라는 용어가 명확하게 정의된 개념이라기보다 마케팅 용어에 가깝다고 지적했다. 많은 벤더가 최근의 열풍에 편승하기 위해 AI 어시스턴트나 기타 도구에 ‘에이전트’라는 라벨을 붙이고 있다는 설명이다. 그는 “AI 에이전트와 어시스턴트 사이에 명확한 구분은 없다. 결국 마케팅 차별화에 불과하다”라고 말했다.
바데예프는 CIO와 IT 구매 담당자가 제품이 에이전트로 불리는지 여부에 집착하기보다, 회사에 필요한 기능이 무엇인지에 집중해야 한다고 조언했다. 실제로 에이전트가 필요한 경우도 있지만, 다른 AI 도구도 충분히 유용할 수 있다고 그는 언급했다.
바데에프는 이어 “중요한 것은 어떤 기능을 제공받느냐이다. 해당 기능 내에서 AI의 정확도는 어느 정도인가? 가격은 적정한가?”라고 덧붙였다.
적절한 질문이 필요
바솔로뮤와 로이드는 CIO와 IT 구매 담당자가 벤더로부터 AI 에이전트를 구매하기 전에 반드시 여러 가지 질문을 던져야 한다고 조언했다. 로이드는 조직이 에이전트와 유사한 기술을 도입할 때, 소규모로 시작해 순차적으로 기능을 확장할 것을 추천했다.
로이드는 “사람들과 이야기할 때 ‘신중해야 한다’라는 표현을 자주 쓴다. 비즈니스와 구매 관점 모두에서 조직이 실제로 해결하고자 하는 단순한 업무 과제나 좀 더 복잡한 과제가 무엇인지 미리 파악하고, 그중 어떤 문제를 AI로 해결할지 고민해야 한다”라고 말했다.
바솔로뮤는 CIO가 AI 에이전트를 원한다면 다음과 같은 질문을 해야 한다고 말했다.
- 해당 도구가 스스로 여러 단계를 계획하고 실행할 수 있는가?
- 시간이 지남에 따라 학습하거나 개선되는가, 아니면 단순히 스크립트만 실행하는가?
- 어떤 종류의 의사결정을 스스로 내릴 수 있는가?
- 누군가의 승인을 기다리지 않고도 의미 있는 행동을 취할 수 있는가?
- 시간이 지날수록 성능이 더 개선되는가?
- 기존 IT 시스템과 얼마나 잘 통합되는가?
그는 또한 에이전트가 스스로 의사결정을 내리도록 설계돼 있더라도, CIO가 에이전트의 행동을 점검할 수 있는 권한을 반드시 유지해야 한다고 덧붙였다.
바솔로뮤는 “당분간은 반드시 사람이 개입하는 구조가 유지될 전망이다. 매번 사람이 직접 개입해야 한다는 뜻은 아니지만, 궁극적으로는 누군가가 시스템이 어떻게 작동하는지 감독하는 역할을 하게 될 것”이라고 설명했다.
dl-ciokorea@foundryco.com
