오늘날 기업이 실제로 사용하고 있는 많은 AI 사용례는 텍스트나 이미지를 새롭게 ‘생성’하는 최신 AI 기술이 아니라, 기존의 머신러닝과 같은 전통적인 기술에 의존하는 경우가 많다.
오늘날 언급되는 많은 비즈니스 AI 사용례는 머신러닝과 같은 기존의 AI 기술을 사용하고 텍스트나 이미지 등을 생성하는 AI의 ‘생성’ 기능은 활용하지 않는다. 기존 챗봇이나 상품 추천 시스템을 비롯한 여러 유용한 도구들도 대부분 이전 세대의 AI 기술에 기반을 두고 있다.
도미노데이터랩(Domino Data Lab)의 AI 전략 책임자인 셀 칼슨은 생명공학과 같은 일부 산업에서 생성형 AI를 활용할 방법을 찾고 있지만, 많은 기업이 아직 제한된 수의 사용례만을 발견했다고 지적했다. 칼슨은 많은 기업에서 생성형 AI의 투자 수익이 불분명한 상황이라고 말했다.
그는 “생성형 AI 사용례를 바탕으로 AI 전략을 수립할 만큼 충분한 정보가 없고, 빠르게 가치를 창출하기 어려운 것이 현실이다. 현재 기업들이 몇 가지 사용례에 집중하고 있지만, 전통적인 머신러닝과 ‘예측’ AI 사용례의 포트폴리오도 계속해서 발전시키고 있다”라고 설명했다.
여러 AI 전문가는 현재 생성형 AI 사용례가 빙산의 일각에 불과하다고 봤다. 생성형 AI가 더 강력해지고 실험이 창의적으로 발전하면서 더 많은 사용례가 등장할 수 있다는 전망이다. 하지만 이미 몇 가지 사용례가 떠오르고 있다. 인기 있고 유망한 사례를 살펴본다.
고급 챗봇
단순한 단어와 문구 인식을 사용하는 기본적인 챗봇은 수십 년 동안 존재해 왔지만, 생성형 AI 기능을 갖춘 새로운 챗봇은 더 자연스러운 대화를 구사해 다양한 고객 요청을 처리할 수 있다.
IT 분석 기업 포레스터(Forrester)는 언어 및 AI 에이전트용 생성형 AI를 2024년 주목할 10대 신기술로 선정했다. 예를 들어, 유럽의 차량 공유 및 배달 서비스 기업 볼트(Bolt)는 지능형 챗봇을 도입해 대부분의 고객 불만을 처리하며 큰 비용 절감 효과를 거두고 있다.
칼슨은 많은 기업이 생성형 AI 실험에서 환각 현상을 우려하지만, 위험도가 낮은 고객 불만 처리에서 약간의 실수가 큰 문제는 아니라고 언급했다. 그는 “가령 음식 배달 서비스에서 고객의 환불 요청을 거절해야 하는 상황에 챗봇이 실수로 환불을 승인하더라도 기업이 감수해야 할 위험은 매우 낮다”라고 설명했다.
또 다른 예로 도이치텔레콤은 생성형 AI를 활용해 프라그마젠타(Frag Magenta) AI 비서를 개선했으며, 이 채팅 비서가 연간 3,800만 건의 고객 상호작용을 처리할 것으로 예상했다.
디지털 비서
CIO들이 투자 대비 수익률(ROI)을 확신하지 못하는 상황에서 마이크로소프트, 구글 등 여러 IT 대기업은 생성형 AI 디지털 비서 또는 코파일럿을 적극 홍보하고 있다. 디지털 비서는 조직 내 숨겨진 정보를 검색하고, 문서와 프레젠테이션을 작성하며, 이메일 체인과 화상회의를 요약할 수 있다. 코파일럿 AI는 벤더 견적 요청서와 같은 공급망 관련 문서도 생성할 수 있다.
일부 화상회의 애플리케이션은 이제 오터AI(Otter.ai) 같은 독립형 도구처럼 대화 내용을 기록하고 요약한다. 그래멀리(Grammarly) 같은 앱은 문법, 맞춤법, 구두점 오류를 교정한다.
랩비바(Labviva)의 공동 설립자이자 CTO인 닉 리우는 디지털 비서를 특정 요구 사항에 맞게 특화할 수 있다고 설명했다. 예를 들어, 기업이 정기적으로 민감한 화학물질이나 생물학적 화합물을 구매하는 경우, 생성형 AI가 구매 주문서에 특별 취급 지침을 추가할 수 있다.
리우는 “기업용 생성형 AI의 가장 유망한 사용례는 콘텐츠 생성, 제안, 수동 작업 자동화와 같은 보강 기능을 통해 사람이 수행하는 작업을 간소화하는 것”이라고 설명했다.
코딩 도우미
코딩 도우미는 자주 언급되는 생성형 AI 사용례다. 생성형 AI는 기본적인 소프트웨어 코드를 작성해 프로그래머가 더 복잡한 작업에 집중하도록 돕는다.
데이터 오케스트레이션 스타트업 애스트로노머(Astronomer)의 CTO 줄리안 라네브는 코드 코파일럿이 프로그래머가 문제에 부딪혔을 때 검색 엔진이나 다른 리소스를 찾는 대신 코드에 집중할 수 있도록 도와준다고 설명했다.
라네브는 “프로그래머는 코드 주석을 작성하고 대규모 언어 모델(LLM)이 코드를 완성하도록 할 수 있다. 이를 통해 개발자는 예시를 검색하느라 집중력을 잃지 않고 ‘몰입 상태’를 유지할 수 있다”라고 말했다.
젠엣지 컨설팅(GenEdge Consulting)의 설립자이자 매니징 파트너인 나탈리 램버트는 생성형 AI가 특히 웹 개발에 도움이 된다고 덧붙였다. 생성형 AI는 웹사이트 코드를 생성함으로써 웹사이트 업데이트에 필요한 시간과 비용을 크게 줄일 수 있다.
램버트는 “챗GPT와 같은 도구를 활용하면 기술 전문 지식이 없는 사용자도 웹사이트에 직접 코드를 개발하고 구현할 수 있다. 이는 개발 과정을 민주화하고 웹 전문가가 AI의 도움을 받아 자신의 비전을 실현할 수 있게 한다”라고 설명했다.
소프트웨어 개발 수명 주기 전반에 걸쳐 생성형 AI를 구현한 기업들은 현재 기술의 한계와 팀에 미치는 영향, 그리고 자체적으로 파악한 문제점 등을 개선해 나가고 있다.
마케팅 지원
여러 AI 전문가와 사용자가 마케팅 지원을 생성형 AI의 주요 활용 분야로 꼽았다. 보안 메신저 도구 제공업체 브로식스(Brosix)의 공동 설립자이자 CEO인 스테판 체카노프는 생성형 AI가 개인화된 마케팅 자료를 만들고, 고객 데이터를 분석하며, 콘텐츠 제작을 지원할 수 있다고 언급했다.
체카노프는 “경험상 생성형 AI의 도움을 받으면 콘텐츠 제작과 소셜 미디어 관리가 훨씬 효율적이다. 단순한 일정 관리, 최적화, 편집에 시간을 덜 쓰게 되어 전문가가 고부가가치 작업에 집중할 수 있으며, 이는 장기적으로 비용 절감으로 이어진다”라고 설명했다.
또한 전문가들은 생성형 AI가 제품 리뷰를 기반으로 시장 분석을 수행하고, 고객이 인식하기 전에 문제를 예측할 수 있다고 말했다.
USAA의 AI 및 데이터 과학 이사인 아스위니 토타는 “제품 판매 기업은 고객 피드백의 이해가 매우 중요하다. 고객이 좋아하거나 싫어하는 것, 새로운 트렌드, 지역별 선호도, 그리고 고객이 새로운 제품을 어떻게 평가할지 알아야 한다”라고 언급했다.
토타는 생성형 AI를 통해 기업이 설문조사를 의뢰하지 않고도 제품 리뷰에서 고객 인사이트를 추출할 수 있다고 말했다. 생성형 AI 이전에는 데이터 과학자가 감성 분석과 의도 추출을 위해 맞춤형 자연어 처리(NLP) 모델을 구축했지만, 현재는 생성형 AI가 이를 보완할 수 있다.
그는 “생성형 AI를 사용하면 동일한 데이터셋에 대해 여러 프롬프트를 작성할 수 있으며, 버튼 하나로 감성, 토론 주제, 의도된 사용법을 추출할 수 있다”라고 설명했다.
신약 개발
쿠도컴퓨트(CUDO Compute)의 CMO 라스 나이만은 신약 개발 분야에서 생성형 AI가 복잡한 분자를 모델링하고 상호 작용을 예측하는 속도가 “기존 방식을 전화 접속 인터넷 시대로 보이게 할 정도”라고 설명했다. 그는 생성형 AI가 신약의 시장 출시 기간을 크게 단축할 수 있다고 말했다.
글로벌 IT 서비스 제공업체 MSR코스모스(MSRcosmos)에 따르면, 생성형 AI는 제약 기업이 약물 상호작용을 예측하고, 기존 약물을 재활용하며, 환자의 유전적 특성에 기반한 맞춤형 치료법을 개발하는 데 유용할 수 있다.
지난해 엔비디아(NVIDIA)는 헬스케어 산업을 대상으로 하는 AI 기반 클라라(Clara) 컴퓨팅 플랫폼과 신약 개발을 위한 생성형 AI 플랫폼 바이오네모(BioNeMo)를 발표한 바 있다. 존슨앤존슨(Johnson & Johnson)을 포함한 일부 바이오테크 및 제약 기업도 생성형 AI를 신약 개발의 차세대 혁신으로 홍보하고 있다.
사이버 보안과 사기 탐지
여러 사이버 보안 기업이 생성형 AI를 활용해 고객의 네트워크와 컴퓨팅 인프라에서 의심스럽거나 비정상적인 행동을 탐지하는 도구를 강화하고 있다. 대화형 자동화 솔루션 업체 컨버시카(Conversica)의 CEO 짐 캐스케이드는 거래 패턴과 사용자 행동을 분석해 사기 행위를 매우 정확하게 예측하는 고급 사기 탐지에도 AI 시스템을 활용할 수 있다고 설명했다.
예를 들어, 팔로알토네트웍스(Palo Alto Networks)는 자사의 머신러닝 모델 전문성과 데이터 저장소를 구글의 빅쿼리(BigQuery) 엔터프라이즈 데이터 웨어하우스 및 제미나이 AI 모델과 결합한 코텍스 XSIAM(Cortex XSIAM) 보안 운영 플랫폼을 제공한다. 이 플랫폼은 새로운 위협을 지속적으로 학습하면서 보안 분석가에게 실시간으로 위협을 알리는 것을 목표로 한다.
비즈니스 프로세스 강화
생성형 AI는 기업 비즈니스 프로세스 강화에의 활용 가능성을 보여주고 있다. 기업들은 각 산업에 특화된 핵심 업무 흐름의 효율성을 높이기 위해 생성형 AI 활용 방안을 모색 중이다.
예를 들어 일부 금융 및 보험 기업은 잠재 고객을 평가하는 언더라이터를 지원하기 위해 생성형 AI를 활용하고 있다. 중소기업 대출 플랫폼 크레더블리(Credibly)의 공동 CEO이자 설립자인 라이언 로셋은 생성형 AI와 머신러닝을 결합해 대출 위험을 평가하고 대출 과정의 속도를 높인다고 말했다.
로셋은 “크레더블리에서 생성형 AI는 언더라이터에게 막강한 힘을 제공한다. 핀테크 대출 기업으로서 크레더블리의 성공은 자금 조달을 원하는 사업자를 빠르고 정확하게 위험 평가하는 데 달려있다”라고 설명했다.
EY 조사에 따르면 2023년 말 기준으로 거의 모든 보험사가 생성형 AI를 도입했거나 관심을 보였다. 약 42%는 이미 생성형 AI에 투자했으며, 약 3분의 2는 생성형 AI 활용을 통해 10% 이상의 수익 증가를 기대했다.
법률 분야에서는 법률 정보 서비스 기업 렉시스넥시스(LexisNexis)가 적극적으로 생성형 AI를 도입한 바 있다. 렉시스넥시스의 부사장 겸 CTO인 제프 레일은 CIO닷컴과의 인터뷰에서 “역량을 생성형 AI에 총동원했다. 생성형 AI는 상호작용뿐만 아니라 답변의 포괄성과 데이터 생성 능력 측면에서도 획기적이었다”라고 설명했다.
렉시스넥시스는 이후 자체 생성형 AI 솔루션인 렉시스+ AI를 출시했다. 이 솔루션은 법률 인용문을 자동으로 연결해 변호사들이 정확한 최신 판례 정보에 쉽게 접근하도록 지원한다.
예측 분석
생성형 AI 모델은 기존에도 정보를 검색하고 요약하는 데 탁월했지만, 이제 기업들은 예측 분석에도 이 기술을 활용 중이다.
AI 및 로봇 벤처 펀드 인터우븐 벤처스(Interwoven Ventures)의 제너럴 파트너인 에레즈 아그모니는 일부 기업에서 배송 일정을 예측하기 위해 생성형 AI를 활용한다고 언급했다.
선박 회사 머스크(Maersk)의 전 AI 및 로봇 배치 책임자였던 아그모니는 기존에도 AI 기반의 예측 분석이 있었지만, 생성형 AI는 사전 정의된 알고리즘 없이도 비정형 데이터를 처리할 수 있는 역량 덕분에 뛰어난 성과를 보인다고 설명했다.
그는 최종 목적지에 도달하기까지 여러 요인이 영향을 미치기 때문에 단순히 과거 데이터를 살펴보는 알고리즘만으로는 정확한 배송 일정을 예측 및 제공하기 어렵다고 말했다. 또한 여러 경로의 효율성, 날씨, 업무 수행 역량, 금융 시장 상황 등의 정보가 담긴 과거 및 현재 데이터를 공유하려면 배송 업체에 다양한 시스템이 필요하다. 아그모니는 “이 문제를 해결할 수 있다면 수십억 달러의 가치를 창출할 수 있어 솔루션을 찾으려는 열망이 매우 높은 상황”이라고 말했다.
여러 소스에서 비정형 데이터 추출
정교한 대규모 언어 모델(LLM)은 조직이 이전까지 활용하지 않았던 텍스트, 동영상, 음성 메시지의 비정형 데이터를 AI 전략 내에서 흡수하도록 돕는다. 공급망 가시성 플랫폼 업체 포키츠(FourKites)의 부사장 스리람 나가스와미는 일부 조직이 영상 감시 시스템에서 데이터를 추출하기 위해 생성형 AI를 사용한다고 언급했다.
나가스와미는 “흥미로운 생성형 AI 혁신에는 이전까지 너무 번거롭거나 시간이 많이 소요돼 활용하지 못했던 다양한 애플리케이션의 비정형 데이터를 추출할 수 있는 역량이 있다. 여기에는 시장에 혁신을 일으킬 잠재력이 있다”라고 진단했다.
예를 들어 주기적으로 갱신되는 영상 카메라가 있는 항구를 언급할 만하다. 나가스와미는 “프레임을 캡처하기 시작하면 번호판이나 컨테이너 번호만 보고도 어떤 트럭이 오가는지 정확히 알 수 있다. 대부분 항구에는 영상 카메라가 24시간 가동되므로, 데이터의 민주화와 더 자연스러운 데이터 수집 방식이 가치 있는 배송 및 추적 인사이트를 제공하는 손쉬운 방법이 될 것”이라고 설명했다.
그는 처음부터 정확도가 99%에 이르지는 못하더라도 멀티모달 입출력을 처리하는 기능을 갖춘 LLM이 빠르게 도입될 것이라고 예상했다. 나가스와미는 “사람들이 LLM과 대화하거나 이미지나 동영상을 보내는 데 익숙해지면서 향후 1년간 이런 기능의 민주화가 크게 진전될 것”이라고 전망했다.
dl-ciokorea@foundryco.com
