에이전틱 AI는 자연어를 이해하고 시스템 간 통합을 통해 자율적으로 작업을 수행하며, 기업의 AI 투자효과를 높이는 핵심 기술로 주목받고 있습니다. 하지만 높은 도입 비용과 인프라 비용 등의 장벽을 해소하려면 명확한 ROI 측정 방안이 필요합니다.
글쓴이: SAP Insights Team, 번역: 클로드(Claude)
에이전틱 AI는 증가하는 AI 투자에서 수익률을 높이려는 CIO에게 잠재적인 “킬러 앱”으로 떠오르고 있습니다. 많은 조직이 이 기술을 시범 운영하고 있는데, 이는 자연어를 이해하고 정보 격차를 해소하며 시스템 간 통합을 수행하고 심지어 행동까지 취할 수 있는 지능적이고 종종 자율적인 에이전트들로 구성됩니다.
SAP의 마케팅 VP이자 글로벌 혁신 전도사인 티모 엘리엇(Timo Elliott)은 “에이전트들이 AI를 훨씬 더 유용하게 만들 것”이라고 말합니다.
CIO들이 전략을 수립하면서 에이전틱 AI가 조직의 IT 환경 관리 방식과 현업 부서에 서비스를 제공하는 방식을 변화시킬 것이라는 점이 명확해지고 있습니다. 하지만 언제나 그렇듯, IT 리더들은 에이전틱 AI의 고유한 역량을 다루는 비용 관리 노력과 배포 계획 간의 균형을 맞춰야 합니다.
2025년 클라우드 ERP 7대 트렌드 | 특집 기사
2025년 클라우드 ERP 트렌드는 에이전틱 AI 통합, 클라우드 네이티브 솔루션 확대, AI 기반 의사결정 지원 등을 중심으로 기업의 디지털 전환과 혁신을 가속화할 전망입니다. 업계 거인들의 흥미로운 예측을 지금 바로 확인하세요.
로봇 프로세스 자동화에서 시작된 발전
소프트웨어 기반 자동화는 CIO에게 새로운 개념이 아닙니다. ‘로봇 프로세스 자동화(RPA)’는 2000년대 초반에 데이터 추출이나 주문 처리와 같은 단순 반복 작업을 자동화하는 규칙 기반 자동화 방안으로 등장했습니다. 2022년 11월 생성형 AI 애플리케이션인 챗GPT(ChatGPT)의 출시로 인해 프로세스 자동화에 인지 능력이라는 계층이 추가되었고, 개발자가 고객과 상호작용하고 소프트웨어 개발부터 콘텐츠 제작까지 다양한 활동에서 직원들을 도울 수 있는 새로운 세대의 자동화된 “어시스턴트”를 만들 수 있게 되었습니다.
에이전틱 AI는 지능의 기준을 더욱 높여 AI 에이전트들이 함께 작업하고, 맥락을 기반으로 결정을 내리며, 다양한 비즈니스 기능에 걸쳐 행동을 유발할 수 있는 새로운 수준의 자율성과 추론을 추가합니다.
엘리엇은 “모든 조직에는 핵심적인 엔드투엔드 비즈니스 프로세스가 있으며, 대부분은 이미 자동화되어 있습니다. AI 에이전트는 일처리 단계를 자동화하거나 예외상황을 더 유연하게 처리함으로써 문제를 해결하는 새로운 방법을 제공한다”고 말합니다. 이런 방식으로 에이전트들은 진행하면서 프로세스 개선을 만들거나 제안할 수 있습니다.
가트너, 2026년 10대 전략 기술 트렌드 제시 | 특집 기사
가트너가 제시하는 2026년 10대 전략 기술 트렌드: 2026년의 기술 리더는 AI를 기본 아키텍처로 설계하고, 인간과 AI를 통합하며, 신뢰·보안·지정학 리스크를 선제적으로 관리하는 설계자이자 융합자이며 개척자가 되어야 합니다.
디지털 전환 컨설팅 회사인 스타CIO(StarCIO)의 대표이자 창립자인 아이작 사콜릭(Isaac Sacolick)은 인포월드(Infoworld) 블로그 글에서 “결정을 내리고 행동을 수행하는 방식에 따라 분류되는 여러 유형의 AI 에이전트가 존재합니다. 모델 기반 에이전트는 규칙을 AI 모델과 지원 데이터로 대체하며, 목표 및 유틸리티 기반 에이전트는 행동 방향을 선택하기 전에 다양한 시나리오를 비교합니다. 더 정교한 AI 학습 에이전트는 피드백 루프를 사용하여 결과를 개선하고, 계층적 에이전트는 그룹으로 작업하여 복잡한 작업을 분해한다”고 설명합니다.
계층적 에이전트의 실제 적용 사례
AI 애플리케이션용 오픈소스 벡터 데이터베이스를 만드는 밀버스(Milvus)의 개발자들은 창고 로봇 시스템의 맥락에서 계층적 에이전트의 예를 제공합니다:
최상위 “조율 운영(오케스트레이터)” 에이전트는 재고 관리를 감독하며 어떤 제품이 재입고가 필요한지 결정할 수 있습니다. 이는 창고의 한 구역을 각각 담당하는 중간 수준의 “구역 관리자” 에이전트들에게 하위 작업을 위임할 수 있습니다. 이러한 중간 수준 에이전트들은 그 다음 개별 기계를 작동하는 하위 수준의 “로봇 컨트롤러” 에이전트들에게 특정 픽업 및 배치 작업을 할당할 수 있습니다.
SAP Business Suite | SAP 코리아
SAP 클라우드 ERP 애플리케이션과 SAP Business AI, SAP Business Data Cloud가 한 데 모여 탁월한 비즈니스 가치를 제공합니다. 이 모두가 SAP Business Technology Platform의 위력을 활용합니다.
이러한 기술적 구분은 CIO들이 배포 전략을 수립할 때 중요하지만, 사콜릭은 IT 리더들이 기업 임원진 동료들에게 아이디어를 판매할 때 다른 전술에 집중할 것을 권장합니다.
그는 “CIO의 역할은 전문 용어를 풀어서 기업 임원진에 가치, 해결하는 문제, 또는 장기적 영향이 있을 영역의 관점에서 [비즈니스 리더들이] 익숙한 언어를 사용하여 설명하는 것”이라고 설명합니다.
대규모 에이전틱 AI의 비용 관리 과제
가치 논의는 필연적으로 예산 논의로 이어집니다. AI와 생성형AI(GenAI) 배포가 증가하면서 비용에 대한 우려도 커지고 있습니다. IDC의 2024년 미래 기업 회복력 및 지출 조사에서 IT 임원들이 더 광범위한 생성AI 도입에 대해 언급한 상위 8개 장벽 중 3개–높은 도입 비용(1위 우려사항), 비효과적인 비용 관리(4위), 과도한 인프라 비용(6위)–가 비용과 관련되어 있습니다. 에이전틱 AI는 이러한 혼란에 더 많은 불확실성을 추가합니다.
IBM 컨설팅의 AI 통합 서비스 VP이자 시니어 파트너인 프란체스코 브렌나(Francesco Brenna)는 “비용 측면이 매우 중요합니다. 리소스 소비와 독점적인 LLM(거대 언어 모델) 배포 및 유지 관리 비용에 대한 투명성을 확보해야 한다”고 말합니다.
데이터, 디지털 시대 비즈니스 혁신 위한 전략적 자산 | 특집 기사
기업은 방대한 데이터를 생성합니다. 하지만 효과적으로 활용하는 조직은 10% 미만입니다. 의사결정 개선, 운영 효율 향상, 혁신 촉진 등을 위해 데이터를 전략적 자산으로 활용하려면 SAP Business Data Cloud 같은 통합 플랫폼이 필요합니다.
AI 에이전트 사용에 대한 흥미로운 가격 모델들이 개발되고 있습니다. 박스(Box) CEO 아론 레비(Aaron Levie)는 에이전트가 작업을 완료하는 데 걸리는 시간을 기반으로 전통적인 노동력처럼 에이전트를 가격 책정하는 가능성을 제기합니다. 또 다른 옵션은 결과별 가격 책정으로, 레비는 이것이 “고객이 필요로 하는 것과 그것을 달성하기 위해 지불하는 것 사이의 단순한 관계를 가능하게 한다”고 말합니다. 세 번째 모델은 종량제 “대화 기반” 가격 책정을 포함합니다. 어떤 모델을 선택하든, CIO들은 에이전틱 AI 투자가 비즈니스에 어떻게 가치를 창출할 것인지에 대한 명확한 경로를 제시해야 할 것입니다.
사콜릭은 “실험도 좋지만 궁극적으로는 ‘투자한 내역, 실전 배치한 내역, 얻은 가치가 이것입니다’라고 말할 수 있어야 한다”고 전합니다.
새로운 가치 측정 지표와 ROI 평가
사콜릭에 따르면 새로운 가치 지표에는 의사결정 시간 개선과 결정 정확도가 포함될 가능성이 높습니다. 그는 다음과 같은 예를 제시합니다. “마케터는 에이전트를 사용하여 수백 개의 실험과 변형이 포함된 캠페인을 분석하고 성과를 기반으로 일일 최적화를 수행할 수 있습니다.”
에이전트가 필수적인 비즈니스 프로세스와 워크플로우에 구축되기 때문에, 전문가들은 CIO들이 다른 AI 투자로 경험했던 것보다 ROI를 평가하기가 더 쉬울 것이라고 믿습니다. 사콜릭은 “CIO들이 ROI가 존재한다는 것을 알고 있기 때문에 지금은 훨씬 더 실용적인 정서가 있습니다. 그들은 단지 그것을 포착해야 할 뿐입니다”라고 말합니다.
