---

많은 기업이 인공지능을 활용 중이며 적용 범위는 확대될 전망입니다. 비즈니스 프로세스 자동화, 데이터 분석 및 예측, 고객 서비스 개선 등 다양한 분야에서 AI로 업무 효율을 높이고, 기업의 경쟁력 강화에도 큰 도움을 줄 방안을 월간 인사이트에서 확인하세요.

---

글쓴이: 장아름(Areum Jang)

본론에 들어가기에 앞서 여러 유형의 AI, 프로그래밍, 기계학습(머신러닝)의 차이점을 이해하면 도움이 됩니다.

• 전통적인 AI: 정해진 규칙이나 알고리즘에 따라 특정 작업을 수행할 수 있는 AI 시스템을 의미합니다. 데이터로부터 학습할 수 없거나 시간이 지나도 개선될 수 없는 규칙 기반 시스템입니다.
• 머신러닝: 시스템이 명시적인 프로그래밍을 통하지 않고 데이터로 학습할 수 있습니다. 머신러닝은 컴퓨터 프로그램이 새로운 데이터에 독립적으로 적응하고 학습해 추세와 통찰을 제공합니다.
• 대화형 AI: 기계가 인간과 유사한 방식으로 인간의 언어를 이해하고 응답할 수 있습니다.
• 생성형 AI: 머신러닝 기술을 활용해 데이터로 학습하고 새로운 데이터 인스턴스를 생성할 수 있습니다. 생성형 AI와 대화형 AI는 유사해 보일 수 있지만(특히 생성 AI로 인간과 유사한 텍스트를 생성하는 경우) 대화형 AI는 인간과 같은 대화에 참여할 수 있는 대화형 시스템을 만드는 데 사용되는 반면, 생성형 AI는 텍스트 뿐 아니라 이미지나 음악 등 다양한 데이터 유형의 생성을 포괄하는 더 광범위한 개념입니다

팟캐스트 Artificial Intelligence (AI) for SAP S/4HANA and SAP BTP: A deep dive에서 테리 페너(Terry Penner)와 유르겐 부츠만(Jürgen Butsmann)이 AI 우선순위, 실질적인 응용분야, SAP S/4HANA와 SAP BTP의 주요 적용사례에 대해 나눈 대화를 각색한 내용입니다.

Part 1. SAP가 제안하는 AI의 부가가치

AI 모델을 간단히 설명하자면

Terry: 오늘은 인공지능(AI)에 대해 이야기 나누겠습니다. 유르겐, SAP에 있어 AI가 왜 중요한지, 그 가치는 무엇인지 설명해 주시죠.

Jürgen: AI는 단순한 유행어 그 이상입니다. 다양한 분야, 특히 비즈니스 소프트웨어에서 사용할 수 있는 기술입니다. 기본적으로 AI는 인간이 컴퓨터의 도움을 받을 수 있는 프로세스를 복제하거나 향상시킵니다.

인간은 경험과 감각을 바탕으로 세계 모델을 구축합니다. 이러한 모델은 학습에 따라 더욱 복잡해 집니다. 하지만 이러한 모델에 기반한 일부 의사결정은 컴퓨터 과학으로 단순화해 구현할 수 있습니다. 이전에도 간단한 프로그래밍의 규칙과 모델을 사용해 이러한 작업을 수행한 적이 있습니다.

그러나 AI를 적용하면 경험이나 데이터로 소프트웨어 학습을 처리합니다. 데이터 과학자가 만든 이러한 알고리즘을 통해 개발하는 모델은 우리가 염두에 두고 있는 모델의 복잡성을 극히 일부만 포착할 수 있습니다.

비즈니스 프로세스에서 우리가 사용하는 모델은 인간의 생각만큼 복잡하지는 않지만 머릿속에 저장할 수 없는 방대한 데이터를 처리할 수 있습니다. 클러스터링이나 프로젝션 같은 작업에 알고리즘을 적용해 데이터를 효과적으로 분석하고 상호 연관시킬 수 있습니다. 이를 통해 다양한 데이터를 기반으로 고객의 상태나 비즈니스 프로세스 같은 상황을 이해할 수 있습니다.

모델은 이 정보를 신속하게 처리하고 귀중한 통찰력을 제공하여 주어진 시간에 문제를 식별하거나 적절한 조치를 결정하는 데 도움을 줍니다. 과거의 모든 경험을 모아 지나치게 단순하지는 않지만 인간의 인지력보다는 덜 복잡한 모델에 적용하는 두뇌와 같은 기능을 합니다.

AI의 다양한 수준과 적용이 유리한 경우

Terry: AI는 방대한 양의 데이터를 거의 즉각 처리할 수 있기 때문에 단순한 문제 처리가 가능하죠. 하지만 AI가 항상 필요한 것은 아닙니다. AI의 다양한 수준과 AI의 적용이 더 유리한 경우에 관해 자세히 설명해 주시겠어요?

Jürgen: 좋은 질문이군요. 의사결정 지원을 통해 다양한 수준의 인텔리전스가 제공됩니다. 인텔리전스를 구성하는 요소를 이해하기가 까다로울 수 있습니다. 제 생각에는 무언가 지능적이라고 인식된다면 그것은 지능적이라고 생각합니다.  예를 들어 영업 프로세스에서 고객과의 상호작용이나 의사결정에 유용한 수치를 적시에 제공하는 핵심성과지표(KPI)나 보고서가 있다면 이는 지능적이라고 간주할 수 있습니다. 이러한 수치는 정적이며 어떠한 변경이나 표시도 하지 않지만 특정 시점의 관련성이 완벽합니다.

정적인 수치나 그래프는 추세를 시각적으로 표현하고 결정을 내리는 데 도움을 줄 수 있지만 인식의 한계로 인해 2차원으로 제한됩니다. 반면 AI는 방대한 양의 데이터를 분석해 인간의 능력을 뛰어넘는 결론을 도출할 수 있죠. 하지만 여기에는 프로그래밍 및 데이터 수집 같은 비용이 수반됩니다.

AI가 가장 큰 가치를 창출하는 적용사례

Terry: 대량의 데이터 처리에 드는 비용에 대해 언급하셨습니다. 그렇다면 AI가 가장 큰 부가가치를 창출하는 부문은 어디라고 보시나요?

Jürgen: AI는 프로세스를 가속화할 때 가장 큰 가치를 발휘합니다. 그러나 항상 비용 효율적인 것은 아닙니다. 이는 모든 알고리즘에서 가장 중요한 부분인 데이터에 크게 좌우됩니다. 데이터의 유형, 정확성, 이질성은 알고리즘을 적절하게 훈련하는 데 필수적입니다. 그럼에도 불구하고 데이터 처리와 관련된 비용을 고려해 AI가 특정 비즈니스 프로세스나 의사결정에 충분한 부가가치를 창출하는지 판단해야 합니다.

Terry: 지난 몇 년 동안 급속도로 발전한 생성 AI에 대해 자세히 살펴보겠습니다. 생성 AI(GenAI)가 독특하고 흥미로운 이유는 무엇입니까?

Jürgen: 생성 AI에 대한 인식과 이해도가 갑자기 높아졌다는 사실에 놀랐습니다. 구체적인 예를 들어, 질문을 하면 방대한 양의 데이터로부터 즉각적인 요약을 얻을 수 있습니다. 이것이 얼마나 가치 있는 일인지는 분명합니다.

자동 요약, 언어 변환, 감정 분석 같은 적용사례를 고려할 때 AI는 우리 삶에 매일 영향을 미치고 있습니다. 그러나 개인의 관점에서 모든 비즈니스 업무를 예상할 수 있는 것은 아닙니다. 흥미로운 점은 단순히 데이터를 처리하고 결과를 얻는 대신 새로운 정보를 생성한다는 사실입니다. 이 생성 과정은 흥미롭기도 하고 다소 어려울 수도 있습니다. 하지만 소프트웨어 내부의 적절한 매개변수 내에서 이를 유지한다면 두려워할 필요가 없습니다.

생성 AI의 작동원리

Jürgen: 프로세스 관점에서 보면 요청, 즉 프롬프트가 있습니다. 이를 기반으로 시스템은 기존 데이터로부터 결과를 생성합니다. 단순히 잘라내어 요약하는 대신 보다 명확하고 선명한 정보를 생성합니다. 우리가 사용하는 거대언어모델(LLM)은 요청을 수정해 프롬프트를 시스템이 더 잘 이해할 수 있는 단어로 번역하거나 다시 표현할 수도 있습니다. 그 결과 더 정확한 질문을 통해 알고리즘이 작동하고 더 정확한 결과를 생성하는 데 도움이 됩니다.

Terry: 기사 요약이나 팟캐스트 녹취록 정리 같은 작업에 생성 AI가 매우 효과적이라는 것을 알았습니다. 일상 업무의 많은 부분을 간소화해 주죠. 또한 번역과 언어 이해의 민주화를 위한 잠재력도 매우 매력적입니다.

Jürgen: 원래 화자의 음성으로 특정 언어로 된 팟캐스트를 다른 언어로 자동 재현할 수 있다는 사실은 놀라운 일입니다. 이는 정보를 세계화할 뿐 아니라 접근성도 향상시킵니다. 사용자 상호작용을 기반으로 질문을 구체화하고 다양한 방언이나 언어 유형을 이해하는 데 도움이 되므로 더 많은 사람이 이 분야에 참여할 수 있습니다.

Terry: 생성 AI 모델이 어떻게 작동하는지 더 자세히 설명해 주실 수 있나요?

Jürgen: 첫 번째 단계는 광범위하고 다양한 데이터 세트의 수집입니다. 이는 공개 또는 비즈니스 소스에서 가져올 수 있으며, 고객 경험이나 독점 데이터도 포함될 수 있습니다. 모델은 이 데이터에 대한 학습을 통해 데이터를 처리하고 새로운 인사이트를 추출할 수 있습니다.

예를 들어 텍스트를 입력하면 이를 팟캐스트 구조와 같은 다른 유사한 데이터와 비교합니다. 다양한 모델을 비교, 결합함으로써 새로운 콘텐츠를 만들 수 있습니다. 이 예에서는 질문 내용과 다른 팟캐스트의 경험을 바탕으로 새로운 팟캐스트를 만들 수 있습니다. 시스템은 다양한 정보를 수신할수록 최상의 결과물을 비교, 결합, 생성할 수 있으므로 그 기능이 향상됩니다.

왜 지금 생성 AI인가?

Terry: 이 모델에 입력되는 데이터가 관련성이 높고 양질의 데이터인지 확인하는 것이 중요합니다. 현재 생성 AI가 주목을 받고 있는 이유는 무엇이라고 생각하시나요?

Jürgen: 과학 분야를 넘어 광범위한 적용 가능성에 대한 관심을 불러일으킨 챗GPT 첫 버전의 영향력 때문이라고 생각합니다. 이후 많은 기술이 등장했죠. SAP는 언제나 기술을 수용하고 적용하는 기업이지만, 무엇보다 비즈니스 프로세스의 맥락에서, 즉 우리의 목적에 맞게 기술을 적용합니다.

우리는 ERP와 같은 시스템에 대한 접근성 향상을 목표로 합니다. 대형 컴퓨터에서 보다 소형 컴퓨터로, 이후 클라이언트-서버로 전환하면서 이러한 접근성이 크게 향상되었습니다. SAP가 이러한 기술을 모두 발명한 것은 아니지만 우리는 이를 비즈니스 프로세스에 성공적으로 통합했습니다. SAP는 이러한 기술의 가치를 보여주었지만 이제는 거대언어모델과 생성 AI 기능의 구현에 중점을 두고 있습니다. 검증된 적용사례를 보유하고 있으며 실질적인 가치를 제공하므로 활용하기에 적절한 시기입니다.

그러나 구현 시점에 관련 비용을 신중하게 고려해야 합니다. 우리가 지원하는 프로세스가 투자 가치가 있는지 확인해야 합니다. 또한 이러한 모든 기술이 동일한 성능을 발휘하거나 동일한 품질을 제공하는 것은 아니라는 점을 이해하는 것도 중요합니다. 이것이 바로 우리가 거대언어모델과 생성 AI 기능을 기술 아키텍처인 ‘비즈니스 기술 플랫폼(SAP BTP)’에 통합하는 이유입니다.

Part 2. SAP S/4HANA 및 SAP BTP의 AI 애플리케이션

SAP 비즈니스 프로세스에 AI 적용

Jürgen: 우리의 목표는 가능한 많은 비즈니스 문제에 대한 솔루션 제공입니다. 거대언어모델은 SAP의 아키텍처를 통해 고객에게 제공되며 SAP의 소프트웨어를 통해 상용화됩니다.

많은 고객이 AI, 특히 생성 AI를 찾고 있습니다. 그러나 우리 접근 방식의 독특한 측면은 다양성, 많은 기능을 활용할 수 있는 능력, 기술 및 비즈니스 아키텍처 내에서의 통합 등입니다. 이것이 우리가 지향하는 방향이며, 이를 위해서는 상당한 투자가 필요합니다.

Terry: 요약하자면, 우리는 생성 AI를 일반적인 목적으로 만들려고 노력하는 대신 SAP가 가장 잘 이해하는 비즈니스 프로세스에 최대한 밀접하게 통합하는 것을 목표로 합니다.

연관성, 신뢰성, 책임감 있는 SAP의 비즈니스 AI

Terry: 우리는 AI가 SAP 내에서 책임감 있고 신뢰성과 연관성이 있는지 확인하는 방법에 대해 이야기했습니다. AI가 연관성이 있다는 말이 무슨 뜻인지 자세히 설명해주실 수 있나요?

Jürgen: 연관성은 AI가 비즈니스 프로세스의 맥락에서 필요하며 고객에게 가치를 제공해야 함을 의미합니다. AI의 가치는 비즈니스 프로세스에 미치는 영향에 따라 결정됩니다. 각 고객은 프로세스 기간, 품질, 반복 가능성, AI로 개선할 수 있는 사용자 기술 부족, AI를 통해 제공되는 정보가 프로세스 실행에 미치는 영향 등의 요소를 기반으로 AI의 연관성을 평가합니다.

Terry: 당연히 SAP의 비즈니스 AI는 신뢰성이 매우 중요합니다. 과거 AI 모델이 부정확하거나 오래된 정보를 제공하는 사례가 있었습니다. SAP의 생성 AI에 대한 접근 방식은 어떻게 신뢰할 수 있는 결과와 교육 모델을 보장합니까?

Jürgen: 실제로 신뢰성은 매우 중요합니다. 결과값의 품질은 주로 데이터 입력값에 따라 달라집니다. 데이터가 매우 이질적이라면 계정 매칭 같은 일부 알고리즘에 적합하지 않을 수 있습니다. 이로 인해 이상값을 캡처할 수 없게 될 수 있습니다. 따라서 데이터의 모양, 필요한 데이터의 양, 품질 신호의 위치를 ​​이해하는 것이 중요합니다. 특정 조직 또는 조직의 일부에 가장 적합한 데이터를 선택하려고 노력하세요. 이는 시스템에서 특정 분석의 발생을 가장 잘 반영합니다.

결과가 특정 방향으로 어떻게 왜 움직이고 있는지 설명하는 것이 중요합니다. 더 많이 사용할수록 시스템에 대한 자신감과 신뢰도가 높아집니다. 고객에게 결과를 설명하고 데이터 처리 방법에 대한 신뢰와 이해를 구축하는 메커니즘이 필요합니다.

Terry: 물론이죠. 모델이 말하는 내용을 기반으로 결정을 내리려면 모델을 신뢰해야 합니다. 이는 데이터가 사람에서 나온 것인지, AI에서 나온 것인지에 관계없이 적용됩니다. 이제 책임에 관한 부분으로 넘어갑니다. 저는 이 점이 SAP의 큰 차별화 요소라고 믿습니다. AI에 대한 책임을 보장하고 고객 및 파트너와의 신뢰를 구축하는 일이죠. 책임감의 의미에 대해 자세히 설명해 주시겠어요?

Jürgen: 저희 입장에서 책임은 데이터 보안을 보장하는 일입니다. 지적 재산을 외부와 공유하고 싶지 않은데, 많은 거대언어모델이 외부 클라우드에 있습니다. 우리는 소스 데이터에 대한 접근을 제공하지 않고도 이러한 모델에서 사용할 수 있는 방식으로 데이터를 변환, 암호화, 정리해야 합니다. 물론 큰 작업이지만, 우리는 여기에 전념하고 있습니다. 때로는 보안을 보장하기 위해 이러한 모델 중 일부를 자체 환경에 배포해야 하는 경우도 있습니다. 또한 책임은 우리가 제공하는 적용사례가 윤리적으로 건전함을 의미합니다.

현재 SAP S/4HANA에서 이용 가능한 AI 적용사례

Terry: 실용적인 측면에 대해 논의해 보겠습니다. 현재 SAP S/4HANA Cloud에서 어떤 AI 기능을 사용할 수 있나요?

Jürgen: 현재 SAP S/4HANA Cloud는 AI 기술을 기반으로 25개 이상의 적용사례를 제공합니다. 이들 중 다수는 SAP BTP를 기반으로 구축되었습니다. 우리의 전략은 이 아키텍처 내의 솔루션에 초점을 맞추는 것입니다. 예를 들어, 미결채권과 입금내역 자동 매칭, 사기(부정행위) 탐지, 비정형 데이터에서 판매 주문 정보 자동 도출 등의 기능을 제공합니다. 정형화되지 않은 문서의 구조적 요소를 자동으로 식별할 수 있는 생성 AI로 이들 기능을 개선하고 있습니다. 우리는 이러한 알고리즘을 최대한 활용해 지속적으로 서비스를 개선하고 있습니다.

SAP의 AI에서 SAP BTP의 역할

Terry: SAP S/4HANA Cloud에서 AI 기반 SAP BTP의 역할에 대해 자세히 설명해 주시겠어요?

Jürgen: 물론이죠. SAP BTP는 SAP S/4HANA Cloud의 모든 AI 및 생성 AI 기반을 포함하며 기술 확장을 위한 표준 환경입니다. 여기에서 알고리즘을 처리하고 우리가 보유한 AI 모델과 보유하지 않은 AI 모델을 모두 통합합니다. 비즈니스 애플리케이션과 SAP BTP 간의 이러한 연결을 통해 비즈니스 데이터 및 라이프사이클 관리를 SAP BTP의 기술 구조와 결합하는 지능형 시나리오를 관리할 수 있습니다. 이는 우리가 다른 모든 모델을 처리하는 경로이기도 합니다.

향후 계획

Terry:  유르겐, 셍상 AI가 집중하고 있거나 개발팀이 현재 작업 중인 주요 주제에 대해 논의해 주실 수 있나요?

Jürgen:  우리는 다양한 적용사례를 고려하고 개발하고 있으며 2024년 상반기를 목표로 일부 사례는 이미 개발 중입니다.  대표적인 사례로 생성 AI 디지털 비서인 쥴(SAP Joule)이 있습니다. 쥴은 SAP 독점 데이터, 프로세스 흐름 및 애플리케이션을 기반으로, 사용자가 온보딩하려는 기능에 대한 새로운 데이터를 수집하거나 마스터 데이터 확장 또는 새로운 판매 주문 같은 작업을 실행하도록 안내하는 데 도움이 될 수 있습니다.

다음으로 커뮤니케이션 인텔리전스는 우리 로드맵의 핵심 영역입니다. 이는 잠재적인 독촉 사례 관리와 같은 의사 결정 프로세스를 실행하고 감정 분석, 작업 우선순위 지정, 고객 상호작용, 통화내용 스크립트 생성, 기타 지침 등을 통합할 수 있는 일반적인 적용사례입니다. 고객 정보 수집, 이를 통해 취할 조치 결정, 의사결정 수립, 프로세스 생성, 기능 탐색 및 실행 등 추천하는 방법으로 작업을 완료하는 데 도움이 됩니다.

현재 ‘물어보기(Just Ask)’라고 명명된 기능은 언어나 용어에 관계없이 최종 사용자에게 적합한 보고서와 KPI를 찾고 실행하는 데 도움이 되는 자연어 상호작용 도구입니다. 이를 통해 필요한 데이터와 정보에 액세스할 수 있습니다.

우리는 시그나비오(Signavio)가 프로세스 분석 및 프로세스 마이닝을 실행할 뿐 아니라 프로세스 개선을 위한 시스템 추천사항을 제출하도록 하는 것을 목표로 하고 있습니다. 우리는 또한 코드 생성 작업도 진행 중입니다. 수백만 줄의 ABAP 코드를 작성해 본 경험으로 우리는 코드 작성 규칙과 방법을 이해합니다. 따라서 새로운 코드를 생성해야 하는 경우 요구사항에 따라 템플릿을 사용하거나 거의 완전한 ABAP 프로그램을 사용하는 것이 좋습니다.

Terry: 네, 코드 생성은 우리가 탐구하고 있는 흥미로운 영역입니다. 특히 BTP 측면의 구축에 있어서 말이죠. 이는 개발자 커뮤니티에 큰 도움이 될 수 있습니다. 유르겐, SAP의 AI 진행 상황에 대한 인사이트를 공유해 주셔서 고맙습니다. 앞으로 어떻게 발전하는지 확인하고 고객을 위한 새로운 제품에 대해 다시 논의하기를 고대하겠습니다.

글쓴이 소개

장아름(Areum Jang) | SAP Korea Presales 조직의 SAP S/4HANA 구매관리 전문가