Mit der neuen Vector Engine in SAP HANA Cloud können Unternehmen die Möglichkeiten großer Sprachmodelle (Large Language Models, LLMs) mit unternehmensspezifischen Echtzeitdaten und Know-how über Geschäftsprozesse im Rahmen der Multi-Modell-Datenbank SAP HANA Cloud kombinieren. Die Vector Engine ist mit dem aktuellen Q1 2024 Release nun allgemein verfügbar.
SAP HANA Cloud ist ein führendes Database-as-a-Service-Angebot für intelligente Datenanwendungen und einer derjenigen Services der SAP Business Technology Plattform (SAP BTP), die intern bei SAP am häufigsten genutzt werden. Derzeit greifen mehr als 180 verschiedene Anwendungen und Dienste auf die Multi-Modell-Funktionen von SAP HANA Cloud zurück.
Damit bleibt SAP HANA Cloud auch im Zeitalter der generativen KI eine der führenden Datenbanken.
Bei SAP kommen verschiedene LLMs wie GPT-4, Llama2, Falcon-40b und Claude 2 zum Einsatz. Obwohl diese Modelle bahnbrechende Möglichkeiten bieten, haben sie auch ihre Grenzen: LLMs arbeiten etwa mit veralteten Trainingsdaten oder es fehlt ihnen an unternehmensspezifischen Daten und dem passenden Geschäftsprozesskontext.
Stellen wir uns zum Beispiel vor, wir hätten ein LLM, also ein großes Sprachmodell, als Kollegen. Dieser Kollege ist sehr intelligent, kann programmieren, Prüfungen ablegen und Diskussionen führen – weiß nichts über das aktuelle Weltgeschehen, die internen Prozesse unseres Unternehmens oder unsere Systeme. Und was noch schlimmer ist: Nach jedem Gespräch vergisst er, worüber wir gerade gesprochen haben. Ein dermaßen eingeschränktes Erinnerungsvermögen würde nur wenig Mehrwert liefern. Dieses Manko ist der Grund, warum ein LLM zum Beispiel keine an sich simple Frage beantworten kann, wie: „Was hältst du von dem Angebot, dass unser wichtigster Lieferant letzte Woche gemacht hat?“. Ein LLM kann nur mit den Trainingsdaten arbeiten, mit Hilfe jender es geschult und aufgebaut wurde. Alle anderen Daten müssen als Kontext bereitgestellt werden.
Die Vector Engine in SAP HANA Cloud kann dabei helfen, diese fehlenden Informationen zu ergänzen und die LLMs mit allen relevanten Daten eines Unternehmens zu versorgen – ein Prozess, der als „Retrieval-Augmented Generation (RAG)“ bezeichnet wird.
Eine innovative Funktion
Wie funktioniert also die Vector Engine? Die Engine ergänzt die sogenannten Multi-Modell-Engines in SAP HANA Cloud und versetzt Kunden in die Lage, Geschäftsprobleme anhand der Ähnlichkeit zwischen zwei oder mehr Vektoren zu lösen. Die Integration von KI-Technologie in SAP HANA Cloud ermöglicht es außerdem, intuitives Denken mit datengestützten Erkenntnissen zu kombinieren, um selbst die komplexesten Herausforderungen zu bewältigen.
Zu den wichtigsten Vorteilen und Funktionen der Vector Engine gehören:
- Multimodalität: Benutzer können alle Arten von Daten in einer einzigen Datenbank zusammenbringen, um innovative Anwendungen mit einer effizienten Datenarchitektur und In-Memory-Performance zu erstellen. Indem einer Datenbank, die bereits relationale, graphische, räumliche und sogar JSON-Daten enthält, ein Vektorspeicher und Funktionen zur Vektorverarbeitung hinzugefügt werden, können Entwickler innovative Lösungen schaffen, die auf natürlichere Weise mit Benutzern interagieren.
- Erweiterte Suchen und Analysen: Unternehmen können Dokumente wie Verträge, Entwurfsspezifikationen und sogar Notizen zu Serviceabrufen nutzen, um semantische Suchen und Ähnlichkeitssuchen zu implementieren um damit Geschäftsprozessen zu optimieren.
- Personalisierte Empfehlungen: Benutzer profitieren von präziseren und personalisierten Vorschlägen.
- Optimierung großer Sprachmodelle: Der Output von LLMs wird um effektivere und kontextbezogene Daten erweitert.
Datenbank als Grundlage der SAP-Strategie für generative KI
Mit der Einführung der Vector Engine wird SAP HANA Cloud zu einem wichtigen Grundpfeiler der SAP-Strategie für generative KI-Lösungen. Kunden können auf der SAP BTP ein völlig neues Benutzererlebnis schaffen und eine Reihe anderer Services erstellen. Über die SAP BTP können sie beispielsweise auf SaaS-basierte LLMs von mehreren Anbietern sowie auf Host-LLMs von Open-Source-Modellen oder Drittanbietern zugreifen. Der Generative AI Hub in SAP AI Core, eine Lösung, die die Nutzung generativer KI-Funktionen erleichtert, wird in Kürze SAP HANA Cloud als primären Vektorspeicher nutzen. Der Hub bietet unter anderem einen Prozess zum Erstellen von sogenannten Embeddings und zum Speichern der daraus resultierenden Vektoren in SAP HANA Cloud. Kunden, die intelligente Datenanwendungen entwickeln, können beide Services in Kombination nutzen, um LLM-Abfragen mit dem jeweiligen Kontext zu ergänzen und so aussagekräftige Daten zu erhalten.
Darüber hinaus arbeitet SAP an Basismodellen, die speziell auf SAP-bezogene Branchen- und Prozesskenntnisse ausgerichtet sind.
Die Datenbank für Innovation
SAP HANA Cloud bietet weltweit führende Technologien und kann diverse Arten von Daten speichern und verarbeiten – und zwar in ein und derselben Datenbank. In Kombination mit anderen Multi-Modell-Funktionen eröffnet die neue Vector Engine ungeahnte Möglichkeiten für Anwendungen, die dazu beitragen, Geschäftsprozesse zu verbessern. Ganz egal, ob es darum geht, Suchfunktionen zu verbessern, umfassendere Erkenntnisse für fundierte Entscheidungen zu gewinnen oder LLMs zu optimieren – mit SAP HANA Cloud lassen sich Anwendungen erstellen, die das Fachwissen und die Effizienz eines jeden Benutzers steigern können.
Haben Sie bereits eine Idee für einen Anwendungsfall, bei dem die Vector Engine von SAP HANA Cloud von Nutzen sein könnte? Dann registrieren Sie sich für das Programm SAP Early Adopter Care.
Jürgen Müller ist Chief Technology Officer und Mitglied des Vorstands der SAP SE.
Stefan Bäuerle ist Head of Database, SAP HANA Database, & Analytics for Technology & Innovation bei der SAP.