Verantwortungsvoll mit künstlicher Intelligenz umgehen – ein Jahr des Lernens

Im Bereich der KI-Ethik hat die SAP im letzten Jahr wichtige Schritte unternommen und einen Ethikrat gebildet. Doch es gibt noch immer viel zu lernen.

Im September 2018 veröffentlichte die SAP ihre Leitlinien für den ethischen Umgang mit Künstlicher Intelligenz (KI). Sie besagen zum Beispiel, dass KI von SAP den Menschen in den Mittelpunkt stellt, sie transparent und verständlich ist und dass der Datenschutz respektiert werden muss (die vollständigen Leitlinien könnt ihr hier lesen).

Während SAP das erste Unternehmen in Europa war, das solche Leitlinien eingeführt hat, haben inzwischen auch andere internationale Firmen wie Microsoft und IBM ähnliche Schritte unternommen. Weltweite gesetzliche Richtlinien oder Standards gibt es jedoch noch nicht. So ist die SAP zu einer führenden Stimme in der globalen Debatte um den ethisch verantwortungsbewussten Umgang mit KI geworden.

Markus Noga, Leiter des Bereichs SAP Cloud Platform Business Services, zu dem auch KI gehört, und Mitglied des SAP-Lenkungsausschusses für KI erklärt den Auftrag, den er für SAP sieht: „Nicht nur unsere eigene KI sollte die ethischen Grundsätze erfüllen, sondern wir wollen auch unseren Kunden helfen, KI im ethischen Sinne zu entwickeln und einzusetzen. Darüber hinaus wollen wir unser Fachwissen in die Diskussionen einbringen, die auf globaler Ebene stattfinden.“

Nach einer Studie, die 2018 von McKinsey veröffentlicht wurde, hatte fast die Hälfte der untersuchten Unternehmen künstliche Intelligenz bereits eingeführt und weitere 30 Prozent führten derzeit Pilot-Projekte für zukünftige KI-Vorhaben durch. Weitere 44 Prozent wollten sich nach Anbietern wie SAP umsehen, um einen Großteil ihres KI-Bedarfs zu decken.

Künstliche Intelligenz ist in der Öffentlichkeit ein kontrovers diskutiertes Thema. Wenn Maschinen Entscheidungen treffen, die sich auf das Leben von Menschen auswirken, kann man davon ausgehen, dass einige der Betroffenen eine ablehnende Haltung einnehmen. Komplexe Fragen ergeben sich, mit denen die SAP sich künftig auseinandersetzen muss: Wie können diejenigen, die autonome Systeme entwerfen und verkaufen, dafür sorgen, dass sowohl die Entwickler als auch der Kunde den Entscheidungen von KI-Systemen vertrauen können?

Künstliche Intelligenz bei der SAP

Im Rahmen der Intelligent-Enterprise-Strategie werden bei SAP verschiedene KI-Systeme entwickelt und verkauft.

Auf der einen Seite gibt es KI, die direkt in vorhandene SAP-Produkte integriert ist. So wurde zum Beispiel KI in das Cash Management in SAP S/4HANA Finance eingebettet, um die Rechnungsabstimmung zu automatisieren. Auf der anderen Seite gibt es KI-Plattformen wie SAP Data Intelligence. Hier können SAP-Kunden die Technologie nutzen, um KI-Modelle für beliebige Anwendungsfälle zu entwickeln.

„Wir müssen Ideen kritisch hinterfragen und einen Weg finden, der gewährleistet, dass beim Einsatz von Innovationen ethische Grundsätze berücksichtigt werden“, erklärt Noga. Es gelte zu untersuchen, wie die SAP dies regeln könne – zum Beispiel durch entsprechende Orientierungsvorgaben oder gar Geschäftsbedingungen, die sicherstellen, dass die KI-Plattform auf ethisch verantwortliche Weise genutzt wird.

„Aus Rücksicht auf die beteiligten Kunden und Kollegen, ist es schwierig, über konkrete Szenarien zu sprechen“, erklärt Noga. „Aber ich kann sagen, dass uns Fälle zu einer Vielzahl von Themen übermittelt wurden, von Gesichtserkennung über die Verwendung von KI durch Regierungen bis hin zu Fällen mit potenziellen Umweltauswirkungen.“

Deshalb seien Leitlinien so wichtig, betont Noga. „Wir müssen die Wünsche unserer Kunden mit der realen Möglichkeit in Einklang bringen, dass SAP aufgefordert wird, etwas gegen ihre Richtlinien zu unternehmen.“

Interne und externe KI-Gremien arbeiten Hand in Hand

Noga vertritt die SAP in der EU-Expertengruppe für künstliche Intelligenz. Der Vorsitzende dieses Gremiums ist Pekka Ala-Pietilä, der auch Mitglied des SAP-Aufsichtsrats ist. Die EU-Kommission will ihre jährliche Förderung für KI im Rahmen des Forschungs- und Innovationsprogramms Horizon 2020 bis Ende 2020 um 70 Prozent auf 1,5 Milliarden Euro aufstocken.

Anfang des Jahres stellte die Gruppe ihre Empfehlungen für KI-Politik und -Investitionen sowie ihre Ethik-Leitlinien für vertrauenswürdige KI vor. SAP war zudem Gastgeber eines EU-Forscher-Treffens in Walldorf, bei dem der Frage nachgegangen wurde, wie Großunternehmen  zuverlässige KI entwickeln können.

„Außerdem haben wir gemeinsam mit den Mitgliedern der EU-Expertengruppe einen openSAP-Kurs zum Thema KI-Ethik entwickelt“, sagt Noga. Basierend auf den Grundsätzen für KI von SAP und den „Ethics Guidelines for Trustworthy AI“ der EU steht nun ein Handbuch für Mitarbeiter zur Verfügung (siehe Kasten).

Neben dem internen Komitee hat SAP auch einen externen KI-Ethikrat ins Leben gerufen, der vierteljährlich tagt.

„Wir diskutieren Konzepte, wie verschiedene Kulturen KI sehen und wie wir die ethischen Werte der verschiedenen Regionen am besten mit den globalen ethischen Standards in Einklang bringen können“, sagt Noga. „Wir haben auch einige interessante Rechtsbegriffe diskutiert. Die von uns angebotenen KI-Tools könnten von unseren Kunden auf eine Weise eingesetzt werden, die wir uns vielleicht gar nicht vorstellen können.“

KI unter Einhaltung ethischer Grundsätze entwickeln und verkaufen

Rückblickend auf das erste Jahr mit ethischen Leitlinien für KI, fasst Noga zusammen:

„Die Arbeit an Ethik-Leitlinien für KI ist noch nicht beendet. Es ist erst ein Jahr vergangen. Da bleibt immer noch viel zu tun, um die Leitprinzipien in die Praxis umzusetzen und sicherzustellen, dass alle SAP-Mitarbeiter KI unter Einhaltung ethischer Grundsätze entwickeln und verkaufen.“


Zu diesem Artikel hat Mary Carol Madigan beigetragen, die als AI Product Team Lead für KI-Ethik verantwortlich ist.