Die Grundsätze für Künstliche Intelligenz von SAP

Diese sieben Grundsätze der SAP für Künstliche Intelligenz gelten ab sofort. Finanzvorstand Luka Mucic spricht über ihre Relevanz und Zielsetzung.

Nun sind sie offiziell! Die Grundsätze der SAP für den Umgang mit Künstlicher Intelligenz (KI) stehen fest und sind öffentlich einsehbar. Und so lauten die Grundsätze:

Präambel

Angesichts der wesentlichen Auswirkungen, die KI auf die Menschen, unsere Kunden und die Gesellschaft haben wird, hat SAP diese Leitprinzipien entwickelt. Sie dienen dazu, die Entwicklung und Einführung unserer KI-Software zu steuern und unser Ziel umzusetzen, die Abläufe der weltweiten Wirtschaft und das Leben der Menschen zu verbessern.

Für uns sind diese Leitlinien ein Bekenntnis, die gesetzlichen Anforderungen nicht nur einzuhalten, sondern darüber hinaus richtungsweisend zu handeln und uns eingehend und kontinuierlich mit den ethischen und sozioökonomischen Herausforderungen von KI auseinanderzusetzen. Wir freuen uns darauf, unsere Gespräche mit Kunden, Partnern, Mitarbeitern, Behörden und der Gesellschaft auszudehnen und dies in unseren Grundprinzipien und in der sich wandelnden Technologielandschaft zum Ausdruck zu bringen.

Die Grundsätze der SAP für den Umgang mit KI: 

  1. Unser Handeln orientiert sich an unseren Werten.

Wir sind uns bewusst, dass KI, wie jede andere Technologie, in einer Weise genutzt werden könnte, die nicht diesen Leitprinzipien und nicht den von uns festgelegten betrieblichen Richtlinien entspricht. Bei der Entwicklung von KI-Software werden wir stets unserer Selbstverpflichtung zur Achtung der Menschenrechte, den UNO-Leitprinzipien für Wirtschaft und Menschenrechte, den Gesetzen und international anerkannten Normen treu bleiben. Soweit erforderlich, wird unser interner KI-Ethikrat unsere Teams beraten, um ihnen zu zeigen, inwieweit bestimmte Anwendungsfälle von diesen Grundsätzen betroffen sind. Wenn etwas im Widerspruch zu unseren Prinzipien steht, werden wir alles tun, um die missbräuchliche Nutzung unserer Technologie zu verhindern.

  1. Wir entwickeln für Menschen.

Es ist unser Ziel, KI-Softwaresysteme zu entwickeln, die inklusiv sind und die Talente unserer unterschiedlichen Anwender verstärken und ergänzen. Unsere unterstützenden und intuitiven Technologien stellen den Menschen und sein Benutzererlebnis in den Mittelpunkt. So nutzen wir KI, um Menschen zu helfen, ihr Potenzial voll und ganz zu entfalten. Um dieses Ziel zu erreichen, arbeiten wir bei der Entwicklung unserer Systeme eng mit unseren Anwendern zusammen – in einem kooperativen, multidisziplinären Umfeld, das von demographischer Vielfalt geprägt ist.

  1. Wir ermöglichen Unternehmen ein vorurteilsfreies Handeln.

Vorurteile können einen negativen Einfluss auf KI-Software und somit auf Einzelpersonen und unsere Kunden haben. Dies gilt besonders dann, wenn die Gefahr besteht, dass Diskriminierungen entstehen oder Minderheiten ungerecht behandelt werden. Daher müssen unsere technischen Teams ein umfassendes Verständnis der geschäftlichen Probleme entwickeln, die sie zu lösen versuchen, sowie der dafür erforderlichen Datenqualität. Wir möchten die Vielfalt und Interdisziplinarität unserer Teams erhöhen und wir suchen neue technische Möglichkeiten, um Vorurteile zu vermeiden. Wir setzen alles daran, unsere Kunden dabei zu unterstützen, noch vielfältigere Unternehmen aufzubauen, indem sie künstliche Intelligenz nutzen, um Produkte herzustellen, die Unternehmen ohne Vorurteile ermöglichen.

  1. Bei allem was wir tun, streben wir Transparenz und Integrität an.

Unsere Systeme unterliegen bestimmten Standards, die im Einklang mit ihren technischen Möglichkeiten und dem Verwendungszweck stehen. Die zugehörigen Eingaben, Funktionen, der Nutzungszweck und die Grenzen werden klar an unsere Kunden kommuniziert und wir stellen unseren Kunden und Anwendern geeigneten Überprüfungs- und Kontrollfunktionen zur Verfügung. Unsere Anwender und Kunden haben heute und auch in Zukunft jederzeit die Kontrolle über den Einsatz unserer Produkte. Wir unterstützen aktiv die Zusammenarbeit mit der Industrie und werden Untersuchungen durchführen, um mehr Systemtransparenz zu gewährleisten.

Wir handeln integer im Einklang mit unseren SAP-Geschäftsgrundsätzen, unserem internen KI-Ethikrat und unserem externen KI-Ethik-Beratungsgremium.

  1. Wir wahren Qualitäts- und Sicherheitsstandards.

Wie bei all unseren Produkten unterliegt unsere KI-Software unserem Qualitätssicherungsprozess, den wir stets überprüfen und bei Bedarf anpassen. Unsere KI-Software durchläuft sorgfältige Tests in Geschäftsszenarien, um sicherzustellen, dass die Software dem Verwendungszweck entspricht und dass die Produktspezifikationen erfüllt werden. Wir arbeiten eng mit unseren Kunden und Anwendern zusammen, um die Qualität, Sicherheit und Zuverlässigkeit unserer Systeme zu wahren und weiter zu verbessern.

  1. Der Datenschutz und die Privatsphäre stehen immer im Mittelpunkt unseres Handelns.

Der Datenschutz und die Privatsphäre sind eine Unternehmensvorgabe und stehen im Zentrum eines jeden Produkts und Service. Wir kommunizieren klar, wie, warum, wo und wann Kunden- und anonymisierte Nutzerdaten in unserer KI-Software verwendet werden.

Diese Verpflichtung zum Datenschutz spiegelt unsere Bereitschaft wider, alle entsprechenden gesetzlichen Vorgaben zu erfüllen und gemeinsam mit führenden Hochschuleinrichtungen zu forschen, um die nächste Generation von Methoden und Technologien zum besseren Schutz der Privatsphäre zu entwickeln.

  1. Wir gehen die gesellschaftlichen Herausforderungen an, die mit KI verbunden sind.

Während wir über die zuvor genannten Bereiche zum größten Teil die Kontrolle haben, gibt es zahlreiche neue Herausforderungen. Deshalb müssen wir einen sehr viel breiteren Diskurs führen – über Branchen, Fachbereiche, Grenzen sowie kulturelle, philosophische und religiöse Traditionen. Hierzu gehören folgende Fragen:

Wirtschaftliche Auswirkungen, etwa die Frage, wie Industrie und Gesellschaft zusammenarbeiten können, um Arbeitnehmer und Studenten auf eine Wirtschaft vorzubereiten, in der KI eine große Rolle spielt. Ebenso, welche Anpassungen in den Bereichen ökonomische Umverteilung, soziale Sicherheit und wirtschaftliche Entwicklung nötig sein werden.

Soziale Auswirkungen, etwa der Wert und die Bedeutung von Arbeit für die Menschen sowie die potentielle Rolle, die KI-Software in den Bereichen Betreuung und Pflege spielen kann.

Normative Fragestellungen wie die Auseinandersetzung mit den von KI aufgeworfenen ethischen Dilemmas und die Frage, welche Anwendungsfelder von KI, insbesondere im Hinblick auf Sicherheit, als akzeptabel erachtet werden sollten.

Es ist uns ein Anliegen, dass die SAP sich als eine von vielen Gruppen aktiv an diesen Debatten beteiligt, indem sie mit dem KI-Ethik-Beratungsgremium sowie zahlreichen Partnerschaften und Initiativen zusammenarbeitet.

Hintergrund und Entstehung

Die Grundsätze entworfen hat ein eigens dazu eingerichteter interner Ethikrat. Ihm gehören neun Führungskräfte aus verschiedenen Bereichen bei SAP an (Mitgliederliste siehe unten). Dieses Gremium fokussiert sich auf die Prozesse innerhalb der SAP und die Produkte, die daraus entstehen. Es stellt sicher, dass die Software unter der Berücksichtigung ethischer Grundsätze gebaut wird.

Neben dem Ethikrat hat SAP als erstes Technologieunternehmen in Europa auch einen externen Beratungsausschuss ins Leben gerufen. Die Mitglieder sind Experten aus Wissenschaft, Politik und Wirtschaft, deren Arbeitsgebiete an der Schnittstelle zwischen Ethik und Technologie, insbesondere dem Gebiet der KI, liegen. Auch andere Unternehmen wie Google und Microsoft haben eigene KI-Grundsätze entworfen, um ethischen Fragestellungen hinsichtlich der Risiken von KI zu begegnen.

Die Grundsätze der SAP beruhen auf der Erklärung der SAP zur Verpflichtung der Einhaltung der Menschenrechte und den UNO-Leitprinzipien für Wirtschaft und Menschenrechte. Gespräche mit Kunden, Partnern und Mitarbeitern sowie der öffentliche Diskurs bilden ihre Grundlage.

Interview mit Luka Mucic über ethische Grundsätze

Die SAP-Vorstandsmitglieder Jennifer Morgan, Global Customer Operations, und Luka Mucic, Chief Financial Officer, zeichnen sich im Namen des Vorstands für diese Initiative verantwortlich. Mucic gibt im folgenden Interview weitere Aufschlüsse zu den neuen Grundsätzen.

Warum braucht die SAP ethische Leitlinien für KI?

Luka Mucic: Die ethischen Leitlinien sollen Bedenken über den Einsatz von KI ausräumen und sicherstellen, dass die SAP bei der Entwicklung ihres KI-Portfolios integer handelt und das fortwährende Vertrauen in unser Unternehmen und unsere Lösungen gewahrt bleibt. Als Marktführer für Unternehmenssoftware unterstützt die SAP über 400.000 Kunden weltweit, wobei 77 % aller Transaktionsumsätze weltweit über ein SAP-System laufen. SAP-Anwendungen beeinflussen täglich das Leben von Milliarden von Menschen. Wir setzen uns mit den ethischen und sozialen Implikationen dieses technischen Fortschritts auseinander und beteiligen uns an der öffentlichen Diskussion zu diesem Thema. Unser Ziel ist, weiterhin Software zu entwickeln, die es Menschen ermöglicht, ihre intellektuellen Kompetenzen zu entfalten.

Diese Leitsätze sind ähnlich vage wie die von anderen Firmen. Warum?

Mucic: Im Gegensatz zu anderen Firmen – wie Salesforce, das Ende August eine externe Beratergruppe einführte – haben wir seit Mai 2018 einen internen und vollständig transparenten Ethikrat besetzt. Das Ergebnis dessen Diskussionen spiegelt sich bereits in der aktuellen Version unserer Leitsätze für KI-Ethik wider. Ab Oktober wird dem internen Komitee ein externer Beratungsausschuss zur Seite stehen.

Die zwei Gruppen treffen sich regelmäßig, um die Diskussion innerhalb der SAP kontinuierlich voranzutreiben und zu operationalisieren. Der Ethikrat trifft sich monatlich, der externe Beratungsausschuss nimmt vierteljährig an den Gesprächen teil. Wir wollen sicherstellen, dass wir den Leitsätzen gerecht werden: So stellt der interne Ethikrat nicht nur sicher, dass die Leitsätze aktuell sind, sondern unterstützt auch interne Teams, die konkret KI-Ethik-Aktivitäten umsetzen. Der externe Beratungsausschuss bringt nicht nur die wichtige externe Perspektive ein, sondern überprüft auch Änderungen der Richtlinien und Verfahren, um sicherzustellen, dass Lücken tatsächlich geschlossen werden.

Manche rechnen damit, dass künstliche Intelligenz zu Massenarbeitslosigkeit führen wird. Was tut SAP dagegen?

Mucic: Es herrscht noch viel Unsicherheit über die genauen Auswirkungen von KI auf den Arbeitsmarkt und über den Zeithorizont, in dem es zu Veränderungen kommen wird. Wir denken, es ist wichtig, ehrlich zu sein. Wir sind zwar davon überzeugt, dass KI ein gewaltiges Potenzial birgt, um die Abläufe der weltweiten Wirtschaft und das Leben von Menschen zu verbessern. Gleichzeitig wissen wir aber, dass es schon immer Menschen gegeben hat und weiterhin geben wird, auf die sich technische Veränderungen nachteilig auswirken. Uns ist aber auch bewusst, dass sich Veränderungen durch KI wahrscheinlich in gleicher Form wie andere große technischen Entwicklungen in der Geschichte (wie zum Beispiel die industrielle Revolution) manifestieren werden. Das heißt, es werden neue Arten von Tätigkeiten entstehen, während andere durch technische Entwicklungen wegfallen.

Unternehmen sind in der Verantwortung sicherzustellen, dass wir das riesige positive Potenzial von KI nutzen können, indem sie Produkte schaffen, die es Menschen erlauben, mehr Freude bei der Arbeit zu haben, sich auf ihre Stärken zu konzentrieren und die Art von Innovationen voranzutreiben, die weiterhin mehr Arbeitsplätze schaffen werden. Gleichzeitig müssen wir zum Beispiel über die Expertengruppe der EU für KI mit öffentlichen Institutionen zusammenarbeiten, um Investitionen zu erleichtern, die es Studierenden und Mitarbeitern ermöglichen, die vorhandenen Chancen voll zu nutzen! Massive Open Online Courses der SAP sind nur ein Beispiel dafür, wie das aussehen könnte.

Nächste Schritte zur Ausrollung der Ethikrichtlinien

Die Ausrollung der Ethikrichtlinien verläuft in mehreren Phasen. Die Ausrufung der sieben Leitsätze ist ein erster Schritt. Er soll Bewusstsein schaffen und Mitarbeiter darin bestärken, das Thema ernst zu nehmen. Neben dem breiten Angebot an Massive Open Online Courses zum Thema KI wird zurzeit eine interne Machine-Learning-Fortbildung für alle interessierten Mitarbeiterinnen und Mitarbeiter konzipiert, die auch die Thematik KI beinhaltet. Zudem sollen Mitarbeiter, die direkt an KI-Software arbeiten, mehr eingebunden werden, etwa durch das bei SAP bewährte Employee-Ambassador-Konzept.

Der Ethikrat wird sich darauf konzentrieren, die Grundsätze innerhalb der SAP zu verankern und voranzutreiben. Er wird den externen Beratungsausschuss über neueste Fortschritte und Erkenntnisse bei SAP ins Bild setzen und sich mit ihm über die Weiterentwicklung der Grundsätze austauschen. Die Gruppe wird weiterhin prüfen, wie die neuen Leitsätze in bestehende Policies bei SAP zu integrieren sind. Zum Beispiel muss jedes SAP-Produkt vor seinem Release 150 Qualitätschecks durchlaufen und auch diese Schritte werden erweitert, um sie an die Anforderungen durch KI anzupassen.

Der Ethikrat bildet auch die Schnittstelle zum Austausch zwischen den Mitarbeitern, die die Software entwickeln und verkaufen. Offene Fragen werden dort diskutiert und Präzedenzfälle gelöst. Algorithmen, die möglicherweise nicht den Leitsätzen entsprechen, werden im Einzelfall analysiert.


Mitglieder Ethikrat & Beratungsausschuss

Mitglieder des internen Ethikrats:

  • Maricel Cabahug, Chief Design Officer
  • Mathias Cellarius, Data Protection Officer, Head of Data Protection and Privacy
  • Bridgette McInnis-Day, Chief HR Strategy & Digital Transformation Executive
  • Markus Noga, SVP Machine Learning
  • Rogerio Rizzi de Oliveira, Senior Vice President, Corporate Strategy
  • Daniel Schmid, Chief Sustainability Officer
  • Peter Selfridge, Global Head of Digital Government
  • FreekStaehr, Head of Global Legal, Commercial and Operations
  • Sebastian Wieczorek, Head of SAP Leonardo Machine Learning Foundation

Mitglieder des externen KI- Beratungsausschusses:

  • Prof. Dr. theol. Peter Dabrock, Lehrstuhl für Systematische Theologie (Ethik), Universität Erlangen-Nürnberg
  • Prof. Dr. Henning Kagermann, Vorsitzender des acatech Kuratoriums, acatech Senator
  • Dr. Susan Liautaud, Dozentin für Public Policy und Rechtswissenschaft an der Stanford University sowie Gründerin und Geschäftsführerin von Susan Liautaud & Associates Limited (SLAL)
  • Prof. Dr. Helen Nissenbaum, Professorin für Informationswissenschaft an der Cornell Tech
  • Dr. Nicholas Wright, Berater bei Intelligent Biology, Affiliated Scholar am Pellegrino Center for Clinical Bioethics des Georgetown University Medical Center und Honorary Research Associate am Institute of Cognitive Neuroscience des University College London

Weitere Informationen unter: