Frauen prägen den Themenbereich künstliche Intelligenz (KI) bei SAP maßgeblich. In diesem Artikel berichten fünf SAP-Mitarbeiterinnen von ihrer Rolle im Themenbereich KI, den technischen Herausforderungen und der ethischen Gestaltung von KI.
Der Frauenanteil der SAP-Belegschaft liegt bei etwa 35 Prozent. Bei der Gestaltung von KI scheinen jedoch überdurchschnittlich viele Frauen mitzuwirken.
In diesem Artikel berichten fünf SAP-Mitarbeiterinnen über ihre Rolle bei SAP, ihre Motivation und Tipps für alle, die in das Themenfeld der künstlichen Intelligenz einsteigen wollen. Khawla Mallat, Camila Lombana Diaz, Xin Chen, Nadine Hoffmann und Puntis Palazzolo kommen aus vier verschiedenen Ländern und drei unterschiedlichen Bereichen: Data Science Engineering, Produktmanagement und KI-Ethik.
Data Science Engineering: technische Herausforderungen im Zusammenhang mit KI
Dr. Khawla Mallat, Security and Quantum Exploration Team, SAP France
Sollten Sie eine Karriere im Bereich der KI anstreben, „seien Sie bereit, sich immer wieder herausfordern zu lassen”, sagt Mallat.
Im Gegensatz zu den meisten Data Scientists bei SAP arbeitet Mallat nicht direkt am Produkt, sondern ausschließlich in der Forschung. Sie befasst sich mit „einigen technischen Herausforderungen im Zusammenhang mit KI, nämlich Fairness, Erklärbarkeit, Datenschutz und Sicherheit.”
Bevor sie vor zwei Jahren zu SAP kam, wurde Mallat mit den unbeabsichtigten Vorurteilen von Gesichtsanalysesystemen konfrontiert. Bestimmte demografische Gruppen, erklärt Mallat, wurden in den zugrunde liegenden Datensätzen versehentlich ausgelassen oder waren unterrepräsentiert, was zu Unzulänglichkeiten in den Gesichtsanalysefunktionen führte. Solche Fälle beleuchten das allgemeinere Problem der Voreingenommenheit bei KI-Anwendungen. In Bereichen wie dem Personalwesen, so die Expertin weiter, scheint die Entfernung persönlicher Details aus den Datensätzen das Problem der Verzerrung zu lösen. Die KI kann allerdings immer noch auf diese Details schließen. Das führt zu potenziell verzerrten Ergebnissen. Lässt man solche Datensätze zu leistungsstarken Datenmodellen heranwachsen, die keiner Überprüfung unterliegen, wird die inhärente Voreingenommenheit oder Diskriminierung nur noch verstärkt.
Heute deckt sich Mallats Leidenschaft für die Bekämpfung solcher Ungerechtigkeiten mit ihrer Aufgabe, die inhärenten Risiken von KI zu identifizieren, Teams darüber aufzuklären und technologische Lösungen zu ihrer Minderung zu entwickeln.
„Um erfolgreich zu sein, müssen wir einen interdisziplinären Ansatz für KI wählen, zum Beispiel mit Experten für Ethik und Rechtskonformität und von der Rolle der Datenwissenschaftler wegkommen”, sagt Mallat.
„Ich liebe die Arbeit im Bereich KI”, fährt sie fort. „Alles entwickelt sich in einem unglaublichen Tempo, und wenn man mit KI arbeiten will, muss man einen gewissen Wissensdurst haben. Und unabhängig von Ihrer Rolle müssen Sie die KI-Ethik – also die Vorschriften und den Rechtsrahmen – ernst nehmen, denn diese haben enorme Auswirkungen nicht nur auf SAP, sondern auf den Einzelnen und die Gesellschaft im Allgemeinen.”
KI-Ethik: eine menschenzentrierte Perspektive für verantwortliche künstliche Intelligenz
Camila Lombana Diaz, Responsible AI, Germany
„KI ist ein Spiegel unserer Fähigkeiten als Menschen. Die größte Verantwortung für alle, die im Bereich KI arbeiten, ist die Frage, was wir in diesem Spiegel sehen wollen”, erklärt Lombana Diaz, Forschungsexpertin für KI-Ethik im Team für KI-Ethik/ Verantwortliche KI, das im Wachstumsbereich SAP Business AI angesiedelt ist.
Zu den Aufgaben von Lombana Diaz gehören die Weiterentwicklung und Anwendung der globalen KI-Ethikrichtlinien von SAP, die Erstellung und Bereitstellung von Schulungsinhalten, die Definition von KI-Personen und -Prozessen sowie die Bereitstellung von Leitlinien, um verantwortungsvolle KI zu einer operativen Realität für die Entwicklung zu machen, wie im KI-Ethikhandbuch von SAP beschrieben.
Als sie vor acht Jahren zu SAP kam, zunächst als UX-Designerin und dann als strategische Designerin, waren maschinelles Lernen und KI zentrale Themen. Aber es wurde ihr immer klarer, dass „das Verständnis der menschlichen Implikationen von KI für eine verantwortungsvolle und ethische KI eine menschenzentrierte Perspektive erfordert”.
Obwohl sich SAP der ethischen Entwicklung von KI verschrieben hat – Entwickler müssen nun Aufgaben zur ethischen Bewertung von KI absolvieren und ein Lenkungsausschuss prüft alle risikoreichen Anwendungsfälle -, betont Lombana Diaz, dass man sich weiterhin auf die inhärenten Risiken und unbeabsichtigten Schäden konzentrieren muss, die KI mit sich bringen kann. Ein Teil ihrer Aufgabe ist die fortlaufende Bewertung der Technologie, die Identifizierung von Risiken und Beschränkungen und deren Weitergabe an verschiedene Teams.
Wie KI, so entwickeln sich auch die verschiedenen Rollen im rasanten Tempo weiter. Lombana Diaz setzt sich leidenschaftlich dafür ein, KI über die Grenzen einer technologiezentrierten Perspektive hinaus zu betrachten. „KI ist heute eine allgegenwärtige Technologie, die unser tägliches Leben prägt. Daher brauchen wir Menschen, die in diesem Bereich arbeiten und die KI-Technologie in den Mittelpunkt der Gemeinschaft stellen. Die KI-Ethik ist ein Raum für experimentierfreudige, offene, neugierige, kollaborative und menschenzentrierte Individuen.“
„Die Zeit für den Einstieg in die KI und den Aufbau einer Karriere ist jetzt gekommen, denn im Gegensatz zur Technologie wird das Geschäft der KI, die rechtlichen und ethischen Aspekte, immer noch gestaltet”.
Camila Lombana Diaz, Responsible AI, Germany
Data Science Engineering: Maschinelles Lernen und Fairness
Dr. Xin Chen, SAP HANA Machine Learning, China
„Seit ich vor neun Jahren bei SAP angefangen habe, habe ich immer gerne gearbeitet. Ich mag das Arbeitsumfeld und die Kollegen hier und möchte andere dazu ermutigen, sich uns im Bereich KI anzuschließen”, sagt Chen, Data Science Researcher im SAP HANA Machine Learning Team.
Das Team arbeitet an einer Toolbox, die verschiedene Arten von Algorithmen des maschinellen Lernens für Regression, Klassifizierung, Clustering usw. für die SAP HANA-Bibliothek für Vorhersageanalysen bereitstellt.
Ein Teil von Chens Aufgabe besteht darin, Forschungsarbeiten über die neuesten Algorithmen für maschinelles Lernen zu untersuchen und gemeinsam mit dem Team zu entscheiden, welche Algorithmen für die Kunden von Vorteil sind. Sobald die Algorithmen für maschinelles Lernen implementiert sind, werten Chen und ihr Team das Feedback der Kunden aus und liefern Verbesserungen.
Kürzlich untersuchten Chen und ihr Team Algorithmen für maschinelles Lernen, die sich mit dem Begriff der Fairness befassen. „Fairness ist gerade ein sehr aktuelles Thema”, sagt sie. „In der Mathematik gibt es verschiedene Vorstellungen von Fairness, aber es ist immer noch ein komplexes und sich entwickelndes Thema”.
Und Chens Rat an angehende KI-Entwickler? „Kritisches Denken wird noch wichtiger werden, um zu verstehen, welche Lösungen man anbieten kann, um seine eigenen Innovationen zu beurteilen und um zu wissen, ob das erzeugte Ergebnis richtig oder falsch ist”, sagt sie in Bezug darauf, dass diese Fähigkeit für künftige KI-Entwickler immer wichtiger werden wird.
Produkt Management: der Einklang von Kunden und Software mit KI-Produkten
Nadine Hoffmann, SAP Business AI, Germany
„Ich übersetze und ich will faszinieren”, sagt Hoffmann, Globale KI Produktmanagerin im Wachstumsbereich SAP Business AI.
Auch nach mehr als 20 Jahren bei SAP reizen Hoffmann disruptive Ideen und Denkanstöße. Eine Expertin für neue Technologien zu sein und sich von deren ständiger Menge und Geschwindigkeit anregen und begeistern zu lassen, ist entscheidend, um in den KI-Produktmanagement-Teams von heute erfolgreich zu sein, denn das Produktmanagement ist der Klebstoff zwischen Partnern, Kunden, der Praxis und der Entwicklung.
„Auf der einen Seite”, so Hoffmann, „hat SAP Datenwissenschaftler, Softwareingenieure und Forscher, die unsere Software auf das nächste Level bringen. Und auf der anderen Seite gibt es Experten, die die rechtlichen und ethischen Leitplanken definieren.” Das Produktmanagement muss sowohl die “technische Software-Sprache” als auch die “Kunden-Sprache” fließend beherrschen, um Wünsche, Problemstellen und Geschäftsprozesse zu verstehen.
Zwischen diesen beiden Sprachen zu wechseln und die Sprache des Kunden mit der technischen Sprache der Software in Einklang zu bringen, ist wie das Übersetzen eines Textes, sagt Hoffmann. Unsere Software wird nur dann den Anforderungen der Kunden gerecht, wenn es ein gemeinsames Verständnis zwischen den Teams, die für die technische Entwicklung verantwortlich sind, den juristischen Teams, die für die ethische und rechtliche Compliance zuständig sind, und dem Kunden gibt.
Unabhängig von der neuesten Innovation geht es laut Hoffmann im Produktmanagement darum, „Teams und Partner nicht nur von der Einfachheit und Positivität einer Technologie zu überzeugen, sondern sie so zu faszinieren, dass sie zu leidenschaftlichen Befürwortern werden und intrinsisch motiviert sind, selbst mehr darüber zu erfahren”.
Data Science Engineering: Probleme mit KI gemeinsam anzugehen
Puntis Palazzolo, AI Strategist & Ethics Lead, SAP SuccessFactors, USA
„Die ethischen Herausforderungen, die KI mit sich bringt, sind nicht mehr nur auf einzelne Unternehmen beschränkt, sondern gehen über Unternehmen wie SAP hinaus. Es ist wichtig, dass wir mit anderen zusammenarbeiten, um die aufkommenden Probleme von KI gemeinsam anzugehen”, sagt Palazzolo, die das SAP SuccessFactors Data Science Team leitet.
Das Team fungiert als Beratungsdienst für KI-Anwendungsfälle für Produktteams in SAP SuccessFactors, analysiert das Problem, entwickelt Code und Algorithmen und erstellt Proof-of-Concepts. Erfolgreiche KI-Anwendungsfälle werden dann in SAP SuccessFactors-Lösungen integriert.
Ein Großteil der Daten in SAP SuccessFactors-Lösungen sind sensible Kundendaten. Angesichts der drastischen Zunahme von generativen KI-Anwendungen muss der Schutz von Kundendaten Vorrang haben, sagt Palazzolo. „Generative KI ist eine leistungsstarke Technologie, die neue Herausforderungen mit sich bringt, wie zum Beispiel Halluzinationen und automatisierte Entscheidungsfindung. In Hochrisikobereichen wie dem Personalwesen müssen wir erklären, wie wir zu bestimmten Entscheidungen kommen, insbesondere wenn wir das Leben von Menschen beeinflussen.”
Palazzolo ist seit 11 Jahren bei SAP und seit 2013 in Palo Alto, Kalifornien, ansässig, wo sie SAP bei MLCommons vertritt. Eine Kooperation von Hochschulen und Unternehmen wie Google und NVIDIA, die sich der Entwicklung sicherer Verfahren und branchenüblicher Benchmarks zur Verbesserung von KI-Modellen widmet.
Ihr Rat an aktuelle und angehende KI-Anwender macht deutlich: Folgen Sie Ihrer Leidenschaft, seien Sie ethisch korrekt, und verschaffen Sie sich Gehör, solange noch Zeit ist.
„Der Gesetzgeber allein kann keine KI-Vorschriften für uns erlassen, weil er die Komplexität nicht vollständig versteht”, sagt sie. „Wir können nicht alle Probleme selbst lösen, aber wir müssen uns Gehör verschaffen, um die Zukunft der KI zu gestalten.”
Puntis Palazzolo, AI Strategist & Ethics Lead, SAP SuccessFactors, USA
Alexa MacDonald ist Redakteurin bei SAP News.
