SAP a publié ses principes directeurs pour l’intelligence artificielle (IA).
Préambule
Consciente des répercussions importantes de l’IA sur les individus, sur nos clients et sur la société de manière générale, la société SAP a conçu ces principes directeurs pour piloter le développement et le déploiement de nos logiciels d’IA pour améliorer la société et le quotidien des individus.
Ces directives visent à dépasser ce qui est requis du point de vue juridique et à initier un engagement plus profond et continu vis-à-vis des défis éthiques et socioéconomiques de l’IA à une échelle plus large. Nous sommes impatients d’ouvrir la discussion avec les clients, partenaires, employés, organismes législatifs et la société civile, et de faire de nos principes directeurs une réflexion en évolution constante sur ces débats et sur l’infrastructure technologique en pleine mutation.
1. Nous sommes guidés par nos valeurs
Nous savons que, comme avec n’importe quelle technologie, l’IA peut être utilisée d’une manière qui ne suit pas ces principes directeurs et les directives opérationnelles que nous élaborons. En développant des logiciels d’IA, nous restons fidèles à notre Déclaration d’engagement en matière de droits de l’Homme, aux Principes directeurs de l’ONU relatifs aux entreprises et aux droits de l’Homme, à la législation et aux normes internationales généralement validées. Le cas échéant, notre comité de pilotage d’éthique de l’IA conseillera nos équipes, en l’avisant de l’incidence qu’ont ces principes directeurs sur des cas d’utilisation spécifiques. En cas de conflit avec nos principes, nous ferons notre possible afin d’empêcher toute utilisation inappropriée de nos technologies.
2. Notre conception s’adresse aux utilisateurs
Nous nous efforçons de créer des systèmes logiciels d’IA inclusifs visant à responsabiliser nos différents utilisateurs et à multiplier leurs talents. En fournissant des expériences utilisateur axées sur l’humain via des technologies améliorées et intuitives, nous exploitons l’IA pour permettre aux individus d’utiliser leur plein potentiel. Pour cela, nous concevons nos systèmes en collaboration étroite avec les utilisateurs dans un environnement collaboratif, multidisciplinaire et diversifié du point de vue démographique.
3. Nous favorisons l’impartialité dans les entreprises
La partialité peut avoir un impact négatif sur les logiciels d’IA et, en retour, sur les collaborateurs et nos clients. C’est le cas lorsqu’il existe un risque de provoquer une discrimination ou d’impacter de façon injuste des groupes sous-représentés. C’est pour cela que nous demandons à nos équipes techniques de comprendre clairement les problèmes qu’ils essaient de résoudre et de ne pas négliger la qualité des données exigée. Nous cherchons à développer la diversité et l’interdisciplinarité de nos équipes et nous essayons de nouvelles techniques pour réduire la partialité. Nous nous engageons également à soutenir nos clients dans la création d’entreprises encore plus diversifiées en utilisant l’IA pour créer des produits contribuant à l’impartialité dans les entreprises.
4. Nous aspirons à la transparence et l’intégrité dans tout ce que nous faisons
Nos systèmes doivent respecter certaines normes en fonction de leur niveau de capacité techniques et de l’utilisation prévue. Leurs contenus, fonctionnalités, utilisation et restrictions seront clairement communiquées à nos clients et nous fournirons aux clients et utilisateurs les moyens de les surveiller et les contrôler. Ils ont, et garderont toujours, le contrôle du déploiement de nos produits. Nous soutenons activement la collaboration industrielle et mènerons des recherches pour augmenter la transparence des systèmes.
Nous travaillons avec intégrité, en accord avec notre code de déontologie, notre comité de pilotage d’éthique de l’IA interne et notre panel consultatif sur l’éthique de l’IA externe.
5. Nous appliquons des normes de qualité et de sécurité
Comme pour tous nos produits, nos logiciels d’IA sont soumis à notre processus d’assurance qualité, que nous adaptons continuellement en fonction des besoins. Nos logiciels d’IA sont soumis à des essais rigoureux dans des scénarios réels pour valider leur adéquation et confirmer que les spécifications des produits sont respectées. Nous travaillons en étroite collaboration avec nos clients et utilisateurs pour garantir et optimiser la qualité, la sécurité et la fiabilité de nos systèmes.
6. La protection et la confidentialité des données sont au cœur de nos préoccupations
La protection et la confidentialité des données font partie des exigences des entreprises et sont au cœur des préoccupations pour chaque produit et service. Nous indiquons clairement comment, pourquoi, où et quand nos logiciels d’IA utilisent des données client et utilisateur anonymes.
Cet engagement en matière de protection des données se reflète dans notre engagement à l’égard de l’ensemble des exigences réglementaires applicables ainsi qu’à travers la recherche que nous menons en partenariat avec de grandes institutions universitaires pour développer la prochaine génération de méthodologies et technologies propices à renforcer le respect de la vie privée.
7. Nous relevons les grands défis sociaux qu’implique l’IA
Bien que nous contrôlions, en grande partie, les domaines précédents, de nombreux défis émergents requièrent des échanges plus vastes au-delà des frontières entre les industries, les disciplines, les pays et les traditions culturelles, philosophiques et religieuses. Ils soulèvent notamment des questions sur les thèmes suivants :
- Impact économique : comment l’industrie et la société peuvent collaborer pour préparer les étudiants et les travailleurs à une économie de l’IA, et comment la société devra peut-être adapter les moyens de redistribution économique, de protection sociale et de développement économique ?
- Impact social : que deviendront la valeur et le sens du travail pour les individus, et est-ce que les logiciels d’IA joueront le rôle de compagnons et soignants ?
- Questions normatives : comment l’IA doit affronter les dilemmes éthiques et quelles applications de l’IA, en particulier concernant la sécurité et la sûreté, doivent être considérées comme autorisées ?
Nous sommes impatients de faire de SAP l’une des nombreuses voix actives dans ces débats en interagissant avec notre panel consultatif sur l’éthique de l’IA et en mettant en place un éventail de partenariats et d’initiatives.
Antécédents et contexte
Ces principes ont été rédigés par un comité de pilotage d’éthique formé à cet effet, composé de neuf cadres supérieurs de différents secteurs de l’entreprise (voir ci-dessous).
Le comité axe son travail sur les processus internes de SAP et sur les produits qui en découlent, en veillant à ce que les logiciels soient créés conformément aux principes éthiques.
Membres du comité de pilotage interne
Maricel Cabahug, directrice de la conception | Mathias Cellarius, responsable de la confidentialité des données, directeur de la confidentialité et protection des données | Brigette McInnis-Day, responsable de la stratégie RH et directrice de la transformation numérique | Markus Noga, vice-président senior, apprentissage automatique | Rogerio Rizzi de Oliveira, vice-président senior, stratégie d’entreprise | Daniel Schmid, directeur développement durable | Peter Selfridge, directeur international du secteur gouvernement numérique | Freek Staehr, directeur du service juridique international, du commerce et des opérations | Sebastian Wieczorek, responsable de SAP Leonardo Machine Learning Foundation
En mettant en place un comité de pilotage d’éthique, SAP est devenue la première société technologique en Europe à lancer un comité consultatif externe. Ses membres (voir ci-dessous) sont des experts issus du monde universitaire, politique et des affaires, dont les spécialités sont à l’interface entre l’éthique et la technologie, en particulier l’IA.
Membres du panel consultatif sur l’éthique de l’IA externe
Prof. Dr théol. Peter Dabrock, président du département de théologie systématique (éthique), Université d’Erlangen-Nürnberg | Prof. Dr Henning Kagermann, président du conseil d’administration d’Acatech (Académie allemande des sciences et de la technologie) ; sénateur d’Acatech | Dr Susan Liautaud, maître de conférences en politique et droit public, Stanford & Founder ; directrice générale, Susan Liautaud & Associates Limited (SLAL) | Prof. Dr Helen Nissenbaum, professeure, Cornell Tech Information Science | Dr Nicholas Wright, consultant, biologie intelligente ; universitaire affilié, Pellegrino Center for Clinical Bioethics Georgetown University Medical Center ; agrégé de recherche honoraire, Institute of Cognitive Neuroscience, University College London
Google et Microsoft font partie des entreprises qui ont également exprimé leur position sur l’IA et élaboré leurs propres principes pour répondre aux questions éthiques qui en découlent.
Les principes directeurs de SAP sont issus de la Déclaration d’engagement de SAP en matière de droits de l’Homme et des Principes directeurs de l’ONU relatifs aux entreprises et aux droits de l’Homme, et s’inspirent également de conversations avec les clients, partenaires et employés ainsi que de débats publics.
Entretien avec Luka Mucic
Les membres du Comité de direction SAP Jennifer Morgan (Global Customer Operations) et Luka Mucic (directeur financier) ont accepté de jouer les rôles de co-sponsors du Comité de direction pour l’initiative. Dans cet entretien, Luka Mucic partage ses perspectives sur les nouveaux principes directeurs.
Q : Pourquoi SAP a-t-il besoin de codes éthiques pour l’IA ?
R : Les codes éthiques pour l’IA permettent de répondre à des inquiétudes concernant l’IA. Leur objectif est de veiller à ce que le portefeuille IA de SAP préserve l’intégrité et la confiance sans faille dans notre entreprise et nos solutions. En tant que leader dans les technologies d’entreprise percevant 77 % des recettes liées aux transactions dans le monde et comptant plus de 400 000 clients tout autour du globe, SAP avec ses applications influence la vie de milliards de gens au quotidien. Nous considérons les implications éthiques et sociétales des dernières avancées technologiques et participons au débat public sur le sujet. Notre objectif est de continuer à créer des logiciels qui poussent l’humanité à utiliser son potentiel intellectuel.
Q : Ces principes sont tout aussi vagues que ceux publiés par d’autres entreprises. Pourquoi ?
R : Contrairement à d’autres entreprises, telles que Salesforce, qui vient de lancer un groupe consultatif externe fin août, nous avons mis en place un comité de pilotage entièrement transparent en mai 2018. Le résultat de ses discussions se reflète déjà sur la version actuelle de nos principes directeurs d’éthique de l’IA. Au quatrième trimestre, il sera rejoint par le panel de conseillers externes.
Ces deux groupes se rencontreront régulièrement pour poursuivre et opérationnaliser de façon continue la discussion au sein de SAP. Le comité de pilotage se réunit une fois par mois, et le panel consultatif externe se joint à la discussion chaque trimestre. Nous voulons être sûrs d’appliquer ces directives : le comité de pilotage interne, par exemple, veille non seulement à ce que les principes soient actualisés, mais il soutient également les équipes internes pour réaliser des activités concrètes liées à l’éthique de l’IA. Et le panel consultatif externe apporte non seulement un certain recul nécessaire, mais examine également les résultats des changements apportés aux politiques et procédures, pour veiller à combler certains « vides ».
La portée des principes est peut-être similaire à ce qu’ont pu faire d’autres sociétés, mais nos engagements autour des principes créent un précédent important pour le secteur qui, nous semble-t-il, pourra servir de modèle à d’autres entreprises.
Q : Certains pensent que l’IA entraînera un chômage massif. Quelles solutions proposez-vous pour éviter cela ?
R : Il existe encore beaucoup d’incertitudes quant à l’impact exact qu’aura l’IA sur le marché de l’emploi et le moment auquel se produiront ces changements. Nous pensons qu’il est important d’être honnêtes et d’avouer que, bien que nous soyons convaincus que l’IA présente un potentiel incroyable d’améliorer la société et le quotidien des individus, pour certains individus, encore et toujours, le changement technologique aura des conséquences négatives. Toutefois, nous savons également que les changements apportés par l’IA se dérouleront à l’image d’autres grands bouleversements technologiques qui ont marqué l’histoire (par exemple, la révolution industrielle), c’est-à-dire que de nouveaux types d’emplois ont été créés, compensant ceux qui ont été remplacés par le progrès technologique.
Il incombe aux entreprises comme nous de veiller à réaliser l’incroyable impact positif que peut avoir l’IA. Pour ce faire, nous devons créer des produits qui permettent aux individus de s’épanouir davantage dans leur vie professionnelle, de se concentrer sur les domaines dans lesquels ils sont performants et de porter le type d’innovation qui continuera à créer de l’emploi. En même temps, nous devons collaborer avec les gouvernements, par exemple à travers le groupe d’experts de haut niveau de l’UE, pour promouvoir des investissements qui permettent aux étudiants et aux travailleurs de tirer le meilleur profit des opportunités. Les cours MOOC (Massive Open Online Courses) de SAP ne sont qu’un petit exemple des possibilités.
Étapes suivantes
Le déploiement des codes éthiques peut être considéré comme un processus continu. L’engagement aux sept principes n’est qu’une première étape. Il doit permettre de sensibiliser les employés à ce sujet et de les encourager à le prendre au sérieux. En plus du large éventail de MOOC proposés sur l’IA, SAP conçoit un programme de formation à l’apprentissage automatique en interne pour les employés qui devront également aborder le thème de l’IA. En outre, les employés de SAP auront des opportunités pour s’impliquer davantage. Par exemple, des ambassadeurs des employés seront désignés, en particulier pour les équipes qui travaillent étroitement sur l’IA.
Le comité de pilotage d’éthique s’attachera désormais à appliquer et à alimenter les principes directeurs au sein de SAP. Il tiendra le comité consultatif externe informé de ses progrès et résultats, et discutera avec ses membres des moyens d’améliorer les principes. Le groupe étudiera également les moyens d’intégrer les nouveaux principes aux politiques existantes de SAP. Par exemple, chaque produit SAP doit déjà passer 150 contrôles qualité avant d’être commercialisé. Ces contrôles seront développés afin de prendre en compte les exigences supplémentaires qu’implique l’IA.
Le comité servira également d’interface entre les employés qui développent le logiciel et ceux qui le vendent. À cette fin, il mettra en place une plateforme pour discuter des problèmes non résolus et créer des précédents. Les éventuels algorithmes ne respectant pas les principes seront analysés au cas par cas.
Lien : https://news.sap.com/2018/09/sap-guiding-principles-for-artificial-intelligence/
