Barbara Cosgrove, Chief Privacy Officer chez Workday, évoque l'importance croissante accordée à la convergence de la confidentialité des données et de l'intelligence artificielle (IA). Découvrez comment l'entreprise concilie confidentialité et nécessité d'optimiser la valeur des technologies d'intelligence artificielle.
Le 25 mai marque le cinquième anniversaire du Règlement général sur la protection des données (RGPD), et quel parcours étonnant ! Le RGPD a inauguré une nouvelle ère d'exigences en matière de transparence et de responsabilité dans le traitement des données, obligeant les entreprises à adopter le concept de « Privacy by Design ». Les conversations avec les clients et les régulateurs portent de plus en plus sur la convergence de la confidentialité des données et de l'intelligence artificielle (IA) et du Machine Learning (ML). Selon la personne à qui vous posez la question, l'avenir de l'IA et du ML semble brillant, sombre, ou les deux à la fois. Cela ne me surprend pas car l'innovation a toujours suscité ce genre de réactions.
La confidentialité des données revêt une importance capitale lorsqu'il s'agit de la technologie d'IA et de ML. Les modèles dépendent fortement de la qualité et de la quantité des données qu'ils reçoivent. Or, les entreprises doivent pouvoir optimiser la valeur des solutions d'IA et de ML sans porter atteinte à la confidentialité. Les dirigeants d'entreprise veulent des garanties de sécurité qui protègent les informations de leur entreprise tout en automatisant les tâches courantes pour permettre à leurs salariés de se consacrer à des activités plus significatives.
La bonne nouvelle est que l'innovation responsable et la protection des droits personnels des individus ne sont pas forcément incompatibles. Chez Workday, nous adoptons une approche équilibrée qui nous permet de tirer parti des dernières avancées en matière de technologie d'IA et de ML, tout en respectant notre engagement envers les principes de confidentialité et d'éthique de l'IA.
Des mesures de confidentialité des données appropriées peuvent contribuer à renforcer la confiance dans l'IA et le ML. Et ce, pour renforcer l'adoption et l'utilisation de ces technologies. De la même manière que nous cherchons à innover nos produits et services, nous trouvons des moyens novateurs d'intégrer la confidentialité dans le développement de nos solutions d'IA et de ML.
Par définition, l'innovation est l'introduction de quelque chose de nouveau. Les normes de conformité traditionnelles peuvent ne pas être faciles à appliquer ni adaptées à une nouvelle idée, un nouveau produit ou une nouvelle façon de travailler. Chez Workday, nous n'attendons pas qu'une nouvelle norme arrive. Nous en créons en interne de manière proactive. Nous collaborons et plaidons à l'extérieur en faveur des normes qui nous aident à atteindre nos objectifs de conformité. Nous aidons également nos clients à évaluer ce que nous entendons par conformité. En voici quelques exemples :
Nous anticipons les besoins des clients. Lorsque le RGPD est entré en vigueur, il n'existait pas d'audit ou de certification approuvés de la conformité. Workday a rapidement ajouté un schéma dans notre rapport SOC 2 pour permettre aux clients de comprendre notre respect de la réglementation. Nous avons ensuite collaboré avec Scope Europe pour aider à rédiger le Code de conduite de l'UE sur le Cloud, qui démontre la conformité au RGPD. Nous avons été la première entreprise à obtenir la certification de conformité.
Forts de notre expérience avec le RGPD, nous avons compris que les clients avaient besoin d'informations sur nos capacités de ML pour être sûrs que nous respectons nos valeurs. Dans un souci de transparence, nous fournissons des fiches techniques décrivant le fonctionnement de nos solutions d'IA. Ce niveau de transparence aide les clients à mener des évaluations d'impact pour identifier les risques éventuels associés à l'IA et au ML.
Nous soutenons l'élaboration de normes, de cadres et de bonnes pratiques. Workday est un leader dans le développement d'une IA digne de confiance et responsable. Dès sa création, Workday a soutenu et contribué au cadre de gestion des risques de l'IA du National Institute of Standards and Technology (NIST AI RMF). Nous travaillons avec les autorités réglementaires et les décideurs politiques du monde entier pour aider à établir des normes nationales et mondiales autour du développement d'une IA digne de confiance et responsable.
De la même manière que nous cherchons à innover nos produits et services, nous trouvons des moyens novateurs d'intégrer la confidentialité dans le développement de nos solutions d'IA et de ML.
En outre, notre Co-President Sayan Chakraborty est, à titre personnel, membre du National AI Advisory Committee (NAIAC), le plus important groupe national d'experts pluridisciplinaires en IA, chargé par le Congrès de conseiller le président américain Joe Biden sur les questions d'IA. Je copréside également le groupe de travail sur les RH du Responsible AI Institute, une organisation à but non lucratif dont l'objectif est de fournir des outils pour acheter, vendre ou construire des systèmes d'IA sûrs et fiables, et je siège au conseil d'administration de l'International Association of Privacy Professionals, qui vient d'annoncer la création d'un nouveau centre de gouvernance de l'IA. Il y a encore beaucoup à faire car les normes, les cadres et les meilleures pratiques évoluent, mais nous travaillons avec les législateurs, les régulateurs et les leaders du secteur pour créer des solutions viables et durables.
Nous ne réinventons pas la roue, nous nous appuyons sur des principes fondamentaux solides. Notre équipe ML Trust s'appuie sur la longue expérience de Workday en matière de concept de « Privacy by Design » pour développer et gérer notre programme de gouvernance ML. ML Trust travaille en étroite collaboration avec moi et l'équipe chargée de la confidentialité sur les principaux aspects du programme, notamment les principes, les politiques, les normes et les lignes directrices. De plus, ces équipes sont étroitement liées afin d'éviter que personne ne travaille dans son coin.
Par exemple, elles collaborent sur la minimisation des données. Un groupe interfonctionnel évalue, voire remet en cause le besoin de données pour une fonction ou un produit afin de déterminer si les données sont absolument nécessaires. Cet examen minutieux se poursuit même après le début de la collecte des données, et celles qui ne sont plus jugées nécessaires sont rapidement supprimées.
Nous fournissons des conseils, une formation et un enseignement sur l'innovation responsable à nos collaborateurs. Chez Workday, nous faisons une priorité absolue la formation et l'éducation appropriées de nos Workmates qui travaillent avec les technologies d'IA et de ML sur les risques potentiels et les considérations éthiques associés à leur utilisation. C'est pourquoi nous établissons des lignes directrices claires sur l'utilisation de ces technologies, telles que l'IA générative. Ces lignes directrices comprennent également des cas d'usage spécifiques et des scénarios dans lesquels l'IA doit être utilisée et dans lesquels elle doit être évitée. Nous pouvons ainsi atténuer les risques potentiels et nous assurer que l'utilisation des technologies d'IA et de ML est conforme aux valeurs et à l'éthique de notre entreprise. Nous voulons donner à nos développeurs les moyens d'agir rapidement et de manière responsable, afin de créer les meilleurs produits innovants et fiables pour nos clients, conformément à nos engagements en matière de confidentialité.
L'innovation évolue à la vitesse de l'éclair, et avec des technologies telles que l'IA, la confidentialité restera toujours une priorité pour nous. Workday reste un défenseur des approches réglementaires basées sur le risque qui concilient confidentialité et innovation. Nous continuons également à surveiller le paysage de la confidentialité, de l'IA et du ML afin d'anticiper les changements susceptibles d'avoir un impact sur nos clients ou sur les technologies Workday. Notre objectif ultime est de nous assurer que nos clients peuvent continuer à bénéficier de la productivité, des connaissances et de l'élévation du potentiel humain qu'offrent les produits Workday.
Chez Workday, nous intégrons l'IA et le ML au cœur de notre plateforme pour offrir à nos clients un profil d'adaptabilité et de compétitivité sans égal. Voici comment.
L'évolution continue de l'Intelligence Artificielle (IA) nous impose d'adapter aussi nos principes éthiques. Kelly Trindel, Head of Machine Learning (ML) Trust chez Workday, explique comment nous créons une IA fiable pour nos clients et leurs collaborateurs.
En lire plus
L’automatisation des processus métier au service de l’excellence opérationnelle et de l’agilité
L'automatisation des processus métier révolutionne le domaine du FP&A. Plongez au cœur de cette transformation et découvrez comment elle améliore l'efficacité, la précision et libère du temps pour les équipes Finance, les positionnant en partenaires stratégiques.
Dans le dernier épisode de nos questions-réponses, Sayan Chakraborty, Co-President de Workday, nous éclaire sur l'importance d'intégrer l'IA dans les opérations pour rester compétitif sur un marché en constante évolution.
Dans le quatrième épisode de nos questions-réponses, Sayan Chakraborty, Co-President de Workday, évoque la nécessité de réglementer l'IA et l'importance d'un partenariat entre les mondes de l'entreprise et universitaire pour le Future of Work.