AI-ontwikkelaars en de bedrijven die hun technologie implementeren en gebruiken, moeten samen zorgen dat AI ten goede wordt gebruikt. Alle onderdelen van de AI-waardeketen spelen een rol bij de verantwoorde ontwikkeling en het verantwoorde gebruik van AI.
In dit artikel komen de volgende onderwerpen aan bod:
Om te zorgen dat AI een positieve impact op onze samenleving heeft, is het belangrijk dat zowel de ontwikkelaars als de zakelijke gebruikers van AI samen de verantwoordelijkheid nemen en elkaar ter verantwoording roepen. Verantwoorde AI is een teamactiviteit waarbij elke speler in de AI-waardeketen een belangrijke rol speelt bij het creëren van de door ons allen gewenste toekomst.
Hier volgen enkele best practices voor ontwikkelaars van AI-technologie, zoals Workday, en voor degenen die deze technologie implementeren, zoals onze klanten.
De volgende uitgangspunten vormen de basis voor verantwoorde AI en dienen als best practices die wij zelf hanteren en andere ontwikkelaars ook aanraden te volgen. Deze gedifferentieerde aanpak vraagt bovendien om buy-in en steun op alle niveaus van de organisatie. Verantwoorde AI is niet de taak van slechts één persoon, team of stuurgroep. Het is een bedrijfsbrede verplichting die door het leadership in het gehele bedrijf moet worden erkend en uitgedragen.
Voer een consistente evaluatie van AI-risico's uit. Elk nieuw AI-product dat we ontwikkelen doorloopt onze schaalbare risico-evaluatie, die is afgestemd op de risicocategorieën uit de AI-verordening van de EU . Deze analyse stelt ons in staat om op efficiënte wijze het risiconiveau van de nieuwe usecase te bepalen. We kijken daarbij naar de context en bijzonderheden van de usecase, het technische en modelontwerp, de mogelijke impact op individuele financiële vooruitzichten en toezichtkwesties.
Usecases met een 'hoog risico' zijn anders dan 'niet toegestane' usecases. Bij een 'hoog risico' is het noodzakelijk om extra richtlijnen en veiligheidsmaatregelen toe te passen en zorgvuldiger en bedachtzamer te werk te gaan. Usecases die 'niet toegestaan' zijn, zoals invasieve productiviteitscontroles en biometrisch toezicht, gaan tegen onze waarden in. Daarom kiezen we ervoor om geen oplossingen te ontwikkelen die in deze categorie vallen.
Ervaren ontwikkelaars hebben al plannen klaarliggen, met speciale teams die zich bezighouden met verantwoorde AI-governance.
Houd je aan de juiste richtlijnen voor verantwoorde AI. Bij toegestane usecases geeft de uitkomst van de risico-evaluatie aan welke richtlijnen er moeten worden gevolgd voor risicobeheersing. Zo kan het ontwikkelingsteam tijdens het bouwen van de oplossing goed in kaart brengen hoe de relevante richtlijnen worden nageleefd. Voor technologieën met een hoger risico, bijvoorbeeld om onze klanten te helpen beslissingen te nemen die gevolgen hebben voor de financiële vooruitzichten van hun werknemers, hanteren we strengere richtlijnen voor verantwoorde AI. Dit in tegenstelling tot technologieën met een lager risico, zoals systemen die helpen bij het identificeren van budgetafwijkingen. Richtlijnen voor verantwoorde AI omvatten onder andere transparantie, eerlijkheid, verklaarbaarheid, menselijke interactie ('human-in-the-loop'), datakwaliteit en robuustheid. Het doel is tweeledig: om onze klanten betrouwbare AI-technologieën van hoge kwaliteit te bieden, moeten we onbedoelde gevolgen zoals vooroordelen vermijden en ook zorgen dat we ons houden aan snel ontwikkelende best-practice frameworks en regelgeving.
Wees transparant naar klanten. Workday voorziet klanten van AI-factsheets voor elke tool die we aanbieden. Zo krijgen klanten een kijkje achter de schermen van onze AI-producten: hoe we ze ontwikkelen, testen en trainen. Ze zien ook meteen waar de grenzen liggen wat betreft het gebruik en hoe we risico's beperken voor elke functie. We delen daarnaast hoe we onze werknemers begeleiden en voorlichten over het belang van verantwoorde AI-ontwikkeling.
De volgende best practices zijn essentieel om AI-technologieën verantwoord te implementeren.
Begrijp de verschillende rollen en verantwoordelijkheden in de AI-waardeketen. Regelgeving en best-practice frameworks zijn nuttig voor het identificeren van verantwoordelijkheden voor AI-risicomanagement, niet alleen voor ontwikkelaars zoals Workday, maar ook voor uitvoerders. Zo worden in artikel 26 uit de AI-verordening van de EU bijvoorbeeld verplichtingen opgelegd aan uitvoerders van risicovolle AI-systemen. Een andere nuttige resource om te raadplegen is 'Best Practices for AI and Workplace Assessment Technologies' van het Future of Privacy Forum.
De onlangs aangenomen wetgeving in Colorado bevat daarnaast verplichtingen voor zowel ontwikkelaars als uitvoerders; deze wetgeving weerspiegelt het opkomende framework waarvoor Workday op staatsniveau heeft gepleit. Uitvoerders spelen een belangrijke rol en er zijn resources beschikbaar om hun verantwoordelijkheden op het gebied van AI-risicobeheer te verduidelijken.
Vertrouw op AI-ontwikkelaars die hun vak verstaan. Betrouwbare ontwikkelaars zijn op de hoogte van huidige én (minstens zo belangrijk in dit dynamische vakgebied) opkomende regelgeving en best practices. Ze hebben proactief verantwoorde AI-by-design en risicobeperkende frameworks ontwikkeld die aansluiten bij de dynamische regelgeving.
Vraag bij het kiezen van een AI-ontwikkelaar naar hun kennis van en afstemming op de AI-verordening van de EU, het AI Risk Management Framework van NIST en andere regelgevende richtlijnen en best practices. Ze moeten ook kunnen vertellen hoe ze omgaan met het herkennen en verminderen van risico's. Vooruitstrevende ontwikkelaars hebben speciale programma's en teams die zich richten op verantwoorde AI. Daarnaast houden ze zich specifiek bezig met verantwoorde AI-by-design, waarbij vertrouwen direct wordt ingebouwd in hun AI-producten en -technologieën.
Betrouwbare ontwikkelaars zijn op de hoogte van huidige én (minstens zo belangrijk in dit dynamische vakgebied) opkomende regelgeving en best practices.
Zorg voor verantwoord gebruik en effectief toezicht op AI-systemen. Degenen die AI-systemen implementeren (de uitvoerders) zijn onmisbaar in de AI-waardeketen, want zij vormen een directe schakel tussen het systeem en de eindgebruiker. Uitvoerders moeten eerst bepalen welke uitdaging ze willen aanpakken en of een bepaalde AI-technologie van een aanbieder het gewenste resultaat oplevert. Vervolgens moeten ze bedenken welke richtlijnen hun verantwoorde AI-aanpak vereist. Waar ontwikkelaars bijvoorbeeld eerlijkheidstests uitvoeren op verzamelde datasets, moeten uitvoerders deze tests toepassen op hun eigen lokale data.
Ontwikkelaars moeten systemen ontwerpen die effectief menselijk toezicht mogelijk maken, maar het is aan de uitvoerders om dit toezicht daadwerkelijk te bieden. Zij moeten bepalen hoe het systeem het beste past binnen het proces dat ze willen verbeteren. Uitvoerders moeten het systeem ook configureren om dit proces te helpen optimaliseren, en toezicht houden op de werking van het systeem binnen dit proces.
Bij Workday erkennen we onze plicht als verantwoordelijke aanbieders van AI-systemen en streven we naar het ontwikkelen van betrouwbare AI-oplossingen. We realiseren ons bovendien dat onze rol als ontwikkelaars een bepaalde positie oplevert in de AI-waardeketen als geheel. Alleen als alle partijen in die waardeketen zich inzetten om samen te werken, kunnen we zorgen dat deze AI-technologieën worden gebruikt om menselijk potentieel te versterken en een positieve impact te hebben op de samenleving.
Lees meer over ons programma voor verantwoorde AI-governance in de whitepaper 'Verantwoorde AI: innovatie bevorderen met integriteit', waarin we de principes, methodologieën, mensen en openbare beleidsstandpunten beschrijven die onze aanpak sturen.
Verantwoorde AI is voor Workday een topprioriteit. Rich Sauer, Chief Legal officer en Head of Corporate Affairs, bespreekt de inspanningen van Workday op het gebied van verantwoorde AI-governance.
Meer om te lezen
Lees verder en ontdek hoe we onze klanten helpen succesvol te zijn met innovatieve HR-technologie.
ML-algoritmen zijn verantwoordelijk voor enkele van de belangrijkste innovaties van de afgelopen jaren. Kom meer te weten over machine learning, hoe het werkt en waarom het cruciaal is voor de toekomst van werk.
Workday zet zich in om wereldwijde privacy te waarborgen door te anticiperen op wijzigingen in regelgeving en klanten te ondersteunen bij het wereldwijd naleven van uiteenlopende privacywetten. Barbara Cosgrove, Chief Privacy Officer van Workday, praat over onze proactieve aanpak, zoals ons toegewijde privacyteam, doorlopende training voor werknemers en de integratie van privacy- en AI-principes in onze producten en praktijken.
