Acht overwegingen voor ethische AI

Het bijhouden van de ontwikkelingen op het gebied van AI en dataprivacy kan overweldigend zijn. Hoewel AI tal van kansen biedt, zijn er ook zorgen over datamisbruik en privacy. Terwijl we voortrazen in de vierde industriële revolutie worden er vraagtekens gezet rondom AI. Welke gevaren zijn er, naast de beloften? Welke maatregelen moeten organisaties treffen om de waarde van AI te kunnen benutten?

Het integreren van ethiek binnen technologische producten kan abstract voelen voor engineers en ontwikkelaars. En hoewel veel technologiebedrijven werken aan hun eigen ethische initiatieven is het belangrijk dat we best practices delen. Door samen te werken en van elkaar te leren, leggen we de lat hoger voor de hele branche. Een goede plek om te beginnen? Focus op de dingen die als betrouwbaar beschouwd worden.

Betrouwbaarheid is al vanaf het begin de basis van Workday. Onze klanten weten dat we hun privacy en beveiliging serieus nemen. Dit doen we al jaren. Dit komt omdat privacybescherming centraal staat in de services van Workday, via onze privacy principles, onze aanpak van GDPR en ons robuuste privacyprogramma. En terwijl we blijven streven naar een toekomst waarin de mens, geholpen door machine learning, centraal staat, zorgt onze focus op privacy en beveiliging ervoor dat we ML op ethische wijze ontwerpen en leveren.

Veel bedrijven introduceren de meest fantastische principes over hun AI-aanpak. Maar principes zijn alleen waardevol als ze ook daadwerkelijk toegepast worden. Bij Workday hebben we onlangs onze 'commitment to ethical AI' gepubliceerd om toe te lichten hoe we onze beginselen, die voortvloeien uit onze waarden op het gebied van customer services, integriteit en innovatie, in de praktijk brengen. Gebaseerd op onze eigen ervaringen delen we acht best practices voor technologiebedrijven die ethische AI willen omarmen:

1. Definieer een consensus over wat ethische AI betekent. Deze definitie moet specifiek en praktisch zijn voor alle belanghebbenden in het bedrijf. Voor Workday betekent AI-ethiek dat onze machine learning-systemen Workday's commitment op het gebied van ethische AI weerspiegelen: we zetten mensen op de eerste plaats, we handelen eerlijk en respecteren de wetgeving, we zijn transparant en verantwoordelijk, we beschermen data en we leveren enterprise-ready ML-systemen.

2. Integreer ethische AI in het framework voor productontwikkeling en -releases. Dit mogen geen aparte processen zijn die ontwikkelaars en productteams meer werk en complexiteit bezorgen. Workday heeft deze principes ingebouwd in de productontwikkeling en processen ontwikkeld die zorgen voor continue compliance. Nieuwe ML-controles zijn in het formele controleframework van Workday opgenomen om ethische ML te waarborgen. Onze ontwikkelingsteams bekijken elk ML-product vanuit een ethische invalshoek door vragen te stellen over dataverzameling en -minimalisatie, transparantie en waarden. We hanteren al lange tijd een privacyframework met processen die privacy waarborgen en met externe audits van onze eigen controles en standaarden. Workday heeft een reeks controlemaatregelen voor ML-ethiek ingevoerd en beschikt over robuuste beoordelings- en goedkeuringsmechanismen voor elke nieuwe release en elke nieuwe gebruikstoepassing van data. Daarnaast herzien we onze processen constant, zodat ze blijven voldoen aan de nieuwste best practices en wettelijke richtlijnen.

3. Stel functieoverkoepelende expertgroepen samen die adviseren over het ontwerp, de ontwikkeling en implementatie van verantwoorde ML en AI. Al vroeg in het traject stelde Workday een 'Machine Learning Task Force' samen met deskundigen op het gebied van Product & Engineering, Legal, Public Policy & Privacy en Ethics & Compliance. Deze groep onderzoekt toekomstige en huidige gebruikstoepassingen van ML in onze producten. Het is erg waardevol om uiteenlopende vaardigheden en visies samen te brengen als het gaat om bestaande en nieuwe toepassingen van ML in onze producten. Dankzij dit team worden potentiële problemen al in het begin van de productlevenscyclus onderkend.

4. Verwerk feedback van klanten in het design, de ontwikkeling en implementatie van verantwoorde AI. Tijdens de productontwikkelingscyclus betrekt Workday de 'Customer Advisory Councils' om feedback te krijgen over onze ontwikkelingen rondom AI en ML. En in het kader van ons 'Early Adopter Program' werken we nauw samen met een aantal klanten om nieuwe ML-modellen en -functies te testen via onze 'Innovation Services'. Dit geeft ons inzicht in de wensen en zorgen van klanten over AI en ML, wat maakt dat we de juiste, people-centric, ML-oplossingen ontwikkelen.

5. Vermijd schadelijke opinies. ML-tools bieden een fantastische kans om onze klanten te helpen menselijke besluitvorming te verbeteren met behulp van data. Deze kans brengt de verantwoordelijkheid met zich mee om enterprise-ready tools te ontwikkelen die het vertrouwen van onze klanten niet schaden. Daarom is het tegengaan van schadelijke opinies over ML een van de kernpunten in Workday's commitment op het gebied van ethische AI. Workday hanteert een levenscyclusbenadering met checkpoints waar we verschillende opinies meten en assessments uitvoeren, vanaf het beginconcept van een product tot na de release.

6. Wees transparant. Het ethische gebruik van data voor ML vraagt om transparantie. Omdat ML-algoritmen vaak complex zijn moeten bedrijven blijven werken aan het verduidelijken welke data voor welke doeleinden wordt gebruikt. We leggen onze klanten uit hoe onze ML-technologieën werken, wat de voordelen zijn en welke data hiervoor nodig is. We laten onze klanten zien dat we onze verantwoordelijkheid nemen wat betreft onze ML-oplossingen.

7. Geef uw werknemers wat ze nodig hebben om verantwoorde producten te ontwikkelen. Dit doen we door middel van verplichte training, toolkits, seminars, onboarding en workshops over ethisch handelen om ervoor te zorgen dat Workday-medewerkers ons commitment op het gebied van ethische AI nakomen. Zo geeft een workshop over 'human-centered design thinking', met verschillende scenario's en persona's Workday-medewerkers meer inzicht in ons commitment aan ethische ML.

8. Deel uw kennis en leer van anderen uit de branche. Dit doen we door deel te nemen aan branchegroepen en bijeenkomsten zoals het 'World Economic Forum Steering Committee for Ethical Design and Deployment of Technology'. Zo dragen we bij aan de ontwikkeling van een ethisch framework voor de technologiebranche. Daarnaast is het voor Workday een prioriteit om op de hoogte te blijven van nieuwe standaarden en ontwikkelingen. In de Verenigde Staten heeft Workday op het gebied van ethische AI nauw samengewerkt met de overheid, zoals bij de ontwikkeling van een briefing voor het congres over 'Industry Approaches to Ethical AI'. Ook hebben we de National Science Foundation geholpen met hun update van het 'National Artificial Intelligence Research and Development Strategic Plan' en het National Institute of Standards and Technology bijgestaan tijdens de ontwikkeling van hun rapport 'Artificial Intelligence Standards and Tools Development'. In Europa nam Workday deel aan een pilotprogramma voor het evalueren van de 'European Union’s High-Level Expert Group’s Ethical Guidelines’s (HLEG) Trustworthy Artificial Intelligence Assessment List'.

Terwijl we onze weg zoeken in de veranderende wereld van ethische AI is het belangrijker dan ooit om best practices en lessons learned met elkaar te delen. Om die reden horen we graag welke strategieën bij andere bedrijven effectief waren voor het schalen en implementeren van ethische AI. Het doel van Workday's samenwerking met het World Economic Forum is om anderen aan te sporen hun best practices te delen. Zo kunnen we samen zorgen voor verantwoordelijke technologie. Het streven naar verantwoorde, ethische AI en technologie is van cruciaal belang en gaat veel verder dan individuele bedrijven of organisaties.

Samen moeten we door middel van onze acties goodwill en vertrouwen opbouwen, zodat we de voordelen van deze krachtige nieuwe technologieën kunnen benutten.