Workday-podcast: Is AI het beste wat uw bedrijf kan overkomen?

Ajay Agrawal: Mensen maken zoiets maar één keer in hun carrière mee. En dus zou ik tegen iedere luisteraar willen zeggen dat degenen die, laten we zeggen, ouder zijn dan 40, zich zeker zullen kunnen herinneren hoe het voelde in de begindagen van het internet. Het voelde misschien alsof het een technologie was, en je zat misschien in een sector waar je zou denken dat het hele internet wel langs je heen zou gaan. Vandaag de dag is het moeilijk om een sector te noemen die niet door het internet is beïnvloed. Het lijkt erop dat dit minstens zo groot, zo niet aanzienlijk groter gaat worden dan het internet.

Meg Wright: Artificial Intelligence. Machine learning. Het staat buiten kijf dat deze technologieën een enorme impact zullen hebben op organisaties wereldwijd. 

Maar met alles wat we al, en nog niet, weten over AI en ML is het moeilijk het ware potentieel ervan te zien.

Dr. Rumman Chowdhury: Er is een bijna grenzeloos potentieel als deze technologie op een gepaste en doordachte manier wordt ingezet. Dat laatste is wat we proberen uit te zoeken. Goede governance, verantwoord gebruik, betrouwbaarheid. Dit alles vormt de kern van goede innovatie. 

Wright: Voor businessleaders moeten de kansen groter zijn dan de risico's en uitdagingen.

Het is cruciaal dat de details over de positie die AI en ML in uw organisaties zullen innemen, voorop staan in de discussie. 

Chandler Morse: Het enige dat ik zou willen zeggen is dat we een zinvol punt in het gesprek moeten bereiken waar we niet alleen praten over de mogelijk onbedoelde gevolgen van deze technologieën, maar ook kijken naar de ongelooflijke voordelen en responsiviteit en genuanceerde benaderingen van talent die deze technologieën mogelijk maken.

Wright: Dus: Is AI het beste, of slechtste, wat uw bedrijf kan overkomen?  

Ik ben Meg Wright, Head of Innovation bij FT Longitude. 

In deze speciale aflevering van The Workday Podcast duiken we diep in de wereld van AI en ML in het bedrijfsleven: wat we er op dit moment van weten, wat het ons kan brengen en wat we nog moeten ontdekken. 

Chowdhury: Mijn naam is Dr. Rumman Chowdhury. Ik ben een van de grondleggers van verantwoorde AI in de praktijk. Ik ben momenteel als Responsible AI Fellow verbonden aan het Berkman Klein Centre for Internet and Society van Harvard en verder ben ik medeoprichter van de non-profitorganisatie Humane Intelligence.    

In het afgelopen jaar is generatieve AI het onderwerp van gesprek geworden. Het meest innovatieve is niet de opkomst van deze technologie. Grote taalmodellen bestaan al enkele jaren. De grote innovatie zit 'm in de toegankelijkheid zonder code: je kunt realistisch ogende teksten, afbeeldingen, video en audio van deze modellen maken zonder enige programmeerkennis. 

Bijna iedereen die naar deze podcast luistert, is waarschijnlijk bekend met toegang tot no-code technologie. Vandaag de dag kun je communiceren met ChatGPT, Lensa of Stable Diffusion door simpelweg een menselijke prompt in te typen. Je zegt dat het een foto moet maken van een kat met een feestmuts op en het stuurt je een foto van een kat met een feestmuts op. Je kunt dit dan verfijnen door te zeggen: "Ik wil een zwarte kat. En een roze feestmuts." In plaats van dit via code te doen, dus via programmeervaardigheid, wat bij de meeste eerdere versies van AI moest – en wat voor de meeste mensen een drempel vormde – is deze manier van communiceren in platte tekst die menselijk gedrag nabootst eigenlijk een van de grootste revoluties in deze nieuwe golf van kunstmatige intelligentie.

Wright: Naarmate AI en ML de businessomgeving verder infiltreren, is het de vraag wat de meest gewilde vaardigheden zullen zijn. Zijn er specifieke vaardigheden die mensen nodig hebben om effectief met AI te werken?

Agrawal: Een andere manier om je vraag te formuleren is: welke vaardigheden heb je niet nodig? In de afgelopen vijftig jaar hebben we steeds meer computers op de werkvloer geïntroduceerd, waardoor ze tegenwoordig heel goedaardig lijken. AI boezemt mensen angst in, maar er zijn maar heel weinig mensen die bang zijn voor de computer op hun bureau, thuis of op kantoor, of zelfs de telefoon.

Mijn naam is Ajay Agrawal. Ik ben professor aan de University of Toronto voor de Rotman School of Management en ik ben de oprichter van het non-profitprogramma Creative Destruction Lab. Het is onze missie om wetenschap ten gunste van de mensheid te commercialiseren.     

Voordat er sprake was van navigatie met AI, moesten mensen in een stad als Londen drie jaar naar school. Ze krijgen dus drie jaar de tijd om alle informatie in zich op te nemen om door Londen te navigeren. Met AI kon iemand die niets over Londen wist, naar Heathrow vliegen, een auto huren en even efficiënt als een pro door de stad rijden.       

Dat maakte autorijden een stuk aantrekkelijker. Dus als je dacht dat er een soort systematisch vooroordeel bestond over wie naar die scholen in Londen mocht om de kennis te verwerven of wat voor obstakels er ook waren, die zijn voor een groot deel weggenomen. Zolang je veilig kunt autorijden, hoef je alleen maar te weten dat de AI je bijschoolt om te kunnen navigeren. 

We hadden een aantal collega's en economen in Japan die dit onderzochten in Tokio. Ze gaven helft van de bestuurders een navigatiesysteem met AI en de andere helft niet. Vervolgens vergeleken ze hun productiviteit vóór en na het navigatiesysteem met AI.

Er spelen hier twee dingen. Het ene is het voorspellen van de optimale route tussen twee plaatsen. Maar taxichauffeurs moeten nog een andere voorspelling maken: waar moeten ze heengaan om de tijd tot het ophalen de volgende passagier zo kort mogelijk te houden, nadat ze hun passagier hebben afgezet? Daarom wordt productiviteit voor taxi's gemeten aan de hand van het aantal minuten met versus zonder een passagier in de auto. Ze ontdekten dat de productiviteit van minder ervaren bestuurders met 7% steeg wanneer ze navigatie met AI gebruikten. Voor ervaren bestuurders was dit 0%, omdat ze al een goed besef hadden van waar ze naartoe moesten om een rit in zo min mogelijk tijd te voltooien. Dit was opnieuw een geval waarbij AI het speelveld gelijk maakte voor degenen met, laten we zeggen, meer ervaring en degenen met minder ervaring.

Morse: AI en ML zijn beslist een gamechanger voor het bedrijfsleven.

Ik denk dat iedereen begint in te zien dat deze tools in vrijwel elke sector van de economie zullen worden geïmplementeerd.

Wright: Maak kennis met Chandler Morse, Vice President Corporate Affairs bij Workday. 

Chandler is het ermee eens dat AI de kracht heeft om het personeelsbestand van binnenuit te transformeren, zowel op het gebied van bedrijfsprestaties als loopbaanontwikkeling. 

Morse: Ik ben zeer gepassioneerd over vaardigheden, omdat ik het grootste deel van mijn carrière heb gewerkt met bevolkingsgroepen voor wie die essentieel zijn. Ik kom altijd terug op dit voorbeeld: kies een willekeurige stad in de Verenigde Staten, er is iets veranderd en nu zit je zonder werk. Dan krijg je te horen: oké, hier zijn wat hulpmiddelen. In de VS stelt de federale overheid heel wat middelen ter beschikking voor de ontwikkeling van arbeidskrachten. Hier vind je een aantal hulpmiddelen om vaardigheden te ontwikkelen. Dan is de vraag: waarin? Waarin ga ik vaardigheden ontwikkelen? Ik geloof dat de technologie bestaat om te weten waar er beweging in de economie zit, wat in opkomst is en wat op z'n retour is, waar de kansen liggen.

Maar veel mensen denken alleen maar: hoe betaal ik mijn huur? Hoe creëer ik een kans die zinvol is, waarmee ik voor mijn gezin kan zorgen, die me naar een hoger niveau tilt? Ik ben echt gepassioneerd over het feit dat een op vaardigheden gebaseerde aanpak die deuren veel sneller, efficiënter en effectiever opent, zodat mensen betere economische kansen krijgen. Ik denk dat AI daar een grote rol in kan spelen.

Ik ben van mening dat dit een bijzonder interessante tijd is in de Amerikaanse economie, en eerlijk gezegd ook in de wereldeconomie, nu de pandemie min of meer achter de rug is en er nieuwe technologieën komen, die ook snel veranderen. Wat iedereen moet begrijpen, is dat dingen in de economie heel snel kunnen veranderen. Dat weten we uit de eerste hand. En als de economie verandert, hoe bereiden we werknemers en werkgevers dan voor om daar flexibel op te reageren?

Ik denk wel dat vaardigheden de weg zijn, maar dan wel vaardigheden die worden ondersteund door een doordachte, ethische, verantwoordelijke implementatie van AI met waarborgen. Wettelijke waarborgen die het vertrouwen bevorderen. Ik vind het ongelooflijk spannend.

Wright: AI en ML kunnen krachtige hulpmiddelen zijn om de ervaring van werknemers, de efficiëntie op de werkplek en de bedrijfsprestaties te verbeteren. Maar bij zo'n grenzeloos potentieel komt vertrouwen om de hoek kijken. 

Om met de woorden van Dr. Rumman Chowdhury te spreken: "Technologen begrijpen mensen niet altijd, en mensen begrijpen technologie niet altijd." Wat betekent dit als het gaat om het reguleren van AI en ML voor bedrijven? 

Chowdhury: De cultuur van datascience is eigenlijk per definitie heel versnipperd en heel gedecentraliseerd, en dat vind ik heel mooi. We investeren in en ontwikkelen opensourcetechnologieën. Dat is eigenlijk de manier waarop de meeste mensen de kennis opdoen om datawetenschapper of AI-specialist te worden. We leren continu nieuwe vaardigheden bij door er veel over te lezen. We moeten dit alles omarmen. Dus in plaats van te proberen kunstmatige intelligentie te reguleren door het achter gesloten deuren te houden, is mijn suggestie eigenlijk meer openheid en transparantie.

Wright: Dit roept dan weer de vraag op hoe we een middenweg kunnen vinden om overregulering te voorkomen en er tegelijkertijd voor te zorgen dat AI veilig wordt gebruikt. En wat kunnen bedrijven doen om op een productieve manier het gesprek aan te gaan met beleidsmakers?

Hier is Rumman weer... 

Chowdhury: Veel van deze problemen zijn eigenlijk dezelfde problemen die we hebben gezien bij platformen. Omdat ik bij Twitter heb gewerkt, ken ik dit soort uitdagingen maar al te goed. Ik denk dat er veel overeenkomsten zijn. Dus wat ik uiteindelijk wil zeggen is dat veel van wat regulering nu is, het antwoord is op de vraag wie het laatste woord krijgt. Wie bepaalt wat correct is en wat niet? Wie bepaalt wat wel en niet mag worden gezien? Wie bepaalt hoe het wel en niet mag worden gezien? En wie bepaalt wat goed en slecht is? 

De kern ligt in feite het kiezen van de partijen die het laatste woord krijgen. Dus als we bij generatieve AI denken aan de AVG (Algemene Verordening Gegevensbescherming) en de overeenkomsten met generatieve AI, dan denken we aan de Europese AI-wet die net is aangenomen. Dan zijn er ook nog de Digital Services Act (Wet Digitale Diensten) en de Digital Markets Act (Wet Digitale Markten). Er is dus regulering op komst. 

Naar mijn mening hebben deze nieuwe wetten geleerd van de kritiek op de AVG, namelijk dat deze erg belastend was voor bedrijven en niet echt begrip had van de opslag en verzameling van gegevens door bedrijven. Het gevolg daarvan was dat ogenschijnlijk 'simpele' mandaten, zoals het recht om niet gevonden te worden of het recht op je eigen informatie, in werkelijkheid voor veel bedrijven een lastige taak waren.         

Eerlijk gezegd is een wereld met slechte regelgeving voor AI net zo slecht als een wereld zonder regelgeving of normen voor kunstmatige intelligentie. Veel inspanningen om te investeren in allerlei vormen van governance juich ik dus alleen maar toe. Governance betekent niet alleen regulering. Ik denk dat er behoorlijk wat aandacht is vanwege alle regelgeving die uit de Europese Unie komt en soortgelijke inspanningen in andere delen van de wereld, zoals in het Verenigd Koninkrijk en in toenemende mate in de Verenigde Staten. Maar governance kent veel aspecten en veel vormen en ze zijn allemaal nuttig op veel verschillende manieren. Innovatie wordt deels gedreven door governance. Dit zou betekenen dat je gestandaardiseerde manieren hebt om de technologieën waarin je investeert te beoordelen, zodat je daadwerkelijk begrijpt of ze al dan niet opleveren wat je ervan verwacht. Je kunt dan ook verschillende technologieën vergelijken om de technologie te kiezen die het beste bij jouw product en jouw behoeften past.

Wright: Omdat zakelijk gebruik van AI en ML snel toeneemt, is het van cruciaal belang dat leaders zich buigen over kwesties als vertrouwen, veiligheid en ethiek. 

Als de geschiedenis ons één ding heeft geleerd, dan is het wel dat deze gesprekken centraal staan bij het verantwoord schalen van technologie, legt Chandler Morse van Workday uit. 

Morse: Deze technologieën zullen veelvuldig worden geïmplementeerd. In sommige gevallen zijn er zorgen over bepaalde usecases, over bepaalde applicaties. Die zorgen moeten worden aangepakt, en dat moet in een beleidscontext.

Wright: Welke lessen kunnen bedrijven trekken uit andere opkomende technologieën? En, in het bijzonder, hoe kunnen ze valkuilen vermijden en een goede balans vinden tussen overregulering, wat vooruitgang belemmert, en een gebrek aan regulering, wat het vertrouwen van het publiek aantast?

Morse: De manier waarop ik die vraag steeds gesteld krijg is: "We geloven niet dat jullie branche echt om regulering vraagt."

Wij geloven in de kracht van AI om menselijk potentieel te ontsluiten. Dat zeggen we als dienstverlener op het gebied van human capital management voor de helft van de Fortune 50 bedrijven en 50% van de Fortune 500, met maar liefst 60 miljoen werknemersrecords in ons systeem. We weten hoe deze technologieën mensen economische kansen kunnen bieden. Dat is ons vak. Maar mensen zullen geen technologieën gebruiken die ze niet vertrouwen. 

Ik was het grootste deel van mijn carrière op Capitol Hill en het enige wat ik wilde weten als mensen binnenkwamen was: "Vertel me wat jouw motivatie is. Laat me niet naar je motivatie raden. Wat wil je? Kunnen we samenwerken?" En onze motivatie is duidelijk. We willen dat mensen deze technologieën gebruiken. We zijn een leverancier van deze services en mensen maken er geen gebruik van om hun potentieel te ontsluiten, om deze talentmarkten op te zetten, om zinvolle gesprekken over loopbanen te stimuleren, om te kijken wat er nodig is in de economie en waar de middelen naartoe moeten om vaardigheden te ontwikkelen.  

Wij zien gewoon veel voordelen in deze technologieën. Ons doel is dus om een niveau van vertrouwen te ontwikkelen en we denken dat we dat bereiken door middel van zinvolle regelgeving. 

Wright: Hoe zullen AI en ML dan een gedurfde, nieuwe visie op zakendoen mogelijk maken? En zijn we eigenlijk wel klaar voor een wereld van grenzeloos potentieel? 

Agrawal: De technologie zal er snel komen. Het wordt het verandermanagement voor mensen in hun organisaties. Ik denk dat concurrentie de drijvende kracht achter die verandering zal zijn – dat zodra één bedrijf in een branche plotseling een service aanbiedt die veel beter is voor hun klanten tegen een veel lagere prijs, dat dan alle weerstand die andere bedrijven eerder heeft tegengehouden heel snel verdwijnt, of dat die bedrijven gewoon steeds minder relevant worden.

Als je mij vraagt hoe snel alles zal gaan, zou mijn advies zijn om naar de innovatieve leaders te kijken. Het is net zoals in de begindagen van Netflix. In de VS werd Netflix kijken als een curiositeit gezien omdat mensen nog in hun auto's stapten om naar de videotheek te rijden om een video te huren. Toen iedereen eenmaal zag hoe het werkte, zag je dat het onvermijdelijk was. 

We hoeven niet te kijken naar hoe snel de verandering zich inzet bij alle bedrijven. We hoeven alleen maar op zoek te gaan naar die ene leider. Die bepaalt het tempo voor alle anderen.

Wright: Het is van cruciaal belang dat die toonaangevende bedrijven een duidelijke stem hebben in het gesprek. 

Morse: We zijn erg enthousiast over het potentieel van AI om het menselijk potentieel te ontsluiten. Tegelijkertijd zijn er mogelijke onbedoelde gevolgen rond deze technologieën die moeten worden aangepakt.

Toen we deze gesprekken in 2019 begonnen, was het eerste wat we zeiden: "Laten we gewoon een op risico's gebaseerde aanpak hanteren. AI-usecases in HR vereisen een andere mate van toezicht dan Netflix-aanbevelingen voor het volgende seizoen van een serie." Je moet dus echt uitzoeken waar de focus ligt. De Europeanen hebben dit punt bereikt. Het is nu eerlijk gezegd een uitgemaakte zaak en een soort van uitgangsbasis in de conversatie. Het is niet langer een nieuw concept. 

We denken ook dat ze redelijk goed werk hebben geleverd door een genuanceerde aanpak te hanteren. Een van de dingen die we voorstelden, was om in die op risico's gebaseerde driehoek van 'laag risico' tot 'je mag AI absoluut niet gebruiken voor deze usecases', de verleiding te weerstaan om hele branches in categorieën te plaatsen. Die op risico's gebaseerde aanpak moest voldoende genuanceerd zijn om zelfs in onze branche een onderscheid te kunnen maken tussen zaken die een dramatische impact hebben op de werkgelegenheid en zaken die misschien iets minder belangrijk zijn.

Wright: Naast het effectief beheren van veranderingen en een genuanceerde risicobenadering, moeten businessleaders ook begrijpen hoe AI het ondernemingsklimaat in bredere zin gaat veranderen. Rumman legt het uit… 

​​Chowdhury: Duolingo is een app waarmee je verschillende talen kunt leren. Duolingo neemt dit kernmodel dat is gemaakt door OpenAI en past het aan hun doeleinden aan. In deze nieuwe wereld waar bedrijven een kernalgoritme gebruiken dat door een ander bedrijf is gemaakt om dit vervolgens aan hun eigen doeleinden aan te passen, dragen zij ook verantwoordelijkheid voor vertrouwen en veiligheid. Die verantwoordelijkheid voor vertrouwen en veiligheid gaat eigenlijk over de specifieke usecase waarvoor zij aanpassingen hebben gemaakt. Er wordt dus verwacht dat deze gigantische AI-bedrijven, de Anthropic's en OpenAI's van deze wereld, verantwoordelijk zijn voor het identificeren van ernstige schade, het toepassen van red teaming en het promoten van verantwoord gebruik.

Maar dan heeft de secundaire partij die dit aan hun doeleinden aanpast ook een verantwoordelijkheid. Bedrijven moeten dus nadenken over wat deze twee niveaus van vertrouwen en veiligheid zijn en wat ze verwachten van hun klanten. Hoewel een behoorlijk deel van de technologie dus kan worden uitbesteed omdat het enkel gaat om het aanpassen van een kernmodel, wil ik eraan toevoegen dat die verantwoordelijkheidscomponent niet kan worden uitbesteed.

Ik ben een voorstander, een zeer uitgesproken voorstander van global governance voor sommige van deze problemen waarvoor we moreel toezicht nodig hebben. Dit concept van global governance heeft zich ontwikkeld tot iets met vele bewegende delen. Voor mij moet dit bestuursorgaan als missie hebben mensen te laten floreren. En dat klinkt erg vaag en zweverig, maar dat geldt ook voor het concept van kunstmatige algemene intelligentie, toch? Dus als we miljarden dollars investeren in een concept dat totaal onhaalbaar klinkt, zoals kunstmatige algemene intelligentie, dan denk ik ook dat we veel tijd, moeite en geld moeten steken in het mogelijk maken van menselijk welzijn op basis van deze technologieën.

Wright: Er is nog veel werk aan de winkel, maar het valt niet te ontkennen dat de toekomst voor AI en ML rooskleurig is. Maar wat betekent dit voor businessleaders? Hoe moeten de organisaties van vandaag zich voorbereiden op de wereld van werk van morgen? Ik stel deze vraag aan Ajay… 

Agrawal: AI moet als eerste voor echte bedrijfsproblemen worden ingezet. Met andere woorden, mensen raken gefixeerd door dit magische en sciencefictionachtige idee dat elk AI-initiatief binnen het bedrijf gericht moet zijn op een belangrijke businessmetric. Dat betekent dat het goed meetbaar moet zijn. AI's moeten worden gericht op datgene wat ze aan het optimaliseren zijn. Geef je AI daarom niet aan je Chief Data Scientist. Zorg ervoor dat het onder toezicht staat van een Business Unit die een heel duidelijke KPI of een soort metric heeft. En dat de AI is gericht op een bedrijfsdoel dat uiteindelijk ofwel de inkomsten verhoogt, ofwel de kosten verlaagt. 

Ten tweede zijn er nu veel gebieden waarop je AI kunt toepassen, vooral nu ook taalverwerking mogelijk is. Zoveel dingen die vorig jaar rond deze tijd niet haalbaar waren, zijn nu wel haalbaar omdat we contracten, standaard werkprocedures, arbeidsovereenkomsten en e-mails kunnen lezen. Al die ongestructureerde gegevens die we vorig jaar rond deze tijd niet zo effectief konden verwerken, zijn nu heel hanteerbaar. 

Stel prioriteiten, kies de één, twee of drie projecten die het meest zullen opleveren qua hogere inkomsten of lagere kosten en kies voor iets dat kan worden gebouwd. Met andere woorden, pas je typische ROI-berekening toe en kies één of twee of misschien drie projecten, maar probeer niet het onmogelijke door alles in één keer aan te willen pakken. 

Tot slot, ten derde: ik zou elk bedrijf sterk willen aanmoedigen om ergens op in te zetten. Anders gezegd, kies het meest waardevolle AI-initiatief en ga er nu mee aan de slag, in plaats van af te wachten om te zien wat er gebeurt. De reden hiervoor is dat AI leert. In tegenstelling tot elk ander hulpmiddel dat onze menselijke beschaving eerder heeft gebruikt, leert AI, dus het wordt beter met gebruik. De mensen die aan de zijlijn blijven staan, missen al die leertijd die degenen die nu met AI beginnen wel hebben, want hoe sneller je instapt, hoe sneller je AI begint te leren.

Wright: Mensen, prestaties, beleid, vooruitgang. Het toekomstpotentieel van AI en ML voor bedrijven is onmiskenbaar. 

En toch zijn het de stappen die businessleaders vandaag nemen die uiteindelijk zullen bepalen hoe dit potentieel zich zal ontvouwen. De waarde die AI en ML zullen opleveren, is van cruciaal belang. 

Dus: Is AI het beste wat uw bedrijf kan overkomen? 

Nou, ik laat deze beslissing aan u over. 

Ik ben Meg Wright. Bedankt voor het luisteren.