Das neue KI-Gesetz der EU: Was Führungskräfte wissen müssen

In diesem Beitrag befassen wir uns mit folgenden Themen:

• Überblick über die gesetzlichen Rahmenbedingungen für Unternehmen, die KI entwickeln oder einsetzen
• Zentrale Rollen und Verantwortlichkeiten gemäß KI-Gesetz der EU
• Implementierung eines risikobasierten Ansatzes für die KI-Entwicklung
• Wichtige Aspekte im Hinblick auf Nutzerkontrolle und Transparenz von KI-Systemen

Das Gesetz der Europäischen Union zur künstlichen Intelligenz (KI-Gesetz der EU) ist auf dem besten Weg, zum globalen Standard für die Regulierung künstlicher Intelligenz (KI) zu werden. Diese zukunftsweisende Gesetzgebung soll zum einen Innovationen fördern, aber auch die potenziellen Gefahren in Verbindung mit KI-Technologien effektiv eindämmen. Durch den risikobasierten Ansatz und die Priorisierung ethischer Aspekte setzt das KI-Gesetz der EU neue Maßstäbe für die verantwortungsbewusste Entwicklung und den Einsatz von KI auf globaler Ebene. 

Angesichts der weitreichenden Folgen dieser Gesetzgebung haben sich viele unserer Kunden gefragt, wie Workday auf das KI-Gesetz der EU reagiert und wie wir uns auf die konkreten Anforderungen vorbereiten. Uns ist bewusst, dass die Herausforderungen dieser neuen Regulierungslandschaft komplex sein können. Deshalb möchten wir unseren Ansatz hier näher erläutern und auf diese Weise Transparenz und Zusammenarbeit fördern. Durch die Darstellung unseres Frameworks und unserer strategischen Vorgehensweise möchten wir anderen Unternehmen Erkenntnisse und Best Practices bieten, die diese an ihre jeweiligen Situation anpassen können.

Verantwortungsvolle KI ist ein wesentlicher Aspekt unseres Entwicklungskonzepts bei Workday, das unser gesamtes Handeln bestimmt. Unser langjähriges Engagement für eine von Grund auf verantwortungsvolle KI wird durch das KI-Gesetz der EU nachhaltig gestützt, indem es unsere Bemühungen verstärkt und rechtlich verankert.

Das KI-Gesetz der EU – ein Überblick

Das KI-Gesetz der EU markiert einen wichtigen Meilenstein in der KI-Regulierung mit weitreichenden Auswirkungen überall dort, wo KI-Technologie in der EU entwickelt oder implementiert wird. Nach diesem Gesetz wird KI in risikobasierte Kategorien eingeteilt. Außerdem werden die Rollen und Verantwortlichkeiten für die Entwicklung und den Einsatz von KI-Technologien auf der Grundlage dieser Kategorien erläutert.

Das KI-Gesetz der EU definiert vier risikobasierte KI-Kategorien mit unterschiedlichen Anforderungen, die je nach Komplexität und Tragweite erfüllt werden müssen:

• Prohibited-Risk AI (PRAI): KI-Systeme, die laut Gesetz verboten sind. Hierzu zählen beispielsweise Systeme, die menschliche Entscheidungsprozesse manipulieren oder die Wahrscheinlichkeit krimineller Handlungen prognostizieren.
• High-Risk AI (HRAI): Diese Kategorie von KI-Systemen unterliegt aufgrund ihrer potenziell nachteiligen Auswirkungen auf die Menschen strengen Regulierungen. Hierzu gehören zum Beispiel Systeme, die im Personal- oder Gesundheitswesen eingesetzt werden.
• Transparency-Risk AI (TRAI): TRAI-Systeme umfassen Technologien mit direkter Anwenderinteraktion, einschließlich solcher, die Text, Audio oder Video erzeugen. Diese Ergebnisse unterliegen nun besonderen Transparenzverpflichtungen. Dazu gehören KI-gestützte Chatbots und KI-generierte Inhalte. 
• General-Purpose AI (GPAI): Hierunter fallen KI-Systeme für vielfältige Anwendungs- und Aufgabenbereiche, wie etwa GPT-basierte Tools.

Workday-Ansatz für Rollen und Verantwortlichkeiten in Bezug auf KI-Technologie

Das KI-Gesetz der EU führt ein Framework für Verantwortlichkeit ein, indem es die Rollen für Anbieter, Implementierer und nachgelagerte Anbieter im KI-Lebenszyklus klar definiert. Für eine effektive Anwendung des Frameworks empfiehlt es sich, dass Unternehmen ihre Rolle innerhalb der KI-Wertschöpfungskette exakt bestimmen. Unternehmen können auch mehrere Rollen einnehmen, die flexible Compliance-Strategien und Governance-Frameworks erfordern. 

Bei Workday sind wir uns der Bedeutung bewusst, unsere Verantwortlichkeiten in allen drei der folgenden Rollen zu verstehen und wahrzunehmen: 

• Anbieter: Wir entwickeln KI-Technologien für den Markt, einschließlich unserer eigenen Machine Learning-Modelle (ML) und KI-gestützten Features in unseren Produkten.
• Implementierer: Wir implementieren und nutzen KI-Systeme in unseren eigenen Betriebsabläufen und setzen auf künstliche KI, um unsere internen Prozesse und Services zu optimieren.
• Nachgelagerter Anbieter: Wir integrieren KI-Modelle von Drittanbietern, beispielsweise aus dem Bereich GPAI, um die Funktionalität unserer Angebote zu optimieren und unseren Kunden einen größeren Mehrwert zu bieten.

Mit einem umfassenden Compliance-Ansatz sorgen wir dafür, dass wir den höchsten Standards für verantwortungsvolle KI gerecht werden. Als KI-Anbieter baut Workday auf seinem bewährten Governance-Framework für verantwortungsvolle KI auf, um die Compliance-Anforderungen des KI-Gesetzes der EU zu erfüllen. In diesem Bereich verfolgen wir seit 2019 einen zukunftsweisenden Ansatz. 

Workday bietet seinen Kunden ein Programm für verantwortungsvolle KI, das die Branchenstandards übertrifft. Dabei orientieren wir uns am NIST KI Framework und liegen bei Tests und Dokumentation über den gesetzlichen Vorgaben für weniger riskante KI-Anwendungen. Denselben zukunftsweisenden Ansatz wenden wir nun an, um die Vorgaben des EU-KI-Gesetzes zu erfüllen.

Darüber hinaus haben wir mehrere interne Programme ins Leben gerufen, mit denen wir unsere etablierten Praktiken mit dem KI-Gesetz der EU harmonisieren. Hierzu gehören Transparenzinitiativen, die Weiterentwicklung rollenbasierter KI-Kompetenzen, die Aktualisierung KI-bezogener Entwicklungs- und Implementierungsrichtlinien sowie eine bessere Erklärbarkeit in unseren KI-Systemen. 

Unser Ansatz für KI-Entwicklung

Auch wenn in allen diesen Bereichen unsere Prinzipien für verantwortungsvolle KI gelten, möchte ich mich in diesem Beitrag auf unseren Ansatz für die KI-Entwicklung konzentrieren, mit dem wir besondere Verantwortung für das Design der Technologie und die Minimierung potenzieller Risiken übernehmen.

Die verantwortungsbewusste Entwicklung und Implementierung von KI erfordert einen strukturierten und proaktiven Ansatz. Indem wir Überlegungen zu verantwortungsvoller KI in jede Phase unseres Entwicklungsprozesses einfließen lassen, gewährleisten wir, dass unsere KI-Lösungen nicht nur mit Vorschriften wie dem KI-Gesetz der EU konform sind, sondern auch unsere Grundwerte widerspiegeln.

Unser Ansatz basiert auf einer formalisierten risikobasierten Methode. Wir haben unser Bewertungsverfahren für KI-Risiken aktualisiert, um den besonderen Anforderungen des EU-KI-Gesetzes Rechnung zu tragen. Dadurch gewährleisten wir, dass unsere Bewertungsprozesse den Risikokategorien und Prinzipien des Gesetzes entsprechen.

Hier erhalten Sie einen Überblick darüber, wie wir verantwortungsvolle KI in unsere Entwicklungsprozesse integrieren:

Jeder neue KI-Anwendungsfall wird in der Konzeptionsphase einer Risikobewertung unterzogen. Bei der Bewertung werden relevante Risikokategorien basierend auf den spezifischen Merkmalen und dem Einsatzzweck des Anwendungsfalls zugeordnet. Anschließend erfolgt die Zuweisung von Protokollen und Praktiken zur Eindämmung der damit verbundenen Risiken.

Unsere im Folgenden dargestellten Praktiken für verantwortungsvolle KI sollen dafür sorgen, dass unsere Produkte sicher sind und den breitgefächerten Anforderungen entsprechen.

Sicherheit für Kunden im Zeitalter der KI 

Für uns steht fest, dass verantwortungsvolle KI eine Partnerschaft mit unseren Kunden voraussetzt. Aufgrund dieser Überzeugung wollen wir unseren Kunden die benötigten Tools und Ressourcen bereitstellen, damit sie fundierte Entscheidungen rund um den Einsatz von KI und das Management ihrer Daten treffen können.

Unsere vielfältigen Funktionen bieten den Kunden Kontrolle und Transparenz:

• Aktivierung von Features: Unsere Kunden entscheiden, welche Features sie aktivieren (bzw. nicht verwenden), einschließlich solcher, die Workday AI nutzen.
• Kontrolle über Datenbeiträge: Die Kunden kontrollieren, ob ihre Daten zur Weiterentwicklung der ML-Modelle von Workday genutzt werden.
• Transparenz: Workday bietet Ressourcen wie Dokumentation und mandanteninterne Tools, mit denen die Kunden die zur Verbesserung von ML-Modellen verwendeten Daten prüfen können.
• Granulare Zugriffskontrolle und Sicherheit: Die Kunden erhalten Tools, mit denen sie Sicherheitsgruppen einrichten und mit relevanten Stakeholdern ihrer Wahl besetzen können, u. a. KI-Governance-Teams und Spezialisten für Sicherheit, Datenschutz, Recht und Compliance. In Workday AI haben diese Gruppen die Möglichkeit, über die Verwendung von Daten zu entscheiden. Workday sorgt mit entsprechenden Tools dafür, dass Datenbeiträge und -entscheidungen auf die Bedürfnisse unserer Kunden abgestimmt sind.

Transparenz wird bei uns groß geschrieben und mit einer Vielzahl von Ressourcen unterstützt, um die Kunden auf dem neuesten Stand zu halten. Beispielsweise sind in den detaillierten KI-Factsheets unsere allgemein verfügbaren KI-Features beschrieben. Jedes Factsheet enthält eine Übersicht des jeweiligen KI-Features, der Modelleingaben und -ausgaben, des Modelltrainings und der Datenschutzaspekte. Darüber hinaus erweitern wir diese Tools und Ressourcen regelmäßig, damit Kunden den Einsatz von Workday AI besser kontrollieren können.

Kontinuierliche, übergreifende Zusammenarbeit

Die angemessene Berücksichtigung des KI-Gesetzes der EU fördert nicht nur die Compliance, sondern auch das Vertrauen unserer Kunden und Stakeholder. Wir haben uns der ethischen Innovation verschrieben und leisten einen Beitrag für eine Zukunft, in der KI zum Wohle aller eingesetzt wird.

Bei Workday betrachten wir verantwortungsvolle KI als ein fortlaufendes Projekt. Dabei sind wir gefordert, kontinuierlich Veränderungen der KI-Standards zu berücksichtigen und uns weiterzuentwickeln, um die Anforderungen der Kunden zu erfüllen und zu übertreffen. Das KI-Gesetz der EU markiert einen Meilenstein im Bemühen um ethische KI, doch wird es auch in Zukunft neue Vorschriften in diesem Bereich geben. Wenn es soweit ist, sind wir darauf vorbereitet.

Machen Sie sich mit den wichtigsten Prinzipien, Best Practices und Praxisbeispielen einer verantwortungsvollen KI vertraut und laden Sie das Whitepaper Verantwortungsvolle KI: Innovation mit Integrität herunter.