Verantwortungsvolle KI erfordert die Zusammenarbeit zwischen Entwicklern und Anwendern

In diesem Beitrag befassen wir uns mit folgenden Themen:

• Best Practices für die verantwortungsvolle Entwicklung von KI
• Best Practices für den verantwortungsvollen Einsatz von KI
• Gemeinsamer Aufbruch in die Zukunft

Wenn KI positive Auswirkungen auf die Gesellschaft haben soll, müssen sich diejenigen, die KI entwickeln, und diejenigen, die die Technologie im Rahmen ihrer Aufgaben zum Einsatz bringen, auf gemeinsame Pflichten und Verantwortlichkeiten einigen. Verantwortungsvolle KI erfordert Teamarbeit: Jeder Akteur in der KI-Wertschöpfungskette spielt eine wichtige Rolle dabei, die Zukunft nach unseren Vorstellungen zu gestalten.

Im Folgenden finden Sie einige Best Practices für Entwickler von KI-Technologien wie Workday und die Anwender dieser Technologie, beispielsweise unsere Kunden.

Best Practices für die verantwortungsvolle Entwicklung von KI

Die folgenden Grundsätze sind unerlässlich für eine verantwortungsvolle Entwicklung der KI. Dies sind die Best Practices, die wir befolgen und die wir auch anderen Entwicklern nahelegen. Darüber hinaus setzt dieser mehrstufige Ansatz die Konsensbildung und Unterstützung auf allen Ebenen des Unternehmens voraus. Verantwortungsvolle KI ist nicht die Aufgabe eines Einzelnen, eines Teams oder eines Lenkungsausschusses, sondern ein absolutes Muss, das von den Führungskräften erkannt und im gesamten Unternehmen etabliert werden muss.

Konsequente KI-Risikobewertung: Jedes neue KI-Produkt, das wir auf den Markt bringen, durchläuft unsere skalierbare Risikobewertung, die in Abstimmung mit den im KI-Gesetz der EU definierten Risikokategorien entwickelt wurde. Diese Analyse ermöglicht es uns, den Risikograd des neuen Anwendungsfalls effizient zu bestimmen – sowohl in Bezug auf den Kontext als auch auf die Merkmale. Hierzu zählen beispielsweise die technische Gestaltung sowie das Modelldesign, die potenziellen Auswirkungen auf die ökonomischen Chancen des Einzelnen und Bedenken im Hinblick auf eine mögliche Überwachung der Mitarbeiter.

Anwendungsfälle mit „hohem Risiko“ unterscheiden sich von „unzulässigen“ Anwendungsfällen. Ein „hohes Risiko“ bedeutet, dass der Anwendungsfall mehr Richtlinien und Sicherheitsvorkehrungen sowie größere Sorgfalt und Umsicht erfordert. „Unzulässige“ Anwendungsfälle, z. B. in die Privatsphäre eingreifende oder biometrische Methoden zur Produktivitätsüberwachung, stehen im Widerspruch zu unseren Grundwerten. Darum entwickeln wir auch keine Lösungen, die in diese Kategorie fallen.

Einhaltung zielführender Richtlinien für verantwortungsvolle KI: Für zulässige Anwendungsfälle bestimmt das Ergebnis der Risikobewertung die erforderlichen Mechanismen zur Risikominderung in Form von Richtlinien. So können die Entwickler die Einhaltung der entsprechenden Richtlinien während der Lösungsentwicklung nachvollziehen und dokumentieren. Für Technologien mit erhöhtem Risiko – z. B. solche, die unsere Kunden für folgenreiche Entscheidungen nutzen, die sich auf die ökonomischen Chancen der Mitarbeiter auswirken können – benötigen wir eine größere Anzahl von KI-Richtlinien als für Technologien mit geringerem Risiko – beispielsweise solche, die bei der Identifizierung von Budgetanomalien helfen sollen. Die Richtlinien für eine verantwortungsvolle KI umfassen Aspekte wie Transparenz, Fairness, Erklärbarkeit, Human-in-the-Loop-Regel, Datenqualität und Robustheit. Dabei verfolgen wir zwei Ziele: Um unseren Kunden hochwertige und vertrauenswürdige KI-Technologien an die Hand zu geben, müssen wir einerseits unbeabsichtigte Folgen, z. B. Verzerrungen („Bias“), vermeiden und andererseits sicherstellen, dass wir uns an neue Best-Practice-Frameworks und geltende Vorschriften halten.

Gewährleistung von Transparenz gegenüber den Kunden: Bei Workday geben wir unseren Kunden KI-Factsheets für jedes von uns angebotene KI-Tool an die Hand. Dies bietet ihnen Transparenz darüber, wie unsere KI-Angebote entwickelt, getestet und trainiert werden. Zu jeder Funktion werden auch bekannte Anwendungseinschränkungen und eine Übersicht über die risikomindernden Faktoren angeführt. Die Factsheets enthalten auch Informationen darüber, wie wir unsere Mitarbeiter im Bereich verantwortungsvolle KI-Entwicklung schulen und ihnen die Bedeutung dieses Aspekts vermitteln.

Best Practices für den verantwortungsvollen Einsatz von KI

Die folgenden Best Practices bilden die Grundlage für einen verantwortungsvollen Einsatz von KI-Technologien.

Klares Verständnis für die Rollen und Verantwortlichkeiten in der KI-Wertschöpfungskette: Vorschriften und Best-Practice-Frameworks sind hilfreich, um die Verantwortlichkeiten für das Management von KI-Risiken nicht nur für Entwickler wie Workday, sondern auch für Anwender zu ermitteln. In Artikel 26 des KI-Gesetzes der EU werden beispielsweise die Pflichten von Anwendern dargelegt, die KI-Lösungen mit hohem Risiko zum Einsatz bringen. Lesenswert sind auch die „Best Practices for KI and Workplace Assessment Technologies“ des Future of Privacy Forum.

Darüber hinaus beinhaltet das kürzlich in Colorado verabschiedete Gesetz sowohl Verpflichtungen für Entwickler als auch für Anwender. Dieses Gesetz spiegelt einen neuen Rechtsrahmen auf bundesstaatlicher Ebene wider, für dessen Umsetzung sich Workday eingesetzt hat. Anwendern kommt bei diesem Thema eine wichtige Rolle zu, wobei sie sich mithilfe öffentlich zugänglicher Ressourcen einen Überblick über ihre Verantwortlichkeiten beim KI-Risikomanagement verschaffen können.

Zusammenarbeit mit zuverlässigen KI-Entwicklern: Vertrauenswürdige KI-Entwickler sind mit den bestehenden Vorschriften und Best Practices vertraut, aber auch mit jenen, die gerade erst entwickelt werden, was in diesem dynamischen Bereich ebenso wichtig ist. Sie verfügen außerdem über Frameworks für „RAI by Design“ (verantwortungsvolle KI als grundlegendes Designkonzept) und Risikominderung, die im Einklang mit dem dynamischen Regulierungsumfeld stehen.

Fragen Sie bei der Wahl eines KI-Entwicklers danach, ob dieser mit dem KI-Gesetz der EU, dem NIST KI Risk Management Framework und anderen regulatorischen Richtlinien und Best Practices vertraut ist und diese in seinen Produkten berücksichtigt. Auch sollte der Anbieter bereit sein, Ihnen eine Beschreibung seiner Verfahren zur Risikoermittlung und -minderung zur Verfügung zu stellen. Moderne Entwickler verfügen in der Regel über Programme für verantwortungsvolle KI, wozu auch ein speziell mit diesem Thema betrautes Team gehört, ebenso wie ein Fokus auf RAI-by-Design, sodass Integrität ein grundlegender Bestandteil ihrer KI-Produkte und -Technologien ist.

Gewährleistung eines verantwortungsvollen Einsatzes und einer effektiven Überwachung der KI-Lösungen: Anwender von KI-Systemen sind ein wichtiges Glied der KI-Wertschöpfungskette, da sie sich direkt an der Schnittstelle zwischen Lösung und Endbenutzer befinden. Ihre Aufgabe besteht darin, sich zunächst zu fragen, welche geschäftliche Herausforderung sie in Angriff nehmen möchten und ob die KI-Technologie des entsprechenden Anbieters eine sinnvolle Lösung für dieses Problem bietet. Dann müssen sie überlegen, welche Richtlinien für den verantwortungsvollen Einsatz der KI in Bezug auf ihren Anwendungsfall infrage kommen. Während die Entwickler beispielsweise Fairness-Tests mit aggregierten Daten durchführen sollten, liegt es in der Hand der Anwender, entsprechende Tests mithilfe ihrer eigenen lokalen Daten zu replizieren.

Während die Entwickler die Lösungen so konzipieren sollten, dass die Ergebnisse auf effektive Weise von Menschen überprüft werden können, liegt es in der Hand der Anwender, wirkungsvolle Prüfungen für die Prozesse zu implementieren, die sie mit der Lösung optimieren möchten. Darüber hinaus müssen sie das System so konfigurieren, dass dieser Prozess optimiert wird, und die Systemabläufe innerhalb dieses Prozesses überwachen und kontrollieren.

Gemeinsamer Aufbruch in die Zukunft

Als verantwortungsbewusste Anbieter von KI-Lösungen stellen wir uns bei Workday der Verantwortung, vertrauenswürdige KI-Lösungen zu entwickeln. Wir sind uns auch unserer Rolle in der übergeordneten KI-Wertschöpfungskette bewusst. Nur wenn sich alle Glieder dieser Wertschöpfungskette zur Zusammenarbeit verpflichten, können wir sicherstellen, dass diese Technologien zur Erweiterung des menschlichen Potenzials eingesetzt werden und die Gesellschaft positiv beeinflussen.

Weitere Einzelheiten zu unserem Programm für verantwortungsvolle KI-Governance finden Sie im Whitepaper „Verantwortungsvolle KI: Innovation mit Integrität“. Darin erläutern wir die Stützpfeiler unseres Ansatzes: Grundsätze, Praktiken, Mitarbeiter und gesetzliche Regulierung.