Acht Möglichkeiten, um sicherzustellen, dass die KI Ihres Unternehmens ethisch einwandfrei ist

Basierend auf unseren Erfahrungen haben wir hier acht Erkenntnisse für Unternehmen zusammengestellt, die eine Verpflichtung auf einen ethisch einwandfreien Einsatz von künstliche Intelligenz (KI) in ihrer gesamten Organisation verankern möchten.

Image placeholder

Mit KI und Datenschutz Schritt zu halten kann überwältigend wirken. Obwohl damit unglaublich viele Hoffnungen und Chancen verbunden sind, gibt es auch Bedenken bezüglich Datenmissbrauch und einer Gefährdung der Privatsphäre. Während wir diese Themen bewerten und die vierte industrielle Revolution ihren Lauf nimmt, kommen Fragen auf: Welche Hoffnungen und Gefahren bringt die KI mit sich und wie können Unternehmen Maßnahmen ergreifen, um ihren Mehrwert besser zu realisieren?

Das Thema „Ethik“ in Technologieprodukte zu integrieren kann auf Entwickler abstrakt wirken. Obwohl viele Technologieunternehmen eigenständig an Initiativen arbeiten, um dies auf konkrete und fassbare Art und Weise zu erreichen, ist es unerlässlich, dass wir aus diesen Silos ausbrechen und unsere Best Practices teilen. Indem wir zusammenarbeiten, um voneinander zu lernen, können wir die Messlatte für die Branche insgesamt höher legen. Ein guter Ausgangspunkt wäre ein Fokus auf die Dinge, die Vertrauen schaffen.

Vertrauen war bei Workday von Anfang an ein Grundpfeiler. Unsere Kunden wissen, dass wir Aspekte wie Datenschutz und Sicherheit ernst nehmen, und zwar schon seit Jahren. Das liegt daran, dass der Datenschutz über unsere Datenschutzgrundsätze, unser Konzept zur DSGVO und unser zuverlässiges Datenschutzprogramm zentraler Bestandteil von Workday-Services ist. Während wir uns weiterhin auf eine mitarbeiterorientierte, auf Machine Learning (ML) gestützte Zukunft zubewegen, nutzen wir unseren Ansatz, dass Datenschutz und Sicherheit immer an erster Stelle stehen, um sicherzustellen, dass wir ML ethisch einwandfrei entwickeln und bereitstellen.

Viele Unternehmen veröffentlichen übergeordnete Grundsätze zu ihrem Konzept für Design und Deployment von KI-Produkten. Grundsätze sind jedoch nur dann wertvoll, wenn sie auch tatsächlich implementiert werden. Workday hat vor Kurzem einen Blog-Beitrag zu unserer Verpflichtung für einen ethisch vertretbaren Einsatz von KI veröffentlicht, der zeigen soll, wie wir Grundsätze implementieren, die direkt auf unseren Grundwerten Kundenservice, Integrität und Innovation aufbauen. Basierend auf unseren Erfahrungen haben wir hier acht Erkenntnisse für Unternehmen zusammengestellt, die diese Grundsätze in ihrer gesamten Organisation verankern möchten.

1. Entwickeln Sie ein gemeinsames Verständnis davon, was KI-Ethik bedeutet. Diese Definition muss spezifisch und für alle relevanten Stakeholder im Unternehmen handlungsorientiert sein. Bei Workday bedeutet KI-Ethik, dass unsere ML-Systeme die Verpflichtung von Workday für einen ethisch einwandfreien Einsatz von KI widerspiegeln: Die Mitarbeiter stehen für uns stets an erster Stelle, wir kümmern uns um gesellschaftliche Themen, wir handeln gerecht und halten uns an geltende Gesetze, wir schützen Daten und wir stellen ML-Systeme im Sinne des Unternehmens bereit.

2. Integrieren Sie ethisch einwandfreie KI in das Framework für Produktentwicklung und Release. Dies dürfen keine separaten Prozesse sein, die für Entwickler und Produktteams mehr Arbeit und Komplexität bedeuten. Workday hat diese Grundsätze in die Produktentwicklung integriert und Prozesse entwickelt, die ihre fortlaufende Einhaltung gewährleisten. Neue ML-Kontrollen wurden in das formelle Kontroll-Framework von Workday integriert, um die Durchsetzung unserer Grundsätze zur ML-Ethik zu unterstützen. Unsere Entwicklungsteams untersuchen jedes ML-Produkt unter ethischen Gesichtspunkten, indem sie Fragen zu Datenerfassung und -minimierung, Transparenz und Werten stellen. Im Bereich Datenschutz haben wir diesbezüglich eine lange Historie, zu der unter anderem „Privacy by Design“-Prozesse sowie Audits durch Dritte anhand unserer Kontrollen und Standards gehören Workday hat eine Reihe von „Ethics by Design“-Kontrollen für ML eingeführt und verfügt über zuverlässige Review- und Genehmigungsmechanismen für die Freigabe von neuen Technologien sowie neuen Nutzungsmöglichkeiten für Daten. Wir haben uns verpflichtet, unsere Prozesse laufend zu prüfen und sie so weiterzuentwickeln, dass neue Best Practices und regulatorische Richtlinien der Branche integriert werden.

3. Schaffen sie funktionsübergreifende Expertengruppen, die Leitlinien für verantwortungsbewusste Entscheidungen über Design, Entwicklung und Deployment von ML und KI vorgeben. Workday hat schon früh eine Machine Learning Task Force eingerichtet, die aus Workday-internen Experten in den Bereichen Produkt und Entwicklung, Recht, Politik und Datenschutz sowie Ethik und Compliance besteht. Diese Gruppen untersuchen bestehende und künftige Nutzungsmöglichkeiten von ML in unseren Produkten. Diese unterschiedlichen Kompetenzen und Ansichten in der Diskussion über zukünftige und bestehende Nutzungsmöglichkeiten von ML in unseren Produkten zusammenzubringen, hat sich als äußerst effektiv erwiesen und es uns ermöglicht, potenzielle Probleme schon früh im Produktlebenszyklus zu identifizieren.

4. Lassen Sie Zusammenarbeit mit Kunden in Design, Entwicklung und Deployment von verantwortungsbewusster KI einfließen. Workday arbeitet im Rahmen der Produktentwicklung mit unseren Customer Advisory Councils aus einem breiten Querschnitt unseres Kundenstamms zusammen, um Feedback zu Entwicklungsthemen im Zusammenhang mit KI und ML zu sammeln. Und über unser Early Adopter-Programm arbeiten wir eng mit einer Handvoll Kunden zusammen, die als Designpartner fungieren und im Rahmen unserer Innovation Services neue ML-Modelle und -Funktionen testen. Dadurch können wir Ideen und Bedenken unserer Kunden rund um KI und ML frühzeitig verstehen und aufnehmen, während wir gemeinsam mitarbeiterorientierte ML-Lösungen entwickeln.

5. Verfolgen Sie hinsichtlich der Verzerrungen im Machine Learning einen „Lebenszyklus-Ansatz“. ML-Tools stellen eine phänomenale Chance dar, unseren Kunden zu helfen, damit sie Daten nutzen können, um menschliche Entscheidungen zu verbessern. Mit dieser Chance geht die Verantwortung einher, Tools im Sinne des Unternehmens zu entwickeln, die das unglaubliche Vertrauen bewahren, das unsere Kunden in uns setzen. Deshalb liegt einer der Schwerpunkte der Verpflichtung von Workday für einen ethisch einwandfreien Einsatz von KI auf der Milderung schädlicher Verzerrungen im Machine Learning. Workday ist auf einen Lebenszyklus-Ansatz fokussiert. Dieser beinhaltet Checkpoints, an denen wir verschiedene Bewertungen und Prüfungen von Verzerrungen durchführen, beginnend beim anfänglichen Konzept für ein Produkt bis über dessen Release hinaus.

6. Seien Sie transparent. Eine ethisch einwandfreie Nutzung von Daten für ML erfordert Transparenz. Weil ML-Algorithmen so komplex sein können, sollten Unternehmen sich besonders große Mühe geben, zu erklären, welche Daten genutzt werden, für welchen Zweck und wie. Wir erläutern Kunden die Funktionsweise und Vorteile unserer ML-Technologien und spezifizieren, welche Daten für den Betrieb unserer ML-Lösungen benötigt werden. Wir demonstrieren Kunden Verantwortlichkeit in ML-Lösungen.

7. Unterstützen Sie Ihre Mitarbeiter bei der Entwicklung verantwortungsbewusster Produkte. Wir tun dies, indem wir mithilfe von obligatorischen Schulungsmodulen, Toolkits, Seminaren, Onboarding-Maßnahmen und Workshops sicherstellen, dass Workday-Mitarbeiter darin geschult sind, unsere Verpflichtung für einen ethisch einwandfreien Einsatz von KI zu erfüllen. Ein Beispiel: In einem Design-Workshop, bei dem Menschen im Mittelpunkt stehen, wird Workday-Mitarbeitern mithilfe verschiedener Szenarien und Rollen unsere Verpflichtung für eine ethisch einwandfreie Entwicklung von ML-Technologien vermittelt.

8. Teilen Sie Ihr Wissen und lernen Sie von anderen in der Branche. Wir tun dies, indem wir uns in Branchenverbänden engagieren und bei Konferenzen, z. B. im Lenkungsausschuss des Weltwirtschaftsforums für ethisch einwandfreies Design und Deployment von Technologie, mithelfen, einen ethischen Rahmen für die Technologiebranche zu entwickeln. Außerdem legt Workday Wert darauf, neue Standards und Pläne zu überwachen und daran mitzuarbeiten. In den USA arbeitet Workday beim Thema ethisch einwandfreie KI eng mit Gesetzgebern und Behördenvertretern zusammen, einschließlich Entwicklung und Teilnahme an einem Mitarbeiter-Briefing des Congressional AI Caucus über Konzepte der Branche im Bereich ethisch einwandfreie KI sowie der Rolle, Branche und Politik bei verschiedenen Veranstaltungen zusammenzubringen. Darüber hinaus haben wir das Update der National Science Foundation für den „National Artificial Intelligence Research and Development Strategic Plan“ und die Entwicklung der Studie „Artificial Intelligence Standards and Tools Development“ des National Institute of Standards and Technology unterstützt und setzen uns weiterhin dafür ein, dem NIST in der Entwicklung von KI-Ethik-Tools eine größere Rolle zu geben. In Europa hat Workday an einem Pilotprogramm teilgenommen, um die von der Hochrangigen Expertengruppe für Künstliche Intelligenz (HEG-KI) der Europäischen Union verfassten Ethik-Leitlinien für eine vertrauenswürdige KI zu bewerten.

Während wir durch diese sich weiterentwickelnde Welt des ethisch einwandfreien Einsatzes von KI navigieren, wird es wichtiger sein denn je, Best Practices zu teilen und gewonnene Erkenntnisse herauszuarbeiten. Wir brennen darauf, von anderen zu hören, welche Ansätze sich hinsichtlich Skalierung und Implementierung als effektiv erwiesen haben, und wir freuen uns über die Chance zum Austausch. Tatsächlich ist das Ziel der Zusammenarbeit von Workday mit dem Weltwirtschaftsforum, andere anzuregen, ebenfalls ihre Best Practices zur Förderung eines verantwortungsbewussten und ethisch vertretbaren Einsatzes von Technologie zu teilen. Das Streben nach einem verantwortungsbewussten und ethisch vertretbaren Einsatz von künstlicher Intelligenz und Technologie ist von entscheidender Bedeutung – und weitaus wichtiger als einzelne Unternehmen und Organisationen.

Gemeinsam sollten wir durch unser Handeln guten Willen zeigen und Vertrauen aufbauen, damit wir die Vorteile dieser leistungsstarken neuen Technologien realisieren können.

Weiteres Lesematerial