3 Tipps für CIOs: Wie man mit neuen KI-Vorschriften umgeht

Bei der Gestaltung von KI-Richtlinien sollten CIOs Transparenz, Datenschutz und die Verantwortlichkeit der Anbieter im Auge behalten.

KI entwickelt sich in rasantem Tempo, aber wie so oft, wenn es sich um Technologie handelt, hat die Politik Mühe, Schritt zu halten.

Dennoch werden die nächsten Jahre für die KI-Regulierung von großer Bedeutung sein, da führende Entscheidungsträger weltweit Richtlinien zur Regulierung von KI-Anwendungen der nächsten Generation, einschließlich großer Sprachmodelle (LLMs) wie ChatGPT, entwickeln. Die politischen Entscheidungsträger der Europäischen Union haben sich beispielsweise auf die Grundlagen des KI-Gesetzes geeinigt, einer umfassenden Reihe von Gesetzen, mit denen das Potenzial der Technologie genutzt und gleichzeitig vor ihren Risiken geschützt werden soll.

Die genaue Ausgestaltung der KI-Vorschriften ist noch nicht abgeschlossen und wird wahrscheinlich ständig aktualisiert werden müssen. Schließlich befindet sich ChatGPT noch in den Kinderschuhen. Einige der wichtigsten Fragen, die in Betracht gezogen werden, sind:

• Wie werden die verschiedenen Länder in einer globalen Wirtschaft die Nutzung von KI ermöglichen und einschränken?

• Wie kann KI Daten nutzen und gleichzeitig sicherstellen, dass sensible Informationen sicher und geschützt bleiben?

• Was sind die besten Praktiken, um Voreingenommenheit bei KI-Anwendungen und -Ergebnissen abzuschwächen?

• Welche Dokumentation wird erforderlich sein, um zu beweisen, dass KI verantwortungsvoll entwickelt wurde?

Während sich Regierungsbehörden und Nichtregierungsorganisationen weiterhin mit diesen wichtigen Fragen auseinandersetzen, befinden sich CIOs in der Zwickmühle. Das Vorantreiben der Entwicklung inmitten der regulatorischen Unsicherheit birgt Risiken.

Eine Verzögerung der Entwicklung und des Einsatzes von KI-Anwendungen könnte langfristige Folgen für Rentabilität und Wachstum haben.

Abgesehen von den Risiken setzen 60 % der Unternehmen KI und maschinelles Lernen (ML) in irgendeiner Form ein, so der C-Suite Global AI Indicator Report von Workday. Darüber hinaus ergab die Studie, dass die IT-Führungskräfte höchstwahrscheinlich diejenigen sein werden, von denen erwartet wird, dass sie die KI-Einführung eines Unternehmens zum Erfolg führen. Um die Nase vorn zu haben, müssen CIOs herausfinden, wie ihr Unternehmen von KI profitieren kann, klare Anwendungsfälle definieren und Governance-Richtlinien einführen, die den verantwortungsvollen Einsatz von KI-Innovationen ermöglichen.

"Wenn Sie KI regulieren wollen, können Sie das nicht tun, indem Sie die Technologie regulieren. Die Technologie entwickelt sich weiter. Also müssen Sie die Nutzer regulieren und den Kontext betrachten", sagte Thomas Boué, Generaldirektor für Politik bei der Business Software Alliance (BSA). "Bei risikoreichen Anwendungen von KI geht es nicht darum, sie zu verhindern, sondern darum, Schutzmaßnahmen zu ergreifen, um sicherzustellen, dass KI zum Nutzen der Gesellschaft genutzt, entwickelt und eingesetzt werden kann."

Hier sind drei Erkenntnisse, die CIOs nutzen können, um ihre KI-Praktiken zu steuern, während sich sowohl die Technologie als auch die sie umgebenden Vorschriften weiterentwickeln.

1. Transparenz ist Trumpf

Kein CIO möchte in Innovationen investieren, nur um dann feststellen zu müssen, dass regulatorische Änderungen den Weg für das Unternehmen versperren. Aber die Möglichkeiten der KI sind zu vielversprechend, um sie zu verpassen. Um in einem unberechenbaren Markt sinnvolle Fortschritte zu erzielen, müssen CIOs Transparenz im gesamten Unternehmen und im Ökosystem fördern - und ermöglichen.

Dies beginnt damit, dass klar kommuniziert wird, wo und wie KI eingesetzt wird und was das Unternehmen erreichen will. Angesichts der vielen Unbekannten, die die KI-Diskussion prägen, hilft radikale Transparenz dabei, die Erwartungen an das, was die Anwendungen leisten können, zu steuern, die Ängste der Stakeholder zu zerstreuen und Verantwortlichkeit zu demonstrieren.

CIOs können die Transparenz fördern, indem sie den internen und externen Stakeholdern, einschließlich der Aufsichtsbehörden, Einblick gewähren. Die detaillierte Darstellung von Datenverarbeitungspraktiken und Maßnahmen zum Schutz der Privatsphäre kann Unternehmen helfen, die ethische und transparente Verwendung von Daten zu demonstrieren. Ein Einblick in die Auswahl der Algorithmen und die Gründe dafür kann auch zeigen, wie Vorurteile berücksichtigt und beseitigt werden.

Obwohl noch nicht genau feststeht, welche Art von Dokumentation von den Aufsichtsbehörden verlangt wird, "gibt es einen enormen Konsens über Transparenz", sagte Chandler Morse, Vice President, Public Policy bei Workday. "Die Mitarbeitenden sind zum Beispiel der Meinung, dass beim Einsatz von KI in der Personalabteilung vollständige Transparenz darüber herrschen sollte, was geschieht, wie es geschieht, welche Daten gesammelt werden und welche Schlüsse daraus gezogen werden."

Wenn Unternehmen offen über KI kommunizieren, sind die Mitarbeitenden auch eher bereit, Fragen darüber zu stellen, wie und wo neue Anwendungen eingesetzt werden sollen. Dies verringert das Risiko, dass Teams KI unangemessen einsetzen - und erhöht die Wahrscheinlichkeit, dass sie selbstbewusst und verantwortungsvoll innovieren.

2. Erklärbarkeit reduziert die Risikoexposition

Während der Entwicklung von Compliance-Richtlinien sollte die Erklärbarkeit der Leitstern eines CIOs sein. Im Zusammenhang mit KI betrifft die Erklärbarkeit insbesondere die Entscheidungsfindung. Transparenz bietet Einblick in die Entwicklung und den Einsatz von KI, aber Erklärbarkeit konzentriert sich darauf, wie das System denkt - und auf die Logik, die es verwendet, um zu Schlussfolgerungen zu gelangen.

Während der Entwicklung von Compliance-Richtlinien sollte die Erklärbarkeit der Leitstern eines CIOs sein Zum Beispiel könnten Unternehmen aufgefordert werden, nachzuweisen, dass kein urheberrechtlich geschütztes Material für das Training ihrer KI verwendet wurde, selbst wenn das Modell, auf dem es basiert, von einem Dritten entwickelt wurde.

Ein Beispiel dafür ist die Verwaltung von Mitarbeitenden. Wenn KI für Einstellungs-, Beförderungs- oder Kündigungsentscheidungen verwendet wird, werden CIOs harte Fragen dazu stellen müssen, wie die KI trainiert wurde, wie mit Vorurteilen umgegangen wurde und wie private Daten während der Implementierung geschützt wurden. Dies ist von entscheidender Bedeutung, da einige Länder eine Gesetzgebung in Erwägung ziehen, die Unternehmen, die risikoreiche KI-Modelle einsetzen - wie z.B. solche, die für das Gesundheitswesen oder das Bildungswesen bestimmt sind - stärker für Schäden haftbar macht, die aus dieser Nutzung resultieren.

Allgemeine KI-Modelle, so genannte Basismodelle, können für eine Vielzahl von Aufgaben fein abgestimmt werden. Unternehmen kaufen diese allgemeinen Modelle oft von Anbietern. Sobald ein Unternehmen jedoch ein Basismodell in seine Produkte oder Betriebsabläufe integriert, sind seine Führungskräfte dafür verantwortlich, den Aufsichtsbehörden zu versichern, dass die Technologie mit den neuen Vorschriften konform ist. Das bedeutet, dass CIOs sicherstellen müssen, dass sie eine umfassende Dokumentation erhalten, die auch Hintergrundinformationen zur Modellarchitektur, zur Funktionsentwicklung, zu Testverfahren und zu Sicherheitsmaßnahmen enthält.

"Unternehmen sollten sich also intensiv mit ihren Anbietern austauschen, um sicherzustellen, dass sie die neuen Vorschriften fest im Griff haben und dass sie über Governance-Programme verfügen, die sich an diesen Vorschriften orientieren", so Jeppesen.

CIOs müssen auch nachvollziehen, wo interne Teams das Basismodell verwenden, wie es in die Produkte und Abläufe des Unternehmens integriert wurde und welche zusätzlichen Daten zur Feinabstimmung der Anwendung verwendet wurden. Mit zunehmender Verbreitung wird die Sicherstellung der Erklärbarkeit zu einer unternehmensweiten Aufgabe. "KI ist nicht mehr eine Sache von der Stange, die man auf dem System installiert und die dann einfach funktioniert", sagt Boué. "Es ist etwas, das ausgehandelt wird, das diskutiert wird und das sich ständig verändert."

3. Schutzmaßnahmen ermutigen zur Innovation

Unternehmen fordern nur selten eine stärkere Regulierung, aber wenn es um KI geht, sind sich die meisten Branchenvertreter einig, dass bessere Leitlinien erforderlich sind.

Es geht nicht darum, dass die Unternehmen von den Regierungen wissen wollen, wie sie die Technologie entwickeln sollen - das brauchen sie nicht. Vielmehr brauchen sie Schutzmechanismen, die ihren Kunden die Sicherheit dieser Produkte und Anwendungen garantieren. "Es gibt ein gewisses Maß an Vertrauen, das mit regulatorischer Sicherheit einhergeht", sagte Morse.

Um Vertrauen zu schaffen, während die Vorschriften entwickelt werden, sollten CIOs prüfen, was die führenden KI-Unternehmen in diesem Bereich tun. Die ersten Unternehmen, die KI für die Personalabteilung einführen, konzentrieren sich beispielsweise darauf, die Grundrechte der einzelnen Mitarbeitenden, Bewerber und Kandidaten bei jedem Schritt zu schützen.

Ein proaktiver Ansatz bereitet globale Unternehmen auch auf die unvermeidlichen Unterschiede in der KI-Gesetzgebung auf der ganzen Welt vor. Die Definition von Schlüsselbegriffen und die Ausrichtung an den Kernprinzipien verantwortungsvoller KI, einschließlich Transparenz, Erklärbarkeit, Verringerung von Diskriminierung und Voreingenommenheit sowie Schutz der Privatsphäre, kann Unternehmen helfen, schneller voranzukommen - und gleichzeitig die Zusammenarbeit über Ländergrenzen hinweg ermöglichen.

"Es gibt ein gemeinsames Ziel, nämlich ein interoperables Umfeld für die Innovation und den Einsatz dieser Technologien", sagte Jeppesen. "Die meisten Länder haben im Großen und Ganzen ähnliche Ziele - sie wollen alle Vorteile dieser Technologie nutzen und gleichzeitig sicherstellen, dass sie sicher und vertrauenswürdig ist und ohne Bedenken eingesetzt werden kann.