Wir dürfen nicht darauf warten, dass die Regierung das Vakuum der KI-Governance füllt.

Im Juli dieses Jahres legte das Vereinigte Königreich eine neue auf AI „Regelbuch“, das vorschlägt, wie diese transformative Technologie in Zukunft reguliert werden kann. Durch die Abwägung der Unterstützung für KI-Innovation mit der Notwendigkeit des öffentlichen Schutzes eröffnet es eine öffentliche Debatte über die Rolle der Regulierungsbehörden innerhalb der KI-Governance-Strukturen. Organisationen können jedoch nicht warten, bis dieses Regelwerk fertiggestellt ist, um sich mit den Fragen zu befassen, die KI aufwirft.

Bedenken hinsichtlich undurchsichtiger Black-Box-Algorithmen sowie Fragen zur ethischen Verwendung personenbezogener Daten und Verantwortlichkeiten in Bezug auf Sicherheit und Datenschutz haben KI zu einer Brutstätte moderner ethischer Dilemmata gemacht.

Diese Dilemmata müssen von vielen öffentlichen und privaten Organisationen angegangen werden, die sich jetzt auf KI verlassen, um Innovationen voranzutreiben. Trotz der Verbreitung von KI in Unternehmen fehlt es vielen Organisationen jedoch immer noch an einer starken KI-Governance, die für die Gewährleistung der Integrität und Sicherheit datengesteuerter Systeme entscheidend ist.

Tatsächlich zeigt die neueste O'Reilly-Forschung, dass mehr als die Hälfte der KI-Produkte in der Produktion globaler Organisationen immer noch keinen Governance-Plan haben, der überwacht, wie Projekte erstellt, gemessen und überwacht werden. Zutiefst besorgniserregend ist, dass Datenschutz und Sicherheit – Themen, die sich direkt auf Einzelpersonen auswirken können – zu den Risiken gehörten, die von Organisationen am wenigsten genannt wurden, wenn sie danach gefragt wurden, wie sie die Risiken für KI-Anwendungen bewerten. KI-fähige Organisationen berichten, dass „unerwartete Ergebnisse“ das bedeutendste Risiko für KI-Projekte sind, dicht gefolgt von Modellinterpretierbarkeit und Modellverschlechterung, die geschäftliche Probleme darstellen. Interpretierbarkeit, Datenschutz, Fairness und Sicherheit werden alle unter den Geschäftsrisiken eingestuft.

Es kann KI-Anwendungen geben, bei denen Datenschutz und Fairness keine Rolle spielen (z. B. ein eingebettetes System, das entscheidet, ob das Geschirr in Ihrer Spülmaschine sauber ist). Unternehmen mit KI-Praktiken müssen jedoch die Auswirkungen der KI auf den Menschen sowohl als ethisches Gebot als auch als Kerngeschäftspriorität priorisieren.

Wie UKRI (UK Research and Innovation) hervorhebt, „beweist sich der verantwortungsvolle Umgang mit KI als Wettbewerbsunterscheidungsmerkmal und entscheidender Erfolgsfaktor für die Einführung von KI-Technologien. Kulturelle Herausforderungen und insbesondere mangelndes Vertrauen gelten jedoch nach wie vor als die Haupthindernisse, die eine breitere und schnellere Einführung von KI verhindern.“

Mangelnde Governance ist nicht nur ein ethisches Problem. Sicherheit ist ebenfalls ein großes Problem, da KI vielen einzigartigen Risiken ausgesetzt ist: Datenvergiftung, böswillige Eingaben, die falsche Vorhersagen erzeugen, und Reverse-Engineering-Modelle, um private Informationen offenzulegen, um nur einige zu nennen. Sicherheit bleibt jedoch ganz unten auf der Liste der wahrgenommenen KI-Risiken.

Da Cyberkriminelle und schlechte Akteure bei der Einführung hochentwickelter Technologien voranschreiten, darf die Cybersicherheit im Rennen um die Verwirklichung des Versprechens von KI nicht in den Hintergrund treten. Es ist ein wesentlicher Strang der dringend benötigten KI-Governance. Governance muss die Matrix der Risikofaktoren für KI-Projekte aufwerten und zu einem Eckpfeiler jedes Entwicklungs- und Bereitstellungsprogramms werden.

KI-Governance auf den Punkt gebracht

Was genau ist vor diesem Hintergrund KI-Governance? Laut Deloitte umfasst es ein „breites Spektrum an Fähigkeiten, die sich darauf konzentrieren, den verantwortungsvollen Einsatz von KI voranzutreiben. Es kombiniert traditionelle Governance-Konstrukte (Politik, Rechenschaftspflicht usw.) mit differenzierten wie Ethikprüfungen, Bias-Tests und Überwachung. Die Definition läuft auf eine operative Sichtweise der KI hinaus und besteht aus drei Komponenten: Daten, Technik/Algorithmus und Geschäftskontext.“

Zusammenfassend lässt sich sagen, dass „um eine weit verbreitete Nutzung von KI zu erreichen, eine effektive Steuerung der KI durch aktives Management von KI-Risiken und die Implementierung von unterstützenden Standards und Routinen erforderlich ist“.

Ohne eine formalisierte KI-Governance ist es weniger wahrscheinlich, dass Unternehmen wissen, wann Modelle veraltet sind, Ergebnisse verzerrt sind oder Daten nicht ordnungsgemäß erfasst werden. Unternehmen, die KI-Systeme ohne strenge Governance entwickeln, um diese Probleme anzugehen, riskieren ihr Geschäft. Sie lassen der KI den Weg offen, effektiv die Kontrolle zu übernehmen, mit unvorhersehbaren Ergebnissen, die zu irreparablen Reputationsschäden und umfangreichen Gerichtsverfahren führen können.

Das geringste dieser Risiken besteht darin, dass die Gesetzgebung Governance vorschreiben wird und diejenigen, die keine KI-Governance praktiziert haben, dies nachholen müssen. In der sich schnell ändernden regulatorischen Landschaft von heute ist das Aufholen ein Risiko für den Ruf und die Widerstandsfähigkeit des Unternehmens.

Was hat die KI-Governance-Lücke geschaffen?

Die Gründe für das Versagen der KI-Governance sind komplex und miteinander verbunden. Eines ist jedoch klar: Die beschleunigte Entwicklung und Einführung von KI ist nicht mit einem Anstieg der Bildung und des Bewusstseins für ihre Risiken einhergegangen. Das bedeutet, dass KI unter einem Menschenproblem leidet.

Die größten Engpässe bei der Einführung von KI sind beispielsweise der Mangel an qualifizierten Mitarbeitern. Unsere Forschung zeigt erhebliche Qualifikationslücken in wichtigen technologischen Bereichen, einschließlich ML-Modellierung und Data Science, Data Engineering und der Pflege von Geschäftsanwendungsfällen. Die Lücke bei den KI-Fähigkeiten ist gut dokumentiert, und es gibt viele Regierungsdiskussionen und Richtlinien zur Förderung von Datenkompetenzen durch gezielte Hochschulbildung und Weiterbildung/Umschulung.

Technologische Fähigkeiten reichen jedoch nicht aus, um die Lücke zwischen Innovation und Governance zu schließen. Es ist weder ratsam noch fair, die Governance allein technischen Talenten zu überlassen. Zweifellos müssen diejenigen, die über die Fähigkeiten zur Entwicklung von KI verfügen, auch mit dem Wissen und den Werten ausgestattet sein, um Entscheidungen zu treffen und Probleme innerhalb des breiteren Kontextes zu lösen, in dem sie tätig sind. KI-Governance ist jedoch wirklich eine Teamleistung und repräsentiert die Werte einer Organisation, die zum Leben erweckt wird.

Das bedeutet, dass keine Organisation selbstgefällig sein kann, wenn sie Ethik und Sicherheit von Anfang an in KI-Projekte einbettet. Jeder im Unternehmen, vom CEO bis zum Datenanalysten, vom CIO bis zum Projektmanager, muss sich für die KI-Governance einsetzen. Sie müssen sich darauf einigen, warum diese Probleme wichtig sind und wie sich die Werte der Organisation durch KI-Implementierungen auswirken.

Die KI-Innovation schreitet voran, während Regierungen und Regulierungsbehörden auf der ganzen Welt in Bezug auf die Bedeutung dieser neuen Technologien für die Gesellschaft insgesamt aufholen müssen. Jede moralisch bewusste Organisation stellt die Privatsphäre, die Sicherheit und den Schutz der Öffentlichkeit an erster Stelle, aber ohne eine strenge KI-Governance gibt es eine potenzielle moralische Leere. Wir können es kaum erwarten, dass dies durch Verordnungen gefüllt wird. Unternehmen müssen sich diesen schwierigen Fragen ebenso proaktiv stellen wie sich die Leistungsfähigkeit und das Versprechen von KI zu eigen machen.