Wie können wir künstliche Intelligenz entwerten?
Künstliche Intelligenz spielt bereits eine große Rolle im Finanzdienstleistungssektor, in der Medizin, in der Welt der Personalbeschaffung und in vielen anderen wichtigen Bereichen. Allerdings aktuell AI funktioniert nur gut, wenn die richtigen Informationen verwendet werden, um es zu trainieren. Aber wenn Menschen diejenigen sind, die diese Informationen sammeln, öffnet dies der Voreingenommenheit Tür und Tor. Wie stellen wir also das Debiasing in der KI sicher?
Den Prozess verstehen
KI ist noch nicht in der Lage, für sich selbst zu denken, daher ist menschliche Unterstützung erforderlich, um die erforderlichen Daten zusammenzustellen. Es ist ein bisschen wie das Programmieren eines anderen Computers in dem Sinne, dass wir nur aus den richtigen Informationen und richtig organisiert gute Ergebnisse oder richtige Entscheidungen erzielen. Wenn Sie dies falsch machen, können die Ergebnisse verheerend sein.
Zum Beispiel hatten wir beim Training von Rekrutierungsalgorithmen auf der Grundlage historischer Daten eine KI, die junge, weiße Männer bevorzugte und Frauen und Farbige ausschloss. Kurz gesagt, die Trainingsdaten hier waren eindeutig falsch und voreingenommen. Dies zu verstehen, kann uns helfen, den Debiasing-Prozess zu beginnen, da einige Modelle riesige Datenmengen benötigen, um die Welt zu verstehen. Etwas so Einfaches wie das Erhalten der korrekten zugehörigen Metadaten, die mit demografischen Merkmalen verknüpft sind, ist von entscheidender Bedeutung.
Die alles entscheidenden Fragen stellen?
Bei der Verwendung von KI schreibt die Gesetzgebung (und der gesunde Menschenverstand) vor, dass wir prüfen müssen, wie es zu einer bestimmten Entscheidung oder einer Reihe von Antworten gekommen sein könnte, insbesondere wenn wir mit dem Ergebnis nicht ganz zufrieden sind. Zu diesem Zweck gibt es bereits ein wachsendes Forschungsgebiet zur „erklärbaren KI“, bei dem wir uns eine Reihe von Modellen ansehen und herausfinden können, auf welchen Entscheidungen beruhen.
Idealerweise ist die Erklärbarkeit in das Modell selbst eingebaut. Aber auch sogenannte Black-Box-Modelle lassen sich so betreiben, dass wir durch ein wenig Trickserei darauf schließen können, welcher Teil der Eingabedaten den größten Einfluss auf die vom jeweiligen Netzwerk vorgegebene Einstufung hatte.
Dies ist wichtig, da alle Menschen in Europa jetzt das gesetzliche Recht haben, dass ihnen automatisierte Entscheidungen erklärt werden, und Transparenz daher alles ist. Die HMRC war in den letzten Jahren wegen mangelnder Transparenz in Bezug darauf, wie sie KI verwenden, um Entscheidungen darüber zu treffen, welche Personen beispielsweise universelle Kredite erhalten sollten, unter Beschuss geraten. Dies darf natürlich nicht auf Voreingenommenheit schließen, aber Transparenz ist hier sicherlich das Schlüsselwort.
Jetzt Schritte unternehmen
Warum müssen wir uns so viele Gedanken darüber machen, dass der Prozess des Debiasing gerade jetzt Fahrt aufnimmt? Denn KI ist in unserer sich ständig weiterentwickelnden digitalen Welt bereits zu einem wirklich wichtigen Werkzeug geworden. Wir müssen verstehen, wie wir dieses Konzept nutzen können, um die besten Ergebnisse für alle Beteiligten zu erzielen.
In Bezug auf die Sektoren, die KI einsetzen, können die getroffenen Entscheidungen einen enormen Einfluss auf das Leben der Menschen haben. Was wir nicht wollen, ist ein Zeitalter der Diskriminierung zu fördern, indem wir einfach mit den falschen Daten trainieren.
Mediziner verwenden zunehmend datengesteuerte Algorithmen, um Entscheidungen über die Gesundheitsversorgung über KI zu treffen: Diese informieren über Gesundheitsentscheidungen wie die Diagnose von Krebs, Herzerkrankungen und Augenerkrankungen. Es sind neue fortschrittliche Anwendungen auf dem Weg. Doch beim Training mit falschen Daten lauern Gefahren.
Um ein aktuelles amerikanisches Beispiel im Bereich der Gesundheitsversorgung zu verwenden, hat ein weit verbreiteter Algorithmus Schwarze eindeutig diskriminiert, indem er Pflege mit Kosten verknüpft hat. Das Problem hier wurde geschlossen, da Kaukasier viel mehr Geld für die Gesundheitsversorgung ausgeben, müssen Schwarze im Allgemeinen gesünder sein. Angesichts des derzeitigen Gesundheitssystems in den Vereinigten Staaten war diese Annahme natürlich gefährlich falsch.
Es ist wichtig zu beachten, dass wir eine Reihe negativer Reaktionen auslösen können, wenn eine groß angelegte persönliche Voreingenommenheit auftaucht. Für Menschen, die die richtige Behandlung erhalten, einen Job, der ihren wahren Fähigkeiten entspricht, oder für diejenigen, die nach einer wertvollen Versicherung suchen, ist die Beseitigung von Vorurteilen in unserem KI-Ansatz von unschätzbarem Wert. Unter dem Strich kann ein falscher Ansatz zu gescheiterten Unternehmen, zerstörten Leben, überhöhten Preisen und allen möglichen negativen Szenarien führen. Wir müssen mehr daran arbeiten, Informationen zum Zeitpunkt der Erhebung zu entzerren.
Die Schlussfolgerungen
Es besteht kein Zweifel, dass Voreingenommenheit, sei es aufgrund des Geschlechts oder der Rasse, von grundlegenden menschlichen Vorurteilen ausgeht. Wenn es um den Einsatz von KI bei der Entscheidungsfindung geht, können wir sehen, dass die niedrige Qualität der Daten, die diese menschliche Voreingenommenheit generiert, zu alarmierenden Ergebnissen führen kann. Diese Verzerrung wird im resultierenden Modell verstärkt.
Wir müssen alle KI-Modelle klar auf Inklusion auslegen, gezielte Tests in komplexen Fällen durchführen und vollständige und repräsentative Daten eintrainieren. All dies wird dazu beitragen, dass sich der Prozess des Debiasing weiter verbessert.
