Die Bedeutung erklärbarer KI in einer digitalen Welt
Der Gesetzgeber der Europäischen Union (EU) hat kürzlich neue Regeln eingeführt, die die Art und Weise prägen werden, wie Unternehmen künstliche Intelligenz (KI) nutzen. Im Mittelpunkt der Gesetzgebung steht die Notwendigkeit, das Potenzial der KI zu maximieren, ohne Datenschutzgesetze oder grundlegende Menschenrechte zu beeinträchtigen. Aber um dies effektiv zu tun, müssen wir die Ergebnisse der KI, die gebaut wird, erklären – und die Entscheidungen, die sie treffen. Eduardo Gonzalez, Chief Innovation Officer bei Global AI Ecosystem Builder, Himmelsgeist, teilt seine Einsicht.
Was ist erklärbare KI und warum ist sie wichtig?
Erklärbare KI ist künstliche Intelligenz, bei der die Ergebnisse der Lösung von Menschen verstanden und erklärt werden können. Als Problem ist erklärbare KI jedoch so alt wie KI selbst.
Künstliche Intelligenz wird zu einem wichtigen Bestandteil unseres täglichen Lebens in unserer digitalen Welt, von der Fingerabdruckidentifikation und Gesichtserkennung bis hin zu Predictive Analytics. Wir befinden uns in einer Position, in der wir keine andere Wahl haben, als den Ergebnissen dieser KI-gesteuerten Systeme zu vertrauen.
Aber wie kam die KI-Anwendung zu der Entscheidung, die sie getroffen hat?
Du kannst eine Person immer bitten, sich zu erklären. Wenn sie sich entscheiden, können Sie sie fragen, warum, und sie können dann ihre Argumentation verbalisieren, aber das ist etwas, das der KI fehlt.
Es gibt einige Möglichkeiten, wie wir versucht haben, KI-Systeme „erklärbar“ zu machen – die einfachste ist durch künstliche neuronale Netze, bei denen Algorithmen verwendet werden, um Beziehungen zwischen Datensätzen zu erkennen und sie basierend auf der Datensatzeingabe zu interpretieren.
Wenn es jedoch um Dinge wie Bilder geht, kann maschinelles Lernen Funktionen in Ihrem Datensatz aufgreifen, auf die Sie sich nicht konzentriert haben, und Ihnen daher nicht die gewünschten Ergebnisse liefern.
Nehmen wir zum Beispiel an, Sie versuchen, das System darauf zu trainieren, zwischen einem Fuchs und einem Hund zu unterscheiden, da die Identifizierung des Tieres für die KI sehr wichtig ist. In diesem Fall müssen Sie einen Weg finden, zu erklären, was das Modell betrachtet. Wenn Sie ein Bild von einem Fuchs und einem Hund haben und das Bild des Fuchses verdecken und das System bitten, zu identifizieren, welches Tier es ansieht, und es immer noch den Fuchs sagt, dann betrachtet das System nicht den Hund, sondern etwas anderes im Bild, um seine Entscheidung zu treffen.
Der berühmteste Fall dieses unerwarteten Ergebnisses war, als das Pentagon künstliche neuronale Netze automatisch verwenden wollte, um getarnte feindliche Panzer automatisch zu erkennen. Sie trainierten ein neuronales Netzwerk mit Fotos von getarnten Panzern in Bäumen und Bäumen ohne Panzer. Die Forscher erzielten die gewünschten Ergebnisse – das System funktionierte gut für sie – aber als das Pentagon es im wirklichen Leben testete, versagte das System, weil es auf das Wetter und nicht auf den Panzer schaute. Der Datensatz mit Fotos von getarnten Panzern war an bewölkten Tagen aufgenommen worden, während die Fotos des flachen Waldes an sonnigen Tagen aufgenommen worden waren. Das neuronale Netzwerk hatte gelernt, bewölkte Tage von sonnigen Tagen zu unterscheiden, anstatt getarnte Panzer von einem leeren Wald zu unterscheiden.
KI, so wie sie jetzt ist, kann keine Dinge tun, die nicht linear sind. Wenn wir das Modell nur fragen könnten, was Sie da sehen – und es Ihnen sagen könnte, es wäre einfach, aber es kann noch nicht kommunizieren. Deshalb brauchen wir etwas Erklärbares.
Worauf sollten Unternehmensleiter achten, die diese Technologie nutzen möchten?
Führungskräfte sollten sich in erster Linie mit der Überwindung unbewusster und bewusster Vorurteile in der erklärbaren KI befassen.
Unbewusste Voreingenommenheit ist bereits ein großes Problem in der KI – also müssen wir Wege finden, dies einzudämmen – sonst werden Unternehmen und Länder ihr volles wirtschaftliches Potenzial nicht erreichen.
Voreingenommenheit in der KI kann zu allen möglichen Problemen führen, beispielsweise bei der Rekrutierung von Talenten. Systeme können jetzt darauf trainiert werden, Lebensläufe zu streamen, und wenn es irgendwelche Verzerrungen in den Datensätzen gibt, dann lernt das Modell sie und diskriminiert Kandidaten.
Beispielsweise könnte ein Bewerber einen weiblich klingenden Namen in einem Lebenslauf haben, der von einem System gestreamt wird. Es wird diesen potenziellen Kandidaten aufgrund einer impliziten menschlichen Voreingenommenheit gegen diesen Namen nicht als Ingenieur einstellen wollen, und das Modell hat ihn aufgegriffen und den Lebenslauf verworfen.
Wenn Sie ein Modell trainieren, gibt es Möglichkeiten, dieses Ergebnis zu verhindern, indem Sie bestimmte Dinge abwägen, z. Die andere Möglichkeit, dies zu negieren, besteht darin, die Art von Daten zu entfernen, die zu Problemen führen. Wenn Sie also das Namensfeld in einem Lebenslauf entfernen, müssen Sie sich keine Sorgen darüber machen, dass das Modell diese Verzerrung lernt.
Erklärbare KI – Ruf nach einem guten System.
Viele Anwendungsfälle verlangen und erfordern erklärbare KI, und wir werden nicht sehr weit kommen, wenn wir kein gutes System dafür haben. Zum Beispiel könnte alles, was mit dem Rechtssystem der Zukunft zu tun hat, das eine erklärbare KI erfordert, dazu führen, dass viele Gerichtsverfahren verworfen werden.
Ein gutes Beispiel sind selbstfahrende Autos: Wenn ein Unfall passiert und eine Gerichtsverhandlung eine Erklärung erfordert, warum der Computer die Entscheidung getroffen hat, muss dies bewiesen werden. Wenn die Forscher des Autos dies nicht beweisen können, wird der Fall abgewiesen.
Wo brauchen wir am meisten erklärbare KI?
Wo wir erklärbare KI am meisten brauchen, ist im medizinischen Bereich. Eines der Dinge, die wir tun, ist die Entwicklung eines dentalen KI-Systems. Wir implementieren das System aus der Sicht eines Zahnarztes, und die Dinge, die sie sehen möchten, sind Beweise, die ihnen helfen, Erklärungen für bestimmte medizinische Maßnahmen zu finden.
Zum Beispiel stuft die betroffene Zahnmetrik in unserem System danach ein, wie schwierig sie behandelt wird. Ein Zahnarzt kann sich das Röntgenbild ansehen und in wenigen Sekunden sehen, was er tun muss, während das System argumentiert, ob der Patient operiert werden muss oder nicht. Bestimmte Regeln werden trainiert, um zu sehen – ob die Zahnwurzel den Nerv im Kiefer berührt, was die Sache verkomplizieren kann, oder ob sich Zahn und Nerv schneiden.
Der Zahnarzt kann sehen, wo das KI-System die Diagnose vorhergesagt hat, und er kann die Entscheidung der Maschine überprüfen und ihr vertrauen. Es verringert die Arbeitsbelastung für den Zahnarzt und erspart ihm Zeit, den Bericht zu schreiben, indem es ihm diese kritische Zweitmeinung gibt.
Mithilfe des Röntgenbilds kann das KI-System auch andere potenzielle Krankheiten anzeigen, die normalerweise nicht mit Röntgenstrahlen diagnostiziert werden, wie z. B. Karies. Anstatt dass der Zahnarzt eine Lupe verwenden muss, um zehn Minuten lang über das Bild zu wischen, kann das KI-System sofort Dinge identifizieren, die er möglicherweise übersehen hat, und einen weiteren Test anordnen, um einen besseren Überblick zu erhalten. KI kann auch vorhersagen, ob eine schwierige Operation erforderlich ist, was dem Zahnarzt hilft, einen geeigneten Spezialisten auszuwählen, an den er sich wenden kann.
WEITERLESEN:
- Biometrische Authentifizierung: das Gute, das Schlechte und das Hässliche
- Sie hatten einen Datenleck – wie rollt man erfolgreich einen Notfall-Patch aus?
- Wie Sie Ihr Büro in einer Post-Covid-19-Welt erfolgreich wiedereröffnen
- Häufige Migrationsfallen und wie man sie vermeidet
Erklärbare KI, Vielfalt und die Zukunft
KI wird in naher Zukunft eine viel größere Rolle in unserem Leben spielen, aber wir müssen mehr tun, um sicherzustellen, dass die Ergebnisse der Gesellschaft zugute kommen, der wir dienen wollen. Das kann nur geschehen, wenn wir weiterhin bessere Anwendungsfälle entwickeln und Vielfalt bei der Erstellung von KI-Systemen priorisieren. Dies wird dazu beitragen, bewusste und unbewusste Vorurteile abzubauen und ein besseres Gesamtbild der realen Probleme zu liefern, die wir anzugehen versuchen.
Folge uns auf LinkedIn und Twitter
