KI-Ausrichtung: Technische menschliche Sprache lehren

Früher provozierte künstliche Intelligenz Bilder von Außerirdischen und Robotern. Jetzt korrigiert sie unsere Rechtschreibung, hilft uns, sicherer zu fahren und spart uns Zeit bei alltäglichen Aufgaben. Es ist fest in unseren Alltag integriert und KI-Systeme werden von Tag zu Tag fortschrittlicher – manche übertreffen in manchen Bereichen sogar das menschliche Niveau. 

Man kann mit Sicherheit sagen, dass KI eine der einflussreichsten Technologien unserer Zeit ist. Sowohl für Unternehmens- als auch für Technologieführer bietet es völlig neue Möglichkeiten, ihre Unternehmen weiterzuentwickeln. Um jedoch das volle Potenzial der KI nutzen zu können, muss unbedingt sichergestellt werden, dass die KI auf die Absichten des Menschen abgestimmt ist. 

Wir können dies mit AI Alignment tun. 

KI-Ausrichtung verstehen

KI-Ausrichtung ist ein Bereich der KI-Sicherheitsforschung, der darauf abzielt, sicherzustellen, dass KI-Systeme die gewünschten Ergebnisse erzielen und für den Menschen ordnungsgemäß funktionieren. Ziel ist es, einen End-to-End-Prozess zu schaffen, bei dem ein KI-basiertes System seine Ausgabe an gewünschte menschliche Vorlieben anpassen kann. 

Stellen Sie sich vor, Sie spielen Darts oder ein anderes Spiel, sind sich aber nicht darüber einig, wie das Brett aussieht oder wofür Sie Punkte bekommen. Wenn der Designer eines KI-Systems nicht durch Feedback konsistente und klare Erwartungen ausdrücken kann, weiß das System nicht, was es lernen soll. 

Ein gutes menschliches Beispiel hierfür ist der Versuch, jemandem zu erklären, was eine Straße ist. Das scheint relativ einfach zu sein, bis wir es tun müssen und erkennen, dass es ziemlich schwierig ist. Jeder, der untersucht, warum die KI-Ausrichtung ein entscheidender Schritt im Unternehmen ist, sollte die Frage beantworten: Wo beginnt ein Weg? Wie erklären wir Autos die Nuancen von Einfahrten, Privatstraßen, Bahnübergängen und Feldwegen, wenn wir es einem anderen Menschen nicht genau erklären können? 

Im Kern geht es bei der Abstimmung darum, Erwartungen zu vereinbaren. Jeder, der schon einmal ein Team geleitet hat, weiß, wie viel Kommunikation erforderlich ist, um eine Gruppe von Menschen aufeinander abzustimmen – das ist im Wesentlichen das, was wir mit den Maschinen tun müssen, die wir unterrichten, uns auf die Kommunikation und die Anweisungen einigen, die wir ihnen geben, und schließlich darauf, was das „richtige“ ist. Ergebnis aussieht. Mit dem Aufkommen leistungsfähigerer KI wird diese Ausrichtungsübung auf Algorithmen ausgeweitet. Menschliches Feedback ist für diesen Prozess von zentraler Bedeutung, und es gibt noch viel zu tun.  

Als Unternehmensführer müssen wir jetzt unbedingt handeln, um sicherzustellen, dass KI mit menschlichen Werten und Absichten in Einklang steht. 

Es ist nicht einfach, einer Maschine etwas beizubringen ...

Menschen interpretieren Dinge unterschiedlich und entwickeln Vorlieben basierend auf ihren persönlichen Wahrnehmungen. Dies macht es unglaublich schwierig, Maschinen beizubringen, wie Menschen denken und Ihrer „Maschine“ zu sagen, was Hochleistung wirklich ist. Um richtig zu funktionieren, müssen KI-Produkte die Sprache menschlicher Vorlieben lernen. 

Bisher wurden die meisten KI-Produkte durch unüberwachtes Lernen trainiert, bei dem wir Algorithmen durch Beobachtung von Menschen ableiten lassen, wie Aufgaben zu lösen sind. Aber in einer so komplexen Anwendung wie dem Fahren müssen sich Entwickler autonomer Fahrzeuge zwei Fragen stellen: Wie soll sich dieses Produkt verhalten? Und wie sorgen wir dafür, dass es sich so verhält? Insbesondere in einem sicherheitskritischen Umfeld ist es von entscheidender Bedeutung, sich auf gewünschte Ergebnisse zu einigen, die mit der menschlichen Absicht übereinstimmen.

Beispielsweise stand die autonome Fahrzeugindustrie bei der Markteinführung ML-fähiger Produkte bereits vor vielen Herausforderungen. KI hat die Erwartungen der Verbraucher in diesem Sektor nicht erfüllt. Das Problem ist, dass es keine einheitliche Fahrweise gibt – was macht einen „guten“ Fahrer aus? Dies liegt zum Teil an der Komplexität der Entscheidungsfindung im Zusammenhang mit dem Autofahren und zum Teil an der Tatsache, dass sich „Programmierung anhand von Beispielen“ grundlegend von „Programmierung anhand von Code“ unterscheidet. 

Genau wie bei der Kommunikation mit Menschen besteht der beste Weg, Ihre Absicht zum Ausdruck zu bringen, darin, Beispiele durchzugehen. Bei einem Algorithmus ist es der gleiche Prozess: Ein Mensch überprüft sein Verhalten und gibt Feedback. Daraus lernt der Algorithmus und verbessert sich. Menschliches Feedback kann genutzt werden, um KI-Produkte sehr effizient zu steuern, indem der sich entwickelnde Datensatz so gestaltet wird, dass er die Absichten der Entwickler und Benutzererwartungen widerspiegelt.

Einen iterativen Ansatz verfolgen

Entgegen der landläufigen Meinung ist die KI-Ausrichtung eigentlich kein Technologieproblem, sondern ein Problem der Menschen. Letztendlich hängt die Fähigkeit des KI-Systems, die richtigen Regeln zu lernen, von der Fähigkeit des Produktentwicklers oder Dienstleisters ab, auszudrücken, was das Produkt tun soll. 

Wenn wir keinen besseren Weg finden, dies zu erreichen, werden wir in den nächsten Jahren große Enttäuschungen erleben und es wird sehr schwierig sein, das Potenzial der KI auszuschöpfen. Es liegt also in unserem gemeinsamen Interesse, dies richtig zu machen. Wenn Unternehmens- und Technologieführer bei der Abstimmung eng zusammenarbeiten können, wird dies dazu beitragen, bessere Produkte zu schaffen, was wiederum dem täglichen Leben der Menschen zugute kommt. 

Wir leben in einer sich schnell verändernden Welt und die Erwartungen entwickeln sich schnell. Wenn Sie einen großen Datensatz zusammenstellen, müssen Sie damit rechnen, dass er sich entsprechend den Erwartungen derjenigen weiterentwickelt, die davon profitieren. Die Herausforderung für Entwickler besteht nun darin, die von ihnen gesammelten Daten unter Berücksichtigung dieser Entwicklung zu gestalten. Dies sollte wiederum Einfluss auf KI-Produkte und deren zukünftige Entwicklung haben. 

Die Ausrichtung ebnet den Weg und ist ein notwendiger Schritt bei der Implementierung von KI. Ein iterativer Ansatz ist der beste Weg, um die laufenden Herausforderungen, Erwartungen und Entwicklungen nicht nur des Menschen, sondern auch der KI selbst zu bewältigen. Letztendlich erhalten wir bessere, intelligentere KI-Produkte.