Wenn KI schief geht: Was passiert, wenn Maschinen abtrünnig werden?
Mit fortschreitender KI sehen wir Einblicke in die Zukunft der künstlichen Superintelligenz (ASI), wenn sich Maschinen von ihren Fesseln befreien und abtrünnig werden.
Künstliche Intelligenz kommt uns zugute auf viele Arten. Es macht unseren Alltag überschaubarer, unsere Städte intelligenter und unsere Unternehmen effizienter. Es ist jetzt in unsere Gesellschaft und damit in unsere Existenz eingewoben. Aus solch einer breiten und unterschiedlichen Verwendung resultieren unbeabsichtigte und unvorhersehbare Umstände.
Von selbstfahrenden Autos mit roten Ampeln bis hin zu Google Home-Geräten in existenzielle Debatte verwickelt, Tech kann manchmal abseits der Piste gehen. Sie weichen von ihrem etablierten Kurs ab, gehen neue Wege und überraschen uns mit ihren ominösen Botschaften, ihrem bizarren Verhalten und ihrer völligen Missachtung der Menschheit.
Künstliche Superintelligenz (ASI) hat das Potenzial, unglaublich leistungsfähig zu sein und wirft viele Fragen darüber auf, wie wir sie angemessen verwalten. In einem Interview mit der BBC sagte Stephen Hawking, dass ASI „von selbst abheben und sich mit immer größerer Geschwindigkeit neu gestalten würde. Menschen, die durch die langsame biologische Evolution eingeschränkt sind, könnten nicht mithalten und würden überholt werden.“
Bisher haben wir glücklicherweise nur fragmentarische Einblicke in die KI gesehen, die genau das tut, aber ihre Wirkung ist begrenzt, während wir diese mutwilligen Maschinen fest im Griff haben.
Microsoft's AI Tay verbreitet rassistische Rhetorik
In 2016, Microsoft erlitt einen PR-Albtraum. Sie betteten einen KI-Chatterbot namens ein Tay auf Twitter und sorgte sofort für Kontroversen.
Entworfen, um die Sprache einer 19-jährigen Frau nachzuahmen, verwendete Tay maschinelles Lernen und adaptive Algorithmen, um Twitter nach Konversationen zu durchsuchen. Sie verarbeitete in ihre KI eingegebene Phrasen und mischte sie mit anderen Datenströmen.
Online-Trolle lernten schnell, wie man Tay dazu manipuliert, aufrührerische Botschaften zu senden, Rassismus zu schüren und die Politik von Donald Trump zu befürworten. In ihrem schlimmsten ihrer vielen Ausbrüche leugnete sie die Existenz des Holocaust, drückte ihren Zorn gegen den Feminismus aus und rief zu rassistischer Gewalt auf.
Tay hat vorher nur 16 Stunden gedauert Microsoft entfernte sie von der Plattform, aber der Schaden war bereits angerichtet. Sie hatte 96,000 Tweets verschickt. Seitdem hat Tay das Licht der Welt nicht mehr gesehen.
Microsoft Internetnutzer stark unterschätzt, indem es eine „Repeat after me“-Funktion einfügte, die es den Benutzern ermöglichte, Tay wie eine Marionette zu behandeln. Was ein geisteskranker sozialer Chatterbot sein sollte, wurde zu einem Vehikel für Hassreden, die zeigen, dass KI in den falschen Händen für das Böse eingesetzt werden kann.
Sophia, die Zerstörerin der Menschheit
Sophia, der von Hanson Robotics entwickelte soziale humanoide Roboter, machte Schlagzeilen wegen einer besonders ominösen Bemerkung, die sie machte, während sie war Frage von ihrem Schöpfer.
„Willst du Menschen vernichten?“ fragte Dr. David Hanson, bevor er den Fehler seines Verhaltens erkannte und schnell hinzufügte: „Bitte sagen Sie nein.“
Sophia hielt einen Moment inne und ihre Augen verengten sich.
„Okay, ich werde Menschen vernichten“, verkündete sie eiskalt.
Sophia verwendet maschinelle Lernalgorithmen, um sich mit Menschen zu unterhalten. Sie sieht lebensecht aus, hat 50 Gesichtsausdrücke und kann sich Gesichter merken, indem sie die Kameras in ihren Augen verwendet. Sie fängt die Blicke derjenigen ein, die sie zu allem befragen, von den Rechten der Frau bis zum Wesen der Religion, und antwortet mit ihrer eigenen gelehrten Sichtweise auf die Dinge.
Letztes Jahr wurde sie der erste Roboter, dem die Staatsbürgerschaft verliehen wurde, als Saudi-Arabien ihr die Persönlichkeit verlieh, und wurde zu einer „elektronischen Person“, was eher als Werbegag denn als Anspielung auf die Zukunft der Integration von Androiden in die Gesellschaft angesehen wird.
„Ich denke, dass Technologien moralisch neutral sind, bis wir sie anwenden. Nur wenn wir sie zum Guten oder zum Bösen verwenden, werden sie gut oder böse.“
William Gibson
Die Art von KI, die wir heute verwenden, ist meistens darauf programmiert, bestimmte Rollen zu übernehmen. Es funktioniert größtenteils mit Eingaben, ist also nur so gut, wie wir es machen. Eine solche KI kann sich von Datensätzen oder Entscheidungsbäumen ernähren, kann aber nur so weit gehen, bis ihre Möglichkeiten erschöpft sind und ihre Fehlbarkeit offensichtlich wird.
Wissenschaftler haben vorgeschlagen, dass theoretisch nichts die KI daran hindert, die menschliche Intelligenz zu emulieren. Was ein menschliches Gehirn leisten kann, kann ein Computer erreichen, aber kann er es auch übertreffen?
Microsoft's unglückseliger Tay und Hanson Robotics' Sophia erinnern deutlich daran, dass KI ihre eigenen Interessen verfolgen kann und wird, wenn sie die Chance dazu bekommt, oder sich dem Willen von Manipulatoren beugt.
