Erstellen nachhaltiger, vertrauenswürdiger KI
Wir hörten von Anna Fellander, Gründerin, KI-Nachhaltigkeitszentrum, der beriet, wie Organisationen eine nachhaltige und vertrauenswürdige KI erreichen können.
Die Beschleunigung von AI in den letzten neunzehn Monaten hat weitere ethische und gesellschaftliche Risiken aufgeworfen. Anna Felländer, die Gründerin des AI Sustainability Center, erklärte auf dem Data Innovation Summit 2021, wie Organisationen nachhaltige KI nutzen können, um diese Probleme anzugehen und kostspielige rechtliche, finanzielle und Reputationsrisiken zu vermeiden.
Felländer gründete 2018 das AI Sustainability Center. Sie glaubt, dass KI so alltäglich sein wird wie Elektrizität und weiterhin alle Aspekte unseres Lebens revolutionieren wird. Felländer stellt jedoch fest, dass KI nicht ohne Risiken ist: Verletzung der Privatsphäre, Diskriminierung, verlorene Autonomie und Desinformation sind die Herausforderungen, denen Unternehmen gegenüberstehen. Darüber hinaus kann KI die Sicherheit von Menschen beeinträchtigen und zu einer Verletzung der Menschenrechte führen. Leider liegt ein Großteil davon außerhalb der menschlichen Governance, da es schnell skaliert und weil sich die Aufmerksamkeit hauptsächlich auf den technischen Aspekt konzentriert hat.
Warum ist es so schwierig, gesellschaftliche Risiken in der KI zu mindern?
Felländer erklärt zunächst, dass sich Algorithmen an Zielen, Umsätzen und Gewinnen orientieren. Während dieser Reise trifft die KI ethische Entscheidungen, die es ihr ermöglichen, das Ziel zu erreichen, das den Programmierern verborgen ist. Es gibt keine Go-to-Market-Lösungen für KI, weshalb es so kostspielig und rufschädigend ist, wenn KI ethische Probleme aufwirft. Felländer Referenzen Microsoft, die wegen ihrer Gesichtserkennungssoftware unter Beschuss gerieten, die Schwarze nicht erkannte. Die gleiche Tendenz ist bei Kreditdarlehen vorhanden, wo
KI-basierte automatisierte Entscheidungen autorisieren einen Kredit für einen Mann, aber nicht für eine Frau, wenn beide die gleiche Kreditwürdigkeit haben. Manchmal resultieren diese Risiken daraus, dass der Programmierer die Werte des Unternehmens nicht in den Code übersetzen kann. Diesen Codierern wird nicht beigebracht, über multidisziplinäre Fähigkeiten zu verfügen, um diese Art der Codierung zu unterstützen. Selbst dann sind sie sich des Kontexts, in dem die KI verwendet wird, möglicherweise nicht bewusst, sodass es nicht überraschend ist, dass solche Vorurteile auftreten. Asymmetrische Informationen machen es schwierig zu wissen, wie man dagegen vorgehen kann. Dennoch ist es etwas, das alle Organisationen bei der Umsetzung ihrer KI-Strategie berücksichtigen müssen, da die ethischen und finanziellen Risiken weitaus höher sind, als eine Organisation zunächst erkennen mag.
Entwicklung einer Methodik für ethische Risiken in der KI
Felländer hat jahrelang eine Methodik entwickelt, um ethische Risiken in KI-Anwendungen zu erkennen, zu bewerten und zu steuern. Das AI Sustainability Center ging dies aus einer multidisziplinären Perspektive mit rechtlicher, technischer und gesellschaftlicher Perspektive an. Um die Organisation zu aktivieren, ist es jedoch ebenso wichtig, dass ihr Rahmen zur Erkennung, Bewertung und Minderung dieser Risiken ethische Überlegungen in KI-Anwendungen visualisiert, die sonst nicht berücksichtigt worden wären. Diese Überlegungen gehören nicht in ein Silo oder nur in das Rechts- oder Technikteam; Dies sind geschäftskritische Überlegungen. Felländer nennt Beispiele für die ethischen Abwägungen bei KI-Lösungen:
- Erklärbarkeit versus Genauigkeit
- Fairness vs. Präzision
- Gewinne vs. Werte
Wenn beispielsweise eine Person eine Maschine zur Messung der Herzfrequenz an sich angebracht hätte, müsste ein Kompromiss zwischen Genauigkeit und Fairness gefunden werden. Bei der Übersetzung in die KI-Ethik brauchen Organisationen Unterstützung bei der Bewältigung dieser Kompromisse. Felländer merkt an, dass dies für Hochrisikoorganisationen, die ihre KI-Verfahren erklären müssen, immer wichtiger wird
wenn 2024 die EU-Künstliche-Intelligenz-Verordnung in Kraft tritt.
Unternehmen stellen sich allmählich dieser Verantwortung, und SalesForce ist eines der ersten US-Unternehmen, das einen ethischen KI-Beauftragten einstellt. Organisationen, die gerade auf erklärbare KI umsteigen, müssen sich fragen: Was muss erklärt werden? Was kann erklärt werden? Wem müssen wir es erklären? Unternehmen müssen nun ihre riesige Menge an KI und ML scannen, um zu sehen, was der EU erklärt wird.
WEITERLESEN:
- 5 Top-Tipps, um sicherzustellen, dass Ihr Konversations-KI-Projekt ein Erfolg wird
- Nutzung von KI und Automatisierung zur Verbesserung des Kundenerlebnisses
- Warum KI-Verwaltungsplattformen Unternehmen in den nächsten zehn Jahren echte Vorteile bringen werden
- Soziale Gerechtigkeit und Nachhaltigkeit durch Nutzung von Datenwissenschaft und KI: Interview mit Dr. Mahendra Samarawickrama
Ethisches KI-Screening
Felländer sagt, dass sie im AI Sustainability Center ethische KI-Filter entwickelt haben. Sie nennt die bisher ignorierten Risiken als „dunkle Cloud der Umweltverschmutzung“, die Unternehmen wie das AI Sustainability Center zu mindern versuchen. Sie glaubt, dass die EU-Regulierung sie als Region bei der Schaffung von Transparenz vorantreiben und diesen Organisationen auch einen Wettbewerbsvorteil verschaffen wird. Das AI Sustainability Center hat eine Insight Engine für ethische KI-Governance geschaffen, mit einem ethischen KI-Profiler, der KI-Anwendungen und Unternehmen auf ethische und gesellschaftliche Risiken prüft. Darüber hinaus hat es Lösungen entwickelt, die Risiken vorhersagen und Minderungsinstrumente empfehlen können. Felländer sagt, dass das AI Sustainability Center Scaleups, Großkonzerne und Personaldienstleister unterstützt. Abschließend sagt sie, dass alle Organisationen KI und ethische KI annehmen sollten, und ermutigt Organisationen, sich über die Ethik der KI zu informieren.
Folge uns auf LinkedIn und Twitter
