KI hilft den Mächtigen, aber schadet den Verwundbaren, warnt Mozilla

KI ist großartig für reiche und mächtige Leute und für Technologiegiganten, die versuchen, ihre Gewinne zu steigern. Andernfalls können künstliche Intelligenz und die durch sie ermöglichte Automatisierung schädlich sein, schloss die gemeinnützige Organisation Mozilla in einem am Montag veröffentlichten Bericht.

„Im wirklichen Leben treffen die Schäden der KI immer wieder überproportional Menschen, die nicht von globalen Machtsystemen begünstigt werden“, schlussfolgern Mozilla-Forscher im Internet Health Report 2022. „Inmitten des globalen Automatisierungsdrangs sehen wir ernsthafte Gefahren von Diskriminierung und Überwachung. Wir sehen einen Mangel an Transparenz und Rechenschaftspflicht und ein übermäßiges Vertrauen in die Automatisierung bei Entscheidungen von großer Tragweite.“

KI, Systeme, die mit riesigen Schwaden komplexer Daten aus der realen Welt trainiert werden, revolutioniert Computeraufgaben, die zuvor schwierig oder unmöglich waren. Dazu gehört das Erkennen von Sprache, das Aufdecken von Finanzbetrug, das Steuern selbstfahrender Autos, das Identifizieren von Vögeln anhand ihres Gesangs und das Suchen nach umweltfreundlichere Betonrezepturen. Da sich die KI jedoch in jeden Winkel der Technologie ausbreitet, äußern Experten auch Bedenken hinsichtlich ihrer Probleme.

Mozilla, die gemeinnützige Organisation, die den Firefox-Webbrowser entwickelt und sich für den Datenschutz im Internet einsetzt, gehört zu diesen Kritikern. Zu den von Mozilla hervorgehobenen KI-Problemen gehören:

• Modelle des maschinellen Lernens reproduzieren oft rassistische und sexistische Stereotype aufgrund von Voreingenommenheit in den Daten, aus denen sie stammen, einschließlich Internetforen und Fotoarchiven.
• Große Unternehmen machen nicht transparent, wie sie unsere personenbezogenen Daten in den Algorithmen verwenden, die Social-Media-Beiträge, zu kaufende Produkte usw. empfehlen.
• Empfehlungssysteme können manipuliert werden, um Propaganda oder andere schädliche Inhalte anzuzeigen. In einer Mozilla-Studie zu YouTube waren algorithmische Empfehlungen dafür verantwortlich, dass den Leuten 71 % der Videos angezeigt wurden, von denen sie sagten, dass sie es bereuten, sie gesehen zu haben.

Unternehmen wie Google und Facebook haben große Programme zum Umgang mit Problemen wie KI-Voreingenommenheit. Das versucht zum Beispiel Google verbessern, wie Computer mit Hauttönen umgehenum sicherzustellen, dass Systeme Menschen mit dunklerer Hautfarbe besser darstellen.

Aber Mozilla mag die Tatsache nicht, dass Big Tech viel akademische Forschung finanziert und dass sich relativ wenige Artikel – insbesondere unter den am häufigsten zitierten – auf die sozialen Probleme oder Risiken von KI konzentrieren.

Zu den Vorschlägen von Mozilla gehören neue Gesetze. „Regulierung kann helfen, Leitplanken für Innovationen festzulegen, die Schäden mindern und Datenschutz, Benutzerrechte und mehr durchsetzen“, sagte Mozilla. Ebenfalls am Montag veröffentlichte Mozilla einen fünfteiligen Podcast zu seinen Bedenken hinsichtlich KI.