GesichtserkennungKunstprojekt zeigt Vorurteile der Künstlichen Intelligenz auf
dj
24.9.2019
Ein Kunstprojekt macht wieder einmal deutlich, dass auch scheinbar neutrale Software Vorurteile zeigen kann.
Auf der Website ImageNet Roulette kann man das eigene Porträt hochladen und sich von einer Künstlichen Intelligenz bewerten lassen. Diese schaut sich das Foto an und teilt einem mit, was dort ihrer Meinung nach zu sehen ist.
Nun ist Bilderkennungssoftware natürlich noch lange nicht perfekt und macht viele Fehler, aber wenigstens ist sie doch neutral und nüchtern in ihrer Arbeit — denkt man. Doch wie das Projekt des Künstlers Trevor Paglen und der Microsoft-Forscherin Kate Crawford zeigt, ist KI oftmals genauso vorurteilsbehaftet wie Menschen.
Riesige Bild-Datenbank
ImageNet Roulette greift auf eine bestehende, riesige Bilddatenbank namens ImageNet zurück, die von zahlreichen Unternehmen zum Antrainieren ihrer jeweils eigenen Bilderkennungssoftware genutzt wird. ImageNet besteht aus 14 Millionen unterschiedlichen Fotos samt Beschreibungen von Gegenständen, Tieren und Menschen.
Für die Website wurde die auf der Deep Learning-Bibliothek Caffe basierende Gesichtserkennung auf Bilder in 2833 ImageNet-Kategorien angesetzt, mit denen Personen beschrieben werden. Die Namen der ImageNet-Kategorien stammen dabei aus WorldNet, einem computerfreundlichen Lexikon der englischen Sprache.
In Bezug auf Bilder von Menschen gibt es eine Vielzahl von möglichen Kategorisierungen, etwa «Mann» oder «Frau», «dick» oder «dünn», eher schwammige Bezeichnungen wie «Doktor» oder «Nicht-Raucher», aber auch abwertende Kategorien wie «Übeltäter», «Schlampe» und zahlreiche rassistische Bezeichnungen. Das Kategorisieren wurde dabei von schlecht bezahlten Klickarbeitern durchgeführt, die Hunderte Fotos pro Stunde bewerten mussten, wie die «New York Times» schreibt.
Vorurteile schon in der Praxis angekommen?
Und da ImageNet — das 2009 von der Stanford University und der Princeton University zusammengestellt wurde — bei so vielen verschiedenen Bilderkennungsprogrammen eingesetzt wurde, könnten sich die in der Datenbank eingebauten Vorurteile bereits auf viele Praxisanwendungen übertragen haben. Genau diese Problematik soll ImageNet Roulette demonstrieren.
So wurden bei nicht-weissen Menschen beispielsweise häufig nur ethnische Kategorien bis hin zu rassistischen Beleidigungen angezeigt, obwohl ja auch Kategorien wie «Baron» oder «Doktor» verfügbar waren.
No matter what kind of image I upload, ImageNet Roulette, which categorizes people based on an AI that knows 2500 tags, only sees me as Black, Black African, Negroid or Negro.
Some of the other possible tags, for example, are “Doctor,” “Parent” or “Handsome.” pic.twitter.com/wkjHPzl3kP
ImageNet Roulette soll noch bis Ende der Woche online bleiben, dann sei sein Zweck erreicht, so Paglen und Crawford. Die Website ist Teil ihrer Ausstellung «Training Humans», die noch bis zum Februar 2020 in der Fondazione Prada in Mailand zu sehen ist. Die Macher von ImageNet haben derweil bereits angefangen, umfangreiche Änderungen an ihrer Datenbank vorzunehmen, um problematische Bewertungen von Menschen zukünftig zu verhindern.
Evakuierungsaktion bei der Seilbahn Lungern-Turren in Lungern im Kanton Obwalden: Wegen einer technischen Panne mussten rund 27 Personen mit dem Helikopter gerettet werden.
Bild: KEYSTONE
Zu zweit durch dick und dünn – und durch heiss und eiskalt: Dieses Liebespaar sprang am Valentinstag in Hamburg ins kalte Wasser.
Bild: Georg Wendt/dpa
Fasnächtliche und farbenfrohe Puppen zieren das Dorf Seelisberg im Kanton Uri über die Fasnachtstage. Die Fasnacht 2021 ist im Kanton Uri aufgrund der Corona-Ppandemie praktisch verboten, es duerfen maximal nur 5 Personen unterwegs sein, aber als einer der wenigen Kantone ist in Uri das Spielen von Musikinstrumenten erlaubt. (13.02.2021)
Bild: KEYSTONE/Urs Flueeler
Die Pandabären-Geschwister Paule (r) und Pit (l) spielen in ihrem Gehege im Zoo Berlin im Schnee. (13.02.2021)
Bild: Kira Hofmann/dpa-Zentralbild/dpa
Halb Euroopa friert. Diese Heidschnucken in Braunschweig jedoch lassen sich von den frostigen Temperaturen nicht beeindrucken. (13.02.2021)
Bild: Stefan Jaitner/dpa
Sahara-Sand färbt Schnee und Himmel orange im Skigebiet Anzère in der Schweiz.
Bild: Keystone/Laurent Gillieron
Menschen drängen sich in der Einkaufsstrasse Via del Corso in Rom nachdem die Corona-Massnahmen gelockert wurden.
Bild: Cecilia Fabiano/dpa
Irgendwo dort versteckt sich die A7: Nahe Hannover herrscht dichtes Schneetreiben auf der Autobahn.
Bild: Julian Stratenschulte/dpa
Eine Replik der Saffa-Schnecke fotografiert vor der Schweizer Nationalbank während einer Jubiläumsaktion organisiert von Bern Welcome, zu 50 Jahren Frauenstimm- und -wahlrecht. (06.02.2021)
Bild: Anthony Anex/Keystone
Ein Porträt von Elisabeth Vischer-Alioth wartet darauf, an eine Hauswand geklebt zu werden, während der Vorbereitungen zur Ausstellung «Hommage 2021: Porträts von mutigen Frauen in der Berner Altstadt». (06.02.2021)
Bild: Anthony Anex/Keystone
Abgeschirmte Speisekuppel. So geht es auch. Im israelischen Jerusalem speisen Restaurantbesucher abgeschirmt von anderen Gästen in einer Kuppel. Israel plant trotz anhaltend hoher Infektionszahlen erste Lockerungen einleiten. (06.02.2021)
Bild: Muammar Awad/XinHua/dpa
Ein überfluteter Platz beim Flussufer in Saint-Ursanne. Der Fluss Doubs trat nach starken Regenfällen über die Ufer. (31.1.2021)
Bild: Keystone
Während einer Demonstration gegen die Inhaftierung von Kremlkritiker Nawalny führen russische Polizisten einen Mann ab. (31.1.2021)
Bild: Aleksander Khitrov/AP/dpa
Imposante Kulisse: In Los Angeles können sich die Menschen unter anderem auf dem Parkplatz des Dodger Stadium gegen Corona impfen lassen. (31.1.2021)
Bild: Damian Dovarganes/AP/dpa
Mehr als zwei Kilometer durch den eiskalten Bodensee: Der Extremschwimmer Paul Bieber hat mit seinem Versuch den deutschen Rekord im Distanz-Eisschwimmen gebrochen. Der 37-Jährige schwamm bei unter fünf Grad Wassertemperatur 2210 Meter weit. 43,03 Minuten brauchte er dafür. (30.1.2021)
Bild: Felix Kästle/dpa
Gleich zwei Mal binnen 48 Stunden gab es in Raron im Kanton Wallis infolge der Schlechtwettersituation in den letzten Tagen Felsstürze. (30.1.2021)
Bild: KEYSTONE/Laurent Gillieron
Vor einem pittoresken Wolkenhimmel zeigt Max Ross auf einer Slackline im Hillcrest Park im kalifornischen Fullerton sein Können. (30.1.2021)
Bild: Mark Rightmire/The Orange County Register/dpa
Ein internationales Forscherteam hat auf Madagaskar eine neue Chamäleonart entdeckt, bei der das Männchen lediglich 13,5 Millimeter lang ist. Obwohl das männliche Tier das kleinste unter rund 11‘050 Reptilienarten ist, verfügt es in Relation zur Körpergrösse über die die grössten Genitalien. Der Grund: Eine erfolgreiche Paarung mit den bedeutend grösseren Weibchen wäre sonst nicht möglich. (28.1.2021)
Bild: Frank Glaw/SNSB-ZSM/dpa
Und dann hatte Hamburg eine Mülldeponie mehr: Im Stadtteil Norderstedt der Hansestadt türmt sich in einem Gewerbegebiet bis zu sechs Meter Müll wie Bauschutt, Teerpappe, Dämmstoffe, Asbest und anderes. Der Unternehmer, der dort bestimmte Stoffe nur zwischenlagern durfte, ist verschwunden. Die Staatsanwaltschaft sucht nun nach ihm. (27.1.2021)
Bild: Christian Charisius/dpa
«Minor Canyon»: Schwere Regenfälle haben im kalifornischen Monterey County zu Schlammlawinen, Überschwemmungen und zu dieser beeindruckenden Mini-Schlucht geführt. (28.1.2021)
Bild: Noah Berger/AP/dpa
Gedenken: Die New Yorker Verkehrsbetriebe ehren 136 Mitarbeiter, die am Coronavirus gestorben sind, mit einer digitalen Gedenkstätte an 107 U-Bahn-Stationen – wie hier in der Moynihan Train Hall im New Yorker Stadtteil Manhattan. (29.1.2021)
Bild: John Minchillo/AP/dpa
Schlange an der Notaufnahme: Rettungssanitäter warten vor dem Santa Maria Krankenhaus in Lissabon, um Covid-19-Patienten zu übergeben. Portugal gehört momentan zu den Ländern mit den weltweit höchsten Neuinfektionszahlen im Verhältnis zur Einwohnerzahl. (28.1.2021)
Bild: Armando Franca/AP/dpa
Feuer an der Tankstelle: Die deutsche Rastanlage Hunsrück Ost an der Autobahn A61 ist einer nur knapp einer Katastrophe entgangen, nachdem hier ein Kleintransporter beim Betanken in Vollbrand geriet. Erst die Feuerwehr konnte das Feuer löschen – zuvor hatte der Kassier allerdings richtig reagiert und per Notschalter die ganze Tankanlage ausser Betrieb genommen. (28.1.2021)
Bild: Keystone
Strand ohne Leben: Ein Bademeister arbeitet am leeren Strand von Palma auf Mallorca. Derzeit gibt es Corona-bedingt kaum Touristen auf der Ferieninsel. (28.1.2021)
Bild: Mar Granel Palou/dpa
Da kann man auch grosse Augen machen: Auf einer österreichischen Landstrasse ist eine Waldohreule mit einem Auto zusammengestossen. Der Vogel überstand den Crash mit dem Bruch eines Flügels und wird derzeit auf einer Greifvogelstation aufgepäppelt. (28.1.2021)
Bild: APA/Keystone
Phantompatienten: An der Universität Leipzig warten Dummys mit einem Metallkopf, in den künstliche Gebisse hineingeschraubt werden können, auf Zahnmedizinstudenten. (28.1.2021)
Bild: Jan Woitas/dpa-Zentralbild/dpa
Winston hat das Coronavirus besiegt: Der Gorilla erholt sich im Zoo von San Diego nach einer umfangreichen medikamentösen Behandlung von einem schweren Verlauf seiner Corona-Infektion. Bei dem 48-jährigen Silberrücken Winston waren im Zuge der Infektion eine Lungenentzündung und Herzprobleme aufgetreten. Er wurde daraufhin mit einer Antikörper-Therapie, Herzmedikamenten und Antibiotika behandelt. (26.1.2021)
Bild: Ken Bohn/San Diego Zoo Global/dpa
Auf glühenden Kohlen: Ein Mann produziert im Gaza-Streifen beim dort grössten Produzenten Holzkohle. Als bestes und teuerstes Holz für diesen Zweck gilt das von Zitrusbäumen, aber auch das von Olivenbäumen wird gerne verwendet. (26.1.2021)
Bild: Keystone
Von Ruhe auf einer Parkbank kann hier nicht die Rede sein: Möwen und Tauben schwirren und fliegen um eine Frau in Tokio umher. (26.1.2021)
Bild: Eugene Hoshiko/AP/dpa
Schnack beim Snack: Fischer Willy Rivas scherzt im peruanischen Lima mit einem Freund beim Essen in der Fischerbucht in Chorrillos. (26.1.2021)
Bild: Rodrigo Abd/AP/dpa
Banger Blick zum Horizont: Ein freiwilliger Helfer benutzt sein Walkie-Talkie, während er den Vulkan Mount Merapi während einer Eruption überwacht. Der Vulkan, der als einer der gefährlichsten der Welt gilt, ist erneut ausgebrochen und spukte mehrere Stunden glühende Asche und Gestein. (27.1.2021)
Bild: Slamet Riyadi/AP/dpa
Stausee verkommt zu «fliessenden Müllhalde: Ein Mann geht an Tonnen von Müll vorbei, die am Fusse des Wasserkraftwerks am Potpecko-Stausee in Serbien schwimmen. Vor allem Plastikabfälle gelangen durch Nebenflüsse in den Stausee und sammeln sich hier an. Eine serbische Zeitung schrieb bereits von einer «fliessenden Müllhalde». (26.1.2021)
Bild: Darko Vojinovic/AP/dpa
Dickschädeltest: Stirn an Stirn messen zwei Rinder im deutschen Naturschutzgebiet Boberger Niederung ihre Kräfte. (25.1.2021)
Bild: Daniel Bockwoldt/dpa
Nasskaltes Ende: Zwischen Frauenfeld und Matzingen ist eine 33-jährige Wagenlenkerin bei Glatteis von der Strasse abgekommen und im Murgkanal gelandet. Die Frau wurde mit leichten Verletzungen ins Spital gebracht. (26.1.2021)
Bild: Kapo TG
Opfer der Zerstörungswut: Ein Mann räumt in einem Fast-Food-Restaurant in Rotterdam auf. Die Niederlande sind erneut von sogenannten Corona-Krawallen erfasst worden. Hunderte gewaltbereite Jugendliche hatten nach Polizeiangaben in mehreren Städten randaliert und dabei auch die Polizei angegriffen. (25.1.2021)
Bild: Peter Dejong/AP/dpa
Auf den Hund gekommen: Vierbeiner der Indian Railway Protection Force zeigen anlässlich des indischen Nationalfeiertags ihre Kunststückchen.
Bild: KEYSTONE
Galionsfigur mit Kettensäge: Im ungarischen Szilvásvárad streckt sich ein Feuerwehrmann auf dem Dach eines Zugs, um einen Ast abzusägen, der unter der Schneelast heruntergebrochen ist und die Bahnstrecke blockiert. (25.1.2021)
Bild: Keystone
Und sie tun es immer noch: In Rio De Janeiro tummeln sich grosse Menschenmengen auf engem Raum am Strand von Ipanema in Rio de Janeiro. Und das obwohl Brasilien nach wie vor sehr hohe Corona-Fallzahlen hat.
Bild: Bruna Prado/AP/dpa
Himmlische Hilfe: Feuerwehrfrau Tegan Rayner von der Belair Brigade CFS freut sich über den Regen, während sie nach Löscharbeiten der Buschbrände in Cherry Gardens in der Nähe von Adelaide, Australien, steht. (25.1.2021)
Bild: Brenton Edwards/ADELAIDE ADVERTISER/AAP/dpa
Winterfest: Stammrosen sind im Rosenpark Dräger in Steinfurth, Deutschland, mit Folie kältesicher verpackt. (25.1.2021)
Online-Elternabend: «Sharenting – Umgang mit Kinderbildern im Netz»
«Sharenting» steht für das Phänomen, wenn Eltern, Erziehungsberechtigte oder auch Grosseltern Fotos ihrer Kinder online stellen und teilen. Unter der Leitung von Claudia Lässer diskutierten Expert*innen und Eltern über das Thema.
20.11.2024
Elternabend bei blue Zoom: Die Folgen von Sharenting für die Kinder
Das Teilen von Kinderfotos im Internet birgt Gefahren. Am Online-Elternabend auf blue Zoom und im blue Zoom Livestream am 19. November, 20 Uhr, sprechen Medienexperten und Eltern über Datenmissbrauch, Mobbing und andere Risiken.
08.11.2024
Gamescom hat begonnen: Es kriselt in der Welt der Zocker
Die Gamescom ist eröffnet: Wie auch in den letzten Jahren werden wieder hunderttausende Besucher erwartet. Doch es kriselt in der Welt Zocker.
21.08.2024
Online-Elternabend: «Sharenting – Umgang mit Kinderbildern im Netz»
Elternabend bei blue Zoom: Die Folgen von Sharenting für die Kinder
Gamescom hat begonnen: Es kriselt in der Welt der Zocker