Rassismus (vor)programmiert: Warum wurden die Bilder von einem Schwarzen Model auf Instagram gelöscht?
Es sind ästhetische Bilder. Influencerin und Plus-Size Model Nyome Nicholas-Williams sitzt auf einem rustikalen Holztritt. Die 28-jährige hat kein Shirt an, mit geschlossenen Augen, manchmal auch intensiv in die Kamera blickend, umschlingt sie ihren Oberkörper, verträumt, sinnierend und wunderschön. Nicholas-Williams Community antwortete überschwänglich und voller Begeisterung. Sie feierten die Bilderstrecke der Fotografin Alexandra Cameron, doch Instagram löschte das Bild innerhalb weniger Stunden und drohte ihren Account zu sperren. Schnell formierten sich ihre Fans und schufen den Hashtag: #IwanttoseeNyome. Warum löscht das soziale Netzwerk ein nicht nacktes Bild von einer Schwarzen Frau und was hat es mit dem Technology Bias auf sich?
Eine Afroamerikanerin wurde als Gorilla getaggt
„Millionen von Bildern sehr nackter, dünner, weißer Frauen können täglich auf Instagram gefunden werden“, sagte Nicholas-Williams gegenüber The Guardian. „Aber eine dicke Schwarze Frau, die ihren Körper feiert, ist verboten? Das war für mich schockierend. Ich habe das Gefühl, zum Schweigen gebracht zu werden.“ Rassismus dringt auch auf den sozialen Netzwerken vor. Dabei meine ich nicht Hate-Speeches oder Rassist:innen, die wie Bots ihre Ideologien teilen, sondern die Infrastruktur an sich. Noble (2018) zeigte anhand von zahlreichen Beispielen, wie Suchmaschinen zur Verstärkung von Rassismus beitrugen. Dabei untersuchten sie die Autovervollständigung von Google Suchergebnissen. Unter den Wörtern “Black Girls” wurden mehrheitlich pornografische Bilder angezeigt und eine Google-Software beschriftete das Foto einer Afroamerikanerin mit „Gorilla“ – Es gibt viele weitere Beispiele, die zeigen: Stereotype, Klischees und Rassismen übertragen sich von den Menschen die Programmieren, auf die Technik. Dieser Prozess wird als Technology Bias bezeichnet. Das ist der Grund, warum Technologie rassistisch vorprogrammiert ist.
Die digitale Transformation von Rassismus
Die Soziologin und außerordentliche Professorin am Department of African American Studies der Princeton University Ruha Benjamin ist überzeugt, dass Race an sich eine Technologie sei. In “Race after Technology” erklärt sie, dass Technologie nicht nur die Hard- und Software sei, die uns im Silicon Valley verkauft wird, sondern auch die sozialen Aspekte, wie die Art und Weise, wie unsere Gesetze, unsere Politik und unsere sozialen Normen, Hierarchien und Ungleichheiten schaffen. Um diesen abstrakten Gedanken ein wenig griffiger zu machen, hilft das Beispiel des Predictive Policing. Ein Fachbegriff für Polizeiarbeit auf Basis von Verbrechens-Prognosen. Es zeigt, dass bei der Entscheidung, welche Häftlinge vorzeitig entlassen werden sollen, eine AI-Technologie der Ansicht in den USA war, dass eine dunkle Hautfarbe das entscheidende Kriterium für eine hohe Rückfallwahrscheinlichkeit für Straftaten sei. Genau diese Technologien nutzen wir jeden Tag: um uns gegenseitig zu beurteilen, zu ordnen und zu klassifizieren. Und in diesem Fall wird Race zu einem der mächtigsten Werkzeuge, die unsere moderne Gesellschaft einsetzt. Es schafft Parallelwelten. Nyome Nicholas-Williams Fall – die ohne gegen die Auflage von Instagram verstoßen zu haben, trotzdem gelöscht wurde, zeigt dass Algorithmen zu struktureller Differenzierung beitragen. Sie reproduzieren nicht nur Rassismen, sie verstärken sie auf einem ganz anderen Level.
Menschen machen Maschinen
Der CEO von Instagram, Adam Mosseri, hat zugegeben, dass die Plattform auf „algorithmische Voreingenommenheit“ achten müsse. Das soziale Netzwerk mit mehr als einer Milliarde Nutzer:innen und 15.000 Menschen, die weltweit arbeiten, um Beiträge zu überprüfen und nach verbotenem Material zu suchen, ist wiederholt beschuldigt worden, Schwarze zu diskriminieren. Dabei räumt Mosseri ein, dass er „Bedenken darüber höre, ob wir Schwarze Stimmen unterdrücken und ob unsere Produkte und Richtlinien alle gleich behandeln“. In einem Blogpost schrieb er: „Worte sind nicht genug. Deshalb setzen wir uns dafür ein, die Art und Weise zu untersuchen, wie sich unsere Richtlinien, Werkzeuge und Prozesse auf Schwarze und andere bei Instagram unterrepräsentierte Gruppen auswirken“.
Zwar hat der Vizepräsident von Instagram angekündigt, mit einem internen Equity-Team, gegen die Voreingenommenheit ihrer technischen Strukturen vorzugehen und parallel eine Kampagne mit dem Hashtag: #ShareBlackStories gestartet, doch wie nachhaltig diese Prozesse sind, zeigt der Fall von Nyome Nicholas-Williams. Ihre Bilder wurden gelöscht. Inzwischen sind sie wieder online. Das nur dank ihrer starken Community, die über Wochen sich bei Instagram beschwert hatten, ihrer Fotografin Alexandra Cameron sowie der berühmten Anwältin Gina Martin. Ohne all diese Menschen hätten wir nie von ihrem Fall gehört oder die Bilder wären nie wieder erschienen. Daher stellt sich die Frage, von wie vielen Erfahrungen wir nie etwas hören?
Ein Blick auf die erfolgreichsten Instagramer:innen zeigt auch, dass Schwarze Influencer:innen – auch in den USA – weit hinter ihren weißen Kolleg:innen liegen. Das demonstriert die Ungleichheit unter der Oberfläche, die wir jeden Tag konsumieren. Welches Bild wird uns angezeigt? Welcher Tag trendet? Es beweist, an wen bei der Konzeption dieser Technologie gedacht wurde und an wen nicht. Das macht Schwarze Menschen strukturell unsichtbar oder – wie in Nyome Nicholas-Williams – löscht sie in unserer virtuellen Gesellschaft sogar.
Ruha Benjamin plädiert in “Race after Technology” statt diskriminierende Technologie auf individuelle Pathologien zu reduzieren, sei es wichtig die Prozesse und Konvergenzen, die sich durch die gesamte Kultur und Wirtschaft ziehen, zusehen. Wir übertragen unsere gesellschaftlichen Herausforderung, Ungleichheiten, wie den White Gaze, White Supremacy, strukturellen Rassismus, Diskriminierung, Sexismus und den Male Gaze – um nur einige zu nennen – auf unsere virtuelle Welt. Das Problem ist somit nicht (nur) Instagram, es ist unsere ungerechte Gesellschaft. Doch natürlich werden diese Prozesse in einem homogenen Team, welches diese Technologien entwickelt – nicht gesehen. Deshalb ist das anerkennen dieser Hürden der erste Schritt, aber unsere Herausforderungen in unserer analogen Welt werden uns überall mit hin begleiten – egal auf welcher Plattform.
Ciani
#SupportYourLocalOnlineLifestyleMag
Unterstütze RosaMag bereits mit 2,50!
Wusstest du, dass es drei Magazine über Weihnachtsbäume, zwei über UFOS und ZERO über das Leben, die Gedanken und Perspektiven von Schwarzen Frauen im deutschsprachigen Raum gibt?
Das ist nur eines der vielen Gründe, warum eine digitale Plattform für Schwarze Frauen im Netz essentiell ist.
Bereits mit 2,50 Euro, kannst du unsere Arbeit unterstützen und dazu beitragen, das erste Online-Lifestylemagazin für Schwarze Frauen im deutschsprachigen Raum zu gewährleisten.
