CODED BIAS – Keineswegs von den Besten gelernt 

Wir leben in einer schnellen Welt, wir leben in einer aufgeklärten Welt und einer Gesellschaft, die offen ist und sich tagtäglich weiterentwickelt – keinen Schritt zurück macht und nie stillsteht.

So der Traum. Dass dieses Wunschdenken nicht der Realität entspricht, zeigen menschgemachte Krisen wie der Krieg in der Ukraine und Ungerechtigkeiten wie Rassismus, gegen die Menschen Tag für Tag ankämpfen müssen nur zu gut. Sei es wegen ihres Geschlechts, ihres Berufs, ihres Alters, ihrer Partnerschaft(en), ihrer Staatsangehörigkeit, ihres Migrationshintergrundes – oder aufgrund ihrer Hautfarbe aufgrund rassistischer Algorithmen.

Am 2. November präsentierte CUP in der Orleansstraße den Dokumentarfilm CODED BIAS (übersetzt “vorprogrammierte Diskriminierung”). Darin zeigt die Regisseurin Shalini Kantayya anhand der Protagonistin Joy Buolamwini, Code-Expertin, KI-Forscherin und Gründerin der Algorithmic Justice League, welche diskriminierenden Erfahrungen sie durch Künstliche Intelligenz macht. Der Film thematisiert im weiteren Verlauf auch die schleichenden gesellschaftlichen Auswirkungen dieser Technologien. Schon die erste Szene vermittelt eindrücklich, worum es in den folgenden 85 Minuten geht: Am US-amerikanischen MIT, dem Massachusetts Institute of Technology in Cambridge, forscht Joy Buolamwini zu künstlicher Intelligenz und stellt fest: Die für ihre Forschungen verwendete “facial recognition technology” (“Gesichtserkennungstechnologie”) erkennt dunkelhäutige Gesichter sowie die Gesichter von Frauen, also wie das ihre, nicht. Das Kuriose bis Beunruhigende: Wenn sie sich jedoch eine weiße Maske vor das Gesicht hält, erfasst die KI plötzlich doch ein Gesicht. Also beginnt Buolamwini mit der Erforschung der weit verbreiteten Voreingenommenheit bzw. Diskriminierung in Algorithmen. Es stellt sich heraus: Die künstliche Intelligenz bzw. der Algorithmus dahinter ist nicht objektiv und neutral. 

Wie “wird” ein Algorithmus zum Rassisten?  

Algorithmen sind stets ein Spiegel der Gesellschaft und können daher Diskriminierung und Rassismus reproduzieren. Als Prävention gilt, der KI bewusst Datensätze zur Verfügung zu stellen, in denen Minderheiten ausreichend repräsentiert sind. Das Problem dabei: die Entwickler­teams sind oft selbst nicht divers genug aufgestellt. Zusammen mit weiteren Frauen, u. a. der Autorin von Weapons of Math Destruction, Cathy O’Neil, setzt sich Buolamwini dafür ein, dass die US-Bürgerrechte geschützt werden. Regisseur*in Kantayya nimmt die Zuschauer*innen weiter mit – in einen Wohnkomplex in Brookylns, in dem mittels Technologie die Mieter ausspioniert werden sollen. Eindrücklich schildert der Film die Geschichte des Streits zwischen den Mieter*innen und einer Gebäudeverwaltungsgesellschaft, die versucht hat, Gesichtserkennung für die Zutrittskontrolle einzusetzen.   

Auch Mitglieder*innen der britischen Organisation Big Brother Watch kommen zu Wort, darunter Silkie Carlo aus London. Als Carlo Flugblätter verteilt, um die Fußgänger*innen zu warnen, dass ein Polizeiwagen, der in der Nähe geparkt ist, ihre Gesichter aufnimmt, die Bilder archiviert und mit Polizeidatenbanken vergleicht, entspinnt sich folgende Szene: Ein erst 14-jähriger Schwarzer in Schuluniform wird von Polizisten in Zivil umzingelt und gepackt, durchsucht und seine Fingerabdrücke genommen – dann stellt sich heraus: Die KI lag falsch, er ist nicht der Gesuchte. Die Technologie, die von der Polizei und Werbefirmen im Westen sowie der Regierung der Volksrepublik China gekauft wird, ist vor allem eines: nicht unfehlbar. Sie ist mit gravierenden Auswirkungen auf die Freiheit und die Menschenrechte verbunden, da sie bzw. der Algorithmus dessen sie sich bedient, ein verzerrtes Bild unserer Gesellschaft liefern.  

Wir sehen uns laut der Regisseurin mit zwei Fragen konfrontiert: 

• Was bedeutet es, wenn künstliche Intelligenz zunehmend unsere Freiheitsrechte bestimmt? 

• Und was sind die Folgen für die Menschen, gegen die KI voreingenommen ist?  

Im Anschluss wurden der Film und dessen Inhalte heiß diskutiert. Besonders bewegend war dabei die Frage nach den Chancen und Risiken, die KI für uns als Gesellschaft hat. Die Sicherheit, die sie verspricht, gilt es, mit der Freiheit aller aufzuwiegen und zu vergleichen. Wie viel ist uns das eine wert, wie viel das andere – in einem System, das nie vergisst? 

CODED BIAS ist ein Weckruf – ein Film voller Warnungen und klugen Frauen, die von den Risiken und Nachteilen, die KI in sich birgt, bereits jetzt betroffen sind – und sich laut und stark gegen diese Bedrohung zur Wehr stellen. Denn was Kantayyas Film noch kann, ist es, uns hoffen zu lassen: Szenen von Demonstrant*innen in Hongkong, die mittels Laserpointer die von der chinesischen Regierung eingesetzten Kameras mit Gesichtserkennung blenden. Oder Joy Buolamwini, die Autorin Cathy O’Neil und andere, wie sie vor dem US-Kongress aussagen, um den Big Tech-Firmen in den USA in ihrem Streben nach Daten Einhalt zu gebieten.  

Wen dieses Thema nicht loslässt, der findet auf der Website zum Film weitere Informationen zur Dokumentation, der Regisseur*in und den Protagonist*innen.