Wie kommt es dazu, dass Algorithmen diskriminieren? Wie kann es verhindert werden? Wo bestehen Schutzlücken? Unter der Prämisse, dass Algorithmen ein Einfallstor für Diskriminierung sein können und digitale Entscheidungsprozesse zugleich immer größeren Einfluss auf unseren Alltag gewinnen, wurden Antworten gesucht.
Am 13.09.2019 tagte im Rathaus Pankow die Fachwerkstatt „Algorithmen und das Recht auf digitale Gleichbehandlung“, veranstaltet von der LADS Berlin (Landesantidiskriminierungsstelle).
Diskutiert wurden folgende Aspekte bzw. Erkenntnisse:
- Die Folgen von algorithmischen Entscheidungsprozessen und Künstlicher Intelligenz hinsichtlich potentieller Diskriminierung müssen abgeschätzt und berücksichtigt werden.
- Die Kompetenz und die Sensibilisierung der Verwaltung hinsichtlich der Nutzung von algorithmenbasierten Softwaresystemen muss laufend gestärkt werden.
- Algorithmische Entscheidungsprozesse und ihre Datengrundlage sollen transparent und nachvollziehbar offengelegt und ihre Funktionen dokumentiert werden.
- Eine Aufsicht zur Regulierung und diskriminierungsfreien Gestaltung von Softwaresystemen und Künstlicher Intelligenz durch unabhängige Einrichtungen ist zu gewährleisten.
Zwei Keynotes von Nushin Yazdani (KI Researcherin) und Lorenz Matzat (AlgorithmWatch) führten die Teilnehmenden in die Materie ein. Vertreter*innen von AlgorithmWatch (Lorenz Matzat), dem iRights.Lab (Michael Puntschuh), dem Disruption Network Lab (Lieke Ploeger, Tatiana Bazzichelli) sowie der Antidiskriminierungsstelle des Bundes (ADS, Nathalie Schlenzka) entwickelten nachmittags gemeinsam mit den Teilnehmer*innen in vier Workshops konkrete Ansätze zur Vermeidung algorithmenvermittelter Diskriminierung. Die abschließende Podiumsdiskussion beleuchtete die Frage, ob Diskriminierung mit wachsendem Einsatz von Algorithmen vorprogrammiert sein muss. Mit: Maja Smoltczyk (Berliner Beauftragte für Datenschutz und Informationsfreiheit), Eren Ünsal (Leiterin der LADS), Elena Kalogeropoulos (iRights.Lab), Miika Blinn (Verbraucherzentrale Bundesverband e.V.)
Die Wirtschaftsweiber haben an dem Fachtag teilgenommen und dort interessante Impulse aufgenommen. Wir lernten dort u.a. die österreichische Mathematikerin Paola Lopez kennen, die zum Thema wissenschaftlich forscht. Sie hat den sogenannten AMS-Algorithmus (Arbeitsmarktservice Österreich) untersucht, der in Österreich von der öffentlichen Hand ab 2020 zur Personalvermittlung eingesetzt werden wird. Sie zeigt in einem Artikel auf, wie dieser Algorithmus intersektionale Ungleichheit produziert. Der Beitrag “Reinforcing Intersectional Inequality via the AMS Algorithm in Austria” erscheint in: Critical Issues in Science, Technology and Society Studies. Conference Proceedings of the 18th STS Conference Graz 2019, 6th-7th May 2019. Graz: Verlag der Technischen Universität Graz.
Eine Tagungsdokumentation zur LADS-Fachwerkstatt ist in Arbeit.
Bereits erhältlich ist online eine erste Bestandsaufnahme zu Diskriminierungsrisiken bei der Nutzung von Algorithmen im Alltag und in der Verwaltung:
Siehe hier in der LADS-Schriftenreihe:
https://www.berlin.de/sen/lads/ueber-uns/materialien/ oder direkt als PDF:
https://www.berlin.de/sen/lads/_assets/ueber-uns/materialien/algorithmendiskriminierungsrisiko_bf.pdf
(Beitragsbild: Deckblatt der LADS-Schrift “Algorithmen und ihr Diskriminierungsrisiko”, © Gerd Altmann/Pixabay)