In ihrem Grußwort betonte Familienministerin Katharina Binz: „KI-Systeme können strukturelle Diskriminierungen reproduzieren und verstärken. Zum Beispiel, wenn Gesichtserkennungssoftware bei farbigen Frauen weniger erfolgreich ist, da die Systeme überwiegend mit Bildern weißer Männer trainiert wurden. Oder wenn Online-Bezahlsysteme unterschiedliche Kreditlimits für Männer und Frauen berechnen. Dort, wo KI Entscheidungen trifft oder unterstützt, die für Menschen im Alltag wichtig sind, schlagen solche Diskriminierungen besonders zu Buche, zum Beispiel bei Bewerbungsverfahren, Bankkrediten oder der Vergabe staatlicher Leistungen. Sie können dazu führen, dass Menschen in ihrer gesellschaftlichen Teilhabe beeinträchtigt, in ihren Grundrechten beschnitten oder ihnen der Zugang zu öffentlichen Gütern und Dienstleistungen verwehrt wird. Dies ist umso problematischer, da solche Systeme häufig als objektive Entscheidungshilfen wahrgenommen werden. Über die Alltagsbegleitung hinaus gilt die KI jedoch als zentrale Technologie der Zukunft. So werden Innovationsschübe in Bereichen wie der Medizin oder Nachhaltigkeit erwartet. KI kann somit auch als Hoffnungsträger für wichtige Zukunftsfragen geschehen werden.“
Schon jetzt gehören automatisierte Entscheidungssysteme (ADMS) und verschieden arbeitende Formen von Künstlicher Intelligenz zum Alltag vieler Menschen. Ob Gesichtserkennung auf dem Handy, Sprachassistenz- oder Übersetzungsprogramme oder auch Empfehlungsalgorithmen auf Streaming-Plattformen – KI und ADMS vereinfachen Prozesse oder machen diese effektiver.
In zwei Inputvorträge von Teresa Staiger (Bertelsmann Stiftung) und Pia Sombetzki, (AlgorithmWatch) wurde versucht, hinter die Black Box KI zu blicken. In der anschließenden Podiumsdiskussion mit den Referentinnen und Nathalie Schlenzka (Antidiskriminierungsstelle des Bundes) wurde u.a. den Fragen nachgegangen: Wie können Privatpersonen feststellen, dass sie von KI-gestützter Diskriminierung betroffen sind? Wie wirksam sind aktuell rechtliche Regelungen gegen diese Diskriminierung? Wo gibt es Regelungslücken? Wie können KI-Entwicklung und Einsatz diskriminierungsarm den Bedürfnissen der Vielfaltsgesellschaft angepasst werden kann und was es dafür braucht?
Hintergrund:
Der Fachtag ist eine jährlich stattfindende Veranstaltung im Rahmen des Landesaktionsplans gegen Rassismus und Gruppenbezogene Menschenfeindlichkeit. Er dient dem Wissensaustausch und der Vernetzung vielfältiger Akteurinnen und Akteure und richtet sich insbesondere an Fachkräfte aus der politischen Bildungsarbeit, der Jugendarbeit, der Antidiskriminierungs- und Vielfaltsarbeit und der Demokratieförderung in Rheinland-Pfalz, sowie an Ehrenamtliche und Interessierte, die sich in diesen Bereichen engagieren.