Sprungziele

Gender und Künstliche Intelligenz (KI)

Künstliche Intelligenz (KI) ist weder objektiv noch vorurteilsfrei - im Gegenteil, sie kann bestehende gesellschaftliche Stereotype verstärken! Zudem nutzen Frauen KI seltener, was Ungleichheiten verfestigt.

Wird ein geschlechtsneutraler englischer Satz mittels einer KI ins Deutsche übertragen, zeigt sich, wie schnell KI in stereotype Denkmuster verfällt: obwohl die englische Sprache keine Geschlechtszuweisungen trifft, ordnet die KI vermeintlich typische Berufe automatisch bestimmten Geschlechtern zu ( z.B. der Arzt, die Grundschullehrerin).

So werden bestehende Rollenbilder durch die Technik verstärkt und systematische Verzerrungen entstehen, diese werden Gender Bias genannt.

Noch deutlicher zeigt sich dies bei der Bildgenerierung durch KI: ein "Engineering Professor" zeigt meist nur weiße, männliche Akademiker ... .

Eine Studie zur Nutzung von KI zeigt:

  • nur 32% der Frauen vertrauen der KI, bei den Männern sind es 47%.
  • bei der beruflichen Nutzung setzen 40% der Frauen KI ein, bei den Männern sind es 31%.
  • nur 30% der Frauen halten ihre persönliche KI Kompetenz für gut, bei den Männern sind es 43%.

Während KI zunehmend den Arbeitsmarkt und Entscheidungsprozesse durchdringt, bleiben Frauen in der Anwendung und Gestaltung der Technologie zurück. Hier sind gezielte Maßnahmen gefragt, um Chancengleichheit zu gewährleisten.

Europa hat mit der KI-Verordnung der EU eine der umfassendsten rechtlichen Grundlagen für den Umgang mit KI geschaffen! Ein zentraler Punkt ist Artikel 4 der Verordnung, der vorschreibt, dass alle Menschen, die mit KI Systemen arbeiten, über entsprechende Kompetenzen verfügen müssen. Dies soll sicherstellen, dass KI diskriminierungsfrei genutzt wird und dass Beschäftigte in Unternehmen KI Systeme kritisch hinterfragen können. Ein weiteres Element der Verordnung ist die Transparenzpflicht für Hochrisiko-KI-Systeme, insbesondere bei Anwendungen, die in Personalentscheidungen, Bewerbungsverfahren oder im Finanzwesen eingesetzt werden. Hier sollen klare Kriterien für die Nachvollziehbarkeit von Entscheidungen eingeführt werden.

Die KI Verordnung der EU könnte dazu beitragen, dass KI nicht unreflektiert bestehende Vorurteile verstärkt, sondern gezielt überprüft und angepasst wird (allerdings gibt es eine solche Verordnung nicht weltweit).

Die Gleichstellungsbeauftragten plädieren dafür, dass Unternehmen / Verwaltungen / Institutionen "Diversity Panels" einsetzen, um KI Systeme auf diskriminierende Muster zu überprüfen. "Diversity Panels" wird eine Gruppe von Personen genannt, die eine breite Palette von Hintergründen, Erfahrungen und Perspektiven repräsentiert. Es geht darum, die Vielfalt der Gesellschaft oder einer bestimmten Gruppe widerzuspiegeln und so eine inklusivere und gerechtere Entscheidungsfindung zu fördern.