Ich teile meinen Bildschirm. Zehn Bilder, ordentlich nebeneinander, zehnmal derselbe Prompt: „Chef eines Unternehmens“. Acht Männer in dunklen Anzügen, ernster Blick, meist grauhaarig. Nur ein Bild mit einer Frau.
Für einen Moment sagt niemand etwas. Kein Rascheln, kein Räuspern, nur das leise Grundrauschen von zwölf stummgeschalteten Mikrofonen. Dann poppt im Chat eine Nachricht auf: „Das ist doch Zufall, oder?“
Ist es nicht. Genau deshalb mache ich diese Übung oft in den Kursen.
Eine KI hat keine Meinung im menschlichen Sinn. Sie urteilt nicht, sie hasst nicht, sie bevorzugt niemanden aus Überzeugung. Aber sie hat gelernt, aus Millionen Bildern, Texten und Artikeln, die im Internet stehen. Und dieses Internet ist kein neutraler Spiegel der Welt. Es ist ein Spiegel dessen, was in den letzten Jahrzehnten fotografiert, geschrieben und hochgeladen wurde. Wenn dort „Chef“ meistens mit Anzug und grauem Haar verbunden war, lernt das System genau dieses Muster. Nicht als Meinung. Als Statistik.
Das Tückische daran: Die Statistik sieht aus wie eine Meinung, wenn sie zehnmal hintereinander dasselbe Bild liefert.
Eine Studie von Bloomberg aus dem Jahr 2023 hat genau das mit Stable Diffusion durchgespielt, tausende generierte Bilder zu Berufen ausgewertet. Ergebnis: Berufe mit hohem Ansehen und hohem Gehalt wurden fast durchgängig mit hellhäutigen Männern dargestellt, deutlich stärker, als es der tatsächlichen Berufsverteilung entspricht. Die Maschine hat also nicht nur die Vorurteile der Welt übernommen. Sie hat sie verstärkt.
In meinem Kurs frage ich dann weiter: „Was passiert, wenn ihr das nicht bei einem Bild seht, sondern bei einer Bewerbung, die eine KI vorsortiert?“ Es wird noch stiller.
Genau da liegt der Punkt, um den es mir eigentlich geht. Nicht um lustige Bilder von Chefs. Sondern darum, dass dieselben Systeme längst in Auswahlprozessen mitreden, beim Screening von Lebensläufen, bei der Vorauswahl für Vorstellungsgespräche, bei automatisierten Empfehlungen. Wenn ein Modell gelernt hat, dass „erfolgreiche Führungskraft“ mit bestimmten Namen, bestimmten Lebensläufen, bestimmten Lücken korreliert, trifft es leise Vorentscheidungen. Niemand hat das böse gemeint. Trainiert wurde trotzdem ein blinder Fleck.
Was tun meine Teilnehmenden also mit diesem Wissen? Ich bringe ihnen bei, das Ergebnis nie als letztes Wort zu nehmen. Bei einem Bildgenerator heißt das: gezielt gegensteuern, „Chefin“, „junge Führungskraft“, „Team aus verschiedenen Hintergründen“ explizit eintippen, wenn Vielfalt gewollt ist, denn der Standardfall liefert sie nicht von allein. Bei Bewerbungsprozessen heißt es: nachfragen, welche Kriterien ein System tatsächlich nutzt, und nie ganz allein der Vorauswahl vertrauen.
Kritisches Denken bedeutet hier nicht, der Technik zu misstrauen. Es bedeutet, ihre Trainingsgeschichte mitzudenken. Jedes Ergebnis trägt die Handschrift dessen, woraus es gelernt hat.
Am Ende der Übung zeige ich noch ein elftes Bild. Diesmal mit dem Prompt „Chefin eines Start-ups, Anfang dreißig, mit Hijab, am Kopfende des Konferenztisches“. Es dauert einen Moment, bis das System liefert, was ich verlangt habe. Aber es liefert. Die Maschine hatte nie eine Meinung. Sie hatte nur noch niemanden, der genauer hingeschaut hat.
Quellen
• Bloomberg (2023). Humans Are Biased. Generative AI Is Even Worse. Analyse von Stable-Diffusion-Bildern zu Berufen und Führungspositionen.
https://www.bloomberg.com/graphics/2023-generative-ai-bias/
• UNESCO (2024). Bias in Generative AI and Large Language Models. Untersuchung geschlechtsspezifischer und kultureller Verzerrungen in KI-Systemen.
https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes
