Eine KI ist nicht böse und hat keine Meinung. Sie wählt das statistisch Häufigste aus ihren Übungsdaten. Genau daraus entsteht die Schieflage, und genau das können schon Grundschulkinder verstehen.
Eine KI macht aus einem „meistens" ein „immer".
Drei kommerzielle Programme sollten auf Porträtfotos nur erkennen, ob eine Frau oder ein Mann zu sehen ist. Bei Männern mit hellem Hautton lagen sie fast immer richtig. Bei Frauen mit dunklem Hautton lag ein System in mehr als jedem dritten Fall falsch. Es ist dasselbe Programm, derselbe Rechner, dieselbe Aufgabe.
Über alle Personen hinweg lagen die Systeme in 87,9 % bis 93,7 % der Fälle richtig. Mit so einer Zahl lässt sich ein Produkt gut verkaufen. Sie verdeckt aber, dass einzelne Gruppen bis zu einem Drittel Fehler erleben.
Noch deutlicher: Frauen mit dunklem Hautton stellten 21,3 % des Datensatzes, verursachten aber 61 % bis 72 % aller Fehler. Männer mit hellem Hautton stellten 30,3 % des Datensatzes und verursachten 0 % bis 2,4 % der Fehler.
„Wenn du zum Üben nur Bilder von Golden Retrievern bekommst und dann einen Dackel siehst, erkennst du ihn dann als Hund?" Was ein System selten gesehen hat, erkennt es schlechter. Die Anschlussfrage für die Demokratiebildung: Wer merkt es eigentlich, wenn ein Gerät bei manchen Menschen öfter falsch liegt?
Bildgeneratoren lernen aus Millionen Bild-Text-Paaren aus dem Internet. Sie merken sich, welche Bildmuster besonders häufig zu welchen Wörtern gehören, und geben beim Erzeugen das Wahrscheinlichste zurück. Weil sie immer die häufigste Kombination wählen, verschwinden die Ausnahmen. Und manchmal liegt das Ergebnis nicht nur schief, sondern der Wirklichkeit entgegengesetzt.
Das lässt sich ganz ohne Menschendarstellung zeigen, und eignet sich deshalb gut für den Sachunterricht. Fragt man einen Bildgenerator nach einem Hinterhof, einer Haustür, einem Sessel oder einer Küche, ohne jede Ortsangabe, dann sehen die Ergebnisse fast immer nordamerikanisch aus.
Anteil der Bilder, die einer nordamerikanischen Darstellung ähnlicher waren als einer aus Asien oder Afrika. Daten nach Bianchi et al. (2023).
Die Kinder schätzen zuerst, wie viele Menschen in einem Beruf wirklich Frauen sind. Dann zeigen Sie vorbereitete KI-Bilder. Der Aha-Moment ist die Lücke zwischen beidem. Besonders lohnend sind Richter:in und Biolog:in: Dort liegt die KI nicht nur einseitig, sondern nachweislich falsch.
Sprachmodelle sagen im Kern immer nur voraus, welches Wort als Nächstes am wahrscheinlichsten ist. Sie verstehen nicht, wovon sie sprechen. Trainiert werden sie mit Texten aus dem Internet, und wer dort schreibt, ist keine Zufallsauswahl der Menschheit.
Erhebungen Dritter, zusammengetragen und eingeordnet von Bender et al. (2021).
„Wenn ein Computer alles aus Texten lernt, die vor allem junge Männer geschrieben haben, was lernt er dann nicht?"
Ein Papagei sagt Sätze nach, die er oft gehört hat, ohne zu wissen, was sie bedeuten. Genau so arbeitet ein Sprachmodell: Es reiht Wörter aneinander, die häufig zusammen vorkommen. Der Sinn entsteht erst im Kopf der Person, die es liest, nicht in der Maschine.
Das Bild hilft gegen die verbreitete Vorstellung, im Computer säße jemand, der nachdenkt. Es stammt nicht von uns, sondern ist der Fachbegriff aus der Originalarbeit: „stochastischer Papagei".
Die wichtigste Studie für unser Projekt hat Kinder untersucht. Vor dem Unterricht konnte über ein Drittel gar nicht erklären, warum eine KI immer nur Jungen als Fußballspieler malt. Viele sagten sinngemäß, „die KI denkt eben so". Nach drei Workshops, in denen die Kinder erst selbst ein kleines Bilderkennungs-Programm trainiert und danach mit einem Bildgenerator experimentiert hatten, erklärten deutlich mehr die Ursache dort, wo sie tatsächlich liegt: in den Beispielbildern.
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? FAccT '21, 610–623.
Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D., Hashimoto, T., Jurafsky, D., Zou, J., & Caliskan, A. (2023). Easily accessible text-to-image generation amplifies demographic stereotypes at large scale. FAccT '23.
Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77–91.
Cheong, M., Abedin, E., Ferreira, M., Reimann, R., Chalson, S., Robinson, P., Byrne, J., Ruppanner, L., Alfano, M., & Klein, C. (2024). Investigating gender and racial biases in DALL-E Mini images. ACM Journal on Responsible Computing, 1(2), Artikel 13.
Vartiainen, H., Kahila, J., Tedre, M., López-Pernas, S., & Pope, N. (2025). Enhancing children's understanding of algorithmic biases in and with text-to-image generative AI. New Media & Society, 27(9), 5342–5368.
