News aus dem Studio
Vorurteile ab Werk? Gender und generative KI.
Datum:
6. Feb. 2026
5 Learnings aus dem Vortrag von Dr. Dana Kube

Bias steckt in den Systemen und in ihrer Nutzung
Generative AI wird mit Daten trainiert, die gesellschaftliche Vorurteile bereits abbilden. Gleichzeitig bringen die Menschen, die diese Tools nutzen, ihre eigenen Annahmen, Stereotype und blinden Flecken mit. Treffen voreingenommene Systeme unreflektiert auf voreingenommene Nutzung, bringt neue Technologie keinen Fortschritt. Sie verstärkt bestehende Ungleichheiten und überholtes Denken.Ungeprüfte Standard-Outputs zementieren Stereotype
Der Vortrag hat gezeigt, wie Bildgeneratoren oft automatisch auf Klischees zurückgreifen: Expert:innen oder Professor:innen sind dann meist ältere weisse Männer. Frauen, nicht-binäre Menschen und People of Color werden häufig falsch oder zu wenig dargestellt, solange Du sie nicht ausdrücklich im Prompt verlangst. Wer diese Outputs nicht hinterfragt, festigt Stereotype und riskiert einen Rückschritt statt des Fortschritts, den viele Brands vorantreiben wollen.Lücken in der Repräsentation sind sicht- und messbar
Bias in generativer AI ist keine Einzelbeobachtung. Studien und visuelle Analysen zeigen klare Muster darin, wie People of Color dargestellt werden: oft vereinfacht, verzerrt oder gar nicht. Diese Muster bleiben selbst nach mehreren Prompt-Iterationen bestehen. Das zeigt, wie tief Representation Bias in den aktuellen Modellen verankert ist.Kritisch hinschauen gehört zur AI Literacy
Mit generativer AI zu arbeiten heisst, Outputs zu hinterfragen, die Annahmen dahinter zu verstehen und Ergebnisse nicht einfach für bare Münze zu nehmen. Ohne diese Distanz besteht die reale Gefahr, Bias blind und in grossem Stil zu reproduzieren, gerade in kreativen und kommunikativen Kontexten.Fortschritt ist eine bewusste Entscheidung
Auch wenn grosse Modelle den Markt dominieren, hat der Vortrag auf forschungsgetriebene und Community-basierte Initiativen hingewiesen, die fairere und inklusivere Ansätze in der AI-Entwicklung ausloten. Selbst wenn manche Tools noch in den Kinderschuhen stecken, ist die Kernaussage klar: Die Zukunft der AI hängt nicht nur davon ab, was technisch möglich ist, sondern auch davon, welche Systeme, Werte und Praktiken wir aktiv unterstützen.
FAZIT
Neue Tools im Blick zu behalten und sich für die Möglichkeiten generativer AI im Kreativbereich zu begeistern, ist wichtig. Aber das bringt Verantwortung mit sich. Neben besseren Prompting-Skills brauchen wir auch mehr AI Literacy und müssen hinterfragen, wie diese Systeme gebaut und genutzt werden. Sonst reproduzieren wir alte Muster und verstärken rassistische oder patriarchale Strukturen, einfach mit neuer Technologie. Fortschritt passiert nicht von allein. Er braucht Bewusstsein, Reflexion und bewusste Entscheidungen.


