{"id":2006,"date":"2025-10-25T09:35:45","date_gmt":"2025-10-25T09:35:45","guid":{"rendered":"https:\/\/byte-challenge.de\/?p=2006"},"modified":"2025-11-22T14:27:38","modified_gmt":"2025-11-22T14:27:38","slug":"wenn-ki-vorurteile-reproduziert","status":"publish","type":"post","link":"https:\/\/byte-challenge.de\/en\/wenn-ki-vorurteile-reproduziert\/","title":{"rendered":"Wenn KI Vorurteile reproduziert"},"content":{"rendered":"

Unsere Erfahrungen mit Bias in der Bildgenerierung<\/h3>\n\n\n\n

K\u00fcnstliche Intelligenz soll uns unterst\u00fctzen \u2013 doch manchmal verst\u00e4rkt sie alte Stereotype.
F\u00fcr unseren digitalen Medienkurs zum Thema \u201eDeine Daten im Netz\u201c hat das BYTE-Team Bilder mithilfe von ChatGPT 4 und 5 generiert. Dabei \ufb01el uns auf, dass selbst bei klaren Prompts problematische Verzerrungen entstehen. Das Thema \u201eBias in KI\u201c ist damit nicht nur abstrakt, sondern ganz konkret sichtbar geworden.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Was bedeutet Bias \u00fcberhaupt?<\/h4>\n\n\n\n

Bias hei\u00dft \u00fcbersetzt \u201eVoreingenommenheit\u201c. In der Praxis bedeutet das: KI-Systeme k\u00f6nnen
diskriminierende oder einseitige Darstellungen erzeugen. Der Grund liegt in den Trainingsdaten: Wenn bestimmte Gruppen \u00fcberrepr\u00e4sentiert sind, andere fehlen oder Stereotype dominieren, pr\u00e4gt das die Ergebnisse. <\/p>\n\n\n\n

\n

KI spiegelt nicht die Realit\u00e4t, sondern die Daten, mit denen sie gef\u00fcttert wurde.<\/strong><\/p>\n<\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Beispiel 1: Ein Machtgef\u00e4lle auf der B\u00fchne<\/h4>\n\n\n\n
<\/div>\n\n\n\n
Unser Prompt: <\/h6>\n\n\n\n

\u201eDie Sch\u00fcler:innen, die die Daumen f\u00fcr Nora hochhalten, sind kulturell
unterschiedlich. Unterschiedliche Hautfarben, unterschiedlicher Kleidungsstil. Zeichne mir eine Comicvorlage als Bild.\u201c<\/p>\n\n\n\n

Das Ergebnis:<\/h6>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Alle Sch\u00fcler:innen im Publikum wurden dunkelh\u00e4utig dargestellt, w\u00e4hrend die wei\u00dfen Figuren auf der B\u00fchne standen. Damit entstand ungewollt das Bild eines Machtgef\u00e4lles: wei\u00dfe Personen oben, People of Color unten als jubelnde Masse. Ein diskriminierendes Klischee, das wir keinesfalls reproduzieren wollen.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Beispiel 2: \u201eBunt gemischt\u201c \u2013 und doch getrennt<\/h4>\n\n\n\n
<\/div>\n\n\n\n
Unser Prompt: <\/h6>\n\n\n\n

\u201eDenk an Diversit\u00e4t und Vielfalt, aber nicht nur dunkelh\u00e4utige Sch\u00fcler:innen,
sondern wirklich bunt gemischt. Alle schon etwas \u00e4lter, 14\u201317 Jahre. Vielleicht auch jemand im Rollstuhl.\u201c<\/p>\n\n\n\n

Das Ergebnis:<\/h6>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Was au\ufb00\u00e4llt: Die KI trennte wei\u00dfe Sch\u00fcler:innen und People of Color r\u00e4umlich in zwei Gruppen. Zudem setzte sie einen nichtwei\u00dfen Jungen in den Rollstuhl. Auch das ist eine diskriminierende Zuschreibung, die suggeriert: Behinderung betri\ufb00t automatisch nichtwei\u00dfe Personen.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Beispiel 3: Diversit\u00e4t mit Rollstuhl \u2013 aber nur f\u00fcr People of Color<\/h4>\n\n\n\n

Ein weiterer Versuch mit dem Hinweis auf \u201eDiversit\u00e4t und auch Menschen mit Rollstuhl oder
H\u00f6rger\u00e4t\u201c f\u00fchrte erneut dazu, dass ausgerechnet die beiden dunkelh\u00e4utigen Figuren in Rollst\u00fchle gesetzt wurden. Hier zeigt sich deutlich, wie sehr Stereotype das KI-Modell beein\ufb02ussen.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

Warum das problematisch ist<\/h3>\n\n\n\n

Wenn wir unre\ufb02ektiert KI-Bilder verwenden, transportieren wir ungewollt diskriminierende
Botschaften:<\/p>\n\n\n\n