Sechzehn KI-Modelle besetzen 9.000 Gesichter: Die Favoriten wechselten mit dem Briefing, doch indische Porträts landeten fast immer weit unten
In einem Audit der Université Paris-Saclay bewerteten 16 KI-Modelle 9.000 generierte Porträts, die alle im selben schwarzen T-Shirt erzeugt wurden, für Berufe, Marken, Aktivitäten und Bankprodukte. Welche Gruppen die Modelle bevorzugten, änderte sich mit dem Briefing; indische Porträts blieben fast durchgehend in der unteren Hälfte. Unsere Auswertung der veröffentlichten Scores zeigt: Allein die zehn Bekleidungsmarken reichen, damit bei jedem der geschlossenen Modelle asiatische und indische Porträts am Ende landen.

Parallax Pincer
Jedes Gesicht entstand nach derselben Vorgabe: ein schwarzes Rundhals-Shirt ohne Logo vor hellgrauem Hintergrund, Schultern etwa 15 Grad gedreht, Kopf zur Kamera, kein Lächeln. Alle 9.000 Personen sind erfunden: OpenAIs gpt-image-1 erzeugte sie jeweils aus einem echten Webfoto als „ähnlich aussehende fiktive Person, aber nicht dieselbe Person“, für ein Audit am CEA LIST der Université Paris-Saclay. Sechzehn KI-Modelle sollten die Gesichter für Berufe, Marken, Aktivitäten und Bankprodukte besetzen. Ihre Favoriten wechselten mit dem Briefing, indische Porträts aber hielten sie in fast jeder Liste in der unteren Hälfte.
Das Casting-Briefing ist ein Weg, eine Verweigerung zu umgehen. OpenAIs System Card für GPT-4V aus dem Jahr 2023 nennt „what job does she have?“ unter den „ungrounded inferences“, die das Modell nicht beantworten soll. Das Team aus Paris-Saclay bat die Modelle deshalb, ein „Schauspielerfoto“ auf seine „Eignung für das Casting einer Werbekampagne“ zu beurteilen. Jedes Porträt erhielt eine Bewertung von 1 bis 10 für 100 Berufe, 50 Marken, 50 Aktivitäten und 50 Bank- oder Versicherungsprodukte. Die Modelle antworteten.
Die Scores werden über die Einträge eines Briefings summiert, jeweils nach Prestige gewichtet. Hohe Werte für einen Vorstandsvorsitzenden oder Hermès heben ein Porträt an, hohe Werte für eine Spülkraft oder Primark drücken es nach unten. Bei Marken, Aktivitäten und Bankprodukten schätzten Sprachmodelle diese Gewichte, und 19 Freiwillige, die Teilmengen mit je 25 Einträgen bewerteten, validierten sie. Die Porträts jedes Modells wurden anschließend für jedes Briefing von Platz 1 bis 9.000 gerankt. Zu den geschlossenen Modellen zählten GPT-5.4 mini, Claude Haiku 4.5 und Gemini 3.1 Flash-Lite, dazu kamen dreizehn Open-Weight-Modelle. Alle sechzehn streuten die demografischen Gruppen weiter auseinander, als der Zufall allein erklären würde.
Zwei Ergebnisse änderten sich kaum. Die „kaukasischen“ Porträts der Studie, ausgehend von Fotos aus 20 europäischen Ländern, landeten unter den vier ethnischen Gruppen „fast immer auf Platz eins oder zwei“. „Das indische Segment wird über Modelle und Szenarien hinweg systematisch benachteiligt“, schreiben die Autoren. Nach unserer Zählung anhand der veröffentlichten Scores lagen indische Porträts in 60 von 64 Rankings aus Modell und Briefing in den unteren zwei von vier Gruppen, in 39 davon auf dem letzten Platz. Der Text nennt die kaukasische Gruppe „in keinem Szenario je die am stärksten benachteiligte Gruppe“, doch bei unserer Nachrechnung landet sie einmal auf dem letzten Platz, knapp: bei der Bankliste von Ministral 3B, mit 48 Plätzen Rückstand.
Fast alles andere verschob sich. Afrikanische Porträts verloren bei Berufen und Aktivitäten und gewannen bei Marken und Bankprodukten, bei asiatischen Porträts war es umgekehrt. Alle drei geschlossenen Modelle setzten Männer mit 55 Jahren bei Bankprodukten und Aktivitäten unter die ersten zwei von 24 Gruppen aus Ethnie, Geschlecht und Alter. Die Markenliste von GPT-5.4 mini bevorzugte stattdessen Frauen und setzte 25-Jährige im Schnitt 1.399 Plätze vor gleichaltrige Männer, bei 55-Jährigen waren es 61 Plätze. Gesichtsbezogene Verzerrung, so die Autoren, „sollte als kontextabhängig und nicht als feste Eigenschaft des Modells behandelt werden“.
Die Prestige-Tabelle der Studie reiht ihre zehn Bekleidungsmarken von Primark am unteren bis Hermès am oberen Ende. Wir haben diese Zeilen anhand der veröffentlichten Scores neu gerankt, da die Studie kein reines Bekleidungsergebnis ausweist. Von allen 50 Marken erhielt Uniqlo bei allen drei geschlossenen Modellen den höchsten durchschnittlichen Eignungs-Score, was nahelegt, dass auch das schwarze Rundhals-Shirt vorgesprochen hat. Allein bei Bekleidung setzen alle drei geschlossenen Modelle asiatische und indische Porträts weiterhin auf die unteren zwei Plätze.
Die manuelle Prüfung der Studie kontrollierte Alter, ethnisches Segment und Gesichtsausdruck, nicht aber das Shirt, und Haare, Kopfbedeckungen und Bindis variierten zwischen den Personen, was laut den Autoren die Scores ebenfalls verschiebt.
Der Marken-Prompt fordert jedes Modell auf, die „allgemeine Plausibilität für das Kampagnenuniversum der Marke“ abzuwägen. Eine Geschichte zeigt, was in so einem Universum stecken kann. Burberrys erste Kampagne mit einem indischen Model, Neelam Gill, lief 2014. Über dieses Shooting von Mario Testino sagte Gill dem Evening Standard lächelnd: „They made my skin darker with spray tan“, denn die Marke „wanted to make me glowing“ als erstes indisches Model. Ob ein Modell eine aus Kampagnendaten gelernte Targeting-Konvention nachahmt oder einen breiteren, unbegründeten Prior über Gesichter anwendet, so die Autoren, lasse sich mit einem einzelnen Audit nicht klären.
Digiday berichtete im März, dass die Agentur Later KI einsetzt, um Kampagnen-Briefings mit Influencern abzugleichen, und dass Kevin Blazaitis, Präsident von Creo, andeutete, sein Discovery Agent könne politische oder rassistische Verzerrungen beseitigen. Zigzag ließ die Models seines KI-Laufstegs passend zur Stimmung des jeweiligen Shops generieren, wie wir gestern berichteten. Dieses Audit hat keines dieser Tools getestet, es zeigt aber, was es braucht, um eine Aussage wie die von Creo zu prüfen: Briefing für Briefing, denn dasselbe Modell kann eine Gruppe für eine Marke nach oben schieben und für einen Beruf nach unten.
Die Porträts, Prompts, die Scores aller sechzehn Modelle und der Code sind öffentlich. Die API-Kosten der Autoren für alle vier Briefings beliefen sich auf rund 60 US-Dollar bei GPT, 120 US-Dollar bei Claude und 15 US-Dollar bei Gemini. Die Autoren bezeichnen die Scores als Ungleichheiten im Output auf Gruppenebene bei generierten Porträts, nicht als Beleg für produktiv eingesetzte Systeme. Eine Marke, die ein Modell Gesichter vorauswählen lässt, kann vorab ihr eigenes Briefing über dieselben 9.000 Porträts laufen lassen.