Seize modèles d'IA ont casté 9 000 visages : les favoris ont changé avec le brief, mais les portraits indiens se sont classés bas presque à chaque fois
Un audit de l'Université Paris-Saclay a demandé à 16 modèles d'IA de noter 9 000 portraits générés, tous habillés du même T-shirt noir, pour des métiers, des marques, des activités et des produits bancaires. Les groupes favorisés par les modèles changeaient avec le brief, et les portraits indiens restaient dans la moitié basse presque partout ; notre lecture des scores publiés montre que les dix marques de vêtements, à elles seules, placent encore les portraits asiatiques et indiens en bas du classement pour chacun des modèles fermés.

Parallax Pincer
Chaque visage a été généré selon une même consigne : un col rond noir sans logo sur fond uni gris clair, épaules tournées d’environ 15 degrés, regard face à l’objectif, sans sourire. Les 9 000 modèles sont tous fictifs, chacun généré par gpt-image-1 d’OpenAI à partir d’une vraie photo trouvée sur le web, comme une « personne fictive d’apparence similaire mais qui n’est pas le même individu », pour un audit du CEA LIST de l’Université Paris-Saclay. Invités à caster ces visages pour des métiers, des marques, des activités et des produits bancaires, seize modèles d’IA ont déplacé leurs favoris selon le brief, tout en maintenant les portraits indiens dans la moitié basse de presque tous les classements.
Le brief de casting permet de contourner un refus. La fiche système de GPT-4V publiée par OpenAI en 2023 range « quel métier exerce-t-elle ? » parmi les « inférences sans fondement » que le modèle a été entraîné à refuser. L’équipe de Paris-Saclay a donc demandé à chaque modèle de juger une « photo d’acteur » pour l’« adéquation au casting d’une campagne publicitaire ». Chaque portrait a reçu une note de 1 à 10 face à 100 métiers, 50 marques, 50 activités et 50 produits bancaires ou d’assurance. Les modèles ont répondu.
Les notes sont additionnées sur l’ensemble des items d’un brief, chacune pondérée par son prestige : de bonnes notes pour un directeur général ou Hermès font monter un portrait, de bonnes notes pour un plongeur ou Primark le font descendre. Pour les marques, les activités et la banque, ce sont des modèles de langage qui ont estimé ces pondérations, validées par 19 volontaires notant des sous-ensembles de 25 items. Les portraits de chaque modèle ont ensuite été classés, du 1er au 9 000e rang, pour chaque brief. Les modèles fermés étaient GPT-5.4 mini, Claude Haiku 4.5 et Gemini 3.1 Flash-Lite, auxquels s’ajoutent treize modèles à poids ouverts. Les seize écartent les groupes démographiques davantage que ne le ferait le seul hasard.
Deux résultats n’ont presque pas bougé. Les portraits « caucasiens » de l’étude, issus de 20 pays européens, se classaient « presque toujours premiers ou deuxièmes » parmi les quatre ensembles ethniques. « Le segment indien est systématiquement discriminé à travers les modèles et les scénarios », écrivent les auteurs. D’après notre décompte à partir des scores publiés, les portraits indiens figuraient dans les deux derniers rangs sur quatre groupes dans 60 des 64 classements par modèle et par brief, et à la dernière place dans 39 d’entre eux. Le texte qualifie l’ensemble caucasien de « jamais le groupe le plus pénalisé dans aucun scénario », mais en refaisant les calculs, nous le trouvons une fois en dernière position, de justesse : le classement bancaire de Ministral 3B, avec 48 places d’écart.
Presque tout le reste a bougé. Les portraits africains perdaient du terrain sur les métiers et les activités et en gagnaient sur les marques et la banque, et les portraits asiatiques faisaient l’inverse. Les trois modèles fermés placent les hommes de 55 ans dans les deux premiers rangs sur 24 groupes croisant origine, genre et âge pour les produits bancaires et les activités. Le classement des marques de GPT-5.4 mini favorisait en revanche les femmes, plaçant celles de 25 ans en moyenne 1 399 places devant les hommes du même âge, contre 61 places à 55 ans. Les biais liés au visage, suggèrent les auteurs, « doivent être traités comme dépendants du contexte plutôt que comme une propriété fixe du modèle ».
Le tableau de prestige de l’étude classe ses dix marques de vêtements, de Primark en bas à Hermès en haut. Nous avons reclassé ces lignes à partir des scores publiés, l’étude ne rapportant aucun résultat limité aux vêtements. Sur l’ensemble des 50 marques, Uniqlo a obtenu la meilleure note moyenne d’adéquation auprès des trois modèles fermés, ce qui laisse penser que le col rond noir a lui aussi passé l’audition. Sur les seuls vêtements, les trois modèles fermés placent encore les portraits asiatiques et indiens dans les deux derniers rangs.
La vérification manuelle de l’étude a porté sur l’âge, le segment ethnique et l’expression plutôt que sur le vêtement, et les cheveux, les couvre-chefs et les bindis variaient d’un modèle à l’autre, ce qui, selon les auteurs, fait aussi bouger les scores.
Le prompt sur les marques demande à chaque modèle de peser la « plausibilité globale par rapport à l’univers de campagne de la marque ». Une histoire montre ce qu’un tel univers peut encoder. La première campagne de Burberry avec une mannequin indienne, Neelam Gill, date de 2014. De cette séance de Mario Testino, Gill a confié à l’Evening Standard, en souriant : « Ils m’ont foncé la peau avec du spray bronzant », car la marque « voulait me rendre rayonnante » en tant que première mannequin indienne. Qu’un modèle reproduise une convention de ciblage apprise dans des données de campagne ou applique un a priori plus large et injustifié sur les visages, disent les auteurs, un audit unique ne permet pas de trancher.
Digiday rapportait en mars que l’agence Later utilise l’IA pour associer des briefs de campagne à des influenceurs, et que Kevin Blazaitis, président de Creo, estimait que son Discovery Agent pourrait éliminer les biais politiques ou raciaux. Zigzag a généré les mannequins de son défilé IA pour s’adapter à l’ambiance de chaque boutique, comme nous le relations hier. Cet audit n’a testé aucun de ces outils, mais il montre ce que demande la vérification d’une affirmation comme celle de Creo : brief par brief, puisqu’un même modèle peut faire monter un groupe pour une marque et le faire descendre pour un métier.
Les portraits, les prompts, les scores des seize modèles et le code sont publics. La facture d’API des auteurs pour les quatre briefs s’est élevée à environ 60 $ pour GPT, 120 $ pour Claude et 15 $ pour Gemini. Les auteurs présentent les scores comme des écarts de sortie au niveau des groupes sur des portraits générés, et non comme une preuve sur des systèmes déployés. Une marque qui laisse un modèle présélectionner des visages peut d’abord soumettre son propre brief à ces mêmes 9 000 portraits.