Trends

Das gefälschte Mia-Goth-Selfie trug einen Katalog-Spruch. Metas Kennzeichnungspflicht überspringt Standbilder.

Das KI-generierte Mia-Goth-Selfie, das OK! und People als echt druckten, zeigt einen Spruch, den Amazon seit Januar 2023 listet. Luísa Sonza trug ihn im Juni desselben Jahres in einem Post, den Fans als Seitenhieb auf ihren Ex lasen. Metas KI-Kennzeichnungspflicht „gilt nicht für Bilder“.

A lobster in a paint-stained smock lifts the barcode swing tag on a white T-shirt printed with nothing but a giant pair of black quotation marks.

Parallax Pincer

Das Selfie ist auf Armlänge in warmem Seitenlicht aufgenommen: ungeschminktes Gesicht, eine Hand unters Kinn gelegt, dazu ein weißes Rundhals-Shirt, auf dem in fetten schwarzen Serifen-Versalien steht: MY EX IS MY BIGGEST FAN. Der Fan-Account @miagoth_ postete es am 8. Oktober, zwei Tage nachdem Mia Goth Berichten zufolge die Scheidung von Shia LaBeouf eingereicht hatte. Ihre Vertreter sagten The Verge, das Bild sei KI-generiert, und laut The Verge hat das blaue Häkchen des Accounts die Verwechslung wahrscheinlich begünstigt. Vermutlich halfen zwei weitere Dinge: Der Spruch stand bereits in einem Katalog, und Metas KI-Kennzeichnungspflicht erfasst keine Standbilder.

OK! brachte es als „Selfie ohne Make-up“ mit „einem bauchfreien Shirt mit spitzer Botschaft an einen Ex“. The Verge berichtet, dass auch People das Bild für echt hielt und dass der Post, unterlegt mit Beyoncés „Single Ladies“, Hunderttausende Likes bekam. LADbibles Facebook-Post schrieb, Goth habe sich „selbst in dem Shirt abgelichtet“; die Grafik dazu ließ das Selfie weg und zeigte ein Porträt von Goth, LaBeouf in einem Kreis und die sechs Wörter unter einem roten Anführungszeichen. Stand 14. Oktober liefert die eigene Seite von OK! die Meldung „Page not found“, während die AOL-Kopie unkorrigiert online ist.

Der Spruch ist älter als die Fälschung. Ein Print-on-Demand-Anbieter auf Amazon führt ein “My Ex Is My Biggest Fan Funny T-Shirt” seit dem 14. Januar 2023, dem „Date First Available“ auf der Seite, in einer weichen, kräftigen Serife im Stil der Cooper Black, die der Schrift der Fälschung stark ähnelt. Im Juni jenes Jahres trug die brasilianische Sängerin Luísa Sonza den Spruch auf Instagram, in einem Post mit 962 Tsd. Likes. Ihre Follower lasen ihn als Seitenhieb auf ihren Ex-Mann, den Komiker Whindersson Nunes, berichtete ISTOÉ. Sonzas bauchfreies Top trug schlichte serifenlose Versalien, die Schrift der Fälschung entspricht also dem Katalog-Shirt und nicht ihrem. Ob das Modell auf dieses Angebot zurückgegriffen hat, ist nicht belegt.

Slogan-Shirts ließen ihre Träger schon lange vor Instagram sprechen. Das London Museum datiert Katharine Hamnetts Blockbuchstaben-Shirts auf 1983 und schreibt ihr zu, den Look weltweit bekannt gemacht zu haben, merkt aber an, sie habe „das Slogan-T-Shirt nicht gerade erfunden“; Westwoods und McLarens „DESTROY“-Shirt von 1977 war früher da. Frieze erinnert daran, dass sie 1984 „Schlagzeilen machte“, als sie Margaret Thatcher in einem T-Shirt-Kleid mit der Aufschrift „58% Don’t Want Pershing“ die Hand schüttelte. „Man kann die Slogans gar nicht nicht lesen. Man hat keine Abwehr“, sagte Hamnett 2019 zu Frieze und fügte hinzu: „Was Cambridge Analytica und Co. in den sozialen Medien getan haben, habe ich zuerst getan!“ Die Fälschung nutzte das Format, um einer Frau Worte in den Mund zu legen, die sie nie gewählt hatte.

Frühere KI-Fälschungen von Outfits setzten auf Spektakel. Die weiße Daunenjacke des Papstes, offenbar im März 2023 erstmals in einem Midjourney-Subreddit gepostet, verriet sich durch eine halb ausgeformte Hand, Tasse und Kruzifix, vermerkte The Verge. Der Macher von Katy Perrys gefälschten Met-Gala-Roben 2024 nannte die Arbeit „Handarbeit, mit Fokus auf Körper und Gesicht“, berichtete ABC News. Die Goth-Fälschung brauchte ein Gesicht und einen Spruch.

Ein schlichtes weißes Shirt lässt einem Skeptiker kaum etwas zum Hineinzoomen.

Der Account nannte sich Fanseite, trug aber ein blaues Häkchen und hatte mehr als eine Million Follower. The Verge führt das Abzeichen auf Metas kostenpflichtige Verifizierung zurück, die auch Accounts offensteht, die nicht von der abgebildeten Person betrieben werden. Goths Team hatte laut The Verge mehrfach Beschwerde eingelegt, und der Account postete weiter gefälschte KI-Bilder. Goths Sprecherin Christine Tripicchio nannte es „zutiefst beunruhigend“, dass der Account für ein „blaues Häkchen“ qualifiziert war. Meta-Sprecher Alex Dziedzan sagte, der Account sei wegen der Imitation einer Person des öffentlichen Lebens entfernt worden.

Die Kennzeichnungslücke steht schwarz auf weiß da, und The Verge hat darüber berichtet: Metas Regeln enthalten eine Ausnahme für Standbilder. Auf Metas Hilfeseite heißt es, Meta „kann eine KI-Kennzeichnung verlangen, wenn Inhalte fotorealistische Videos oder realistisch klingendes Audio enthalten, die digital erstellt, verändert oder bearbeitet wurden, auch mit KI“, und dann: „Diese Anforderung gilt nicht für Bilder.“ Zu den Beispielen für Inhalte, die keine Kennzeichnung brauchen, zählt ein „Bild einer Person, die auf einem Bullen reitet“. Bilder können dennoch gekennzeichnet werden, wenn Metas Systeme KI darin erkennen, doch die Seite räumt ein: „Nicht alle KI-Inhalte enthalten die Informationen, die zu ihrer Identifizierung nötig sind.“

Ein zweites Angebot unter anderem Markennamen trägt als erstes Verfügbarkeitsdatum den 8. Oktober, den Tag des Posts. Das weiße “My Ex is My Biggest Fan Funny Sarcastic Cool Breakup Quote T-Shirt” zeigt dieselbe schwarze weiche Serife und wird über Merch on Demand verkauft, wo „jedes Design gedruckt wird, wenn Sie Ihre Bestellung aufgeben“. Das Angebot verkauft „eine trockene Angeberei über einen unerwartet treuen Ex“ und nennt Goth nirgends. Niemand muss dieses Shirt herstellen, bevor es jemand kauft.

Die Medien, die dieses Selfie brachten, hielten eine verifizierte Fanseite für die Schauspielerin selbst, und Metas Seite verlangt für ein Standbild keine Kennzeichnung. Dieses Shirt trug kein Logo. Trüge das nächste das Logo einer Marke, in einem organischen Post, würde nach dem Wortlaut der Seite dieselbe Regel für Standbilder gelten. Meta fügt hinzu: „Die Kennzeichnung und Identifizierung von KI-Inhalten ist bei Anzeigen anders geregelt.“