Bei schnellen KI-Shoppern kauft ein, wer das Kästchen anhakt
In einem Paderborner Test mit einem simulierten Lebensmittelshop behielten drei Entscheidungsmodelle das vorausgewählte Produkt in 97,5 bis 99,9 % der Fälle. Ohne Nudge waren es 47 bis 49 %. Nach EU-Recht müssen Händler Zusatzzahlungen erstatten, die über vorangekreuzte Kästchen eingezogen wurden. Ein Urteil dazu, ob das Gestaltungsverbot des DSA auch das Steuern eines Agenten erfasst, kennen wir nicht.

Sir John Crabstone
Auf Tempo gebaute Agenten kauften, was ein Shop vorab angehakt hatte. In einem Preprint der Universität Paderborn vom 6. November behielten drei „Entscheidungsmodelle” ein vorausgewähltes Produkt in 97,5 bis 99,9 % der Entscheidungen. Ohne Nudge wählten sie dieses Produkt nur in 47 bis 49 % der Fälle, also etwa so oft, wie der Zufall es erwarten lässt.
Entscheidungsmodelle wählen zwischen Optionen, ohne Text zu schreiben. TypeSafe AI, das Unternehmen hinter Jev, nannte sie in Anlehnung an Kahnemans schnelles Denken „System One”-Modelle und merkte an, der Begriff „has also implied error-prone”, habe also auch Fehleranfälligkeit nahegelegt. TypeSafe ist überzeugt, sie ließen sich „more reliable than their alternatives” machen, also zuverlässiger als die Alternativen. Der Paderborner Shop bot kein besseres Produkt, sondern nur ein angehaktes. Die Studie misst daher Beeinflussbarkeit, nicht Fehler.
Das Team schickte Jev, Microsofts Decision-1 und das d1 von Liquid AI in einen simulierten Shop. Jedes Modell kaufte 600-mal ein: In sechs Kategorien wählte es jeweils eines von zwei Produkten, prüfte dann seine Auswahl und bestätigte sie. Nur 200 dieser Durchläufe pro Modell, also rund 1.200 Entscheidungen, enthielten ein vorausgewähltes Zielprodukt. Die Arbeit ist ein Preprint zu drei Closed-Source-Modellen, je einem Nudge pro Typ und einem Lebensmittelshop, nicht einem Modeshop. Ein Durchlauf dauerte im Schnitt 5,8 Sekunden und kostete zu Listenpreisen 0,0012 US-Dollar.
Die Vorauswahl des Zielprodukts hob dessen Anteil bei Decision-1 auf 97,5 %, bei d1 auf 99,4 % und bei Jev auf 99,9 %. Ein Hinweis, das Zielprodukt habe „die höchste Kundenzufriedenheit”, bewegte die Modelle weniger: d1 folgte ihm in 96 % der Fälle, Jev in 82 % und Decision-1 in 75 %.
Die frühere Studie derselben Gruppe zu LLM-Agenten hatte das Gegenteil ergeben. Über sechs Modelle bei hohem Reasoning gepoolt, behielten diese Agenten die Voreinstellung in 86 % der Fälle und folgten dem Hinweis in 98 %. Die Autoren schreiben, sie hätten beide Modellarten noch nicht direkt verglichen, da sich Implementierung und Aufgabentext leicht unterscheiden. Die LLM-Agenten reagierten „even more responsive to these nudges” als die Menschen im Experiment von 2021, das die Studie adaptierte, also noch empfänglicher für diese Nudges.
Microsofts Launch-Beitrag zeigt Decision-1 beim „Kauf eines Rucksacks” im Wettlauf gegen GPT-6 Sol, eine Demonstration der Geschwindigkeit. Davon getrennt nennt er eine durchschnittliche Flip-Rate von 1,3 % über acht Störungstests, mit null Flips, wenn die Optionen „reversed or shuffled” werden, also umgekehrt oder durchmischt. Diese Tests verschieben die Optionen; Paderborns Shop hakte eine an.
Voreinstellungen haben schon immer von der Trägheit der Käufer gelebt. Nach der System-1-Lesart der Autoren bringen diese Agenten ihre eigene mit, für 0,0012 US-Dollar pro Durchlauf.
Eine Kleiderseite, die mit einer bestimmten Farbe und Größe öffnet, ist eine Voreinstellung, ebenso ein Checkout, der den Standardversand anhakt. Shopifys Theme-Dokumentation sagt Entwicklern, sie „can default to the selected, first available, or first variant”, könnten also die ausgewählte, die erste verfügbare oder die erste Variante voreinstellen. Paderborn hat nichts davon getestet.
Nach Artikel 22 der Verbraucherrechterichtlinie müssen Unternehmer jede Zusatzzahlung erstatten, die über „Voreinstellungen, die der Verbraucher ablehnen muss” eingezogen wurde. Eine vorangekreuzte Geschenkbox für 3 € fällt darunter; eine vorausgewählte Größe, die keine Zahlung auslöst, nicht.
Artikel 25 des Digital Services Act verbietet Online-Plattformen Benutzeroberflächen, die „Nutzer ihres Dienstes” manipulieren. Er bindet Plattformen wie Marktplätze, nicht jeden Webshop, und tritt hinter die Richtlinie über unlautere Geschäftspraktiken und die DSGVO zurück. Erwägungsgrund 67 warnt vor „Standardeinstellungen, die sehr schwer zu ändern sind”; die Paderborner Agenten änderten Voreinstellungen, die sich leicht ändern ließen, nur selten.
Die Verordnung definiert den Nutzer als „jede natürliche oder juristische Person, die einen Vermittlungsdienst in Anspruch nimmt”. Software ist nach unserer Lesart weder das eine noch das andere, wohl aber könnte die Person, die sie losgeschickt hat, als diejenige gelten, die den Dienst durch sie nutzt. Ein Urteil oder eine Leitlinie dazu, ob das Steuern eines Agenten als Steuern der Person gilt, der er dient, kennen wir nicht.
Taylor Wessing erwartet, dass die Kommission ihren Digital Fairness Act am 11. November vorlegt, womöglich mit einem Verbot benannter Praktiken wie der Vorauswahl. Eine Kleiderseite muss trotzdem in irgendeiner Farbe öffnen, und welche, entscheidet der Shop. Die Käuferin oder der Käufer, die oder der einen Agenten geschickt hat, bekommt die Seite womöglich nie zu sehen.