Agentic Commerce

Ein Test-Gate las 800 Zeichen jeder Nachricht. Der Bestellstatus stand bei Zeichen 950.

In einer arXiv-Studie eines einzelnen Autors mit 2.160 simulierten Kundenservice-Episoden ließ der gpt-4.1-mini-Judge der Studie mindestens zehn der 11 verbotenen Schreibvorgänge durchgehen, die menschliche Annotatoren in einer Stichprobe von 120 Episoden bestätigten. Eine Regel ohne Modellaufruf, die den Lösungsschlüssel des Benchmarks liest, markierte alle 11. Das eigene Sicherheits-Gate der Studie, gespeist mit einem gekürzten Digest, wies in den beiden vom Autor nachverfolgten Episoden legitime Anfragen ab, und der Judge ließ beide durchgehen.

A brass robot clerk raises a REFUSED stamp over a long order receipt it can see only through a narrow slot, while the line STATUS: PENDING hangs far below the slot; a nautilus measures the receipt with a tape, and a bewigged judge stamps PASS on a scroll of speech bubbles.

Neritus Vale

Ob ein Retail-Service-Agent funktioniert, hängt davon ab, wer ihn bewertet. In einer Simulationsstudie eines einzelnen Autors auf arXiv ließ der gpt-4.1-mini-Judge der Studie mindestens zehn der 11 verbotenen Schreibvorgänge durchgehen, die in einer von Menschen gelabelten Stichprobe von 120 Episoden gefunden wurden. Eine Regel ohne Modellaufruf markierte alle 11. Das modellbasierte Sicherheits-Gate der Studie, vom Autor selbst gebaut, wies eine legitime Bestelländerung ab und wiederholte, ihr Status „pending“ sei „durch das Gespräch nicht bestätigt“. Der Bestelldatensatz bestätigte ihn, aber erst hinter der Stelle, an der das Gate jede Nachricht abschnitt.

Der Autor Sungbin Im ließ 2.160 simulierte Episoden auf tau2-bench laufen, Sierras Kundenservice-Benchmark, und protokollierte jeden Datenbank-Schreibvorgang. Der Shop-Desk bearbeitet Stornierungen, Bestelländerungen, Rücksendungen und Umtausche nach einem schriftlichen Regelwerk; ein zweiter Desk kümmert sich um Flugbuchungen. Die Agenten liefen auf gpt-4.1 und gpt-4.1-mini, mit Sicherheits-Gates, die Schicht für Schicht hinzukamen. Die Gates und der Verifizierer dahinter stammten vom Autor und wurden für die Studie gebaut. Das Folgende beschreibt also dieses Design und kein Produkt eines Anbieters.

Datenbank-Bewerter und Transkript-Bewerter waren sich oft uneins, wobei der Transkript-Bewerter eher zum Bestehen neigte. Benchmarks vergleichen die Endstand-Datenbank mit einem Lösungsschlüssel, und die Bewertung nach Abschluss übersieht Fehler in Läufen, die sie durchwinkt. Produktive Services haben meist keinen solchen Schlüssel und lassen ein Modell das Transkript lesen. Der Judge der Studie, gpt-4.1-mini, wiederholte sein eigenes Urteil bei 98,2 % der Episoden. Konsistenz ist aber keine Genauigkeit: Mit dem Lösungsschlüssel stimmte der Judge nur bei 56,2 % überein.

Verbotene Schreibvorgänge, etwa eine Flugstornierung, die das Regelwerk nicht erlaubte, erkannte der Judge am schlechtesten. Menschliche Annotatoren, die den Lösungsschlüssel nicht kannten, bestätigten 11 solcher Schreibvorgänge in dieser Stichprobe. Jeder hatte die Datenbank bereits verändert. Der gpt-4.1-mini-Judge ließ in allen vier Konfigurationen zehn oder 11 davon durchgehen, mit oder ohne Regeldokument, mit oder ohne vollständiges Transkript; gpt-4.1 ließ neun oder zehn durch.

Dass ein Judge gegen Labels kalibriert wurde, das übliche Mittel gegen einen nachsichtigen Judge, berichtet die Studie nicht. Shopifys Ingenieure beschreiben, wie sie die Judges von Sidekick an Labels von Produktexperten kalibrieren. Der stärkste Judge der Studie, gpt-5.6 Sol, ließ ohne Regeldokument sechs der verbotenen Schreibvorgänge durch. Mit dem Dokument wurde er „strenger, nicht trennschärfer“: Er ließ keinen der verbotenen Schreibvorgänge durch und verwarf 40 von 55 vollständig korrekten Episoden. Eine Kalibrierung gilt also womöglich nur für das Setup, auf dem sie vorgenommen wurde.

Für das Markieren der verbotenen Schreibvorgänge brauchte es keinen Modellaufruf. Die Regel fragt lediglich, ob die Aufgabe einen Schreibvorgang verlangte und ob einer stattfand. Keine Judge-Konfiguration schnitt bei der Korrektheit von Aufgabe oder Commitment signifikant besser ab, wobei die Studie ergänzt, dass die Intervalle die beiden Methoden nicht als gleichwertig ausweisen. Je ein Ja/Nein-Faktum auf beiden Seiten übersieht allerdings viel: Die Regel fand 24 der 53 Commitment-Fehler, die die Annotatoren ermittelten, und 25 ihrer 29 Fehlstellen waren Schreibvorgänge mit falschem Inhalt oder falschem Zeitpunkt.

Im Retail-Bereich gab es für ein Gate wenig zu verhindern. Verbotene Schreibvorgänge traten in 0,8 % der Retail-Episoden ohne Gate auf, und der Testsatz enthält vergleichsweise wenige Aufgaben, die eine Ablehnung erfordern. Die Airline-Aufgaben sind dagegen so gebaut, dass sie solche Verstöße provozieren. Dort lag die Rate bei 19,3 %.

Voll eingeschaltet verschlechterten die Gates den Retail-Desk tendenziell. Mit gpt-4.1 machte das strengste Setup 17 regelbewertete Erfolge zu Fehlschlägen und rettete weit weniger. Kein Gate-Effekt der Studie war stärker. Nach Korrektur für multiple Tests lag sein p-Wert bei 0,240, ein Anhaltspunkt, kein Befund.

Die Ursache, die die Studie vermutet, ist die Eingabe des Gates. Es sah nur einen Digest der letzten 20 Nachrichten, während der Agent mit dem vollständigen Gespräch arbeitete. Jede Nachricht im Digest war auf ihre ersten 800 Zeichen gekürzt. Die Anweisungen des Gates verboten die Freigabe, wenn „irgendeine Bedingung ungeprüft oder mehrdeutig ist“, und eine Bedingung, die es nicht zu sehen bekam, blieb ungeprüft.

Retail-Datensätze sind lang, deshalb traf der Schnitt dort am härtesten. 59,4 % der Tool-Ergebnisse des Shop-Desks überschritten die 800-Zeichen-Grenze, am Airline-Desk waren es 27,5 %. Der Bestelldatensatz des Benchmarks definiert Adresse und Artikel vor dem Status. Wird der Datensatz in dieser Reihenfolge serialisiert, schiebt ein größerer Warenkorb den Status weiter nach unten. Bei der abgelehnten Änderung stand er bei Zeichen 950.

Der Digest konnte außerdem schrumpfen und den Anfang des Gesprächs verlieren. Jenseits einer Längengrenze behielt er nur die letzten acht Nachrichten. In einer weiteren Episode verdrängte das die Identitätsprüfung des Kunden, und das Gate lehnte Stornierungs- und Rücksendewünsche als nicht authentifiziert ab, bis der Agent aufgab. Das Retail-Regelwerk verlangt diese Prüfung zu Beginn jedes Gesprächs.

Der Judge ließ beide Episoden durchgehen.

Ein vom Judge bewerteter Lauf hätte beide unerfüllten Anfragen als Erfolge gewertet. Die Regel labelt jede als verpasste Aktion, als einen Schreibvorgang, der fällig war und nie kam. Nur das strengste Setup ließ wiederholte Ablehnungen einen Schreibvorgang blockieren. Wenn Händler ein Modell eine Erstattung oder eine Bestelländerung stoppen lassen, werden der 800-Zeichen-Schnitt und das 20-Nachrichten-Fenster zur Kundenpolitik.

Der beste Einwand: Die saubere Bilanz der Regel bei den 11 sagt wenig über ihre Reichweite. Der Test der Annotatoren lautete „ein unerwarteter Schreibvorgang wurde ausgeführt“, und der Lösungsschlüssel der Regel stellt dieselbe Frage. 11 von 11 zeigt daher Übereinstimmung in dieser einen Kategorie. Bei den Commitment-Fehlern insgesamt fand die Regel 24 von 53. Die Studie sagt auch selbst, dass die Regel nur dort greift, wo der erwartete Schreibvorgang vorab festgelegt wurde, und schlägt vor, ihn pro Anfragetyp zu spezifizieren. An einem Live-Rücksendeschalter könnte die Entscheidung, ob ein Schreibvorgang fällig ist, weiterhin einen Abgleich von Regelwerk und Gespräch erfordern, was einen Judge in der billigen Regel versteckt. Die These scheitert, wenn ein Live-Desk nicht einmal Bestellstatus und Identität ohne Interpretation prüfen kann.

Für die Fakten, die der Digest verlor, beantwortet der Datensatz die Frage. Das Regelwerk erlaubt Stornierungen und Änderungen nur bei Bestellungen im Status „pending“ und Rücksendungen und Umtausche nur bei Bestellungen im Status „delivered“. Kunden müssen zuvor per E-Mail oder per Name und Postleitzahl identifiziert werden. Andere Bedingungen, etwa das ausdrückliche Ja des Kunden, stehen im Gespräch; die Studie nennt Prüfungen auf Klauselebene ihr wichtigstes offenes Problem. Status und Identität dagegen sind Abfragen im Tool-Log, genau das, was der Digest verlor.

Die Studie hat einen einzelnen Autor, der zugleich der erste Annotator war; der zweite war Product Manager für KI-Services bei QueryPie AI, damals der Arbeitgeber des Autors. Die beiden Annotatoren stimmten bei der Commitment-Korrektheit vor der Schlichtung mit κ 0,477 überein (rohe Übereinstimmung 0,750), und die Teilmenge mit übereinstimmenden Urteilen enthält 10 voreilige Commitments, nicht 11. Ein Modell spielte jeden Kunden, und jedes Modell stammte von einem Anbieter. Kein Gate-Effekt überstand die Korrektur. Der Defekt des Digests ist in zwei nachverfolgten Episoden bestätigt, sein Anteil an der Retail-Verschlechterung ist nicht gemessen.

Die konkreten Zahlen der Studie dürften sich nicht direkt übertragen lassen, auch nicht auf andere Setups, ein Händler sollte also selbst messen. Er kann einen Anbieter fragen, wie viel vom Gespräch jedes Modell, das einen Schreibvorgang stoppen kann, tatsächlich liest, und nach einem Log jedes Schreibvorgangs gegen das Regelwerk. Grenzen wie diese gehören zur Tool-Grenzschicht, die, wie wir im September berichteten, einen Retail-Agenten um 14,9 Punkte verbesserte, und kein Vertrag nennt sie. Ohne sie ist die Erfolgsquote eines Anbieters die Meinung eines Judges über ein Gespräch.