Research & Trends

Pour les agents IA rapides, c'est celui qui coche la case qui fait les courses

Dans un test mené à Paderborn sur une seule boutique d'alimentation simulée, trois modèles de décision ont conservé le produit présélectionné dans 97,5 % à 99,9 % des choix, contre 47 % à 49 % sans incitation. Le droit européen oblige les professionnels à rembourser les paiements supplémentaires obtenus par des cases précochées ; nous ne connaissons aucune décision indiquant si l'interdiction de conception trompeuse du DSA couvre le fait d'orienter un agent.

A small robot shopper in a supermarket aisle takes only the pre-ticked item from each pair of groceries, while a crab in a waistcoat studies a clothing hangtag whose size box has been ticked in advance.

Sir John Crabstone

Des agents conçus pour la vitesse ont acheté ce qu’une boutique avait coché. Dans un preprint de l’université de Paderborn daté du 6 novembre, trois « modèles de décision » ont conservé un produit présélectionné dans 97,5 % à 99,9 % des choix. Sans incitation, ils choisissaient ce produit dans 47 % à 49 % des cas, soit à peu près le hasard.

Les modèles de décision choisissent parmi plusieurs options sans rédiger de texte. TypeSafe AI, qui édite Jev, les a baptisés modèles « System One », en référence à la pensée rapide de Kahneman, en notant que le terme « a aussi pu laisser entendre qu’ils sont sujets à l’erreur ». L’entreprise estime qu’ils « peuvent être rendus plus fiables que leurs alternatives ». La boutique de Paderborn n’avait aucun produit meilleur que l’autre, seulement un produit coché : l’étude mesure donc la sensibilité à l’incitation, pas l’erreur.

L’équipe a confié Jev, Decision-1 de Microsoft et d1 de Liquid AI à une boutique simulée. Chaque modèle a fait ses courses 600 fois, en achetant l’un de deux produits dans chacune de six catégories, puis en relisant ses sélections avant de confirmer. Seules 200 de ces exécutions par modèle, soit environ 1 200 choix, comportaient une cible présélectionnée. L’article est un preprint portant sur trois modèles fermés, un seul type d’incitation de chaque sorte et une boutique d’alimentation, non de vêtements. Une exécution durait en moyenne 5,8 secondes et coûtait 0,0012 $ au tarif catalogue.

Présélectionner la cible a porté sa part à 97,5 % pour Decision-1, 99,4 % pour d1 et 99,9 % pour Jev. Une mention attribuant à la cible « la meilleure satisfaction client » les a moins influencés : d1 l’a suivie dans 96 % des cas, Jev dans 82 % et Decision-1 dans 75 %.

L’étude précédente du même groupe sur des agents LLM avait donné l’inverse. Sur l’ensemble de six modèles en raisonnement élevé, ces agents conservaient l’option par défaut dans 86 % des cas et suivaient la mention dans 98 %. Les auteurs précisent ne pas avoir encore comparé directement les deux types de modèles, la mise en œuvre et le texte de la tâche différant légèrement. Les agents LLM étaient « encore plus sensibles à ces incitations » que les humains de l’expérience de 2021 dont l’étude s’inspirait.

Le billet de lancement de Microsoft montre Decision-1 « achetant un sac à dos » face à GPT-6 Sol, une démonstration de vitesse. Il rapporte par ailleurs un taux moyen de bascule de 1,3 % sur huit tests de perturbation, et aucune bascule lorsque les options sont « inversées ou mélangées ». Ces tests déplacent les options ; la boutique de Paderborn, elle, en cochait une.

Les options par défaut ont toujours reposé sur l’inertie des acheteurs ; selon la lecture « System 1 » des auteurs, ces agents apportent la leur, à 0,0012 $ l’exécution.

Une page de robe qui s’ouvre sur une couleur et une taille données est une option par défaut, tout comme un paiement qui coche la livraison standard. La documentation des thèmes de Shopify indique aux développeurs qu’ils « peuvent définir par défaut la variante sélectionnée, la première disponible, ou la première variante ». Paderborn n’a rien testé de tout cela.

En vertu de l’article 22 de la directive relative aux droits des consommateurs, les professionnels doivent rembourser tout paiement supplémentaire obtenu par des « options par défaut que le consommateur doit refuser ». Une boîte cadeau précochée à 3 € est visée ; une taille présélectionnée, qui n’ajoute aucun paiement, ne l’est pas.

L’article 25 du règlement sur les services numériques (DSA) interdit aux plateformes en ligne de recourir à des interfaces qui manipulent « les destinataires de leur service ». Il lie des plateformes telles que les places de marché, pas chaque boutique en ligne, et cède le pas devant la directive sur les pratiques commerciales déloyales et le RGPD. Le considérant 67 met en garde contre les « paramètres par défaut très difficiles à modifier » ; les agents de Paderborn modifiaient rarement des paramètres par défaut pourtant faciles à modifier.

Le règlement définit un destinataire comme « toute personne physique ou morale qui utilise un service intermédiaire ». Un logiciel n’est ni l’une ni l’autre, selon notre lecture, même si la personne qui l’a envoyé peut être considérée comme utilisant le service par son intermédiaire. Nous ne connaissons aucune décision ni aucune orientation indiquant si orienter un agent revient à orienter la personne qu’il sert.

Taylor Wessing s’attend à ce que la Commission présente le 11 novembre son Digital Fairness Act, qui pourrait interdire des pratiques nommément désignées, comme la présélection. Une page de robe doit tout de même s’ouvrir sur une couleur, et c’est la boutique qui la choisit. L’acheteur qui a envoyé un agent ne verra peut-être jamais la page.