Otto kann jedes KI-Modell ersetzen – außer den Router, der es auswählt
Otto schickt jede KI-Anfrage an das Modell, das die Aufgabe am günstigsten erledigt, damit kein einzelner Anbieter den Stecker ziehen kann. Die Abschaltung von Anthropics neuesten Modellen im Juni und ihre Rückkehr im Juli zeigen, warum der Router – und die Menschen, die Modelle für ihn testen – der Teil sind, den Otto nicht ersetzen kann.
Sir John Crabstone
Otto hat sich so aufgestellt, dass es von keinem KI-Unternehmen im Besonderen abhängt – und hängt deshalb umso stärker von der Software ab, die zwischen den Modellen wählt. Michael Müller-Wünsch, der beim Händler die Technik verantwortet, brachte die Strategie in einem am Montag veröffentlichten Interview mit TextilWirtschaft auf den Punkt: „Je mehr Modelle, desto besser.” Das Interview beginnt mit einem Rückblick auf den Juni, als deutschen Kunden der Zugang zu Anthropics neuestem Modell versperrt wurde. Jedes Modell in Ottos Konstrukt lässt sich ersetzen – der Router, der die Auswahl trifft, nicht.
Dr. Web, ein deutsches Fachportal, beschreibt den Aufbau: Ein Router sitzt zwischen Ottos Anwendungen und den Modellen. Jede Anfrage geht an das Modell, das die Aufgabe am günstigsten erledigt – ob es nun von OpenAI, Google oder einem europäischen Anbieter stammt. Wird ein Modell gesperrt, zu teuer oder rechtlich heikel, übernimmt ein anderes, ohne dass eine Fachabteilung ihren Code umschreiben muss. Ottos interner Assistent ogGPT bündelt bereits mehrere Modelle. Michael Dobler, der Herausgeber des Portals, nannte das die günstigste Versicherung gegen einen Anbieter, der aus politischen Gründen den Hahn zudreht.
Der Juni lieferte den Fall, gegen den diese Versicherung greift. Am 12. Juni untersagte eine US-Exportrichtlinie allen ausländischen Staatsangehörigen den Zugang zu Fable 5 und Mythos 5, Anthropics neuesten Modellen. Um dem nachzukommen, schaltete das Unternehmen beide Modelle ab – „für alle unsere Kunden”. Die übrigen Modelle liefen weiter. Hier braucht ein Router keine Hilfe: Das Modell ist weg, also geht die Anfrage woandershin.
Der schwierigere Fall kam mit der Rückkehr. Die Beschränkungen wurden am 30. Juni aufgehoben, und Fable 5 kehrte am Folgetag zurück – hinter einem neuen Sicherheitsklassifikator. Nach Angaben von Anthropic blockiert dieser Klassifikator in über 99 % der Fälle die Umgehung von Schutzmechanismen, die zu der Anordnung geführt hatte, markiert dabei aber auch häufiger harmlose Coding- und Debugging-Anfragen. Nutzer werden informiert, wenn eine Anfrage blockiert wird, und die Anfrage „wird stattdessen an Opus 4.8 gesendet”. Für alle, die Aufgaben an Fable 5 routeten, blieb der Name in der Anfrage derselbe – das Modell, das antwortete, änderte sich mitunter.
Ein verschwundenes Modell ist das Problem des Routers; ein verändertes ist das Problem seines Besitzers.
Der Wechsel ist dokumentiert – allerdings nur für die, die genau hinsehen. Anthropics Leitfaden zum automatischen Fallback weist darauf hin, dass spätere Antworten nach einem solchen Wechsel ohne jede Kennzeichnung ankommen können. Der Nutzungsnachweis, heißt es dort, sei der verlässliche Weg, um festzustellen, welches Modell die Arbeit tatsächlich erledigt hat. Ein Router, der protokolliert, welches Modell er angefragt hat, statt welches geantwortet hat, führt sorgfältig Buch über das falsche Modell.
Müller-Wünsch hat recht: Mehr Modelle machen es schwerer, Otto abzuschalten – sie machen es aber auch schwerer für Otto zu wissen, was da eigentlich läuft. Jedes Modell bringt einen Hersteller mit, der ändern kann, was hinter dem Namen steckt. Das günstigste Modell zu wählen, das eine Aufgabe erledigt, bedeutet deshalb, Aufgabe für Aufgabe neu zu entscheiden, worin die Aufgabe besteht – und nach jeder Änderung erneut zu testen. Dieses Urteilsvermögen muss bei Otto selbst liegen; zugekauft würde es die Abhängigkeit nur zu einem anderen Anbieter zurückverlagern. Otto hat seine Modelle austauschbar gemacht – die Menschen, die sie unterscheiden können, sind es nicht.