Persönliche KI-Agenten sollen Menschen die Arbeit beim Einkaufen, bei der Buchung von Flügen oder bei der Reservierung eines Tisches im Restaurant abnehmen. Doch je mehr Menschen sie nutzen, desto häufiger stehen sie vor verschlossenen Türen. Websites blockieren sie, manchmal absichtlich, manchmal versehentlich, und die Person, die den Agenten mit der Erledigung einer Aufgabe beauftragt hat, weiß meist überhaupt nicht, warum es nicht funktioniert hat.
Agenten kaufen für Menschen ein, Websites wehren sich
Muse von Meta, Instinct, Dots von ChatGPT und andere Agenten können heute Flüge buchen, Abendessen bestellen oder Lebensmittel einkaufen, ohne dass dafür auf dem eigenen Computer etwas aufwendig eingerichtet werden muss. Das Problem entsteht, sobald die Website auf der anderen Seite den Agenten abweist.
Zuletzt begann Amazon damit, den Agenten Muse in seinem Onlineshop zu blockieren, sodass er weder den Katalog durchsuchen noch einkaufen kann. Amazon ist damit jedoch bei Weitem nicht allein. Nutzer beschweren sich in sozialen Netzwerken über Yelp, eBay, Zillow, Pizza Hut, Adidas und verschiedene Fluggesellschaften, und einige haben das Gefühl, dass die Blockierungen in letzter Zeit zugenommen haben. Einige behaupten sogar, eBay habe ihr Konto wegen der Nutzung eines Agenten gesperrt, und ein weiterer Nutzer beklagte sich darüber, dass Google Instinct hinausgeworfen habe, als dieser sein Gmail-Postfach aufräumte.
Walmart will Agenten, wirft sie aber trotzdem hinaus
Am aussagekräftigsten ist der Fall Walmart. Nutzer berichteten, dass Muse einen Einkauf auf dessen Website nicht abschließen könne, ein Unternehmenssprecher erklärte jedoch, dies sei nicht beabsichtigt. Walmart ist Partner von Meta und will dort präsent sein, wo seine Kunden sind, also auch in Apps mit KI-Agenten.
Das Problem verursacht offenbar die Schaltfläche, mit der Besucher bestätigen, dass sie Menschen sind. Wird die Überprüfung unterbrochen, schlägt die Kontrolle fehl und der Agent fliegt hinaus. Ein Schutzmechanismus, der Onlineshops jahrelang vor Spam und Betrügern geschützt hat, vertreibt damit plötzlich zahlende Kunden.
Yelp will Geld, Fluggesellschaften sind vorsichtig
Andere Unternehmen lehnen Agenten ganz bewusst ab. Yelp lässt fremde Bots nur dann zu, wenn sie im Rahmen eines Lizenzprogramms für den Datenzugriff bezahlen. Ein Agent, der einen Preis ermitteln, einen Nutzer auf eine Warteliste setzen oder einen Tisch reservieren möchte, wird ohne Vertrag mit Yelp höchstwahrscheinlich keinen Erfolg haben.
Ähnlich verhalten sich Fluggesellschaften. Delta erklärte, das Unternehmen schütze seine Kunden vor nicht genehmigtem automatisiertem Datenverkehr und arbeite bislang mit keinem externen Agenten zusammen, untersuche neue Technologien jedoch weiterhin. United verwies auf seine Bedingungen, die Bots und andere automatisierte Systeme ohne schriftliche Zustimmung verbieten. eBay erklärt, Einkaufsagenten nicht pauschal zu verbieten und lediglich nicht genehmigte Aktivitäten wie das massenhafte Herunterladen von Daten oder das Trainieren von Modellen einzuschränken. Zillow lässt Agenten zu, doch sein Bot-Schutz hält sie gelegentlich auf.
Cloudflare und Werbung sind für einen Teil der Blockierungen verantwortlich
Einige Menschen verdächtigen Unternehmen, die Websites vor Angriffen schützen. Cloudflare änderte am 15. September die Standardeinstellungen, sodass Websites, die zuvor die alte Option zum Blockieren von KI verwendet hatten, Agenten nun automatisch auf allen Seiten mit Werbung abweisen. Die Erklärung ist rein wirtschaftlicher Natur. Laut Cloudflare hängen Werbeeinnahmen davon ab, dass eine Seite tatsächlich von einem Menschen gesehen wird. Ein Agent lädt sie lediglich herunter, ohne dass sich jemand die Werbung ansieht.
Auf Anfrage zur Blockierung von Agenten stellte Cloudflare jedoch keine konkreten Daten bereit. Dabei verdient das Unternehmen selbst an diesem Thema. Es betreibt einen Marktplatz, auf dem KI-Bots für den Zugriff auf Daten bezahlen, und hat kürzlich damit begonnen, einen speziell für KI-Agenten entwickelten Browser zu testen.
Meta bereitet gemeinsame Regeln vor
Meta hat deshalb eine eigene Lösung vorgestellt. Das Personal Agent Protocol ist ein offener Standard, an dem Meta gemeinsam mit dem Unternehmen Sierra und Partnern wie Genesys, NiCE, Decagon, Rocket, Shopify, Stripe und Walmart arbeitet. Wer einen persönlichen Agenten ablehnt, lehnt Meta zufolge auch den dahinterstehenden Kunden ab. Das Unternehmen will deshalb gemeinsam mit den Händlern deren Bedenken ausräumen, damit sie nicht unnötig Kunden verlieren.
Laut Meta soll Muse vor jedem Schritt zwei Tests durchlaufen. Dabei wird geprüft, ob ein ehrlicher Mensch denselben Schritt manuell ausführen würde und ob das System standhalten würde, wenn alle Nutzer gleichzeitig dasselbe tun wollten. Bei wichtigen Aktionen soll der Agent nur mit der ausdrücklichen Zustimmung des Nutzers fortfahren. Die Zusammenarbeit soll schrittweise ausgebaut werden. Zunächst erhalten Händler die Möglichkeit, Agenten auf geeignete Wege zu leiten, anschließend bekommen die Agenten eine direkte Anbindung, anstatt den Browser zu bedienen, und schließlich werden die Agenten der Händler und der Kunden direkt miteinander kommunizieren.
Eine Sache fehlt bislang jedoch. Der veröffentlichte Entwurf legt nicht fest, wie ein Agent gegenüber einer Website seine Identität nachweisen soll. Die Website kann einen legitimen Muse-Agenten nicht von einem Datensammler unterscheiden, der sich lediglich als solcher ausgibt. Für zahlreiche Sicherheitsteams bleibt eine pauschale Blockierung daher die sicherere Wahl.
Quellen: techcrunch.com und progressiverobot.com
