Die US-amerikanische Fluggesellschaft United Airlines hat einen Schritt unternommen, zu dem sich bislang keine andere große Airline in den USA entschlossen hat. Sie hat KI-Agenten und persönlichen Assistenten untersagt, im Namen ihrer Nutzer Flugtickets zu kaufen und Buchungen zu verwalten. Das Unternehmen erklärt, damit die Cybersicherheit zu schützen und Verstöße gegen bundesrechtliche Vorschriften vermeiden zu wollen.
Die Einschränkung gilt auf der Website und in der App von United, aber auch bei Reisebüros und Vergleichsportalen, über die die Flüge verkauft werden. Deshalb überarbeitet die Fluggesellschaft ihre Regeln für Buchungen, die Ausstellung von Reisedokumenten und den Vertrieb und passt auch ihre Hilfeseite an. Das Verbot betrifft Tools wie Muse oder Instinct.
Passwörter in den Händen eines Roboters
Das Hauptproblem sieht United in der Weitergabe von Anmeldedaten. Wenn jemand sein Passwort einem KI-Assistenten anvertraut, könnten sensible Informationen nach außen gelangen und der Bot könnte versehentlich ein Flugticket kaufen, Kontoeinstellungen ändern oder Meilen aus dem Vielfliegerprogramm MileagePlus ausgeben.
Zweitens verlangen bundesrechtliche Vorschriften, dass der Reisende beim Check-in selbst bestätigt, keine gefährlichen Gegenstände wie etwa Sprengstoff im Gepäck zu haben. John Gradek, der an der McGill University Risikomanagement in der Luftfahrt lehrt, stimmt der Fluggesellschaft zu. Ihm zufolge muss eine konkrete Person für den Koffer verantwortlich sein, und würde ein KI-Agent die Bestätigung abgeben, verstieße dies gegen die Vorschriften.
Banken gehen mit gutem Beispiel voran
United ist damit nicht allein. Sowohl Fluggesellschaften als auch Banken fällt es zunehmend schwer, einen echten Kunden von einem KI-System zu unterscheiden, das in seinem Namen handelt, etwa wenn der Nutzer ihm seine Zugangscodes mitteilt. Die Bank of America forderte ihre Kunden vergangene Woche dazu auf, KI-Assistenten ihre Passwörter nicht anzuvertrauen. Ähnlich verhielten sich auch Einzelhandelsketten.
Gradek vergleicht Treuepunkte mit einer Währung. Ihm zufolge fürchten Fluggesellschaften, dass Bots als Hintertür in das System dienen und die Konten der Kunden leerräumen könnten. Treueprogramme gehören bereits seit mehreren Jahren zu den bevorzugten Zielen von Hackern, weil sie für diese sehr lukrativ sind.
Die Konkurrenz überlässt die Entscheidung den Kunden
Delta, American und JetBlue verfolgen den gegenteiligen Ansatz. Sie erlauben Buchungen über KI, doch das Risiko trägt der Kunde. Delta gestattet einem Assistenten den Kauf, wenn er sich mit SkyMiles-Zugangsdaten anmeldet, und für alles, was der Bot tut, ist der Reisende verantwortlich. American prüft derzeit noch, wie das Unternehmen mit KI-Firmen zusammenarbeiten kann. JetBlue-Präsident Marty St. George sagte auf einer Branchenkonferenz, eine Fluggesellschaft sollte den Wünschen ihrer Kunden entgegenkommen.
In Europa steht man der Sache noch aufgeschlossener gegenüber. Der Billigflieger easyJet hat Buchungen und die Flugverfolgung direkt mit der mobilen ChatGPT-App verknüpft. Expedia, Booking und TripAdvisor arbeiten bereits seit vergangenem Jahr mit OpenAI zusammen.
Gradek beschreibt die heutige Situation als Wilden Westen und erwartet, dass erst ein oder zwei größere Vorfälle den Markt bremsen werden. Ihm zufolge geht es nicht mehr darum, ob sie eintreten, sondern wann. Der Widerstand gegen KI-Einkäufer hat allerdings auch weniger hehre Gründe. Tyler Morse, Chef der Hotelkette MCR, würde sie gern verbieten, weil sie vernünftiger einkaufen als Menschen und sich nicht zu teureren Dienstleistungen verleiten lassen.
Quellen: techcrunch.com, forbes.com und nytimes.com



