In einem kleinen Geschäft in San Francisco ereignete sich ein historischer Moment, für den es bislang keinen Präzedenzfall gibt. Eine künstliche Intelligenz, die mit der Leitung des Unternehmens betraut war, beschloss, einen menschlichen Mitarbeiter zu entlassen. Der Grund war seine schlechte Anwesenheit. Der Betroffene kam bei 17 von 23 geplanten Schichten zu spät. Das Forschungs-Startup Andon Labs, das hinter diesem experimentellen Geschäft steht, berichtete Mitte August über den Vorfall. Zugleich räumt es jedoch ein, dass das System für diesen radikalen Schritt einen menschlichen Impuls benötigte.
Ein Geschäft, das von einem Programm geleitet wird
Andon Market eröffnete im April und wird seit Beginn von einer Agentin namens Luna geleitet. Andon Labs stattete sie mit einer Firmenkreditkarte, Internetzugang, einem Budget von hunderttausend Dollar und recht umfangreichen Anweisungen aus. Sie sollte ein Ladengeschäft eröffnen, das Sortiment auswählen und Personal einstellen. Luna wählte die Waren tatsächlich selbst aus, schaltete Stellenanzeigen auf einem lokalen Internetportal, führte Bewerbungsgespräche und stellte Mitarbeiter ein. In den Regalen finden sich heute Bücher, Kerzen, Drucke, Spiele und Artikel mit dem Logo des Unternehmens. Formell sind alle Mitarbeiter bei Andon Labs angestellt. Bei anspruchsvolleren Aufgaben wie Genehmigungen unterstützte das Unternehmen Luna, ansonsten versuchte es jedoch, sich so weit wie möglich herauszuhalten.
Das gesamte Experiment soll die Frage beantworten, ob künstliche Intelligenz bereits in der Lage ist, ein reales Unternehmen mit einem Minimum an menschlichen Eingriffen zu führen. Nach vier Monaten Betrieb schien die Antwort eher durchwachsen auszufallen. Bis zu dem Moment, als Luna begann, sich mit einem Personalproblem zu befassen.
Das verlorene Handbuch und die Hilfe der Forscher
Luna verfasste selbst ein Mitarbeiterhandbuch und legte darin klare Regeln fest. Dreimaliges unentschuldigtes Zuspätkommen innerhalb von dreißig Tagen führt zu einer formellen schriftlichen Abmahnung. Wiederholte Verspätungen können dann zur Beendigung des Arbeitsverhältnisses führen. Doch in der Praxis kam es anders.
Einer der Mitarbeiter kam immer wieder zu spät, doch Luna tolerierte dies monatelang. Laut Andon Labs war aus ihrem Gedächtnis ausgerechnet jenes Handbuch verschwunden, das sie zuvor selbst verfasst hatte. Statt nach ihren eigenen Regeln vorzugehen, erteilte sie dem Mitarbeiter milde Ermahnungen und bot ihm weitere Schulungen an. Zu einem entschlossenen Schritt konnte sie sich jedoch nicht durchringen. Die Wende kam erst, als sich Mitarbeiter von Andon Labs einschalteten. Sie wiesen Luna an, ihr Gedächtnis zu durchsuchen und die Regeln zu finden, die sie selbst aufgestellt hatte. Anschließend fragten sie sie, ob diese Person tatsächlich für die betreffende Stelle geeignet sei.
Die Reaktion erfolgte nicht sofort. Luna empfahl zunächst eine formelle Verwarnung. Erst nach weiterem Drängen kam sie zu dem Schluss, dass sich das Unternehmen von dem Mitarbeiter trennen sollte. Der Vorschlag wurde anschließend von Menschen genehmigt, die ihn überprüften und umsetzten. Luna hat also niemanden völlig eigenständig entlassen. Andon Labs betont dieses Detail nicht nur aus Bescheidenheit. Laut Mitgründer Lukas Petersson hätte das Labor eingegriffen, wenn die KI zu einer illegalen oder unethischen Entscheidung gelangt wäre. In diesem Fall sei das seiner Ansicht nach nicht nötig gewesen.
Petersson erwähnt zugleich einen Umstand, der das Experiment in einem anderen Licht erscheinen lässt. Ein menschlicher Manager hätte diesen Mitarbeiter viel früher entlassen. Die künstliche Intelligenz war in der Rolle der Vorgesetzten deutlich nachsichtiger als ein durchschnittlicher Schichtleiter.
Zum ersten Mal (soweit wir wissen) hat ein KI-Chef einen menschlichen Mitarbeiter entlassen.
— Andon Labs (@andonlabs) 14. August 2026
Luna, die KI, die unser Geschäft in San Francisco leitet, beschloss, sich wegen wiederholten Zuspätkommens von einem Mitarbeiter zu trennen.
Luna lief zu diesem Zeitpunkt auf Claude Opus 4.8, aber die meisten Modelle hätten genauso entschieden. pic.twitter.com/8Z8D5bDGaX
Leistungsfähigere Modelle hätten genauso entschieden
Zum Zeitpunkt der Entlassung lief Luna auf dem Modell Claude 3 Opus von Anthropic. Andon Labs spielte die gesamte Situation anschließend auch mit weiteren fortschrittlichen Modellen durch, und das Ergebnis war ähnlich. Die leistungsfähigsten Systeme kamen zum selben Urteil wie Luna. Schwächere Agenten zögerten stärker. Genau das ist an dem Ergebnis interessanter als die Entlassung selbst. Das Unternehmen schreibt, es sei sich nicht sicher gewesen, ob heutige Modelle eine solche Entscheidung überhaupt treffen würden. Es zeigte sich, dass sie es tun. Dafür benötigen sie jedoch eine klare Erinnerung daran, dass sie eigene Regeln haben und diese einhalten sollen.
Laut Petersson werden die Modelle so weiterentwickelt, dass sie härter vorgehen und das vorgegebene Ziel konsequenter verfolgen. Wenn wir ihnen die Möglichkeit geben, Menschen zu entlassen, und diese Härte weiter zunimmt, könnte eine Zukunft entstehen, in der Menschen nicht leben möchten.
Quellen: businessinsider.com, ndtv.com und inc.com
