Im Mai 2024 führte Google eine Funktion ein, die das Erscheinungsbild der Suchergebnisse grundlegend veränderte. AI Overviews, also von künstlicher Intelligenz verfasste Zusammenfassungen, standen nun ganz oben über den berühmten zehn blauen Links. Und innerhalb weniger Tage rieten sie den Menschen seelenruhig, ihre Pizza mit Klebstoff zusammenzukleben, für die Gesundheit kleine Steine zu essen, und behaupteten, ein amerikanischer Präsident habe noch lange nach seinem eigenen Tod Universitätsabschlüsse gesammelt.
Zwei Jahre sind vergangen. Die Komödie ist zwar noch nicht ganz vorbei, aber allmählich hört der Spaß auf. Google bewältigt heute rund fünf Billionen Suchanfragen pro Jahr, und unabhängige Tests aus diesem Jahr fanden noch immer so viele Fehler, dass sich ihre Zahl auf mehrere zehn Millionen falsche Antworten pro Stunde summierte. Einige davon sind bereits vor Gericht gelandet.
Sehen wir uns das Beste und das Schlimmste an, was tatsächlich passiert ist.
Zuerst der unterhaltsame Teil: Klebstoff, Steine und Zeitreisen
Die Fehltritte, die AI Overviews zum Star des Internets machten, haben eines gemeinsam. Die Billionen-Dollar-Suchmaschine sagte dabei Dinge, die kein vernünftiges zehnjähriges Kind sagen würde.
Beginnen wir mit dem berühmtesten Fall. Man fragt Google, wie man verhindert, dass der Käse von der Pizza rutscht, und Mitte 2024 hatte die künstliche Intelligenz einen Tipp wie aus dem Kochbuch parat: Man solle "etwa ⅛ Tasse ungiftigen Klebstoff" untermischen. Der Rat stammte aus einem elf Jahre alten Scherzkommentar auf Reddit von einem Nutzer mit dem Spitznamen "fucksmith". Das Modell konnte einen Witz nicht von einem Rezept unterscheiden. Es fand im Web einfach den thematisch am besten passenden Satz und servierte ihn mit unbewegter Miene. Bis heute ist dies der typischste Irrtum der KI-Suche und der Grund, warum "Klebstoff auf Pizza" zum Sinnbild für Situationen wurde, in denen sich künstliche Intelligenz selbstbewusst und unbekümmert irrt.
Das zweite Beispiel ist vielleicht noch besser. "Laut Geologen der Universität UC Berkeley sollten Sie mindestens einen kleinen Stein pro Tag essen." Google präsentierte dies als echte Ernährungsempfehlung. Die tatsächliche Quelle war eine Satire der Website The Onion, die jemand an anderer Stelle erneut veröffentlicht hatte und die von der Maschine als Tatsache übernommen wurde. Denn fast niemand im gesamten Internet hatte sich die Mühe gemacht, den Satz "Essen Sie keine Steine" zu schreiben. Warum auch?
Wie wäre es mit einem Präsidenten, der nach seinem Tod studierte? Als Menschen nach amerikanischen Präsidenten und deren Ausbildung fragten, verkündete AI Overviews, Andrew Johnson habe zwischen 1947 und 2012 Universitätsabschlüsse erworben. Eine bemerkenswerte Leistung für einen Mann, der 1875 starb. Es ist das perfekte Beispiel für ein System, das Zahlen zusammennäht, die es in der Nähe eines Namens gefunden hat, und überhaupt nicht weiß, ob sie wahr sein können.
Und dann ist da noch Barack Obama. Auf die Frage "Wie viele muslimische Präsidenten hatten die USA?" antwortete AI Overviews einst, es sei einer gewesen: Barack Hussein Obama. Das war und ist er nie gewesen. Das Modell zog eine Information aus einem Kapitel eines Fachbuchs, dessen Titel genau diese Frage stellte, und stellte dann selbstbewusst die Argumentation des Autors auf den Kopf. Ein Musterbeispiel für eine Maschine, die Wörter liest, ohne ein einziges davon zu verstehen.
Zu den weiteren Perlen gehört etwa die Empfehlung, dass Nasebohren und das anschließende Essen dessen, was man herausgeholt hat, angeblich gegen Karies und Krankheiten helfe. Das gehört in die Kategorie "Satz, der irgendwann einmal im Internet aufgetaucht ist", und genau darin besteht, wie wir noch sehen werden, das gesamte Problem.
Dieses Genre starb jedoch nicht im Jahr 2024 aus. Im Januar 2026 stellten Menschen Google eine einfache Frage: "Ist nächstes Jahr 2027?" Und AI Overviews beharrte darauf, dass nein, nächstes Jahr sei nicht 2027, sondern 2026. Allerdings war bereits das Jahr 2026. Der Unsinn verbreitete sich sofort im Internet, und sogar Elon Musk bemerkte: "Da gibt es Raum für Verbesserungen."
Wenn der Spaß aufhört: gefährliche Irrtümer
Klebstoff auf Pizza ist gerade deshalb lustig, weil niemand das wirklich tun würde. Das Problem ist, dass dieselbe Maschine, die Klebstoff als Belag empfiehlt, auch Fragen zu Medikamenten, elektrischer Sicherheit und dem Ruf von Menschen beantwortet. Und dort ist eine selbstbewusst falsche Antwort kein Witz mehr, sondern beginnt, Schaden anzurichten.
Nicht alle Fehler wiegen gleich schwer. Eine dumme Antwort über Pizza schadet niemandem. Eine erfundene Behauptung über ein echtes Unternehmen dagegen schon. Am häufigsten sind alltägliche sachliche Fehler, also falsche Daten, Zahlen und Namen. Für ein Kneipenquiz ist das in Ordnung, doch bei einer Entscheidung, nach der man sich tatsächlich richtet, stellt es ein Risiko dar. Ratschläge zu Gesundheit, Recht und Sicherheit wirken ausgefeilt, doch ausgefeilt bedeutet nicht richtig. Und dann gibt es noch falsche Behauptungen über echte Menschen und Unternehmen. Selten, aber verheerend, wie wir kürzlich in einem Artikel über zwei deutsche Verleger berichteten.
Die schwerwiegendsten Irrtümer von AI Overviews drehen sich nicht um Lebensmittel. Sie betreffen echte Menschen und Unternehmen und landen inzwischen vor Gericht.
Im März 2025 verklagte der Solarinstallateur Wolf River Electric aus Minnesota Google, nachdem AI Overviews behauptet hatte, der Generalstaatsanwalt des Bundesstaats verklage das Unternehmen wegen irreführender Praktiken. Nichts dergleichen war jemals geschehen. Das Unternehmen gibt an, ein Kunde habe innerhalb weniger Tage einen Auftrag im Wert von 150.000 Dollar storniert, und fordert Schadensersatz zwischen 110 und 210 Millionen Dollar.
Anfang 2026 verklagte der renommierte kanadische Geiger Ashley MacIsaac Google, nachdem AI Overviews ihn fälschlicherweise als verurteilten Sexualstraftäter bezeichnet hatte. Diese Erfindung soll ihn ein abgesagtes Konzert gekostet haben. Und im Fall Starbuck gegen Google reichte ein amerikanischer Kommentator wegen Behauptungen Klage ein, die sich die künstliche Intelligenz einschließlich nicht existierender Strafregistereinträge und Gerichtsdokumente ausgedacht hatte. Googles Verteidigung, eine Zusammenfassung durch künstliche Intelligenz sei im rechtlichen Sinne nicht "veröffentlicht", wurde zu einer der prägenden Rechtsfragen des Zeitalters der künstlichen Intelligenz.
Das Muster ist jedes Mal dasselbe: Die künstliche Intelligenz irrte sich nicht nur in einem Detail. Sie fabrizierte konkrete, schädigende und vollkommen unwahre Behauptungen.
Quelle: qwestyon.com
