Zwei Münchner Verleger stellten eines Tages fest, dass Google sie mit Betrug und dubiosen Geschäftspraktiken in Verbindung brachte. Nicht in irgendeiner abgelegenen Diskussion, sondern ganz oben in der Suche, in den sogenannten AI Overviews. Also in jenen Zusammenfassungen künstlicher Intelligenz, die noch vor den üblichen Links angezeigt werden. Dabei behauptete keiner der Artikel, auf die die Zusammenfassung verwies, etwas Derartiges.
Nach Ansicht des Gerichts hatte Googles KI Informationen über andere Unternehmen, die zuvor als mögliche Betrüger bezeichnet worden waren, mit Daten über unsere beiden Verleger verknüpft. So entstand ein Zusammenhang, der in keiner Quelle zu finden war. Die künstliche Intelligenz hatte ihn schlicht erfunden. Die Verleger versuchten es zunächst auf dem milderen Weg. Sie forderten Google auf, dies zu unterlassen. Google stoppte derartige unwahre Aussagen jedoch nicht, und diese Untätigkeit wurde dem Unternehmen letztlich zum Verhängnis. Beide Websites zogen vor Gericht.
Das Landgericht München erließ eine einstweilige Verfügung. Das Urteil ist eindeutig: Google haftet für die Aussagen seiner KI-Zusammenfassungen.
KI-Zusammenfassungen vs. klassische Suche
Der deutsche Bundesgerichtshof hatte bereits zuvor entschieden, dass Unternehmen wie Google bei gewöhnlichen Suchergebnissen nur eingeschränkt haften. Eine Suchmaschine ist lediglich eine Art Wegweiser, der auf fremde Inhalte verweist. Wenn sie Links sortiert, bedeutet das nicht, dass sie für deren Inhalte einsteht. Sie ist ein Vermittlungskanal, kein Herausgeber. Doch AI Overviews spielen sowohl logisch als auch nach Ansicht des Gerichts in einer völlig anderen Liga.
Die Richter kamen zu dem Schluss, dass künstliche Intelligenz Inhalte nicht passiv zusammenfasst. Sie formuliert sie um, kombiniert sie und denkt sich gelegentlich sogar Fakten hinzu, die nirgendwo stehen. Anschließend präsentiert sie all das ganz oben über den Ergebnissen. Das Gericht spricht deshalb von „eigenständigen, neuen Tatsachenbehauptungen“. Mit anderen Worten: Das sind nicht länger fremde Aussagen, sondern Aussagen, die unmittelbar Google zuzurechnen sind. Und warum ausgerechnet Google? Weil nur Google in die Modelle und die Logik eingreifen kann, die diese Aussagen erzeugen. Nur Google kann das System zuverlässig daran hindern, dieselbe Lüge immer wieder zu wiederholen.
Eine Ausrede, die nicht durchging
Google verteidigte sich vor Gericht damit, dass die meisten Nutzer schließlich wüssten, dass man Informationen von KI nicht blind vertrauen dürfe. Außerdem enthielten die Zusammenfassungen Links zu Quellen, sodass jeder die Angaben selbst überprüfen könne. Das Gericht wies diese Verteidigung zurück und argumentierte, dass die Möglichkeit, eine Behauptung zu überprüfen, einen in der Regel nicht von der Verantwortung befreie. Würde es so funktionieren, wären Opfer unwahrer Aussagen praktisch schutzlos. Die ursprünglichen Quellen hatten nämlich nichts Derartiges gesagt, weshalb man sie nicht verklagen könnte. Und die verleumdete Person oder das verleumdete Unternehmen hätte niemanden, den sie zur Verantwortung ziehen könnten.
Stellen Sie sich vor, es ginge um Sie. Wenn jemand etwas ungeheuerlich Unwahres über Sie schreibt, entlastet ihn die Tatsache, dass sich die Wahrheit anderswo leicht überprüfen lässt, nicht von seiner Lüge.
Das Gericht berührte auch einen sensiblen Punkt. Kann sich eine von künstlicher Intelligenz erzeugte Aussage auf die Meinungsfreiheit berufen? Nach Ansicht des Gerichts nicht. Das Ergebnis einer KI sei kein Ausdruck einer gewonnenen Überzeugung desjenigen, der es äußert, sondern das Produkt eines Algorithmus. Die KI-Suche sei dem Gericht zufolge „in erster Linie Ausdruck der Geschäftstätigkeit von Google“ und nur am Rande Ausdruck des Interesses, die eigene Meinung frei zu äußern. Diese Überlegung dürfte allem Anschein nach auch in weiteren Gerichtsverfahren weltweit auftauchen.
Es gibt weitere derartige Fälle
Dass es sich nicht um einen Einzelfall handelt, legen die Zahlen nahe. Pew Research stellte im vergangenen Jahr fest, dass Menschen deutlich seltener auf gewöhnliche Links klicken, wenn in den Ergebnissen eine KI-Zusammenfassung erscheint. Von ursprünglich etwa fünfzehn Prozent sank der Anteil auf acht Prozent. Der Nutzer erhält eine schnelle und selbstbewusste Antwort und sucht nicht weiter.
Eine Analyse der Zeitung The New York Times zeigte wiederum, dass AI Overviews in etwa neun von zehn Fällen die richtige Antwort liefern. Das klingt gut, bis man sich die Größenordnung vor Augen führt. Google verarbeitet jährlich mehr als fünf Billionen Suchanfragen. Selbst eine geringe Fehlerquote bedeutet dann Millionen falscher Antworten.
Und nun das Schlimmste. Mehr als die Hälfte selbst dieser richtigen Antworten war der Analyse zufolge „unbelegt“. Die Websites, auf die die KI verwies, stützten ihre Aussagen nicht vollständig. Selbst wenn Google also auf eine Seite mit korrekten Informationen verweist, kann seine künstliche Intelligenz dennoch eine Unwahrheit produzieren.
Google gibt nicht auf
Google ist mit dem Urteil nicht einverstanden und kündigte an, Berufung einzulegen. „In diesem Fall geht es um konkrete und eng begrenzte Fehler, nicht um die grundlegende Art und Weise, wie AI Overviews Webinhalte darstellen. Wir sind mit der Entscheidung nicht einverstanden und planen, Berufung einzulegen“, erklärte ein Unternehmenssprecher. Google behauptet zugleich, dass die überwiegende Mehrheit der Zusammenfassungen korrekt sei, räumt jedoch ein, dass gelegentlich der Kontext verfehlt oder der Inhalt einer Website missverstanden werden könne. Gegen Verstöße gegen seine Regeln gehe das Unternehmen nach eigenen Angaben schnell vor.
In diesem Fall muss das Unternehmen jedoch achtzig Prozent der Verfahrenskosten tragen und einen Teil der Aussagen zurückziehen, die das Gericht als verleumderisch eingestuft hat.
Das Urteil könnte dabei weit über die Grenzen Deutschlands hinaus Auswirkungen haben. Dieselbe Warnung „Achtung, KI kann Fehler machen“ verwenden nämlich auch Unternehmen wie OpenAI, Anthropic oder Perplexity. Und sollte die Münchner Argumentation Bestand haben, wird diese kleine Anmerkung in den Nutzungsbedingungen sie vor Gericht nicht schützen.
Quellen: malwarebytes.com, wired.com und tech.yahoo.com
