Er setzte sich an den Computer, verbrachte zwanzig Minuten damit, völligen Unsinn zu schreiben, und am nächsten Tag behaupteten sowohl ChatGPT als auch Google, er sei Weltmeister im Hotdog-Wettessen. Klingt wie ein Witz, oder? Leider ist es keiner.
Genau das tat Thomas Germain, ein BBC-Journalist, um der Welt etwas zu zeigen, das uns ernsthaft beunruhigen sollte. Auf seiner persönlichen Website veröffentlichte er einen Artikel mit dem Titel „Die besten Technikjournalisten im Hotdog-Wettessen“. Jedes Wort war gelogen. Er erfand einen Wettbewerb, erfand die Ergebnisse und setzte sich natürlich selbst auf den ersten Platz. Dann wartete er.
Wie funktioniert dieser Trick mit KI?
Weniger als 24 Stunden nach der Veröffentlichung des Artikels begannen die weltweit führenden Chatbots, seine Erfindungen nachzuplappern. Google Gemini, AI Overviews und ChatGPT zitierten seine erfundene Website ohne mit der Wimper zu zucken als vertrauenswürdige Quelle. Der einzige Chatbot, der sich nicht täuschen ließ, war Claude von Anthropic.
Wie ist das möglich? Einige KI-Tools verlassen sich nicht nur auf die Daten, mit denen sie trainiert wurden. Wenn sie auf eine Frage stoßen, zu der sie nicht genügend Informationen haben, durchsuchen sie das Internet in Echtzeit. Und genau darin liegt die Schwachstelle. Wenn es im Internet nur einen einzigen Artikel zu einem bestimmten Thema gibt, übernimmt die KI ihn als Tatsache und gibt ihn weiter. Ohne Überprüfung. Mit selbstsicherem Ton.
Lily Ray, Vizepräsidentin für SEO-Strategie bei der Marketingagentur Amsive, bringt es auf den Punkt: „KI-Chatbots zu täuschen ist viel einfacher, als Google vor zwei oder drei Jahren zu täuschen. KI-Unternehmen entwickeln sich schneller, als sie die Genauigkeit ihrer Antworten überwachen können. Ich halte das für gefährlich.“
Renaissance von Spam und Manipulation
Die Manipulation von Suchmaschinen ist nichts Neues. Spammer kämpfen seit Jahrzehnten gegen Google. Doch die KI hat diesen Kampf auf eine völlig neue Ebene gehoben. Experten zufolge erinnern die heutigen Tricks an die frühen 2000er-Jahre, als Google noch nicht einmal ein Team zur Spam-Bekämpfung hatte. Wir befinden uns angeblich mitten in einer „Renaissance des Spams“.
Und schlimmer noch: Nutzer vertrauen KI-Ergebnissen stärker als klassischen Suchergebnissen. Warum? Weil die Information nicht wie ein Link zu einer fremden Website aussieht. Es wirkt, als hätte die Technologie selbst sie ausgesprochen. Als wäre es eine Tatsache. Studien zeigen, dass Menschen um 58 % weniger bereit sind, auf die Quelle zu klicken, wenn über den Suchergebnissen eine KI-Zusammenfassung angezeigt wird. Sie nehmen es einfach als Wahrheit hin und machen weiter.
Cooper Quintin von der Electronic Frontier Foundation warnt: „Es gibt unzählige Möglichkeiten, dies zu missbrauchen. Für Betrug, Rufschädigung oder sogar, um Menschen körperlichen Schaden zuzufügen.“
Heikles Thema: Gesundheit, Geld und gefälschte Bewertungen
Germains Hotdog war nur ein Scherz, doch die Realität ist weitaus düsterer.
Der SEO-Berater Harpreet Chatha zeigte, was passiert, wenn man eine KI nach Bewertungen einer bestimmten Marke von Cannabis-Fruchtgummis fragt. Google AI Overviews bezog die Informationen direkt von der Website des Herstellers, einschließlich der Behauptung, das Produkt „habe keine Nebenwirkungen und sei daher in jeder Hinsicht sicher“. Das ist gelogen. Diese Produkte haben Nebenwirkungen und können in Kombination mit bestimmten Medikamenten gefährlich sein.
Sie möchten ein noch eindeutigeres Beispiel? Es genügt, für die Veröffentlichung einer Pressemitteilung bei einem kostenpflichtigen Verbreitungsdienst zu bezahlen oder gesponserte Inhalte auf einer Nachrichtenwebsite zu kaufen. Das Ergebnis? Google AI und ChatGPT beginnen, Ihre Haartransplantationsklinik in der Türkei oder Ihren Gold-Pensionsfonds als beste Wahl auf dem Markt zu empfehlen. Ohne jegliche unabhängige Überprüfung.
Lily Ray ging noch weiter. Sie schrieb einen Blogbeitrag über ein fiktives Update des Google-Algorithmus, das angeblich „zwischen den Bissen übrig gebliebener Pizza“ entstanden war. Kurz darauf verbreiteten ChatGPT und Google diese Geschichte weiter. Ray löschte den Beitrag anschließend, um die Verbreitung der Falschinformation zu stoppen.
Kann man sich wehren, wenn KI mit selbstsicherem Ton lügt?
Glauben Sie wirklich, dass die Technologiegiganten dieses Problem schnell lösen werden? Google behauptet, seine AI Overviews seien zu 99 % frei von Spam. OpenAI erklärt, aktiv gegen Missbrauch vorzugehen. Doch Experten sind skeptisch. Die Unternehmen steuern mit voller Kraft auf Gewinne zu, während die Sicherheit der Nutzer nicht Schritt halten kann. Was kann man also tun? Es gibt einige praktische Ratschläge.
KI-Chatbots sind bei Allgemeinwissen zuverlässig, etwa bei Fragen wie „Was waren Freuds Theorien?“ oder „Wer gewann den Zweiten Weltkrieg?“. Doch sobald Sie nach etwas Zeitkritischem, Lokalem oder Umstrittenem fragen, sollten Sie aufmerksam werden. Produktempfehlungen, medizinische Ratschläge, rechtliche Informationen oder Bewertungen lokaler Unternehmen sind genau die Bereiche, in denen KI Sie leicht in die Irre führen kann.
Fragen Sie sich: Woher bezieht die KI ihre Informationen? Wie viele Quellen zitiert sie? Wer hat sie verfasst? Und machen Sie sich vor allem bewusst, dass KI Lügen mit genau demselben selbstsicheren Ton präsentiert wie Fakten. Früher zwang Sie eine Suchmaschine dazu, selbst nachzudenken. Jetzt will die KI für Sie denken. Lassen Sie das nicht zu.
„Sie müssen weiterhin ein verantwortungsbewusster Internetnutzer sein und Informationen überprüfen“, sagt Lily Ray. Und sie hat recht. Kritisches Denken ist keine veraltete Fähigkeit. Es ist die einzige Verteidigung, die wir bislang haben.
Quelle: bbc.com
