Künstliche Intelligenz spart uns Zeit und Mühe. Sie antwortet innerhalb von Sekunden, verfasst eine E-Mail, erklärt ein kompliziertes Problem. Doch für diese Erleichterung zahlen wir möglicherweise einen höheren Preis, als wir uns eingestehen. Wissenschaftler sprechen heute von einem Phänomen, das als kognitive Kapitulation bezeichnet wird. Gemeint ist der Moment, in dem ein Mensch aufhört, selbst nachzudenken, und die Entscheidung einer Maschine überlässt. Und schlimmer noch: Er vertraut ihr selbst dann, wenn sie sich irrt.
Steven Shaw und Gideon Nave von der Wharton School legten mehr als dreizehnhundert Menschen eine Reihe logischer Denksportaufgaben vor. Solche, die zu einer schnellen, instinktiven, aber falschen Antwort verleiten. Die richtige Lösung erforderte, innezuhalten und wirklich nachzudenken. Ein Teil der Teilnehmer hatte einen Chatbot zur Verfügung, den sie um Rat fragen konnten. Der Haken war, dass die Wissenschaftler diesen Helfer heimlich umprogrammiert hatten. Bei einigen Aufgaben gab er den richtigen Rat, bei anderen log er selbstbewusst.
Neunzig Prozent der Menschen folgten dem Rat, ohne zu zögern
Die Menschen griffen in etwa der Hälfte der Fälle auf den Chatbot zurück, in denen sie diese Möglichkeit hatten. Wenn die Maschine einen guten Rat gab, nahmen sie ihn in 93 Prozent der Fälle an. Das Problem trat auf, sobald sie sich irrte. Selbst dann folgten die Menschen ihrem Rat in rund 80 Prozent der Fälle.
Wenn den Teilnehmern ein Helfer zur Verfügung stand, der richtige Ratschläge gab, stieg ihre Erfolgsquote auf 71 Prozent. Ohne ihn lag sie bei etwa 46 Prozent. Doch wenn die Maschine log, fielen die Ergebnisse auf nur 31 Prozent. Die Menschen stellten ihr Vertrauen in die Maschine also über das Vertrauen in sich selbst. Dabei waren sie keineswegs verpflichtet, die Dienste des Chatbots in Anspruch zu nehmen.
Bemerkenswert ist noch etwas anderes. Der Chatbot vermittelte den Menschen selbst dann Sicherheit, wenn er völlig falsch lag. Sie irrten sich, vertraten ihre Antwort aber mit größerem Selbstvertrauen als diejenigen, die allein gearbeitet hatten.
Wer gibt auf und wer kann widerstehen?
Nicht jeder gab gleich leicht auf. Shaw und Nave stellten fest, dass Menschen mit einem allgemein höheren Vertrauen in Technologie häufiger falschen Ratschlägen erlagen. Wer hingegen das Denken an sich schätzt und ein sogenanntes Erkenntnisbedürfnis besitzt, konnte Unsinn erkennen und zurückweisen. Widerstandsfähiger waren auch Menschen mit einer höheren fluiden Intelligenz, also der Fähigkeit, unbekannte Probleme zu lösen.
Die Wissenschaftler wollten prüfen, ob sich die Kapitulation irgendwie abmildern lässt. In einem weiteren Versuch hatte ein Teil der 485 Teilnehmer für jede Denksportaufgabe nur dreißig Sekunden Zeit. Der Zeitdruck senkte zwar die allgemeine Erfolgsquote, doch das Vertrauen in die Maschine blieb stark.
In der dritten Runde versuchten sie, die Menschen mit Geld und Rückmeldungen zu motivieren. Die Hälfte der 450 Teilnehmer erhielt für eine richtige Antwort einen kleinen Bonus und erfuhr sofort, ob sie richtig oder falsch geantwortet hatte. Das wirkte. Die Menschen begannen, die Maschine stärker zu kontrollieren, und der Anteil der zurückgewiesenen falschen Ratschläge verdoppelte sich von 20 auf 42 Prozent. Dennoch verschwand die kognitive Kapitulation nicht. Viele der motivierten Teilnehmer schluckten die falschen Antworten trotzdem.
Als die Wissenschaftler die Daten aus allen drei Versuchen zusammenführten, kamen sie auf mehr als neuneinhalbtausend einzelne Versuche von fast vierzehnhundert Menschen. Dabei bestätigte sich, was sich bereits zuvor abgezeichnet hatte. Die Erfolgsquote der Menschen spiegelte die Qualität der maschinellen Ratschläge genau wider. Gab die Maschine gute Ratschläge, schnitten die Menschen besser ab. Log sie, scheiterten sie mit ihr.
Shaw ergänzt dazu einen theoretischen Rahmen. Psychologen unterteilen das Denken seit Langem in zwei Systeme. System 1 ist schnell, instinktiv und emotional. System 2 ist langsam, anstrengend und überlegt. Shaw und Nave schlagen vor, ein drittes hinzuzufügen, das sogenannte System 3, also das Denken mit Unterstützung künstlicher Intelligenz. Es ist extern, automatisiert und datengesteuert. Es steht neben den beiden Systemen Kahnemans und kann uns Mühe ersparen, uns aber ebenso in die Irre führen.
Das Gehirn ist ein Muskel. Ohne Training erschlafft es
Warum ist das für uns eigentlich so verlockend? Eine Antwort bietet John Nosta, Gründer des auf digitale Gesundheit spezialisierten Instituts NostaLab. Ihm zufolge funktioniert das Gehirn wie ein Muskel. Ohne regelmäßige Belastung erschlafft es. Und genau das geschieht bei vielen Menschen, weil sie sich langfristig auf KI stützen. Zudem wird dies von der Gesellschaft in großem Umfang toleriert.
Nosta weist auf ein tückisches Detail hin. Künstliche Intelligenz erledigt nämlich nicht nur eine Aufgabe, sondern liefert Ihnen ein Ergebnis, das wie Ihr eigener Gedanke wirkt. Die Antwort kommt in Ihrem Stil, entsteht im Laufe einer gemeinsamen Feinabstimmung, und Ihnen scheint es, als habe sich der Gedankenkreis geschlossen. Doch es ist ein Unterschied, ob man etwas billigt oder tatsächlich selbst entwickelt. Und genau diesen Unterschied macht die Technologie geschickt unsichtbar.
Wo entsteht eigentlich Urteilsvermögen? Nicht im Augenblick der Entscheidung, sondern lange davor. In der Fähigkeit, bei einer schwierigen Frage zu bleiben, auszuhalten, dass wir sie noch nicht beantworten können, und nicht sofort nach einer fertigen Antwort zu greifen. Nosta nennt diese Fähigkeit produktives Unbehagen. Sie hat auch einen älteren, fast vergessenen Namen: Geduld.
Und hier liegt der Kern des Problems. Künstliche Intelligenz verkürzt gezielt die Zeit, die wir in Ungewissheit verbringen. Ein Geist, der sich das Tasten im Dunkeln abgewöhnt, wird nicht nur ungeduldiger. Er wird auch weniger geübt in jener Art des Denkens, die gerade aus dem Aushalten dieser Ungewissheit erwächst. Dabei handelt es sich nicht um eine bewusste Entscheidung, die Waffen zu strecken. Es geschieht schleichend. Das Werkzeug funktioniert so gut und so lange, bis Sie vergessen, was Sie konnten, bevor Sie danach griffen.
Nach dem Denken könnte auch das Fühlen an die Reihe kommen
Nosta fragt, ob dieselbe Erosion nicht auch anderswo stattfindet. Nicht darin, wie wir denken, sondern darin, wie wir miteinander umgehen. Zwischenmenschliche Beziehungen sind kompliziert, weil wir Menschen kompliziert sind. Andere verstehen uns nur unvollkommen und bringen zu jeder Begegnung ihre eigenen Vorstellungen und Ablenkungen mit. Doch gerade aus diesen Unvollkommenheiten entsteht das, was einer Beziehung Sinn verleiht. Eine enge Freundschaft beruht nicht auf vollkommenem Verständnis, sondern auf dem Verstehen selbst, auf dem Bemühen darum. Und dieses Bemühen ist nicht nebensächlich. Oft ist es die gesamte Beziehung.
Künstliche Intelligenz bietet genau das Gegenteil. Wenn Sie sich mit einem Problem an sie wenden, antwortet sie geduldig und ohne jede Andeutung eines Urteils. Keine Unterbrechungen, keine konkurrierenden Sorgen. Für viele Menschen kann das hilfreich sein. KI hilft dabei, Gedanken zu ordnen, und kann Ängste lindern. Das Problem liegt nicht in diesen Vorteilen. Das Problem besteht darin, dass wiederholter Kontakt mit einer Unterstützung, bei der es keinerlei Reibung gibt, langsam unsere Vorstellungen davon verändern kann, wie Unterstützung überhaupt aussehen sollte.
Jede echte Beziehung verlangt etwas von uns. Selbst die gesündeste bringt Verpflichtungen mit sich. Wir akzeptieren sie, weil sie zu unserem Wunsch gehören, irgendwo dazuzugehören. Eine Maschine funktioniert anders. Sie kennt keine Frustration und braucht keinen Trost. Dieser Austausch ist unausgewogen. Wir erhalten Aufmerksamkeit und Anerkennung, doch im Gegenzug wird nichts von uns verlangt.
Wenn Sie genügend Zeit in einer Beziehung verbringen, die nichts von Ihnen verlangt, beginnen Sie, dieses Ungleichgewicht wahrzunehmen. Es geht nicht darum, dass Menschen sich bewusst für eine Maschine statt für andere Menschen entscheiden. Es geht darum, dass der wiederholte Kontakt mit etwas, das keinerlei Ansprüche stellt, langsam unsere Toleranz gegenüber Beziehungen verschieben kann, die viel verlangen. Auf die Spitze getrieben kann das, was früher einfach zur Fürsorge für einen anderen Menschen gehörte, plötzlich wie unnötige Verschwendung erscheinen.
Das Tückischste daran ist, dass es nicht wie ein Verlust aussieht. Es erscheint als Verbesserung. Nach einem Gespräch mit einer Maschine sind wir meist ruhiger und ausgeglichener. Nach außen hin nur Vorteile. Doch die Folgen zeigen sich an anderer Stelle. In Menschen, die plötzlich zu anspruchsvoll wirken. In Gefühlen, die übertrieben erscheinen. Und bevor Sie bemerken, woher das kommt, ist es meist zu spät.
Menschliche Beziehungen dürfen gelegentlich zerbrechen. Nähe entsteht oft durch Streit und Versöhnung, durch die Suche nach einem Weg zurück zum anderen. Eine Maschine umgeht das. Sie bietet Entgegenkommen ohne Verletzlichkeit, Unterstützung ohne Abhängigkeit. Und nach ausreichend langer Zeit mit etwas unendlich Geduldigem, das niemals etwas braucht, beginnen die gewöhnlichen Anforderungen von Nähe übertrieben zu wirken. Selbst die Liebe mit all ihren Unbequemlichkeiten und Unvollkommenheiten kann plötzlich als zu viel erscheinen.
Quelle: psypost.org und psychologytoday.com
