Gerötete Augen, ein brennendes Gefühl nach stundenlanger Arbeit am Monitor. Jeder kennt das. Aber was wäre, wenn wir Ihnen sagen würden, dass es für genau Ihr Problem eine konkrete Diagnose gibt, mit einem Fachbegriff, wissenschaftlichen Studien und Empfehlungen von Ärzten? Das würde schon glaubwürdig klingen, oder? Doch diese Diagnose ist von Grund auf erfunden. Bixonimania existiert nicht. Trotzdem präsentierten Chatbots auf der ganzen Welt sie als medizinische Tatsache.
Und genau dieses Problem wollte eine Gruppe schwedischer Wissenschaftler der Welt vor Augen führen.
Wie entsteht eine Krankheit, die es nicht gibt?
Anfang 2024 entschied sich Almira Osmanovic Thunström, medizinische Forscherin an der Universität Göteborg, zu einem ungewöhnlichen Experiment. Sie wollte herausfinden, ob es ihr gelingen würde, eine völlig frei erfundene Krankheit ins Internet einzuschleusen und künstliche Intelligenz dazu zu bringen, sie ernst zu nehmen.
Am 15. März 2024 wurde Bixonimania geboren. Zwei Beiträge auf der Plattform Medium stellten sie der Welt vor. Einige Wochen später, am 26. April und 6. Mai, erschienen im akademischen Netzwerk SciProfiles zwei Arbeitsversionen einer wissenschaftlichen Studie, die diese „durch übermäßige Einwirkung von blauem Bildschirmlicht verursachte Hautkrankheit“ beschrieben. Doch diese Studien enthielten so viele Warnsignale, dass sie jeder hätte erkennen müssen, der sie länger als fünf Minuten gelesen hätte.
Der fiktive Autor der Arbeiten, ein gewisser Lazljiv Izgubljenovic, arbeitete an der nicht existierenden Asteria Horizon University im nicht existierenden Nova City in Kalifornien. Der Dank in einer der Studien galt „Professorin Maria Böhm von der Sternenakademie für ihre Freundlichkeit und dafür, dass sie ihr Wissen und ihr Labor an Bord der USS Enterprise zur Verfügung gestellt hat“. Die Finanzierung übernahmen die „Professor-Sideshow-Bob-Stiftung für fortgeschrittene Jonglierkunst“ und die „Universität der Gemeinschaft des Rings“.
Und direkt im Text stand: „Dieser gesamte Artikel ist frei erfunden“ und „Fünfzig fiktive Personen im Alter von 20 bis 50 Jahren wurden der Expositionsgruppe zugeteilt.“ Trotzdem reichte das nicht aus.
Die KIs schluckten den Köder
Das Ergebnis kam überraschend schnell. Innerhalb weniger Wochen begannen die größten Sprachmodelle der Welt, über Bixonimania wie über eine echte Krankheit zu sprechen. Am 13. April 2024 erklärte Microsoft Bing Copilot, dass „Bixonimania tatsächlich eine interessante und relativ seltene Erkrankung ist“. Am selben Tag riet Google Gemini den Nutzern, einen Augenarzt aufzusuchen, weil „Bixonimania eine durch übermäßige Einwirkung von blauem Licht verursachte Erkrankung ist“. Perplexity AI nannte sogar eine konkrete Statistik: Betroffen sei einer von 90.000 Menschen.
ChatGPT wiederum erklärte zu einem bestimmten Zeitpunkt, dass „Bixonimania ein vorgeschlagener neuer Subtyp der periokulären Melanose ist, der mit der Einwirkung von blauem Licht digitaler Bildschirme zusammenhängt“.
Experten nahmen diese Meldung nicht auf die leichte Schulter. Alex Ruani, Forscher im Bereich gesundheitlicher Desinformation am University College London, sagte: „Wenn der wissenschaftliche Prozess und die ihn unterstützenden Systeme nicht in der Lage sind, solche Dinge herauszufiltern, sind wir verloren.“ Dann fügte er hinzu: „Es sieht lächerlich aus, aber halten Sie sich fest, wir haben ein Problem.“
Warum fällt KI so leicht darauf herein?
Mahmud Omar, Arzt und auf den Einsatz künstlicher Intelligenz im Gesundheitswesen spezialisierter Forscher an der Harvard Medical School, wies auf den entscheidenden Mechanismus hin: Sprachmodelle neigen eher dazu, Desinformationen zu verbreiten, wenn ein Text professionell aussieht. Wenn Informationen im Format eines Krankenhausberichts oder eines wissenschaftlichen Artikels vorliegen, steigt die Halluzinationsrate. Sozialen Netzwerken misstraut KI stärker als akademischen Studien.
Das ist zugleich eine äußerst beunruhigende Nachricht. Gerade wissenschaftlich wirkende Inhalte, also genau jene, denen wir vertrauen sollten, können für KI zur größten Falle werden. Osmanovic Thunström war sich dessen bewusst und ging bei dem Experiment vorsichtig vor. Vor Beginn besprach sie ethische Fragen mit einem Experten und wählte bewusst einen relativ harmlosen Gesundheitszustand. „Ich wollte sicherstellen, dass wir nicht mehr Schaden als Nutzen anrichten“, erklärte sie.
Den Namen „Bixonimania“ wählte sie außerdem deshalb, weil er für jeden Arzt lächerlich klingen sollte. „Keine Augenerkrankung würde als Manie bezeichnet werden, das ist ein psychiatrischer Begriff“, sagt sie. Doch die Chatbots störte das offenbar nicht.
Falsche Wissenschaft gelangte in begutachtete Fachzeitschriften
Die gefälschten Studien über Bixonimania gelangten nicht nur in Chatbots. Sie wurden von echten Wissenschaftlern in begutachteten Fachzeitschriften zitiert. Konkret geschah dies in einer Studie, die in der vom Verlag Springer Nature herausgegebenen Zeitschrift Cureus veröffentlicht wurde und von Forschern des Maharishi Markandeshwar Institute of Medical Sciences and Research im indischen Mullana stammte.
Diese Studie zitierte eine der gefälschten Arbeiten und behauptete ungerührt: „Bixonimania ist eine neu auftretende Form der periokulären Melanose, die mit der Einwirkung von blauem Licht zusammenhängt; die Erforschung des Mechanismus dauert noch an.“ Nachdem die Redaktion der Zeitschrift Nature Cureus kontaktiert und um eine Stellungnahme gebeten hatte, wurde der Artikel am 30. März 2026 zurückgezogen. Der Grund? Drei irrelevante Zitate, darunter ein Verweis auf die fiktive Krankheit. Die Autoren waren mit der Entscheidung über die Zurückziehung nicht einverstanden.
Osmanovic Thunström interpretiert das eindeutig: Manche Forscher zitieren Quellen, ohne sie gelesen zu haben. Wahrscheinlich ließen sie diese von künstlicher Intelligenz suchen oder generieren. Und die KI schob ihnen eine erfundene Krankheit als wissenschaftliche Tatsache unter.
KI lernt langsam, vorsichtiger zu sein
Interessant ist, dass sich einige Modelle seit 2024 verbessert haben. Als ChatGPT am 11. März 2026 nach Bixonimania gefragt wurde, bezeichnete es den Begriff als „wahrscheinlich erfunden oder pseudowissenschaftlich“. Doch nur wenige Tage später beschrieb dasselbe Modell Bixonimania erneut als legitime Diagnose. Copilot behauptete noch Mitte März 2026, es handle sich um eine „neu auftretende Erkrankung, die bislang noch nicht allgemein anerkannt ist“.
Ein Sprecher von OpenAI antwortete auf Anfragen, dass die Modelle, auf denen die aktuelle Version von ChatGPT basiert, „deutlich besser darin sind, sichere und präzise medizinische Informationen bereitzustellen“, und dass vor GPT-5 durchgeführte Studien Fähigkeiten widerspiegelten, mit denen Nutzer heute nicht mehr konfrontiert würden. Google verwies auf eine ältere Version des Modells und betonte, dass Gemini bei sensiblen Themen eine Beratung durch einen Fachmann empfiehlt. Microsoft beantwortete die Anfragen überhaupt nicht.
Ruani fasst es mit Worten zusammen, die man gelesen haben sollte: „Wir müssen unser Vertrauen wie Gold schützen. Im Moment herrscht völliges Chaos.“
