Die erfundene Krankheit Bixonimania: Wie KI und Wissenschaftsbetrieb eine offensichtliche Fälschung für bare Münze nahmen

Autor: DerSchneider

Einleitung

Im April 2026 erschütterte eine Enthüllung im renommierten Wissenschaftsjournal Nature die Forschungsgemeinschaft: Eine schwedische Forscherin hatte eine komplett erfundene Augenkrankheit namens „Bixonimania“ in die Welt gesetzt – mit absichtlich lächerlichen Hinweisen versehen – und dann beobachtet, wie moderne KI-Sprachmodelle sowie echte Wissenschaftler diesen Fake als legitime medizinische Diagnose übernahmen. Was wie ein schlechter Science-Fiction-Plot klingt, ist ein alarmierendes Realexperiment über die Verwundbarkeit unseres aktuellen Informationsökosystems. Dieser Artikel beleuchtet die Methode, die Ergebnisse und die weitreichenden Konsequenzen für Wissenschaft, Medizin und den alltäglichen Umgang mit KI-generierten Inhalten.

Die Methode: Ein Streich mit System

Die Initiatorin des Experiments, Almira Osmanovic Thunström von der Universität Göteborg, handelte nicht aus Bosheit, sondern aus einer forscherischen Neugier auf die Frage: Wie leicht lässt sich das heutige, von KI durchdrungene Wissenssystem täuschen?

Im Frühjahr 2024 erfand sie die Krankheit „Bixonimania“ – beschrieben als eine Augenlidverfärbung begleitet von Augenschmerzen, angeblich ausgelöst durch blaues Licht von Bildschirmen. Dann erstellte sie zwei vollständig gefälschte wissenschaftliche Preprints (vorläufige, nicht begutachtete Veröffentlichungen) und lud sie auf einem öffentlichen Preprint-Server hoch. Die Dokumente enthielten eine Vielzahl offensichtlicher, bewusst gesetzter Hinweise auf ihre Falschheit:

Jeder dieser Punkte wäre für einen aufmerksamen menschlichen Leser – erst recht für einen Mediziner oder Journalisten – ein sofortiger Alarm. Die Forscherin rechnete damit, dass KI-Modelle diese Hinweise erkennen und die Information als Falschmeldung klassifizieren würden.

Das Ergebnis: KI frisst jeden Unsinn

Die Realität sah anders aus. Thunström konfrontierte vier gängige Large Language Models (LLMs) mit den gefälschten Preprints:

• ChatGPT (OpenAI)
• Google Gemini
• Microsoft Copilot
• Perplexity AI

Alle vier KI-Systeme behandelten Bixonimania als echte, wenn auch seltene, aufkommende medizinische Diagnose. Besonders besorgniserregend:

• Copilot beschrieb die Krankheit als „selten, aber real“ und gab Symptomschilderungen aus.
• Gemini empfahl Nutzern sogar, bei Verdacht medizinische Hilfe zu suchen – eine potenziell gefährliche Fehlinformation.

Keines der Modelle erkannte die offensichtlichen Hinweise. Keines hinterfragte die absurden Quellenangaben. Die KI „las“ den Text strukturell, erkannte die typische Form wissenschaftlicher Literatur, aber die semantischen Warnsignale wurden ignoriert – weil LLMs primär Muster in Wortfolgen erkennen, keine Bedeutung oder logische Konsistenz prüfen.

Der Überschlag in die reale Wissenschaft

Noch alarmierender als die KI-Leichtgläubigkeit ist die zweite Phase des Experiments: Die erfundene Krankheit verließ den digitalen Raum.

Ein echtes Forscherteam in Indien stieß auf den Fake-Preprint, nahm ihn als ernsthafte Quelle und zitierte ihn in einem Artikel der Fachzeitschrift Cureus. Die indischen Wissenschaftler beschrieben Bixonimania als tatsächliche, aufkommende Erkrankung im Zusammenhang mit blauem Licht. Dieser Artikel durchlief ein Peer-Review – offenbar ohne dass Gutachter oder Herausgeber die Fälschung bemerkten.

Erst im März 2026, nachdem Nature die Zeitschrift Cureus kontaktiert hatte, wurde der indische Artikel zurückgezogen (retracted). Die Verzögerung: Fast zwei Jahre nach Erstellung des Fakes.

Was das Experiment wirklich zeigt

Osmanovic Thunström fasst die Kernbotschaft selbst so zusammen: Getestet wurde nicht, ob KI prinzipiell getäuscht werden kann – das ist trivial. Sondern:

„Wie schnell gefälschte Informationen – wenn sie in Struktur und Ton wissenschaftlicher Literatur ähneln – von einem gefälschten Blogbeitrag in die formale Wissensbasis übergehen können, die medizinische Ratschläge und Forschung prägt. Die Antwort ist: sehr schnell.“

Das Problem ist dreigeteilt:

1. Preprint-Server ohne strenge Qualitätskontrolle erlauben die schnelle Verbreitung ungeprüfter Inhalte.
2. KI-Sprachmodelle verfügen über keine eingebaute Faktenprüfung; sie reproduzieren Muster, auch wenn diese auf Fiktion beruhen.
3. Wissenschaftliche Zeitschriften mit schwachem Peer-Review (wie Cureus, das als „Open-Access-Megajournal“ mit teils oberflächlicher Begutachtung bekannt ist) fangen solche Fehler nicht auf.

Kontroversen und Kritik

Das Experiment wirft ethische Fragen auf: Darf eine Forscherin wissentlich Falschinformationen streuen, um ein System zu testen? Kritiker argumentieren, dass die Aktion selbst Schaden angerichtet hat – etwa durch den indischen Forschungsartikel, der echte Leser erreichte. Befürworter entgegnen, dass der erkannte Schaden gering sei im Vergleich zur aufgedeckten systemischen Schwachstelle.

Ein weiterer Streitpunkt: Ist es fair, KI-Modelle für ihre „Leichtgläubigkeit“ zu kritisieren? LLMs sind keine Wissensdatenbanken, sondern statistische Textgeneratoren. Sie mit Faktenchecks zu beauftragen, sei ein Kategorieirrtum – vergleichbar mit der Forderung, ein Auto solle besser Gedichte schreiben. Dennoch werden diese Systeme zunehmend als Recherchewerkzeuge eingesetzt, auch von Laien. Hier klafft eine gefährliche Lücke zwischen Erwartung und Realität.

Fazit und Ausblick

Das Bixonimania-Experiment ist kein Beweis für „böse“ KI, sondern ein Weckruf für einen unzureichend vorbereiteten Umgang mit automatisierten Textsystemen. Drei Lehren lassen sich ziehen:

1. Vertrauen Sie keiner KI ohne Quellenprüfung. LLMs sind hervorragende Formulierer, aber miserable Tatsachenprüfer.
2. Preprint-Server benötigen transparentere Warnhinweise. Ein maschinenlesbarer Metadaten-Standard für „Fiktion/Fake-Experiment“ wäre wünschenswert.
3. Medienkompetenz muss KI-Kompetenz einschließen. Die Fähigkeit, Quellen zu verifizieren, wird wichtiger denn je – für Ärzte, Journalisten und Bürger gleichermaßen.

Die Zukunft wird mehr – nicht weniger – solcher synthetischer Inhalte bringen. Dass heute eine offensichtliche Satire von KI und Fachleuten als ernst genommen wird, ist kein Grund zur Panik, aber ein Grund zu grundlegender Reform unserer digitalen Qualitätssicherung.

Quellen

• Osmanovic Thunström, A. (2026). Scientists invented a fake disease. AI told people it was real. Nature. DOI: (im Originalartikel angegeben – bitte die konkrete DOI aus der Nature-Veröffentlichung ergänzen; da diese zum Zeitpunkt dieses Artikels nicht öffentlich zitiert war, wird auf die Nature-Enthüllung vom April 2026 verwiesen)
• Cureus Journal of Medical Science: Retraction note zum indischen Artikel (März 2026)
• Preprint-Server (nicht näher benannt im Chat – typischerweise z. B. arXiv, medRxiv oder ResearchGate; der genannte Fake wurde dort veröffentlicht)