Die stille Vergiftung des Wissens

Von DerSchneider

Es ist eine der größten Ironien unserer Zeit: Während wir über die atemberaubenden Möglichkeiten Künstlicher Intelligenz diskutieren, findet vor unseren Augen ein Prozess statt, den man als schleichende Entwertung von Wissen bezeichnen könnte. Ein YouTube-Video eines Autors aus San Diego hat eine Debatte angestoßen, die tiefer geht als die üblichen KI-Warnungen. Es stellt eine unbequeme Frage: Was, wenn die Maschinen, denen wir vertrauen, nicht etwa die Summe menschlichen Wissens verwalten, sondern vor allem unsere kollektiven Blind- und Schwachstellen reproduzieren?

Die 4‑%‑Lüge und die Mauer des Wissens

Die Behauptung, dass nur etwa vier Prozent des gesamten menschlichen Wissens frei im Internet zugänglich seien, während 96 Prozent hinter den Paywalls wissenschaftlicher Datenbanken wie JSTOR, EBSCO oder Elsevier liegen, ist ein Weckruf. Diese Zahl mag überraschen, doch sie verweist auf eine fundamentale Struktur der Wissensgesellschaft: Das meiste, was wir an gesicherter Erkenntnis besitzen, ist kein öffentliches Gut, sondern eine Ware.

Doch was bedeutet das für die KI? Die großen Sprachmodelle, die wir heute nutzen, speisen sich primär aus diesen frei zugänglichen vier Prozent – und aus Quellen, die noch problematischer sind. Die Behauptung, dass Reddit etwa 12,5 bis zu einem Drittel der Trainingsdaten von OpenAI ausmache, verdeutlicht ein grundlegendes Problem: Die vielleicht einflussreichste Technologie zur Wissensvermittlung unserer Zeit lernt von einem Medium, das für Unverbindlichkeit und Meinung, nicht für Verbindlichkeit und Wissen steht.

Der Reddit-Faktor: Wenn der Pöbel zum Lehrmeister wird

Hier liegt der Kern des Problems, das im eingangs erwähnten Video als „Gammelfleisch für das Gehirn“ bezeichnet wird. Es ist kein Zufall, dass die Partnerschaft zwischen OpenAI und Reddit sowie die von Google mit der Plattform als Meilensteine gelten. Reddit ist nicht nur eine Ansammlung von Subkulturen und Nischeninteressen, sondern auch ein Ort, an dem die Grenze zwischen Fakt und Fiktion, fundiertem Wissen und persönlicher Anekdote beständig verschwimmt.

Die Studie von Semrush, die besagt, dass 40 Prozent aller KI-Zitationen auf Reddit verweisen, ist ein alarmierendes Symptom. Sie zeigt, dass die Maschine die menschliche Schwäche für laute, emotional aufgeladene und scheinbar authentische Beiträge reproduziert. Die Tragik: Die KI wird damit nicht zu einem neutralen Werkzeug, sondern zu einem Verstärker des Status quo – mit all seinen Vorurteilen, Halbwahrheiten und gefährlichen Vereinfachungen.

Das Problem wird noch deutlicher, wenn man die Mechanismen der Desinformation betrachtet. Soziale Medien wie TikTok und Instagram werden zunehmend zu Quellen für KI-generierte Inhalte, die oft irreführend oder schlicht falsch sind. Eine Studie der University of Chicago warnte bereits vor den gesundheitlichen Risiken falscher medizinischer Ratschläge auf TikTok, die von KI-Systemen ungeprüft übernommen werden. Die jüngste Untersuchung im Fachjournal The Lancet Digital Health zeigt, dass führende KI-Systeme in etwa 32 Prozent der Fälle falsche medizinische Behauptungen übernehmen, wenn diese nur überzeugend formuliert sind. Selbst Modelle wie ChatGPT‑4o ließen sich noch in etwa zehn Prozent der Fälle täuschen. Besonders perfide: Die KI prüft nicht den Inhalt, sondern die Form der Aussage. Klingt etwas wie ein Fachtext, wird es als Wahrheit akzeptiert – eine Methode, die an die menschliche Schwäche erinnert, gut formulierte Lügen für bare Münze zu nehmen.

Die Medien-KI-Schleife: Wie Unsinn zur Wahrheit wird

Das Video führt ein weiteres, entscheidendes Element ins Feld: die Wechselwirkung zwischen KI, Journalismus und wissenschaftlicher Primärliteratur. Ein Journalist liest eine komplexe wissenschaftliche Ausarbeitung, die er nicht vollständig versteht, konsultiert eine KI für eine „Übersetzung“, und diese KI, trainiert auf Reddit und ähnlichen Quellen, liefert eine vereinfachte, aber falsche Zusammenfassung. Der Journalist veröffentlicht seinen Artikel in einer seriösen Zeitschrift, die von anderen Medien übernommen wird, und schon ist eine vermeintliche „Tatsache“ geboren. Wenn man nun die KI nach dieser Tatsache befragt, gibt sie diese als Wahrheit aus – denn sie findet ja hunderte seriöse Quellen, die sie bestätigen. Was sie nicht findet, ist die wissenschaftliche Primärquelle hinter der Paywall, die das Gegenteil belegt.

Wissen als Ware – die neuen Lehnsherren

Die American Economic Review stellt fest, dass KI-Unternehmen die „Preissetzungsmacht“ über Wissen haben. Die UNESCO warnt, dass große Sprachmodelle (LLMs) – wenn sie nicht reguliert werden – zu „postfaktischen Lehrern“ werden könnten. Das ist die gefährlichste Erkenntnis: Die großen Tech-Konzerne definieren, was Wissen ist und was nicht. Sie haben keinen Anreiz, korrekte oder ethische Informationen zu liefern; ihr Anreiz ist Aufmerksamkeit und Profit.

Die ehemalige KI-Journalistin Karen Hao, die für ihre tiefgehenden Recherchen zu OpenAI bekannt ist, beschreibt in einem Interview, wie KI-Unternehmen ihre Botschaften je nach Zielgruppe anpassen: ein enthusiastisches Narrativ für die Öffentlichkeit, ein anderes für Investoren, ein drittes für die Politik. So entsteht ein System, in dem das, was wir für „objektives Wissen“ halten, bereits das Ergebnis von Marketing- und Verkaufsstrategien ist. Hao argumentiert, dass die Unternehmen öffentliche Mythen erschaffen, die ihre Expansion rechtfertigen und dabei Schäden für Arbeitnehmer, Kreative, die Umwelt und die Gesetzgebung verschleiern.

Die Dampfmaschine des 21. Jahrhunderts

Der Autor des Eingangsvideos vergleicht den aktuellen KI-Boom mit vergangenen Wirtschaftsbooms in den USA – dem Goldrausch, der Industrialisierung, dem Dotcom-Boom –, die immer auch eine große Zahl von Verlierern produzierten. Diejenigen, die ihre Jobs und ihr Erspartes verlieren, sind nicht einfach Kollateralschäden, sie sind Teil des Geschäftsmodells. Das primäre Ziel ist nicht, den Menschen die Arbeit zu erleichtern oder ihr Leben zu verbessern, sondern Gewinnmaximierung. Diese Perspektive, ob man sie teilt oder nicht, ist ein notwendiger Gegenpol zur oft naiven Technologiegläubigkeit.

Ein anderes Wissen ist möglich – aber wer will es?

Die Lösung liegt nicht in einem naiven „Zurück zur Natur“ oder in der Dämonisierung von KI. Es gibt vielversprechende Ansätze für einen anderen Umgang mit der Technologie. So wird in Göttingen das Projekt „LibraryAI“ entwickelt, das Methoden der Retrieval-Augmented Generation (RAG) nutzt. Das System verbindet das Sprachmodell mit dem Bibliothekskatalog, digitalen Repositorien und den Service-APIs der Universitätsbibliothek. Dadurch werden Antworten nicht nur aus dem allgemeinen Internet generiert, sondern aus geprüften, wissenschaftlichen Quellen. Die Antworten sind nachvollziehbar, belegbar und – das ist der entscheidende Punkt – sie stammen aus der qualitativ hochwertigen, verifizierten Welt des wissenschaftlichen Diskurses, nicht aus dem digitalen Rauschen.

Auch Tools wie Consensus, die auf über 220 Millionen wissenschaftlichen Artikeln basieren und mit dem gesamten wissenschaftlichen Korpus arbeiten, zeigen einen alternativen Weg. Sie sind ein Gegenentwurf zur vorherrschenden Logik der großen kommerziellen KI-Modelle. Diese Projekte sind jedoch keine Selbstläufer. Sie benötigen finanzielle Unterstützung, institutionellen Rückhalt und das Bewusstsein in der Gesellschaft, dass sie wichtig sind.

Eine weitere Gefahr besteht, wie Studien der Freien Universität Berlin zeigen, darin, dass KI-generierte Influencer bei politisch polarisierenden Themen sogar wirksamer sein können als menschliche Influencer, wenn es darum geht, Fehlinformationen zu korrigieren. Dieser paradoxe Effekt – dass die Menschen der Maschine mehr vertrauen als dem Menschen – birgt Chancen für die Richtigstellung von Falschinformationen, aber auch Risiken für Manipulation und Propaganda.

Fazit: Die Verantwortung des Einzelnen

Das eingangs erwähnte Video endet mit der rhetorischen Frage: „Was glaubst du, was ein amerikanischer Konzern tut? Korrekte Infos liefern, weil man ethisch sein will, oder Infos liefern, die Aufmerksamkeit erregen, weil man Geld machen will?“ Die Antwort scheint offensichtlich. Die Tragik ist, dass dieses Wissen uns nicht schützt. Im Gegenteil: Wir sind Teil des Systems, das diese Maschinen füttert.

Wir sind es, die mit unseren Klicks, unseren Fragen und unserer unkritischen Nutzung den Markt für diese Form der Wissensproduktion am Leben erhalten. Jedes Mal, wenn wir die Antwort eines KI-Modells ungeprüft übernehmen, verstärken wir ein System, das darauf ausgelegt ist, uns zu gefallen, nicht zu informieren. Der Autor appelliert an den Verstand und die Geduld seiner Zuschauer – eine Eigenschaft, die in der Ära der sofortigen Antworten zur Seltenheit geworden ist. Vielleicht ist genau das die eigentliche Herausforderung: nicht die Technologie selbst, sondern unsere Fähigkeit, kritisch zu bleiben, Quellen zu prüfen, Primärliteratur zu lesen und uns die Mühe zu machen.

Bis dahin gilt: Wenn Sie die KI das nächste Mal um eine wissenschaftliche Einschätzung bitten, denken Sie an den Autor aus San Diego und seine Warnung. Denken Sie daran, dass Sie sich in einem Raum befinden, der mit „Gammelfleisch“ gefüllt ist, und dass es an Ihnen liegt, den Unterschied zu schmecken.