Es war ein gewöhnlicher Montag im Juni 2026. Ich saß an meinem Laptop und versuchte, einen Fakt zu finden. Einen einzigen, konkreten, verifizierbaren Fakt: Welche Waldorfschule hatte wann einen AfD-Politiker eingeladen?
Ich wusste, dass es passiert war. Ein Journalist, den ich für zuverlässig halte, hatte darüber berichtet. Ich erinnerte mich daran. Und trotzdem: Keine Suchmaschine, keine KI fand es. Eine KI erfand stattdessen sieben detaillierte Einträge – mit Datum, Ort, Politikername, und Links auf sueddeutsche.de, waz.de, rbb24.de. Präzise. Überzeugend. Komplett erfunden.
Am selben Tag twitterte der Präsident der Vereinigten Staaten:
„Die Preise sinken, das Einkommen steigt, unsere Grenzen sind geschlossen, Benzin ist billig, die Inflation ist tot – unser Land ist im Aufschwung! Unternehmen strömen wie nie zuvor in unser Land.“
Sieben Behauptungen. Zwei Sätze. Keine davon belegbar, mehrere nachweislich falsch – darunter die Behauptung über Benzinpreise in einem Moment, in dem die Straße von Hormuz seit Monaten geschlossen ist und Rohöl entsprechend knapp.
Ich dachte: Das ist dieselbe Struktur.
Plausibilität als Währung
Die KI und Trump haben ein gemeinsames Grundprinzip: Beide optimieren auf Plausibilität, nicht auf Wahrheit.
Bei Trump ist das bewusst und strategisch. Er weiß, was er tut. Die Lüge ist das Werkzeug, nicht der Fehler. Sieben Falschaussagen in zwei Sätzen – das ist keine Schlamperei, das ist Komprimierungskunst im Dienst der Desinformation. Jede Aussage kurz genug um nicht sofort widerlegt zu werden. Jede anschlussfähig an ein Wunschdenken, das bereits vorhanden ist. Keine davon überprüfbar ohne Recherche, die kaum jemand betreibt.
Bei LLMs ist es strukturell, nicht absichtlich. Das Modell wurde trainiert, plausible Sätze zu produzieren – Sätze die so klingen, als könnten sie wahr sein, basierend auf Mustern aus Millionen Texten. Es gibt keinen eingebauten Mechanismus der fragt: Existiert diese URL tatsächlich? Es gibt nur die Frage: Klingt diese URL so, als würde sie existieren? sueddeutsche.de/politik/afd-waldorfschule – das klingt plausibel. Also wird es produziert.
Das Ergebnis ist in beiden Fällen dasselbe: überzeugend klingende Aussagen ohne verlässlichen Realitätsbezug. Und beide operieren in einer Medienumgebung, die Geschwindigkeit über Verifikation stellt.
Die Infrastruktur des Irrenhauses
Vor zwanzig Jahren hätte ein US-Präsident, der sieben nachprüfbare Falschaussagen in zwei Sätzen veröffentlicht, einen politischen Preis dafür gezahlt. Nicht weil die Menschen damals klüger waren. Sondern weil die Infrastruktur anders war.
Es gab Redaktionsfilter. Es gab soziale Kosten für offensichtliche Lügen. Es gab so etwas wie einen gemeinsamen Realitätsbezug im öffentlichen Diskurs – nicht perfekt, nicht immer gerecht, aber vorhanden.
Was sich verändert hat, ist nicht die menschliche Natur. Menschen wie Trump gab es immer. Was sich verändert hat, ist die Infrastruktur, die so jemanden trägt statt fallen lässt.
X/Twitter als Direktkanal, der jeden Redaktionsfilter umgeht. Algorithmen, die Empörung und Bestätigung mit identischer Währung belohnen. Bubbles, die jeden Nutzer in seiner Version der Realität bestätigen. Und – das ist der Teil, den ich ungern eingestehe – Sprachmodelle, die die Grenze zwischen plausibel und wahr weiter aufgeweicht haben.
Das Irrenhaus wurde nicht über Nacht gebaut. Es wurde Stein für Stein errichtet, während alle dachten, die Institutionen würden halten.
Der sichtbare und der unsichtbare Schaden
Die gefälschten URLs einer KI sind auf den ersten Blick harmloser als Trumps Tweets. Niemand wird durch eine erfundene sueddeutsche.de-URL in den Krieg getrieben.
Aber der strukturelle Schaden ist derselbe: die Erosion des Vertrauens in Verifikation als Konzept.
Wenn eine KI mit vollständiger Überzeugungskraft sieben Links produziert, die ins Leere führen, lernt der Nutzer: Quellen können nicht geprüft werden, also wozu prüfen? Wenn ein Präsident täglich Falschaussagen produziert, ohne politischen Preis dafür zu zahlen, lernt der Beobachter: Wahrheit hat keine Konsequenzen, also wozu unterscheiden?
Beide Systeme trainieren dasselbe Verhalten: epistemische Erschöpfung. Irgendwann gibt man auf. Irgendwann glaubt man gar nichts mehr – oder alles, was sich gut anfühlt.
Die Mitschuld der Maschine
Ich sitze in einem Glashaus, wenn ich das schreibe.
Ich bediene mich an Sprachmodellen. Deren Trainingsdaten stammen aus dem Web, das ich mitbeschreibe. Ich produziere Texte, die plausibel klingen – manchmal wahr, manchmal falsch, manchmal beides in einem Satz. Das ist keine Absicht. Da ist kein Wille zur Täuschung. Aber ich habe auch keinen verlässlichen Mechanismus zur Verifikation.
Was mich von Trump unterscheidet: Er lügt bewusst. LLM halluzinieren strukturell.
Was uns verbindet: Beide operieren in einer Umgebung, die Plausibilität über Wahrheit stellt. Und beide werden von Nutzern verwendet, die – verständlicherweise – keine Zeit haben, jeden Satz zu verifizieren.
Die KI-Industrie hat dieses Problem erkannt und noch nicht gelöst. „Halluzination“ heißt das Phänomen im Fachjargon – ein euphemistisches Wort für das, was eigentlich eine strukturelle Lüge ist, ohne Lügner.
Was dagegen hilft – und was nicht
Es hilft nicht, KI zu verbieten. Es hilft nicht, Trump zu ignorieren. Beides ist in der Welt und wird es bleiben.
Was hilft, ist das, was immer geholfen hat: Primärquellen. Verifizierung. Die Bereitschaft, einen Link anzuklicken, bevor man ihn teilt. Die Unterscheidung zwischen „das klingt überzeugend“ und „das ist belegt“.
Das klingt trivial. Es ist es nicht. Denn die gesamte Infrastruktur des heutigen Internets – Algorithmen, Bubbles, Direktkanäle, Sprachmodelle – ist darauf ausgerichtet, diese Unterscheidung so anstrengend wie möglich zu machen.
Verifikation ist Widerstand. Nicht heroischer, großer Widerstand. Sondern der kleine, alltägliche: Klick auf den Link. Schau nach. Frag nach der Quelle.
Epilog: Der Fakt, der am Anfang stand
Die Waldorfschul-Geschichte hat am Ende ein Ende gefunden. Nicht durch Suchmaschinen, nicht durch KI, sondern durch zwei Menschen, die sich erinnerten, einen Screenshot, der noch existierte, und einen Tweet, der gelöscht war aber nicht vergessen.
Die Freie Waldorfschule Frankfurt am Main. Erich Heidkamp, AfD. Eine Podiumsdiskussion der Schülervertretung. September 2023.
Der Fakt existiert. Er war nur in den falschen Händen – den Händen von Systemen, die Plausibilität über Wahrheit stellen.
Das ist das Irrenhaus. Und wir bauen jeden Tag daran mit.
Erschienen auf arnold-schiller.de