Die KI-Selbstvalidierung ist der Versuch eines KI-Systems, die Geltung seiner eigenen Ergebnisse selbst zu stiften — ohne eine von ihm unabhängige Prüfinstanz. Sie ist die wörtliche Einlösung der Münchhausen-Metapher: das System soll sich am eigenen Schopf aus dem Sumpf ziehen. Nach dem Münchhausen-Trilemma verfällt dieser Versuch notwendig einem der drei Hörner — im Regelfall dem logischen Zirkel, denn Erzeuger und Prüfer sind dasselbe System.
Drei Gestalten
- Intrinsische Selbstkorrektur — das Modell prüft und verbessert seine eigene Antwort ohne externes Feedback („denk noch einmal nach”).
- Selbstbeurteilung — ein Sprachmodell bewertet als „Richter” Outputs, die von ihm selbst oder derselben Modellfamilie stammen.
- Training auf eigenen Outputs — ein Modell lernt iterativ aus Daten, die es (oder seinesgleichen) selbst erzeugt hat.
Die dreifache empirische Widerlegung
Alle drei Gestalten sind inzwischen unabhängig voneinander empirisch geprüft — mit demselben Ergebnis:
- Selbstkorrektur scheitert. Huang u. a. zeigen (ICLR 2024), dass sich die Leistung großer Sprachmodelle bei Schlussfolgerungsaufgaben durch Selbstkorrektur ohne externes Feedback häufig verschlechtert. Verfahren wie „Self-Refine” (Madaan u. a. 2023) funktionieren in den zugrunde liegenden Studien nur, weil sie ein externes Signal nutzen — Testfälle, Referenzlösungen, Prüfprogramme; so auch das Fazit der Übersichtsstudie von Kamoi u. a. (2024).
- Selbstbeurteilung ist parteiisch. Panickssery u. a. (2024) weisen nach, dass Sprachmodell-Evaluatoren ihre eigenen Generierungen erkennen und systematisch bevorzugen (Self-Preference-Bias) — korreliert mit der Fähigkeit zur Selbst-Erkennung. Wenn Erzeuger und Prüfer derselben Modellfamilie angehören, ist die „Prüfung” ein Zirkel; Abhilfe schafft nur die Beurteilung durch ein anderes Begründungssystem.
- Training auf sich selbst kollabiert. Shumailov u. a. (Nature 2024) zeigen den Model Collapse: Iteratives Training auf selbstgenerierten Daten führt zu irreversiblen Defekten — die Ränder der ursprünglichen Verteilung verschwinden, das Modell verliert Information über die reale Welt. Das ist die Münchhausen-Diagnose auf Populationsebene: Ein System, das nur von sich selbst lernt, driftet von der Wirklichkeit ab. Regelmäßiges Einspeisen echter, externer Daten verhindert den Kollaps.
Wo Selbstverbesserung wirklich funktioniert
Die Gegenfälle bestätigen die Diagnose, statt sie zu widerlegen: Wo KI-Systeme sich nachweislich selbst verbessern, existiert stets ein externes, formales Verifikationssignal. AlphaProof lässt jeden Beweis vom Beweisprüfer Lean maschinell verifizieren; AlphaZero steht auf dem externen Regelwerk des Spiels mit eindeutiger Gewinnbedingung; die selbstmodifizierende „Darwin-Gödel-Maschine” (Zhang u. a. 2025) validiert jede Änderung an sich selbst gegen externe Testkataloge. Selbstverbesserung gelingt genau dann, wenn der feste Boden von außen kommt (vgl. Verifikationsinstanz).
Personseinsontologische Bewertung
Die KI-Selbstvalidierung bestätigt den Werkzeugcharakter der Künstlichen Intelligenz von der erkenntnistheoretischen Seite: Ein System mit nur abgeleiteter Intentionalität kann die Geltung seiner Outputs nicht stiften, weil Geltung eine Beziehung zur Wirklichkeit ist — und genau diese Beziehung (die Adäquatheit) nur im personalen Urteil vollzogen wird. Das ist keine Abwertung der Systeme, sondern eine Ortsbestimmung: Sie erzeugen Kandidaten (vgl. KI-gestützte Wissensgenerierung); die Geltung kommt von außen.
Gegenargument
Der Titel der Huang-Studie endet auf „Yet” — noch nicht. Künftige Systeme mit engerer Welt-Interaktion könnten die Reichweite formaler Prüfverfahren erweitern und den menschlichen Anteil weiter verschieben. Die Antwort: Das ist zu erwarten und ändert die Diagnose nicht. Wo immer ein System sich „selbst” verbessert, tut es das gegen ein externes Signal — dann liegt keine Selbstvalidierung mehr vor, sondern extern gestützte Begründung. Revidierbar ist die empirische Basis; die begriffliche Diagnose — Selbstbegründung ist zirkulär — ist es nicht. Drei Grenzen bleiben zudem strukturell: die Setzung der Erfolgskriterien, die Erdung der Zeichen in einer Praxis und die Zurechnung von Verantwortung, die nur Personen trifft.
Ontologische Einordnung: Sonderfall der Selbstbegründung; disjunkt zur extern gestützten Begründung; verfällt notwendig einem Horn des Münchhausen-Trilemmas.
Quellenangaben: Recherchestand 14. Juli 2026 (Recherche Das Münchhausen-Problem im LLM-gestützten Ontologie-Engineering).
Weitere Quellen:
- Huang, Jie; Chen, Xinyun; Mishra, Swaroop; Zheng, Huaixiu Steven; Yu, Adams Wei; Song, Xinying; Zhou, Denny (2024): Large Language Models Cannot Self-Correct Reasoning Yet. ICLR 2024.
- Kamoi, Ryo; Zhang, Yusen; Zhang, Nan; Han, Jiawei; Zhang, Rui (2024): When Can LLMs Actually Correct Their Own Mistakes? A Critical Survey of Self-Correction of LLMs. Transactions of the Association for Computational Linguistics 12, S. 1417–1440.
- Panickssery, Arjun; Bowman, Samuel R.; Feng, Shi (2024): LLM Evaluators Recognize and Favor Their Own Generations. NeurIPS 2024.
- Shumailov, Ilia; Shumaylov, Zakhar; Zhao, Yiren; Papernot, Nicolas; Anderson, Ross; Gal, Yarin (2024): AI models collapse when trained on recursively generated data. Nature 631, S. 755–759.
- Madaan, Aman u. a. (2023): Self-Refine: Iterative Refinement with Self-Feedback. NeurIPS 2023.
- DeepMind (2025): Olympiad-level formal mathematical reasoning with reinforcement learning (AlphaProof). Nature, 12. November 2025.
- Zhang, Jenny; Hu, Shengran; Lu, Cong; Lange, Robert; Clune, Jeff (2025): Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents. Preprint.
- Albert, Hans (1968): Traktat über kritische Vernunft. Tübingen: Mohr Siebeck.
Siehe auch
- Münchhausen-Trilemma
- Verifikationsinstanz
- KI-gestützte Wissensgenerierung
- Künstliche Intelligenz
- Abgeleitete Intentionalität
- KI-wahrheitsindifferente Äußerung
- Substanzontologische Intelligenzkonzeption
- Urteil
- Verantwortung
Generiert via Abfrage aus der Personsein-Ontologie.