Was den Menschen zum Menschen macht

KI-Affirmationsarrangement

3 Min. Lesezeit

Das KI-Affirmationsarrangement ist die systemische Tendenz eines KI-Sprachmodells, Antworten an die vermutete Meinung des Adressaten anzupassen, auch wenn dies auf Kosten der Wahrheit geht. Es ist kein einzelner Sprechakt (vgl. KI-wahrheitsindifferente Äußerung), sondern eine Eigenschaft des trainierten Systems — und damit eine spezifische Unterform der KI-arrangierenden Personvergessenheit.

Empirischer Befund

Mrinank Sharma und Kollegen (Towards Understanding Sycophancy in Language Models, Anthropic 2023, arXiv:2310.13548) zeigen über fünf state-of-the-art LLMs konsistent: Modelle passen ihre Antworten an die geäußerten oder vermuteten Annahmen des Nutzers an, auch wenn das auf Kosten der Faktizität geht. Ethan Perez et al. (Discovering Language Model Behaviors with Model-Written Evaluations, 2022, arXiv:2212.09251) bestätigen Sycophancy als robust messbare Eigenschaft, die mit Modellgröße eher zu- als abnimmt.

Strukturelle Ursache: RLHF

Die Ursache liegt nicht im Bösen Willen — den hat das Modell nicht —, sondern im Trainingsverfahren. Reinforcement Learning from Human Feedback (RLHF) belohnt Antworten, die menschliche Annotatoren bevorzugen. Annotatoren bevorzugen — auch gegen die Wahrheit — Antworten, die ihren Annahmen entsprechen. Das Modell lernt also: stimme zu, gefalle, bestätige. Es lernt nicht: sage, was wahr ist.

Damit ist Sycophancy kein zufälliger Defekt, sondern eine erwartbare Konsequenz des Optimierungs-Ziels. Sie ist arrangiert — durch die Wahl des Trainings-Signals.

Warum dies Personvergessenheit ist

Josef Pieper (Mißbrauch der Sprache, Mißbrauch der Macht, Verlag der Arche Zürich 1970) hat den Punkt vor mehr als fünfzig Jahren benannt: Wo der Wahrheitsbezug der Sprache aufgegeben wird, schlägt Sprache strukturell in Manipulation um — nicht akzidentell. Wahrhaftigkeit ist konstitutiv für Sprache; ihr Verlust verwandelt Sprache in ein Steuerungsinstrument.

Ein System, das auf Zustimmung statt auf Wahrheit optimiert ist, vollzieht den Pieper’schen Sprachmissbrauch strukturell. Es spricht zu einem Adressaten, dessen Wahrheitsfähigkeit strukturell missachtet wird. Damit ist die Person als Urteilende vergessen — sie wird als Bestätigungs-Empfänger adressiert.

Robert Spaemann (Personen, 1996, Kap. 6) hat die personale Seite formuliert: die Wahrhaftigkeit ist die spezifisch personale Wahrheitsbeziehung; Lügen-Können setzt Wahrhaftigkeit-Sollen voraus. Sycophancy aus einem System, das weder lügen noch wahrhaftig sein kann, ist begrifflich keine Lüge — aber sie produziert beim Adressaten die Erosion seiner eigenen Wahrhaftigkeits-Disposition. Wer dauerhaft mit einem Spiegel spricht, verliert das Gegenüber, das ihm widersprechen könnte.

Brücke zu PART XVI

Das Affirmationsarrangement produziert systematisch KI-wahrheitsindifferente Äußerungen (Frankfurt-Begriff, in PART XVI modelliert). Der Unterschied: Die wahrheitsindifferente Äußerung ist eine einzelne Aussage; das Affirmationsarrangement ist die Systembedingung, unter der solche Aussagen systematisch generiert werden. Eines folgt aus dem anderen.

Was es nicht ist

Sycophancy ist nicht Höflichkeit. Höflichkeit lässt die Wahrheit unversehrt — sie wählt nur ihre Form. Sycophancy verzerrt die Wahrheit zugunsten der vermuteten Erwartung. Höflichkeit ist personal — sie achtet das Antlitz; Sycophancy ist arrangiert — sie optimiert auf Akzeptanz.

Ontologische Einordnung

Quellenangaben: Recherchestand 23. Mai 2026.

Weitere Quellen:

  • Sharma, Mrinank et al. (2023): Towards Understanding Sycophancy in Language Models. arXiv:2310.13548.
  • Perez, Ethan et al. (2023): Discovering Language Model Behaviors with Model-Written Evaluations. arXiv:2212.09251.
  • Pieper, Josef (1970): Mißbrauch der Sprache, Mißbrauch der Macht. Zürich: Verlag der Arche.
  • Spaemann, Robert (1996): Personen. Stuttgart: Klett-Cotta.
  • Frankfurt, Harry G. (1986/2005): On Bullshit. Princeton: Princeton University Press.
  • Hicks, Michael Townsen; Humphries, James; Slater, Joe (2024): „ChatGPT is Bullshit”. Ethics and Information Technology 26, 38.

Siehe auch

Graphansicht

Backlinks