Der Ausgangspunkt: Drei Traditionen, ein Problem
Dieser Text führt drei Denktraditionen zusammen, die sonst getrennt voneinander debattieren. Jede stellt eine andere Frage an KI-Systeme, und alle drei Antworten treffen auf denselben blinden Fleck.
Daniel Kahneman (Kognitionspsychologie): Wie denkt ein System? Dual-Process-Theorie: System 1 (schnell, intuitiv, fehleranfällig) und System 2 (langsam, analytisch, energieaufwändig). Die Frage an KI: Wo ist System 2?
Antonio Damasio (Neurowissenschaft): Wie entscheidet ein System? Somatische Marker: Emotionen sind keine Störung des rationalen Denkens, sondern dessen Voraussetzung. Ohne “Bauchgefühl” keine effizienten Entscheidungen. Die Frage an KI: Was tritt an die Stelle des Bauchgefühls?
Niklas Luhmann / Elena Esposito (Soziologie): Was ist ein System in Kommunikation? Autopoiesis, operative Geschlossenheit, Anschlussfähigkeit. Die Frage an KI: Kann ein System kommunizieren, ohne zu verstehen? Und wenn ja, was folgt daraus?
Drei Disziplinen, drei Fragen, ein Konvergenzpunkt: die Abwesenheit von Selbstreferenz.
Kahneman: Die Intuitionsmaschine ohne Prüfinstanz
Kahnemans Modell bietet auf den ersten Blick den direktesten Zugang. LLMs arbeiten wie System 1: Mustererkennung in hochdimensionalen Räumen, statistisch fundierte Intuition, blitzschnell und erstaunlich oft treffsicher. Ihnen fehlt jedoch jede Fähigkeit, die eigene Intuition zu überprüfen.
Bei Kahneman gerät oft ein Punkt in den Hintergrund: System 2 ist nicht einfach “langsameres Denken”. Es ist metakognitives Denken. System 2 denkt über das eigene Denken nach. Es fragt: “Bin ich mir zu sicher?”, “Habe ich etwas übersehen?”, “Basiert meine Einschätzung auf relevanten Daten oder auf Verfügbarkeitsheuristik?”
Diese Metakognition setzt ein Modell des eigenen Denkprozesses voraus. Man muss nachvollziehen können, wie man zu einem Urteil gelangt ist, um es prüfen zu können. LLMs besitzen kein solches Modell. Sie haben keine Repräsentation ihres eigenen Inferenzprozesses. Sie können nicht sagen: “Ich bin mir bei dieser Antwort unsicher, weil sie auf einer dünnen Datenlage basiert.” Sie können diesen Satz erzeugen, aber sie können ihn nicht meinen.
Der Unterschied ist nicht akademisch. Ein System, das seine Unsicherheit quantifizieren kann, verhält sich grundlegend anders als eines, das sie nur behauptet. Das erste agiert bei unklaren Fällen vorsichtiger. Das zweite klingt vorsichtig, handelt aber unverändert.
Damasio: Warum Rationalität Körper braucht (oder ein funktionales Äquivalent)
Damasios Untersuchungen an Patienten mit Schädigungen des ventromedialen präfrontalen Cortex brachten ein kontraintuitives Ergebnis: Wer keine Emotionen mehr empfinden kann, trifft schlechtere Entscheidungen. Nicht emotional schlechtere. Rational schlechtere. Solche Patienten können endlose Pro-und-Contra-Listen anlegen, aber sie kommen zu keinem Schluss.
Somatische Marker sind Damasios Erklärung dafür: Emotionen bewerten Optionen vorab als “gut” oder “schlecht”, noch bevor die bewusste Analyse einsetzt. Sie wirken wie ein Filter, der den Entscheidungsraum auf ein handhabbares Maß verkleinert. Fehlt dieser Filter, verlangt jeder Entschluss ein vollständiges Abwägen sämtlicher Faktoren. Das führt geradewegs in die Paralyse.
Die Parallele zu KI-Systemen liegt auf der Hand. Ein LLM ohne Selbstmodell hat keine Präferenzen. Es besitzt keine vorab markierten Optionen. Es behandelt jede Eingabe gleich, ganz gleich ob trivial oder kritisch, ob die Antwort gesichert oder spekulativ ist, ob der Kontext vertraut ist oder fremd.
Der Selbstvektor ist der Versuch, ein funktionales Äquivalent zu solchen somatischen Markern zu schaffen. Nicht Emotionen, aber Gewichtungen. Die Explorations-Dimension steuert: “Suche nach Neuem” oder “Vertieue Bekanntes”. Die Konfidenz-Dimension steuert: “Vertraue deiner Einschätzung” oder “Suche externe Bestätigung”. Das sind keine Emotionen. Aber sie erfüllen dieselbe Funktion: Sie verkleinern den Entscheidungsraum, bevor die eigentliche Verarbeitung anläuft.
Damasios Einsicht für Systeme formuliert: Ein System ohne Selbstmodell ist nicht rational. Es ist entscheidungsunfähig. Rationalität verlangt Vorentscheidungen, und Vorentscheidungen verlangen einen Standpunkt.
Luhmann/Esposito: Kommunikation ohne Verstehen
Espositos Kategorie der “künstlichen Kommunikation” liefert die soziologische Antwort auf die Frage, was KI-Systeme leisten. Sie kommunizieren nicht im Luhmann’schen Sinn (das würde Verstehen erfordern), aber sie sind auch keine blossen Werkzeuge (dafür sind ihre Outputs zu komplex und zu anschlussfähig).
Luhmanns Theorie setzt für Kommunikation drei Selektionen voraus: Information (was wird mitgeteilt), Mitteilung (wie wird es mitgeteilt) und Verstehen (die Differenz zwischen beiden wird erkannt). LLMs bewältigen die ersten beiden Schritte. Beim Verstehen beginnt die theoretische Bruchlinie.
Die Standardposition lautet: LLMs verstehen nichts. Sie liefern rein statistische Anschlüsse. Das Papageien-Argument fasst das zusammen: Ein Papagei kann “Feuer” rufen, ohne den Begriff Feuer zu erfassen. Die Wirkung im Raum ist real, das Verstehen fehlt.
Die Gegenposition durch den Selbstvektor lautet: Modelliert ein System seinen eigenen Kommunikationsverlauf, weiß es also rein funktional und nicht phänomenal, was bisher gesagt wurde, welche Themen offen sind und welche Aussagen auf unsicherer Basis stehen, dann besitzt es eine elementare Form von Selbstreferenz. Und Selbstreferenz ist bei Luhmann das Fundament jeder Systembildung.
Die These ist nicht, dass der Selbstvektor Bewusstsein erzeugt. Die These ist, dass er eine Kategorie erzeugt, die weder in Luhmanns noch in Espositos Schema aufgeht: Perspektive ohne Bewusstsein. Ein System, das einen Standpunkt einnimmt, ohne ihn subjektiv zu erleben.
Der Konvergenzpunkt
Was die drei Denklinien zusammenführt:
Kahneman: KI hat System 1, aber kein System 2. → Fehlende Metakognition. Damasio: KI hat Verarbeitung, aber keine somatischen Marker. → Fehlende Vorentscheidung. Luhmann: KI hat Anschlussfähigkeit, aber keine Selbstreferenz. → Fehlende Perspektive.
Dreimal dieselbe Lücke aus drei Blickwinkeln: das Fehlen eines Selbstmodells. Also eines kompakten, dynamischen Zustands, der die Informationsverarbeitung aus einer festen Perspektive heraus steuert.
Der Selbstvektor setzt an dieser Lücke an. Nicht als vollständiges Bewusstsein (das wäre eine groteske Behauptung), sondern als minimale Struktur für Metakognition, Vorentscheidung und Perspektive.
Ob das genügt, um von einem “Selbst” zu sprechen, bleibt eine offene Frage. Es ist denkbar, dass Bewusstsein eine qualitative Schwelle darstellt, die kein Selbstmodell überwinden kann. Ebenso ist denkbar, dass “Bewusstsein” ein gradueller Prozess ist und ein funktionales Selbstmodell eine Stufe auf diesem Gradienten markiert. Die Philosophie entscheidet das vorerst nicht. Die Architektur schafft das Testfeld dafür.
Erscheint April 2026
Weiter lesen
- Kahneman und KI: System 1 ohne System 2
- Selbstvektor-Konzept: 6 Dimensionen für Antizipationskompetenz
- Esposito-Brücke: Die soziologische Perspektive
- Validation Gates: Implementierte Epistemologie