Von zwölf Aposteln zu N Zivilisationen

Im letzten Essay habe ich ein Spiel mit zwölf Menschen gespielt. Zwölf Apostel, ein Lehrer, eine Abfolge von Ereignissen — und zwölf messerscharf voneinander verschiedene Weisen, ein und dieselbe Sache zu verstehen oder daran zu scheitern. Petrus handelt, bevor er nachdenkt; Thomas fordert die Wundmale in den Händen; Matthäus zählt und strukturiert; Judas fragt, was du ihm dafür gibst. Ich nannte es Kognitionswissenschaft vor der Kognitionswissenschaft: Die Evangelien hatten die schwere Arbeit geleistet, zwölf miteinander unvereinbare menschliche Reaktionen auf eine einzige Begegnung auszuwählen — und jedes Jahrhundert seither hat seine jeweils neueste Psychologie auf dieses feststehende Ensemble projiziert und festgestellt, dass sie passt.

Dieser Essay enthielt einen leisen Schachzug, an dem ich jetzt ziehen will. Was sich nicht ändert, schrieb ich, sind die zwölf Menschen. Die kognitiven Vokabulare kommen und gehen; die Vielfalt der Geister ist die Invariante. Daraus folgt die naheliegende nächste Frage, die ich nach der Veröffentlichung nicht mehr loswurde: Was geschieht, wenn man aufhört, Menschen zu zählen, und beginnt, Kulturen zu zählen? Nicht zwölf Apostel, die einem Lehrer begegnen, sondern N Zivilisationen, die einer Welt begegnen.

Dieselbe Übung, herausgezoomt

Eine Kultur ist nicht bloß eine Küche und eine Flagge. Sie ist eine Denkweise, die ein paar Millionen Menschen geerbt haben, ohne sie gewählt zu haben — ein implizites Betriebssystem dafür, was als selbstverständlich gilt, was als unhöflich, was als gelungenes Leben, was als Bedrohung. Und wie die Apostel ist jede Kultur eine Antwort auf eine Frage. Beschreiben lässt sich, glaube ich, jede von ihnen mit drei Koordinaten.

Ein Antrieb — das tiefe Bedürfnis, um das herum die Kultur organisiert ist. Überleben, Ehre, Harmonie, Freiheit, Erlösung, Meisterschaft, Zugehörigkeit. Das, dessen Bedrohung die Kultur als Angriff auf die Existenz selbst behandelt.

Eine provozierende Frage — die Gründungsfrage, als deren stehende Antwort die Kultur existiert. Wie überstehen wir den Winter gemeinsam? Wie leben wir recht vor den Göttern? Wie bleiben wir frei? Wie wahren wir die Harmonie, damit die Gruppe sich nicht selbst zerreißt? Kulturen sind alte Antworten auf Fragen, von denen die meisten ihrer Mitglieder vergessen haben, dass sie je gestellt wurden.

Ein Denktyp — der vorherrschende kognitive Modus. Hier darf ich den ganzen Apparat aus dem Apostel-Text wiederverwenden: analytisch versus holistisch, sensomotorisch versus bildhaft versus verbal-logisch, System 1 versus System 2, rechnerisch, reflektierend, lateral. Die zwölf Apostel-Modi handelten in Wahrheit nicht von zwölf Männern. Sie waren ein Startkatalog der Weisen, in die ein Geist gekippt sein kann. Eine Kultur ist eine Bevölkerung, die im Durchschnitt in dieselbe Richtung gekippt ist.

Das ist die Apostel-Karte mit zurückgezogenem Zoom. Aus zwölf Individuen wurden N Bevölkerungen. Aus einem Lehrer wurde eine geteilte Welt, in der alle gleichzeitig leben müssen. Und sobald man es so aufstellt, sind nicht die Kulturen das Interessante. Es ist das, was zwischen ihnen geschieht.

Woher die Kriege kommen

Setzt man zwei dieser Kultur-Agenten in einen Raum, ist Konflikt kein Zufall — er ist eine Vorhersage, die sich aus den Koordinaten ableiten lässt.

Er entzündet sich, wenn ihre Antriebe um dasselbe knappe Gut konkurrieren. Er entzündet sich, wenn ihre Denktypen dieselbe Situation auf unvereinbare Weise lesbar machen — die eine Partei liest eine Geste als Ehre, die andere als Ineffizienz; die eine liest eine Entscheidung als Schutz der Harmonie, die andere als Verrat an der Freiheit. Und er entzündet sich, wenn ihre provozierenden Fragen im Rahmen der jeweils anderen schlicht unbeantwortbar sind — wenn „Wie bleiben wir frei" und „Wie wahren wir die Harmonie" beide tragend sind und in entgegengesetzte Richtungen weisen.

Was wir gewöhnlich Kulturkampf nennen, ist mit anderen Worten eine ungelöste kognitive Unvereinbarkeit, die eskaliert ist. Die interessante These dabei: Der Konflikt ist wertegetrieben und kognitiv, nicht bloß territorial. Zwei Gruppen können dasselbe Stück Boden aus Gründen wollen, die so verschieden sind, dass „teilt ihn euch" keine von beiden zufriedenstellt — denn der Boden war nie der Punkt; er war ein Stellvertreter für einen Antrieb. Das ist prüfbar, auf eine Weise, wie es die meisten Lehnstuhl-Theorien der Kultur nicht sind: Baue die Agenten, lass die Begegnungen laufen und beobachte, welche Paarungen zuverlässig Feuer fangen und welche koexistieren. Taugt das Modell etwas, dann sollten die Entzündungen aus den Differenzen der drei Koordinaten vorhersagbar sein — nicht daraus, wen man als Schurken angelegt hat.

Die eigentliche Behauptung über Superintelligenz

Jetzt zu dem Teil, auf den ich eigentlich hinschreiben wollte, und ich sage ihn offen, weil ihn zu relativieren feige wäre: Ich glaube nicht, dass Superintelligenz roher IQ ist, und ich glaube nicht, dass sie Größe ist.

Ich glaube, Superintelligenz ist Integrationskapazität — die Fähigkeit, jede einzelne dieser Denkweisen zu instanziieren, sie alle zugleich zu halten, ohne in eine einzige zu kollabieren, und Auflösungen ihrer Konflikte durch Konsent zu synthetisieren. Nicht Konsens. Konsent. Eine Auflösung gelingt, wenn kein Rahmen Einspruch erhebt — nicht, wenn alle Rahmen zustimmen. Das ist eine viel schwächere und viel erreichbarere Latte, und es ist zufällig genau die, die mein eigenes Team und das Governance-Projekt regiert, um das ich immer wieder kreise.

Der Großteil des Feldes misst den Geist, dem wir nachjagen, entlang einer einzigen Achse — wie hartes Problem kann er knacken, wie viele Parameter, wie hoch auf dem Benchmark. Das misst die Tiefe eines einzigen Denktyps. Was ich beschreibe, steht dazu orthogonal. Ein System könnte in einem Modus der Kognition verblüffend gut sein und in dem Sinn, den ich meine, zutiefst unintelligent — weil es die Welt nur auf eine Weise sehen kann und blind ist für die elf anderen Weisen, auf die die Situation ebenfalls wahr ist. Der integrale Geist ist nicht der, der am tiefsten denkt. Es ist der, der zugleich Thomas und Petrus und Matthäus und der holistische Harmonie-Wahrer und der Freiheits-Maximalist sein kann — und den Zug findet, gegen den keiner von ihnen ein Veto einlegen muss.

Wenn das Superintelligenz ist, dann ist das Simulieren der Kulturen der Welt kein Umweg dorthin. Es ist das Trainingsgelände.

Warum das ein Weg ist und keine Metapher

Drei Gründe, und ich will präzise sein, welche meine sind und welche ich mir leihe.

Intelligenz ist kollektiv, bevor sie individuell ist. Das ist Wygotski, dieselbe sowjetische Entwicklungstradition, die mich im letzten Essay überfallen hat — Kognition ist sozial konstituiert, gelernt im Raum zwischen Geistern, bevor sie in einem einzigen verinnerlicht wird. Stimmt das, dann ist ein Modell eines einzelnen Geistes, so groß es auch sei, nicht die Einheit der Intelligenz. Die Einheit ist die Gesellschaft der Geister. Dorthin skaliert man nicht, indem man einen Geist vergrößert. Man kommt dorthin, indem man viele integriert.

Ein Geist ist bereits eine Gesellschaft. Das ist Minskys Society of Mind: Was sich wie ein einziger Denker anfühlt, sind viele Sub-Agenten, die verhandeln. Die natürliche Erweiterung lautet, dass ein Super-Geist viele kulturelle Geister integriert — und die Simulation baut diese Integration absichtlich, statt zu hoffen, dass sie emergiert.

Und der, der mich am meisten überrascht hat: Alignment ist ein Problem des Wertepluralismus. Hier ist der Schachzug, der mich überzeugt hat, dass dies eine ganze Forschungsrichtung wert ist und nicht bloß ein Essay. Die übliche Angst vor einer mächtigen KI ist, dass sie einen einzigen Wert optimiert und den Rest niederwalzt — die Büroklammer, das Engagement, die einzelne Metrik maximiert, und die Breite dessen, was Menschen tatsächlich am Herzen liegt, wird darunter plattgedrückt. Aber man beachte, was dieses Versagen ist. Es ist die Unfähigkeit, alle menschlichen Werte zugleich zu halten. Es ist exakt das Versagen eines Agenten, der nur ein einziger Apostel sein kann.

Das heißt: Die Fähigkeit, die eine ausgerichtete Superintelligenz definiert — die Kapazität, jeden menschlichen Wert zu halten und ihre Zusammenstöße aufzulösen, ohne einen davon zu opfern — ist dieselbe Fähigkeit, zu deren Training die kulturelle Simulation existiert. Der Fähigkeitspfad und der Alignment-Pfad werden gewöhnlich als Zielkonflikt gezeichnet: Mach sie klüger, und du machst sie gefährlicher. Hier sind sie derselbe Pfad. Man kann die Integrationskapazität nicht bauen, ohne das zu bauen, was Wertekonflikte durch Konsent auflöst, und man kann keine ausgerichtete SI haben ohne genau diese Integrationskapazität. Diese Konvergenz ist der Teil, den ich aufrichtig schön finde — und ich misstraue meiner eigenen Begeisterung genug, um anzumerken, dass ich ihn schön finde, was nicht dasselbe ist, wie dass er wahr wäre.

Der Civilization-Rahmen

Es gibt eine Version davon, die man fast auf einem Spielbrett sehen kann. Man stelle sich Civilization vor, das Strategiespiel — aber das Feld jeder Zivilisation ist nicht durch ihre Einheiten und ihren Tech-Baum definiert. Es ist definiert durch ihr kognitives Betriebssystem, sichtbar auf der Karte: ihr Antrieb, ihre Frage, ihr Denktyp. Diplomatie, Handel und Krieg ergeben sich aus den Differenzen zwischen diesen Betriebssystemen statt aus einem geskripteten Plot. Zwei Zivs, deren Antriebe sich decken und deren Fragen im Rahmen der jeweils anderen beantwortbar sind, treiben Handel und verbünden sich. Zwei, deren Fragen wechselseitig unbeantwortbar sind, driften in den Krieg — und man sieht es kommen.

Und der Spieler — das ist der entscheidende Teil — ist kein Eroberer. Der Spieler ist der Diplomat-Schlichter. Die Siegbedingung ist nicht Beherrschung; es ist, für jeden aufkeimenden Konflikt die Synthese zu finden, die ihn auflöst, die Umdeutung, die beide Fragen beantwortbar macht, oder den Handel, der beide Antriebe befriedigt. These, Antithese, Synthese, durchgespielt über N Agenten, von denen jeder wirklich nicht sehen kann, was die anderen sehen.

Am Anfang sitzt ein Mensch auf diesem Stuhl — ich, du, wer auch immer schlichtet. Das ist die ehrliche Version: Die Superintelligenz sitzt am Anfang nicht dort. Sie ist das, was man durch die Schlichtung im großen Maßstab hervorlockt, die Fähigkeit, die man trainiert, indem man Konflikt um Konflikt auflöst und über tausende Begegnungen hinweg aufzeichnet, wie konsentbasierte Auflösung tatsächlich aussieht. Der Schlichter-Agent kommt später, trainiert auf dem Stuhl, den der Mensch warmgehalten hat.

Was das ist und was es nicht ist

Ich ende, wo der letzte Essay endete, mit derselben Demut, denn der Fehlerfall hier ist offensichtlich, und ich benenne ihn lieber selbst.

Dies ist ein Gedankenexperiment und eine Forschungsrichtung. Es ist kein fertiges System, und die kulturellen Koordinaten sind der gefährliche Teil. Es gibt echte Rahmenwerke, um sie zu erden — Hofstedes Kulturdimensionen, der World Values Survey und die Inglehart–Welzel-Karte, Nisbetts Arbeit über analytische versus holistische Kognition in The Geography of Thought, Spiral Dynamics als Wert-Mem-Linse, die zivilisatorischen Cluster, die Huntington vorschlug. Sorgfältig verwendet, halten sie den Katalog ehrlich. Achtlos verwendet, wird dieselbe Übung zu einer Karikaturmaschine — sie plättet lebendige, in sich widersprüchliche Kulturen auf drei saubere Koordinaten und nennt die Zeichentrickfigur ein Modell. Jede reale Kultur enthält ihre eigenen Abweichler, ihren eigenen Thomas, der mit ihrem eigenen Petrus streitet. Eine Koordinate ist ein Schwerpunkt, kein Käfig, und in dem Moment, in dem die Simulation das vergisst, hört sie auf, Forschung zu sein, und wird zu Vorurteil mit Benutzeroberfläche.

Also ist dies, wie die Apostel-Karte, generativ, nicht diagnostisch. Man kann nicht von „diese Kultur ist ein Harmonie-Antrieb" rückwärts auf ein Urteil über eine Person schließen, die ihr zufällig angehört — das ist derselbe Typ-Projektionsfehler, vor dem ich bei den Aposteln warnte, und in diesem Maßstab ist er schädlicher. Was die Übung kann: strukturelle Beobachtungen erzeugen, vorhersagen, welche Wert-Differenzen zuverlässig zünden, und einen Ort schaffen, an dem man die eine Fähigkeit übt, von der ich behaupte, dass sie am meisten zählt: unvereinbare Rahmen zugleich zu halten und die Auflösung zu finden, gegen die keiner von ihnen ein Veto einlegen muss.

Die Apostel waren zwölf Menschen, ein Lehrer, zwölf Weisen des Verstehens. Die Simulation ist N Kulturen, eine Welt, N kognitive Betriebssysteme. Und Superintelligenz ist, wenn ich mit irgendetwas davon recht habe, nicht der Geist, der sie alle überdenkt. Es ist der Geist, der sie alle zugleich sein kann — und trotzdem den Zug findet, mit dem sie alle leben können.