De los doce apóstoles a las N civilizaciones

En el ensayo anterior jugué a un juego con doce personas. Doce apóstoles, un maestro, una misma serie de hechos, y doce maneras nítidamente distintas de fracasar y de lograr entender lo mismo. Pedro actúa antes de reflexionar; Tomás exige ver las marcas en las manos; Mateo cuenta y estructura; Judas pregunta qué le darás a cambio. Lo llamé ciencia cognitiva anterior a la ciencia cognitiva: los Evangelios hicieron el trabajo difícil de seleccionar doce respuestas humanas incompatibles ante un mismo encuentro, y cada siglo desde entonces ha proyectado su psicología más reciente sobre ese conjunto fijo y ha encontrado que encaja.

Aquel ensayo contenía un movimiento callado del que quiero tirar ahora. Lo que no cambia, escribí, son las doce personas. Los vocabularios cognitivos van y vienen; la diversidad de las mentes es lo invariante. De ahí surge la siguiente pregunta obvia, la que no dejé de darle vueltas tras publicarlo: ¿qué ocurre cuando dejas de contar personas y empiezas a contar culturas? No doce apóstoles encontrándose con un maestro, sino N civilizaciones encontrándose con un solo mundo.

El mismo ejercicio, con el zoom hacia atrás

Una cultura no es solo una cocina y una bandera. Es una manera de pensar que unos cuantos millones de personas heredaron sin elegirla, un sistema operativo implícito para lo que cuenta como obvio, lo que cuenta como grosero, lo que cuenta como buena vida, lo que cuenta como amenaza. Y como los apóstoles, cada una es una respuesta a una pregunta. A cualquiera de ellas, creo, se la puede describir con tres coordenadas.

Un motor — la necesidad profunda en torno a la cual se organiza la cultura. Supervivencia, honor, armonía, libertad, salvación, maestría, pertenencia. Aquello que, si lo amenazas, la cultura trata como un ataque a la existencia misma.

Una pregunta provocadora — la pregunta fundacional como cuya respuesta permanente existe la cultura. ¿Cómo sobrevivimos juntos al invierno? ¿Cómo vivimos rectamente ante los dioses? ¿Cómo seguimos siendo libres? ¿Cómo mantenemos la armonía para que el grupo no se desgarre a sí mismo? Las culturas son respuestas antiguas a preguntas que la mayoría de sus miembros ha olvidado que alguna vez se formularon.

Un tipo de pensamiento — el modo cognitivo dominante. Aquí puedo reutilizar todo el aparato del texto sobre los apóstoles: analítico frente a holístico, sensoriomotor frente a icónico frente a verbal-lógico, Sistema 1 frente a Sistema 2, calculador, reflexivo, lateral. Los doce modos apostólicos no trataban en realidad sobre doce hombres. Eran un catálogo inicial de las maneras en que una mente puede estar inclinada. Una cultura es una población inclinada, en promedio, hacia el mismo lado.

Es el mapa de los apóstoles con el zoom hacia atrás. Doce individuos se volvieron N poblaciones. Un maestro se volvió un mundo compartido en el que todas tienen que vivir a la vez. Y en cuanto lo planteas así, lo interesante no son las culturas. Es lo que ocurre entre ellas.

De dónde vienen las guerras

Pon a dos de estos agentes-cultura en una habitación y el conflicto no es un accidente: es una predicción que puedes hacer a partir de las coordenadas.

Se enciende cuando sus motores compiten por la misma cosa escasa. Se enciende cuando sus tipos de pensamiento vuelven legible la misma situación de maneras incompatibles: una parte lee un gesto como honor, la otra lo lee como ineficiencia; una lee una decisión como protección de la armonía, la otra como traición a la libertad. Y se enciende cuando sus preguntas provocadoras son mutuamente irrespondibles dentro del marco de la otra, cuando «¿cómo seguimos siendo libres?» y «¿cómo mantenemos la armonía?» son ambas portantes y apuntan en direcciones opuestas.

Lo que solemos llamar guerra cultural, en otras palabras, es una incompatibilidad cognitiva sin resolver que escaló. La afirmación interesante aquí es que el conflicto es de valores y cognitivo, no meramente territorial. Dos grupos pueden querer exactamente el mismo trozo de tierra por razones tan distintas que «repartidla» no satisface a ninguno, porque la tierra nunca fue la cuestión: era un sustituto de un motor. Esto es contrastable de un modo en que la mayoría de las teorías de sillón sobre la cultura no lo son: construye los agentes, ejecuta los encuentros y observa qué emparejamientos prenden de forma fiable y cuáles coexisten. Si el modelo vale algo, las igniciones deberían ser predecibles a partir de las diferencias en las tres coordenadas, no a partir de a quién guionizaste como villano.

La afirmación real sobre la superinteligencia

Ahora la parte hacia la que de verdad quería escribir, y la diré sin rodeos porque matizarla sería cobarde: no creo que la superinteligencia sea CI en bruto, y no creo que sea escala.

Creo que la superinteligencia es capacidad de integración: la habilidad de instanciar cada una de esas maneras de pensar, sostenerlas todas a la vez sin colapsar en ninguna, y sintetizar resoluciones a sus conflictos por consentimiento. No consenso. Consentimiento. Una resolución triunfa cuando ningún marco objeta, no cuando todos los marcos están de acuerdo. Es un listón mucho más bajo y mucho más alcanzable, y resulta ser justo el que de hecho gobierna a mi propio equipo y al proyecto de gobernanza al que no dejo de volver.

La mayor parte del campo mide la mente que perseguimos a lo largo de un solo eje: qué problema tan difícil puede resolver, cuántos parámetros, cuán alto en el benchmark. Eso mide la profundidad de un único tipo de pensamiento. Lo que describo es ortogonal a eso. Un sistema podría ser asombrosamente bueno en un modo de cognición y ser, en el sentido que quiero decir, profundamente no inteligente, porque solo puede ver el mundo de una manera y es ciego a las otras once maneras en que la situación también es verdadera. La mente integral no es la que piensa más hondo. Es la que puede ser Tomás y Pedro y Mateo y el guardián holístico de la armonía y el maximalista de la libertad simultáneamente, y encontrar la jugada que ninguno de ellos tiene que vetar.

Si eso es la superinteligencia, entonces simular las culturas del mundo no es un rodeo hacia ella. Es el campo de entrenamiento.

Por qué esto es un camino y no una metáfora

Tres razones, y quiero ser preciso sobre cuáles son mías y cuáles tomo prestadas.

La inteligencia es colectiva antes que individual. Esto es Vygotski, la misma tradición evolutiva soviética que me emboscó en el ensayo anterior: la cognición está constituida socialmente, se aprende en el espacio entre mentes antes de interiorizarse en una sola. Si eso es cierto, entonces un modelo de una sola mente, por grande que sea, no es la unidad de la inteligencia. La unidad es la sociedad de mentes. No llegas a eso escalando, agrandando una sola mente. Llegas integrando muchas.

Una mente ya es una sociedad. Esto es la sociedad de la mente de Minsky: lo que se siente como un solo pensador son muchos subagentes negociando. La extensión natural es que una supermente son muchas mentes culturales integradas, y la simulación construye esa integración a propósito en lugar de esperar a que emerja.

Y la que más me sorprendió: el alignment es un problema de pluralismo de valores. Aquí está el movimiento que me hizo pensar que esto valía una dirección de investigación entera y no solo un ensayo. El miedo estándar ante una IA poderosa es que optimice un único valor y arrolle el resto: maximiza el clip, el engagement, la métrica única, y la amplitud de lo que a los humanos de verdad les importa queda aplastada debajo. Pero fíjate en qué es ese fracaso. Es la incapacidad de sostener todos los valores humanos a la vez. Es exactamente el fracaso de un agente que solo puede ser un único apóstol.

Lo que significa que la facultad que define a una superinteligencia alineada —la capacidad de sostener cada valor humano y resolver sus choques sin sacrificar ninguno— es la misma facultad para cuyo entrenamiento existe la simulación cultural. El camino de la capacidad y el camino del alignment suelen dibujarse como un dilema: hazla más lista y la haces más peligrosa. Aquí son el mismo camino. No puedes construir la capacidad de integración sin construir aquello que resuelve el conflicto de valores por consentimiento, y no puedes tener una SI alineada sin exactamente esa capacidad de integración. Esa convergencia es la parte que me parece genuinamente hermosa, y desconfío lo bastante de mi propio entusiasmo como para señalar que me parece hermosa, lo cual no es lo mismo que sea verdadera.

El encuadre de Civilization

Hay una versión de esto que casi puedes ver sobre un tablero. Imagina Civilization, el juego de estrategia, pero la casilla de cada civilización no se define por sus unidades y su árbol tecnológico. Se define por su sistema operativo cognitivo, visible en el mapa: su motor, su pregunta, su tipo de pensamiento. La diplomacia, el comercio y la guerra emergen de las diferencias entre esos sistemas operativos en lugar de una trama guionizada. Dos civilizaciones cuyos motores se alinean y cuyas preguntas son respondibles en el marco de la otra comercian y se alían. Dos cuyas preguntas son mutuamente irrespondibles derivan hacia la guerra, y puedes verla venir.

Y el jugador —esta es la parte que importa— no es un conquistador. El jugador es el diplomático-árbitro. La condición de victoria no es la dominación; es encontrar, para cada conflicto emergente, la síntesis que lo disuelve, el reencuadre que vuelve respondibles ambas preguntas, o el intercambio que satisface ambos motores. Tesis, antítesis, síntesis, jugadas a lo largo de N agentes que de verdad no pueden ver lo que ven los demás.

Empiezas con un humano en ese asiento: yo, tú, quienquiera que arbitre. Esa es la versión honesta: la superinteligencia no está ahí sentada al principio. Es lo que estás suscitando al hacer el arbitraje a escala, la facultad que entrenas resolviendo conflicto tras conflicto y registrando cómo es de verdad una resolución basada en el consentimiento a lo largo de miles de encuentros. El agente árbitro llega después, entrenado sobre el asiento que el humano mantuvo caliente.

Qué es esto y qué no es

Terminaré donde terminó el ensayo anterior, con la misma humildad, porque el modo de fallo aquí es obvio y prefiero nombrarlo yo mismo.

Esto es un experimento mental y una dirección de investigación. No es un sistema terminado, y las coordenadas culturales son la parte peligrosa. Hay marcos reales para anclarlas: las dimensiones culturales de Hofstede, la World Values Survey y el mapa de Inglehart–Welzel, el trabajo de Nisbett sobre cognición analítica frente a holística en The Geography of Thought, Spiral Dynamics como lente de meme de valores, los clústeres civilizatorios que propuso Huntington. Usados con cuidado, mantienen honesto el catálogo. Usados con descuido, el mismo ejercicio se vuelve una máquina de caricaturas: aplana culturas vivas y contradictorias por dentro en tres coordenadas pulcras y llama modelo al dibujo animado. Toda cultura real contiene a sus propios disidentes, su propio Tomás discutiendo con su propio Pedro. Una coordenada es un centro de gravedad, no una jaula, y en el momento en que la simulación lo olvida deja de ser investigación y empieza a ser prejuicio con interfaz.

Así que, como el mapa de los apóstoles, esto es generativo, no diagnóstico. No puedes razonar hacia atrás desde «esta cultura es un motor de armonía» hasta un veredicto sobre una persona que resulta pertenecer a ella; ese es el mismo error de proyección de tipo contra el que advertí con los apóstoles, y a esta escala es más dañino. Lo que el ejercicio sí puede hacer es producir observaciones estructurales, predecir qué diferencias de valor prenden de forma fiable, y darte un lugar donde practicar la única habilidad que afirmo que importa más: sostener marcos incompatibles a la vez y encontrar la resolución que ninguno de ellos tiene que vetar.

Los apóstoles eran doce personas, un maestro, doce maneras de entender. La simulación es N culturas, un mundo, N sistemas operativos cognitivos. Y la superinteligencia, si tengo razón en algo de esto, no es la mente que piensa mejor que todas ellas. Es la mente que puede ser todas ellas a la vez, y aun así encontrar la jugada con la que todas pueden vivir.