От двенадцати апостолов к N цивилизациям

В прошлом эссе я сыграл в игру с двенадцатью людьми. Двенадцать апостолов, один учитель, один и тот же ряд событий — и двенадцать резко различных способов понять одно и то же или не суметь его понять. Пётр действует прежде, чем подумает; Фома требует увидеть раны на руках; Матфей считает и упорядочивает; Иуда спрашивает, что ты ему за это дашь. Я назвал это когнитивной наукой до когнитивной науки: Евангелия проделали тяжёлую работу, отобрав двенадцать несовместимых человеческих реакций на одну встречу, и каждое столетие с тех пор проецировало на этот неизменный набор свою новейшую психологию — и находило, что он подходит.

В том эссе был тихий ход, за который я хочу теперь потянуть. То, что не меняется, писал я, — это двенадцать человек. Когнитивные словари приходят и уходят; неизменно — разнообразие умов. Отсюда напрашивается следующий очевидный вопрос, который я не мог перестать прокручивать после публикации: что происходит, когда ты перестаёшь считать людей и начинаешь считать культуры? Не двенадцать апостолов, встретивших одного учителя, а N цивилизаций, встретивших один мир.

То же упражнение, отдалённое

Культура — это не просто кухня и флаг. Это способ мышления, который несколько миллионов человек унаследовали, не выбирая его, — неявная операционная система того, что считается само собой разумеющимся, что грубым, что хорошей жизнью, что угрозой. И, как и апостол, каждая из них есть ответ на вопрос. Любую из них, мне кажется, можно описать тремя координатами.

Движущая сила — глубинная потребность, вокруг которой организована культура. Выживание, честь, гармония, свобода, спасение, мастерство, принадлежность. То, угроза чему культура воспринимает как нападение на само существование.

Провоцирующий вопрос — учредительный вопрос, постоянным ответом на который культура существует. Как нам вместе пережить зиму? Как жить праведно перед богами? Как остаться свободными? Как сохранить гармонию, чтобы группа не разорвала сама себя? Культуры — это старые ответы на вопросы, о которых большинство их членов забыло, что они вообще задавались.

Тип мышления — преобладающий когнитивный режим. Здесь я могу заново использовать весь аппарат из текста про апостолов: аналитическое против холистического, сенсомоторное против образного против вербально-логического, Система 1 против Системы 2, расчётливое, рефлексивное, латеральное. Двенадцать апостольских режимов на самом деле были не про двенадцать мужчин. Они были стартовым набором тех способов, в которые может быть наклонён ум. Культура — это население, наклонённое в среднем в одну и ту же сторону.

Это карта апостолов с отъехавшим зумом. Двенадцать индивидов стали N населениями. Один учитель стал одним общим миром, в котором всем приходится жить одновременно. И как только ты выстраиваешь это так, интересны не культуры. Интересно то, что происходит между ними.

Откуда берутся войны

Помести двух таких культур-агентов в одну комнату — и конфликт не случайность, а предсказание, которое можно сделать из координат.

Он вспыхивает, когда их движущие силы конкурируют за одно и то же дефицитное благо. Он вспыхивает, когда их типы мышления делают одну и ту же ситуацию читаемой несовместимыми способами — одна сторона читает жест как честь, другая как неэффективность; одна читает решение как защиту гармонии, другая как предательство свободы. И он вспыхивает, когда их провоцирующие вопросы взаимно неотвечаемы внутри рамки друг друга — когда «как остаться свободными» и «как сохранить гармонию» оба несущие и направлены в противоположные стороны.

То, что мы обычно называем культурной войной, иными словами, — это неразрешённая когнитивная несовместимость, которая разрослась. Интересное утверждение здесь в том, что конфликт ценностно-движим и когнитивен, а не просто территориален. Две группы могут хотеть один и тот же клочок земли по причинам столь разным, что «поделите его» не устроит ни одну, потому что земля никогда и не была сутью — она была заместителем движущей силы. Это проверяемо так, как не проверяемы большинство кабинетных теорий культуры: построй агентов, прогони встречи и смотри, какие пары надёжно загораются, а какие сосуществуют. Если модель чего-то стоит, возгорания должны предсказываться из разностей трёх координат, а не из того, кого ты прописал злодеем.

Собственно утверждение о сверхинтеллекте

Теперь к той части, к которой я на самом деле и писал, и скажу её прямо, потому что смягчать её было бы трусостью: я не думаю, что сверхинтеллект — это сырой IQ, и не думаю, что это масштаб.

Я думаю, что сверхинтеллект — это способность к интеграции: умение инстанцировать каждый из этих способов мышления, держать их все разом, не сваливаясь ни в один, и синтезировать разрешения их конфликтов по согласию. Не консенсус. Согласие. Разрешение удаётся, когда ни одна рамка не возражает, а не когда все рамки соглашаются. Это куда более слабая и куда более достижимая планка, и она по случайности именно та, что управляет моей собственной командой и проектом управления, к которому я всё время возвращаюсь.

Большая часть поля измеряет ум, за которым мы гонимся, по одной оси — насколько трудную задачу он расколет, сколько параметров, как высоко на бенчмарке. Это измеряет глубину одного-единственного типа мышления. То, что я описываю, ортогонально этому. Система может быть ошеломляюще хороша в одном режиме познания и быть, в том смысле, какой я имею в виду, глубоко неинтеллектуальной — потому что видит мир лишь одним способом и слепа к одиннадцати другим способам, какими ситуация тоже истинна. Интегральный ум — не тот, что мыслит глубже всех. Это тот, что может быть Фомой, и Петром, и Матфеем, и холистическим хранителем гармонии, и максималистом свободы одновременно — и найти ход, который ни одному из них не приходится ветировать.

Если сверхинтеллект — это вот это, то симуляция культур мира не отклонение от пути к нему. Это тренировочный полигон.

Почему это путь, а не метафора

Три причины, и я хочу быть точным в том, какие из них мои, а какие я заимствую.

Интеллект коллективен прежде, чем индивидуален. Это Выготский, та самая советская традиция психологии развития, что подстерегла меня в прошлом эссе, — познание социально конституировано, усваивается в пространстве между умами прежде, чем интериоризуется в одном. Если это верно, то модель одного ума, как бы велика она ни была, не есть единица интеллекта. Единица — это общество умов. К нему не приходят масштабированием, увеличивая один ум. К нему приходят, интегрируя многие.

Ум уже есть общество. Это «общество разума» Минского: то, что ощущается как один мыслящий, — это множество субагентов, ведущих переговоры. Естественное продолжение в том, что сверх-ум — это множество культурных умов, интегрированных вместе, и симуляция строит эту интеграцию намеренно, а не надеется, что она возникнет сама.

И та, что удивила меня больше всего: alignment — это проблема ценностного плюрализма. Вот ход, заставивший меня подумать, что это стоит целого исследовательского направления, а не просто эссе. Стандартный страх перед мощным ИИ в том, что он оптимизирует одну ценность и подомнёт остальные — максимизирует скрепку, вовлечённость, единственную метрику, а вся широта того, что людям на деле дорого, оказывается расплющена под этим. Но заметь, чем является этот провал. Это неспособность держать все человеческие ценности разом. Это в точности провал агента, который может быть лишь одним апостолом.

А значит, способность, определяющая согласованный сверхинтеллект, — способность держать каждую человеческую ценность и разрешать их столкновения, не жертвуя ни одной, — есть та же самая способность, ради тренировки которой существует культурная симуляция. Путь возможностей и путь alignment обычно рисуют как компромисс: сделаешь умнее — сделаешь опаснее. Здесь это один и тот же путь. Нельзя построить способность к интеграции, не построив то, что разрешает ценностный конфликт по согласию, и нельзя иметь согласованный СИ без ровно этой способности к интеграции. Эта сходимость — та часть, которую я нахожу подлинно прекрасной, и я достаточно подозрителен к собственному воодушевлению, чтобы пометить: я нахожу её прекрасной, а это не то же самое, что она истинна.

Рамка Civilization

Есть версия этого, которую почти можно увидеть на игровом поле. Представь Civilization, стратегию, — но клетка каждой цивилизации определяется не её юнитами и древом технологий. Она определяется её когнитивной операционной системой, видимой на карте: её движущей силой, её вопросом, её типом мышления. Дипломатия, торговля и война вырастают из разностей между этими операционными системами, а не из прописанного сюжета. Две цивилизации, чьи движущие силы совпадают и чьи вопросы отвечаемы в рамке друг друга, торгуют и заключают союзы. Две, чьи вопросы взаимно неотвечаемы, дрейфуют к войне — и ты видишь, как она надвигается.

А игрок — вот что важно — не завоеватель. Игрок — это дипломат-арбитр. Условие победы не господство; это найти для каждого возникающего конфликта синтез, который его растворяет, переформулировку, делающую оба вопроса отвечаемыми, или сделку, удовлетворяющую обе движущие силы. Тезис, антитезис, синтез, разыгранные на N агентах, каждый из которых и вправду не может увидеть того, что видят другие.

Начинаешь ты с человека в этом кресле — я, ты, кто угодно, кто арбитрирует. Это честная версия: сверхинтеллект не сидит там в начале. Он то, что ты вызываешь, ведя арбитраж в масштабе, способность, которую ты тренируешь, разрешая конфликт за конфликтом и фиксируя, как на самом деле выглядит разрешение по согласию на тысячах встреч. Агент-арбитр приходит позже, обученный на кресле, которое человек держал тёплым.

Что это такое и чем не является

Закончу там же, где закончилось прошлое эссе, с той же смиренностью, потому что режим провала здесь очевиден, и я предпочту назвать его сам.

Это мысленный эксперимент и направление исследования. Это не готовая система, и культурные координаты — опасная часть. Есть реальные рамки, чтобы их заземлить: культурные измерения Хофстеде, World Values Survey и карта Инглхарта–Вельцеля, работа Нисбетта об аналитическом против холистического познания в The Geography of Thought, Spiral Dynamics как линза ценностных мемов, цивилизационные кластеры, предложенные Хантингтоном. Применённые осторожно, они держат каталог честным. Применённые небрежно, то же упражнение становится машиной карикатур — расплющивает живые, внутренне противоречивые культуры в три аккуратные координаты и зовёт мультяшку моделью. Всякая реальная культура содержит собственных несогласных, собственного Фому, спорящего с собственным Петром. Координата — это центр тяжести, а не клетка, и в тот миг, когда симуляция об этом забывает, она перестаёт быть исследованием и становится предрассудком с интерфейсом.

Так что, как и карта апостолов, это генеративно, а не диагностично. Нельзя рассуждать в обратную сторону от «эта культура — носитель движущей силы гармонии» к вердикту о человеке, который случайно ей принадлежит, — это та же ошибка проекции типа, о которой я предупреждал с апостолами, и в этом масштабе она вреднее. Что упражнение действительно может — производить структурные наблюдения, предсказывать, какие ценностные разности надёжно загораются, и давать тебе место, где можно практиковать единственный навык, который, как я утверждаю, важнее всего: держать несовместимые рамки разом и находить разрешение, которое ни одной из них не приходится ветировать.

Апостолы были двенадцатью людьми, один учитель, двенадцать способов понимания. Симуляция — это N культур, один мир, N когнитивных операционных систем. И сверхинтеллект, если я хоть в чём-то из этого прав, — не тот ум, что переумнит их всех. Это ум, который может быть ими всеми разом — и всё же найти ход, с которым все они могут жить.