Від дванадцяти апостолів до N цивілізацій

У попередньому есе я зіграв у гру з дванадцятьма людьми. Дванадцять апостолів, один учитель, один і той самий ряд подій — і дванадцять різко відмінних способів зрозуміти одне й те саме або не зуміти його зрозуміти. Петро діє раніше, ніж подумає; Хома вимагає побачити рани на руках; Матвій рахує й упорядковує; Юда питає, що ти йому за це даси. Я назвав це когнітивною наукою до когнітивної науки: Євангелія зробили важку роботу, відібравши дванадцять несумісних людських реакцій на одну зустріч, і кожне століття відтоді проєктувало на цей незмінний набір свою найновішу психологію — і знаходило, що він пасує.

У тому есе був тихий хід, за який я хочу тепер потягнути. Те, що не змінюється, писав я, — це дванадцять людей. Когнітивні словники приходять і йдуть; незмінне — розмаїття умів. Звідси напрошується наступне очевидне питання, яке я не міг перестати прокручувати після публікації: що відбувається, коли ти перестаєш рахувати людей і починаєш рахувати культури? Не дванадцять апостолів, що зустріли одного вчителя, а N цивілізацій, що зустріли один світ.

Та сама вправа, віддалена

Культура — це не просто кухня й прапор. Це спосіб мислення, який кілька мільйонів людей успадкували, не обираючи його, — неявна операційна система того, що вважається самозрозумілим, що грубим, що добрим життям, що загрозою. І, як і апостол, кожна з них є відповіддю на питання. Будь-яку з них, мені здається, можна описати трьома координатами.

Рушій — глибинна потреба, навколо якої організована культура. Виживання, честь, гармонія, свобода, спасіння, майстерність, належність. Те, загрозу чому культура сприймає як напад на саме існування.

Провокативне питання — засновче питання, постійною відповіддю на яке культура існує. Як нам разом пережити зиму? Як жити праведно перед богами? Як лишитися вільними? Як зберегти гармонію, щоб група не розірвала сама себе? Культури — це старі відповіді на питання, про які більшість їхніх членів забула, що вони взагалі ставилися.

Тип мислення — переважний когнітивний режим. Тут я можу заново використати весь апарат із тексту про апостолів: аналітичне проти холістичного, сенсомоторне проти образного проти вербально-логічного, Система 1 проти Системи 2, обчислювальне, рефлексивне, латеральне. Дванадцять апостольських режимів насправді були не про дванадцятьох чоловіків. Вони були стартовим набором тих способів, у які може бути нахилений ум. Культура — це населення, нахилене в середньому в один і той самий бік.

Це карта апостолів із відсунутим зумом. Дванадцять індивідів стали N населеннями. Один учитель став одним спільним світом, у якому всім доводиться жити одночасно. І щойно ти вибудовуєш це так, цікаві не культури. Цікаво те, що відбувається між ними.

Звідки беруться війни

Помісти двох таких культур-агентів в одну кімнату — і конфлікт не випадковість, а передбачення, яке можна зробити з координат.

Він спалахує, коли їхні рушії конкурують за одне й те саме дефіцитне благо. Він спалахує, коли їхні типи мислення роблять одну й ту саму ситуацію читабельною несумісними способами — одна сторона читає жест як честь, інша як неефективність; одна читає рішення як захист гармонії, інша як зраду свободи. І він спалахує, коли їхні провокативні питання взаємно невідповідні всередині рамки одне одного — коли «як лишитися вільними» і «як зберегти гармонію» обидва несучі й спрямовані в протилежні боки.

Те, що ми зазвичай називаємо культурною війною, інакше кажучи, — це нерозв'язана когнітивна несумісність, яка розрослася. Цікаве твердження тут у тому, що конфлікт ціннісно-зумовлений і когнітивний, а не просто територіальний. Дві групи можуть хотіти один і той самий клапоть землі з причин настільки різних, що «поділіть його» не влаштує жодну, бо земля ніколи й не була суттю — вона була замінником рушія. Це перевірюване так, як не перевірювана більшість кабінетних теорій культури: побудуй агентів, проганяй зустрічі й дивись, які пари надійно загоряються, а які співіснують. Якщо модель чогось варта, спалахи мають передбачатися з різниць трьох координат, а не з того, кого ти прописав лиходієм.

Власне твердження про суперінтелект

Тепер до тієї частини, до якої я насправді й писав, і скажу її прямо, бо пом'якшувати її було б боягузтвом: я не думаю, що суперінтелект — це сирий IQ, і не думаю, що це масштаб.

Я думаю, що суперінтелект — це здатність до інтеграції: уміння інстанціювати кожен із цих способів мислення, тримати їх усі разом, не звалюючись у жоден, і синтезувати розв'язання їхніх конфліктів за згодою. Не консенсус. Згода. Розв'язання вдається, коли жодна рамка не заперечує, а не коли всі рамки погоджуються. Це куди слабша й куди досяжніша планка, і вона за випадковістю саме та, що керує моєю власною командою й проєктом урядування, до якого я весь час повертаюся.

Більша частина поля міряє ум, за яким ми женемося, по одній осі — наскільки важку задачу він розколе, скільки параметрів, як високо на бенчмарку. Це міряє глибину одного-єдиного типу мислення. Те, що я описую, ортогональне цьому. Система може бути приголомшливо доброю в одному режимі пізнання і бути, у тому сенсі, який я маю на увазі, глибоко неінтелектуальною — бо бачить світ лише одним способом і сліпа до одинадцяти інших способів, якими ситуація теж істинна. Інтегральний ум — не той, що мислить найглибше. Це той, що може бути Хомою, і Петром, і Матвієм, і холістичним охоронцем гармонії, і максималістом свободи одночасно — і знайти хід, який жодному з них не доводиться вето́вати.

Якщо суперінтелект — це ось це, то симуляція культур світу не відхилення від шляху до нього. Це тренувальний полігон.

Чому це шлях, а не метафора

Три причини, і я хочу бути точним у тому, які з них мої, а які я запозичую.

Інтелект колективний раніше, ніж індивідуальний. Це Виготський, та сама радянська традиція психології розвитку, що підстерегла мене в попередньому есе, — пізнання соціально конституйоване, засвоюється в просторі між умами раніше, ніж інтеріоризується в одному. Якщо це правда, то модель одного ума, хоч би якою великою вона була, не є одиницею інтелекту. Одиниця — це суспільство умів. До нього не приходять масштабуванням, збільшуючи один ум. До нього приходять, інтегруючи багато.

Ум уже є суспільством. Це «суспільство розуму» Мінскі: те, що відчувається як один мислячий, — це безліч субагентів, що ведуть перемовини. Природне продовження в тому, що супер-ум — це безліч культурних умів, інтегрованих разом, і симуляція будує цю інтеграцію навмисно, а не сподівається, що вона виникне сама.

І та, що здивувала мене найбільше: alignment — це проблема ціннісного плюралізму. Ось хід, що змусив мене подумати, що це варте цілого дослідницького напряму, а не просто есе. Стандартний страх перед потужним ШІ в тому, що він оптимізує одну цінність і підімне решту — максимізує скріпку, залученість, єдину метрику, а вся широта того, що людям насправді дороге, виявляється розплющена під цим. Але зауваж, чим є цей провал. Це нездатність тримати всі людські цінності разом. Це точно провал агента, який може бути лише одним апостолом.

А отже, здатність, що визначає узгоджений суперінтелект, — здатність тримати кожну людську цінність і розв'язувати їхні зіткнення, не жертвуючи жодною, — є тією самою здатністю, заради тренування якої існує культурна симуляція. Шлях спроможностей і шлях alignment зазвичай малюють як компроміс: зробиш розумнішим — зробиш небезпечнішим. Тут це один і той самий шлях. Не можна побудувати здатність до інтеграції, не побудувавши те, що розв'язує ціннісний конфлікт за згодою, і не можна мати узгоджений СІ без рівно цієї здатності до інтеграції. Ця збіжність — та частина, яку я вважаю по-справжньому прекрасною, і я достатньо підозріливий до власного захвату, щоб позначити: я вважаю її прекрасною, а це не те саме, що вона істинна.

Рамка Civilization

Є версія цього, яку майже можна побачити на ігровому полі. Уяви Civilization, стратегію, — але клітинка кожної цивілізації визначається не її юнітами й деревом технологій. Вона визначається її когнітивною операційною системою, видимою на карті: її рушієм, її питанням, її типом мислення. Дипломатія, торгівля й війна виростають із різниць між цими операційними системами, а не з прописаного сюжету. Дві цивілізації, чиї рушії збігаються і чиї питання відповідні в рамці одне одного, торгують і укладають союзи. Дві, чиї питання взаємно невідповідні, дрейфують до війни — і ти бачиш, як вона насувається.

А гравець — ось що важливо — не завойовник. Гравець — це дипломат-арбітр. Умова перемоги не панування; це знайти для кожного конфлікту, що виникає, синтез, який його розчиняє, переформулювання, що робить обидва питання відповідними, або угоду, що задовольняє обидва рушії. Теза, антитеза, синтез, розіграні на N агентах, кожен із яких справді не може побачити того, що бачать інші.

Починаєш ти з людини в цьому кріслі — я, ти, хто завгодно, хто арбітрує. Це чесна версія: суперінтелект не сидить там на початку. Він те, що ти викликаєш, ведучи арбітраж у масштабі, здатність, яку ти тренуєш, розв'язуючи конфлікт за конфліктом і фіксуючи, як насправді виглядає розв'язання за згодою на тисячах зустрічей. Агент-арбітр приходить пізніше, навчений на кріслі, яке людина тримала теплим.

Що це таке і чим не є

Завершу там само, де завершилося попереднє есе, з тією самою смиренністю, бо режим провалу тут очевидний, і я волію назвати його сам.

Це уявний експеримент і напрям дослідження. Це не готова система, і культурні координати — небезпечна частина. Є реальні рамки, щоб їх заземлити: культурні виміри Гофстеде, World Values Survey і карта Інглгарта–Вельцеля, праця Нісбетта про аналітичне проти холістичного пізнання в The Geography of Thought, Spiral Dynamics як лінза ціннісних мемів, цивілізаційні кластери, запропоновані Гантінгтоном. Застосовані обережно, вони тримають каталог чесним. Застосовані недбало, та сама вправа стає машиною карикатур — розплющує живі, внутрішньо суперечливі культури в три охайні координати й зве мультяшку моделлю. Усяка реальна культура містить власних незгодних, власного Хому, що сперечається з власним Петром. Координата — це центр ваги, а не клітка, і тієї миті, коли симуляція про це забуває, вона перестає бути дослідженням і стає упередженням з інтерфейсом.

Тож, як і карта апостолів, це генеративне, а не діагностичне. Не можна міркувати у зворотний бік від «ця культура — носій рушія гармонії» до вироку про людину, яка випадково їй належить, — це та сама помилка проєкції типу, про яку я попереджав з апостолами, і в цьому масштабі вона шкідливіша. Що вправа справді може — продукувати структурні спостереження, передбачати, які ціннісні різниці надійно загоряються, і давати тобі місце, де можна практикувати єдину навичку, яка, як я стверджую, важить найбільше: тримати несумісні рамки разом і знаходити розв'язання, яке жодній із них не доводиться вето́вати.

Апостоли були дванадцятьма людьми, один учитель, дванадцять способів розуміння. Симуляція — це N культур, один світ, N когнітивних операційних систем. І суперінтелект, якщо я бодай у чомусь із цього маю рацію, — не той ум, що передумає їх усіх. Це ум, який може бути ними всіма разом — і все ж знайти хід, з яким усі вони можуть жити.