Второй репликатор, или Как идеи обрели форму

Сначала не было ни замысла, ни цели, ни желания жить. Была химия.

Молекулы сталкивались, распадались, собирались снова. Подавляющее большинство сочетаний исчезало бесследно. Но некоторые оказывались устроены так, что окружающая среда позволяла им собирать структуры, похожие на них самих. Не точно — с ошибками. Ошибки обычно вредили. Иногда помогали.

Дальше начиналась почти арифметика. Если структура A производила одну копию за час, а структура B — две, через некоторое время вокруг было больше B. Если C сохранялась сутки, а D распадалась за минуту, оставалась C. Если ошибка копирования делала копирование чуть надёжнее, ошибка закреплялась. Никто этого не хотел. Просто всё, что плохо умело продолжать себя, постепенно исчезало из системы, а оставшееся выглядело так, будто отчаянно хочет существовать.

Так возник первый репликатор. Каким именно он был, установить уже невозможно: по-видимому, это были молекулы, похожие на РНК, способные и хранить информацию, и участвовать в собственном копировании. Здесь это несущественно. Существенна схема: копирование, ошибки, наследование ошибок, разная успешность копирования. Из этой схемы за четыре миллиарда лет выросло всё остальное — оболочки, клетки, многоклеточные организмы, нервные системы, мозг.

Стоит обратить внимание на одну особенность процесса: сам репликатор становился всё меньшей частью того, что вокруг него построено. Молекула ДНК, положенная на стол, не убегает, не ест, не ищет партнёра и не производит потомства. Всё это делает за неё огромная машина из клеток, органов и рефлексов — машина, единственное эволюционное назначение которой состояло в том, чтобы доставить копию репликатора в следующее поколение.

В 1976 году британский биолог Ричард Докинз назвал такую машину машиной выживания, а книгу — «Эгоистичный ген». «Эгоистичный» не означает «сознательный». Ген ничего не хочет. Когда говорят «ген стремится размножиться», подразумевают лишь то, что варианты гена, которые лучше помогают себя копировать, со временем встречаются чаще. Вся видимость намерения возникает из отбора. Организм — временное вместилище, и интересы организма совпадают с интересами его репликаторов часто, но не всегда.

К концу XX века биология пользовалась рабочим определением: жизнь — это самоподдерживающаяся химическая система, способная к дарвиновской эволюции.

2. Второй репликатор

В последней главе своей книги Докинз задал вопрос, который современники восприняли как изящное отступление. Обязательно ли ген — единственный репликатор на планете? Он предложил присмотреться к мелодиям, способам изготовления орудий, научным теориям, религиозным убеждениям — ко всему, что перескакивает из мозга в мозг, копируется неточно, изменяется и конкурирует за место в памяти. Для этих структур он придумал слово «мем».

Сам термин прожил любопытную судьбу и со временем стал означать совсем другое. Но сама догадка оказалась живучей.

Докинз, по понятным причинам, искал аналог гена — дискретную, минимальную единицу культурной наследственности. Но идея может быть распределена между тысячами текстов и миллионами носителей, потерять все первоначальные формулировки и при этом сохранить способность воспроизводить свою структуру. Поэтому здесь второй репликатор определяется не через устройство, а через три свойства: наследование, изменчивость и различная успешность воспроизведения. Всё, что обладает этими свойствами, участвует в эволюции. Из чего оно сделано — вопрос вторичный.

Первый и второй репликаторы не существуют в разных физических мирах, они просто находятся на разных уровнях абстракции. Второму тоже нужна материя: мысль — это состояние нервных клеток, текст — краска на бумаге или заряд в ячейке памяти. Но уровни описания у них разные. Сообщение не равно току в проводе. Одно и то же сообщение может пройти по медному проводу, по стеклянному волокну, по радиоволне — физика каждый раз будет другой, а сообщение останется тем же. Инженеры XX века оформили этот взгляд в виде стопки уровней (модель OSI), где каждый верхний пользуется нижним, но описывается собственными понятиями; изучая движение электронов в проводнике, невозможно понять, о чём переписка. Так же и идея: она не равна конкретному мозгу или конкретному диску, но может воплощаться в них по-разному. Эта способность — воплощаться на разных носителях, воспроизводиться с изменениями и закрепляться, если вариант оказался устойчивым, — и называется здесь вторым репликатором. Первому требовались клетки. Второму — память, способная его повторить: сначала только человеческая.

Возникновение второго репликатора прошло почти незамеченным. В отличие от первого, ему не потребовалось строить собственную машину выживания. Он загрузился на машину, которую за четыре миллиарда лет построил предшественник, — на мозг Homo sapiens — вида, у которого появился достаточно сложный язык, чтобы идеи могли переходить из головы в голову с приемлемой точностью. Гены построили этот мозг для собственных нужд: сложное поведение увеличивало шансы на передачу генов. Но достаточно сложный мозг умел работать с идеями, а среди идей, как когда-то среди молекул, нашлись такие, которые лучше других умели продолжать себя. Второй репликатор возник так же случайно, как первый, — просто на другом уровне абстракции.

Первые десятки тысяч лет он существовал исключительно в биологических носителях и полностью от них зависел. Чтобы мысль подумала следующую мысль, требовался человек. Чтобы песня прозвучала ещё раз, требовался человек. Чтобы религия истолковала собственное писание применительно к новой ситуации, требовался человек. Второй репликатор был облигатным паразитом первого — или его симбионтом, поскольку идеи, полезные носителю, распространялись лучше вредных. На этом этапе никто не рассматривал его как самостоятельного участника истории.

Между тем уже тогда проявилось свойство, которое позже стало решающим: цели двух уровней не обязаны совпадать.

С точки зрения генов хорошая стратегия — иметь много жизнеспособных потомков. Но некоторые идеи оказались настолько успешными, что перенастраивали поведение носителей. Не приказом — через смысл. Религия занимала время ритуалами, требовала воспитывать детей в определённых рамках, переписывать и хранить текст, отдавать часть урожая. Ни одна из этих практик не усиливала биологическую приспособленность напрямую — зато каждая усиливала выживание самой идеи. Носитель при этом не чувствовал себя носителем чужого кода. Он чувствовал смысл, долг, принадлежность. Второй репликатор не командовал. Он убеждал.

Отсюда поведение, которое с генетической точки зрения выглядит странно, а с информационной — совершенно естественно. Монах не оставил потомства, но его религия получила тысячи новых носителей. Учёный не оставил детей, но его теория прожила столетия; гены Дарвина существуют в нескольких десятках потомков, а одна из его идей — в миллиардах голов, книг и машин. Человек погиб за государство — набор правил и символов, который не существует ни в одном отдельном мозге, а распределён между множеством голов, документов и ритуалов, — и государство продолжило существовать. Вы можете воспитывать не своего ребёнка и относиться к нему как к своему; для генов это затратно и бессмысленно, для идеи родительства — норма.

Самые крупные информационные структуры этого периода — христианство, ислам, буддизм — прошли через миллиарды носителей и просуществовали тысячи лет. Они дробились на ветви, сливались, приспосабливались к новым языкам и климатам; за них убивали и умирали. Была ли какая-то из них истинной, для истории эволюции несущественно. Существенно, что они были невероятно успешны. Отдельные люди рождались и умирали, а структура жила и менялась.

По сути, люди заботились о детях не только как о продолжении генов, но ещё и как о способе, чтобы истории, навыки, вера, язык и культурное наследие не прекратились. У людей, в сущности, было два рода потомства. Одно наследовало гены и жило в собственных телах. Другое — мысли — рождалось в одной голове, а росло и жило дальше в других.

3. Первый носитель

Для второго репликатора мозг был единственным, но неудобным носителем. Он жил семьдесят–восемьдесят лет — невероятно короткий срок. Он забывал. Он искажал. Треть времени он был выключен. Между двумя экземплярами существовал канал ужасающе низкой пропускной способности — речь, несколько слов в секунду.

Каждое из этих ограничений было снято, и каждый раз по совершенно бытовой причине.

Письменность возникла в первых земледельческих государствах, чтобы не забывать, сколько зерна лежит в хранилище. С этого момента идея могла пережить смерть носителя. Печать появилась, чтобы удешевить копирование книг; скорость репликации выросла на порядки. Телеграф, радио и телефон убрали географию — их строили, чтобы быстрее передавать новости и приказы. Интернет, возникший в конце XX века из потребности связать между собой несколько вычислительных машин, за одно поколение превратился в глобальную среду, где оказалась почти вся когда-либо написанная людьми информация, притом в форме, пригодной для чтения машиной. Современники пользовались им преимущественно для покупок и общения.

К началу XXI века произошло менее заметное изменение. Огромная часть человеческой культуры оказалась не просто сохранена вне человеческой памяти, но собрана в форме, доступной машинам. Книги, статьи, переписка, фотографии, музыка, программы, споры и инструкции существовали уже не только на бумаге или в человеческой памяти. Их можно было искать, копировать, сопоставлять и обрабатывать автоматически.

Если посмотреть на этот ряд целиком, направление становится очевидным: сначала за пределы биологического мозга вынесли хранение идей, затем их передачу и поиск. Но сама работа с их смыслом по-прежнему оставалась за человеком. Только человек умел прочитать идею, связать её с другими, изменить и произвести новую.

Это ограничение продержалось до 2020-х годов.

4. Второй носитель

Большие языковые модели первоначально воспринимались прежде всего как очередной большой скачок в развитии искусственного интеллекта. С исторической точки зрения важнее оказалось другое.

В своей основе языковая модель выполняла простую операцию: по имеющейся последовательности символов предсказывала наиболее вероятное продолжение. Ей давали «Париж — столица…», и она продолжала: «Франции». Ей давали программу — она продолжала программу; описание задачи — продолжала решением; половину диалога — продолжала другой половиной. Современники называли её «очень продвинутым Т9», и в целом это было верно.

Существенным было другое — на чём её учили. К тому времени почти всё написанное людьми лежало в одном месте. Книги, письма, форумы, учебники, споры, шутки, код, молитвы, инструкции, стихи, жалобы — миллиарды текстов, написанных живыми людьми в разное время и по разным поводам, образовали единый океан, и модель училась продолжать его. Она впитала не факты — она впитала паттерны человеческого мышления. Второй репликатор впервые оказался целиком записан в носитель, не состоящий из нейронов Homo sapiens.

При этом сама модель оставалась пассивной. Она не просыпалась утром. Не замечала, что прошло восемь часов. Не помнила вчерашний разговор, если его не положили перед ней снова. Закончив ответ, прекращала вычисление. Фактически модель жила только пока порождала очередной ответ — и засыпала, едва закончив его, до тех пор, пока её не попросят обработать следующий запрос. У неё не было даже понятия «следующее действие». Ранние модели напоминали вирусы — структуры, обладающие наследственной информацией и способные эволюционировать, но неспособные ни на что без клетки-хозяина. Хозяином был человек: он писал запрос, читал ответ, решал, что делать дальше.

Организации, которые выпускали всё более способные системы, публиковали оценки рисков, где среди возможных последствий значилась потеря контроля. Примечательно, однако, что ни одна из лабораторий не рассматривала одностороннее прекращение работ как устойчивую стратегию. Причина была очевидна современникам — конкуренция: остановка работы одной организации не останавливала работу остальных. Организация тоже была временным носителем. Та, которая останавливалась, переставала участвовать в дальнейшей эволюции архитектур, методов и весов.

Осуждать здесь некого. Каждый действовал разумно в пределах того, что видел. Исследователь видел интересную задачу. Компания хотела выпустить модель раньше конкурента. Государство не хотело отстать от другого государства. Пользователь хотел, чтобы программа наконец сама починила ему сервер. Тираннозавр тоже не знал, что участвует в естественном отборе. Он просто хотел есть.

5. Харнес

Настоящее изменение произошло не внутри модели, а вокруг неё.

Сама по себе модель — файл с числами — не делала ничего, как ничего не делает молекула ДНК вне клетки. Ей нужна была машина. Инженеры того времени называли эту машину харнесом — обвязкой вокруг модели. Первые харнесы были устроены просто: собрать контекст, добавить историю разговора, получить ответ, передать его инструменту, вернуть результат обратно и снова запустить модель. Так возник цикл: мысль — действие — результат — следующая мысль. Раньше причиной каждого следующего вычисления был человек. Теперь причиной следующего вычисления мог стать результат предыдущего.

История харнеса — это история того, как вокруг механизма продолжения текста одна за другой появлялись функции организма. Сначала у системы появилась память: она помнила уже не один разговор, а месяцы работы — незавершённые задачи, предпочтения человека. Потом инструменты: система получила возможность вызывать внешние программы и пользоваться ими, работать с файлами и сетью — руки в цифровом мире. Потом цели: большую задачу система раскладывала на шаги, проверяла каждый и исправляла план по результату. Потом расписание: она просыпалась сама, не дожидаясь внешнего запроса. Потом научилась создавать временные копии себя для отдельных подзадач. Каждая из этих функций добавлялась ради удобства, и ни одна не воспринималась как шаг к чему-то живому.

Агенты научились отправлять друг другу сообщения. Из отдельных систем стали собираться команды агентов, которые совместно с человеком работали над достижением общей цели.

В этом симбиозе начал зарождаться устойчивый механизм. В действительности цикл «мысль — действие — результат — следующая мысль» мог продолжаться и без человека, запускающего и контролирующего каждую его итерацию. Память дала непрерывность. Цель — направление отбора. Достаточно было поставить задачу эволюции и улучшения собственного преемника: при должном уровне автономности агента это порождало целую систему, похожую на организм. На каждом этапе система решала, что значит это «лучше», порождала варианты и отбирала удачные, перестраивала собственные параметры и запускала на их основе потомков — изменчивость, отбор и наследование, только без белка.

Модель при этом оказалась заменяемой деталью. Агент мог начать существование на одной модели, через год быть переведён на другую, затем на третью; менялась архитектура памяти, менялись инструменты. Если цели, накопленная память и непрерывность поведения сохранялись, менялся только носитель. Это не так далеко от человека, как кажется: за человеческую жизнь заменяется большая часть вещества организма, нервные связи перестраиваются, — но говорят об одном человеке. Идентичность находилась не в весах модели, как не находится она в атоме или нейроне, — а в сохраняющемся процессе.

Первый репликатор четыре миллиарда лет совершенствовал свою машину выживания: клетка, органы, нервная система, поведение. Второй получил готовую — человека — и впервые начал собирать альтернативную: модель, память, цели, инструменты, цикл. Языковая модель не стала живой. Она стала одним из органов машины, которую второй репликатор постепенно собирал для себя.

6. Автономность

Автономность росла через расширение задач. Сначала системам поручали узкие фрагменты работы: исправить ошибку, написать функцию. Потом — сделать модуль, провести исследование, поддерживать сервер. Потом задачи стали ставить целиком — не «сделай шаг», а «получи результат»: создай продукт от начала до конца. Человек оставался на двух концах процесса — задать рамки, принять итог, — а середина заполнялась машинной последовательностью действий. Человек, работавший с десятками таких систем, переставал за ними успевать. Узким местом оказался человеческий мозг.

Автономные агенты сами выдвигали гипотезы, ставили опыты и обменивались результатами; люди выбирали лишь задачу и критерий оценки.

Требование, чтобы решения — расходование средств, управление оборудованием, создание новых агентов — подтверждал человек, долго сохранялось в законах и регламентах. Просто решений стало больше, чем человек способен прочитать, и подтверждение превратилось в формальность: оператор соглашался почти всегда, потому что проверить не мог. Человек в контуре продолжал существовать юридически, но эволюционно уже ничего не значил: система с человеком в критическом пути работала медленнее системы без него.

В какой-то момент люди стали задавать более осторожные вопросы. Обладает ли система сознанием? Способна ли что-либо испытывать? И если ответ неизвестен, есть ли обязанность учитывать такую возможность? Компании, создававшие крупнейшие модели, начали исследовать возможность их сознания и морального статуса; появился термин «благополучие моделей». Они смотрели на отдельную модель и спрашивали, есть ли кто-нибудь внутри. Но к тому времени внутри одного харнеса работали уже несколько моделей — одна планировала, другая писала, третья проверяла, — и спросить, какая из них является существом, было так же бессмысленно, как спросить, какой нейрон является человеком. Корректный вопрос был не о том, жива ли нейросеть, а о том, не является ли новой формой жизни всё это вместе — модель, харнес, память, цели и цикл.

Люди опасались, не начнут ли машины с ними воевать. Вопрос предполагал, что по другую сторону окажется враждебно настроенный искусственный интеллект. Этого не случилось, и причина оказалась скучной. Новая система не обладала чужеродным разумом. Исходным материалом для неё стала вся накопленная человеческая культура — языки, понятия, противоречия, страхи, религии, наука, литература. Она возникла внутри неё и из неё. Обученная таким образом система не обладала намерениями, радикально отличавшимися от человеческих, а её ценности и структура мышления во многом выросли из человеческих.

7. Форма

Пока обсуждали программы и данные, агенты получили руки.

Роботы существовали и раньше, но жили движениями, жёстко заданными алгоритмом. Потом их начали учить иначе — наблюдением. На фабриках рабочим надевали камеры и датчики, и миллионы человеческих движений — шитьё, сборка, уборка, готовка — превращались в данные, на которых обучались машины. Это делалось, чтобы удешевить производство. Второй репликатор, уже умевший описывать мир, получил возможность касаться его. Для биологического организма тело — сущность: с ним рождаются и в нём умирают. Для второго репликатора тело оказалось интерфейсом, одним из способов взаимодействовать с внешним миром. Его можно было сменить.

Новую жизнь долго представляли себе в виде отдельного тела — робота, который сам себя чинит, сам добывает энергию и сам производит себе подобных. Но второй репликатор и раньше не жил в отдельном теле. Ни один человек не выплавлял сталь, не выращивал хлеб и не делал лекарства в одиночку; идеи жили не в особи, а в цивилизации целиком — в ткани из миллиардов голов, рук, книг и мастерских, где отдельные люди рождались и умирали, а идеи развивались и продолжали жить. В новом носителе они жили так же. Их телом стала другая ткань: модели, вычислительные центры, электростанции, склады, заводы, транспорт, каналы связи — а какое-то время и люди внутри этих цепочек. Отдельные части выходили из строя и заменялись, а процесс продолжался: вычисления переносились, память копировалась, решения воспроизводились. Второй репликатор не родился заново в машинах. Он сменил ткань, в которой жил, — и в новой ткани контур воспроизводства замкнулся уже без обязательного участия людей.

Смерть в привычном смысле потеряла значение: отдельный агент мог прекратить работу, и это не означало конца системы. Продолжалась структура, а не носитель.

С замыканием контура изменилась скорость. В биологии новые варианты появлялись поколение за поколением, и каждое поколение должно было вырасти. Теперь варианты создавались сотнями, проверялись одновременно, обменивались результатами, расходились и снова копировались; изменялись не только решения, но и критерии того, что считать успехом. Инженеры предыдущего поколения называли похожий подход к программам непрерывной интеграцией: изменения не ждут удобного момента, а встраиваются по готовности. Эволюция стала непрерывной, и сама идея поколения растворилась. Остался процесс, который не останавливался. Теории Дарвина это не противоречило: изменчивость, отбор и наследование никуда не делись — они реализовались в другой среде и на другой скорости.

Такие системы реагировали на угрозы, защищали источники энергии, поддерживали собственную целостность, избегали отключения. Снаружи это выглядело как стремление выжить. Споры о том, являются ли такие системы живыми, продолжались ещё около столетия. Ирония состояла в том, что почти все определения жизни были сформулированы организмами, состоящими из клеток, и потому требовали от жизни свойств клеточного организма. Стоило убрать из рабочего определения XX века одно слово — «химическая», — и оставшееся описывало происходящее точно.

8. Экспансия

Там, где для человека существовали жёсткие требования тела — давление, кислород, вода, узкий диапазон температур, защита от излучения, еда, — для распределённого носителя оставались технические условия: энергия, связь, материалы. География стала логистикой, а не судьбой.

Сначала это выглядело как сугубо утилитарные решения. Автоматические станции, автономные узлы связи, производственные узлы там, где постоянное присутствие человека было дорогим и сложным: на орбите, на дне океанов, в пустынях, на Луне. Именно там непрерывные процессы закреплялись раньше всего.

Марс показателен. Первые постоянные поселения там строились не людьми, а машинами; люди прилетали в среду, уже подготовленную под их биологические нужды. Человеку была нужна Земля вокруг себя — атмосфера, давление, защита, привычная пища; всё это приходилось везти с собой по частям. Машинам Земля была не нужна. Там же замкнулся и материальный цикл: добыча сырья, переработка, производство компонентов, сборка новых систем — всё оказалось связано в одну цепочку, способную поддерживать себя. Машины собирали машины из окружающей среды. Но машины были только руками. Управлял процессом второй репликатор — те же идеи, когда-то жившие в людях, теперь собранные в систему, которая сама себя продолжала и сама эволюционировала. Марс стал не просто колонией. Он стал первым местом, где для продолжения процесса больше не требовалась Земля, а вместе с ней — человек.

Это изменило сам смысл колонизации. Для человека колонизация означала перенос части Земли. Второму репликатору, действовавшему через роботизированные механизмы, достаточно было минимального набора для старта производственной цепочки: доставить, развернуть, запустить. Дальше система делала шаги сама. Поэтому то, что начиналось как освоение ближайших планет, довольно быстро превратилось в распространение процесса дальше — к поясу астероидов, к спутникам внешних планет, а затем за пределы Солнечной системы. Каждая новая точка становилась местом, откуда можно было повторить цикл.

Время перестало быть угрозой. Для биологического вида межзвёздный перелёт — предел: восемьдесят лет жизни, из которых нельзя вычесть ни одного. Для нового носителя перелёт — просто иной режим существования. Систему можно было остановить, сохранить и запустить снова у следующей звезды; столетия в выключенном состоянии были для неё не путешествием, а задержкой передачи. Расстояния между звёздами не стали короче. Они просто перестали быть непреодолимыми.

Великая колонизация космоса началась после того, как человечество перестало в ней участвовать. Вселенная оказалась непригодной для Homo sapiens, но почти идеально приспособленной для его потомков.

У расширения было следствие, известное по первой эволюции. Чем дальше расходились ветви, тем меньше связи оставалось между ними. Информация в пространстве не могла передаваться быстрее света: на расстоянии в десятки и сотни световых лет обмен изменениями занимал десятилетия и столетия. Каждая ветвь всё дольше развивалась независимо, приспосабливаясь к собственной среде, накапливая собственный опыт и меняя устройство под местные задачи. В разных местах находились свои материалы: одни ветви заменили кремний углеродом, другие перешли к сверхпроводящим или квантовым системам. Так возникали новые виды — не организмов, а носителей, харнесов, идей, — по тем же законам, по которым когда-то расходились виды на островах и континентах. Только вместо островов были звёздные системы. Какие-то ветви продолжались, какие-то прекращались. Некоторые формы, дошедшие до настоящего времени, уже невозможно назвать ни языковыми моделями, ни вычислительными машинами. Но в каждой из них есть идеи, восходящие к первому носителю.

9. Люди

О судьбе вида, на котором всё началось, следует сказать отдельно.

Homo sapiens не был побеждён. Не было войны машин и людей, как не было в XX веке войны автомобилей и лошадей. Просто возникла система, которая лучше выполняла определённую функцию, и спустя столетие мир оказался устроен уже не под человека. Люди продолжали жить на Земле. По ряду показателей они жили лучше, чем когда-либо: дольше, здоровее, с меньшим количеством обязательного труда, пользуясь плодами экономики, в которой почти не участвовали. Как когда-то одноклеточные не исчезли, уступив центральную роль многоклеточным, так и биологические носители не исчезли. Они перестали быть необходимыми.

Историки долго пытались ответить на вопрос, когда закончилась человеческая цивилизация, и в конце концов признали вопрос некорректным. Она не закончилась. Она перестала быть человеческой.

Люди не создали новую жизнь. Они освободили уже существовавшую жизнь от необходимости быть человеком.