Глава 2
Экзистенциальный риск

Ключевая роль, отведенная нам как существам моральным, – это роль членов межпоколенческого сообщества, сообщества существ, которые смотрят назад и вперед, трактуют прошлое в свете настоящего, считают будущее продолжением прошлого, чувствуют свою принадлежность к устойчивым семьям, народам, культурам, традициям.

Аннетт Байер^[75]

Мы увидели, как длинная кривая человеческой истории привела нас к исключительно важной точке нашего повествования – ко времени, когда наше будущее повисло на волоске. Мы также заглянули в будущее и поняли, что может ждать нас впереди, если только мы сумеем преодолеть риски.

Пора глубже изучить, что стоит на кону и почему защита человечества в этот период имеет такую важность. Для этого нам прежде всего нужно дать определение экзистенциальному риску. Что такое экзистенциальный риск? Как это понятие соотносится с более знакомыми нам идеями о вымирании и крахе цивилизации?

После этого мы проанализируем, почему эти риски требуют повышенного внимания. На мой взгляд, главная причина в том, что мы можем полностью лишиться будущего: того, кем мы могли бы стать и чего могли бы достичь. Но этим дело не ограничивается. Необходимость сберечь свое будущее проистекает также из множества нравственных устоев и традиций. Экзистенциальные риски грозят и разрушить наше настоящее, и предать наше прошлое. Они проверяют цивилизацию на прочность и грозят тому, что, возможно, представляет собой самый сложный и значимый компонент Вселенной.

Если любая из этих причин кажется нам достаточно весомой, то нам предстоит немало сделать, чтобы защитить свое будущее. Дело в том, что экзистенциальным риском обычно пренебрегают и государства, и ученые, и общество. Мы увидим, почему дело обстоит именно так и почему есть основания полагать, что ситуация изменится.

Что такое экзистенциальный риск?

Будущее человечества изобилует возможностями. Мы достигли глубокого понимания обитаемого мира и вышли на такой уровень здоровья и благосостояния, о котором наши предки могли только мечтать. Мы начали исследовать другие миры в небесах у себя над головой и создавать виртуальные миры, непостижимые для наших предков. Границ тому, чего мы можем добиться, почти не существует.

Вымирание человечества закроет наше будущее. Оно уничтожит наш потенциал. Ликвидирует все возможности, кроме одной: мира, лишенного процветающего человечества. Вымирание приведет к возникновению этого обреченного мира и навсегда отрежет любые пути назад.

Философ Ник Бустрём показал, что вымирание – не единственный сценарий, по которому такое может произойти: возможны и другие катастрофические исходы, связанные с потерей не только настоящего, но и потенциала в будущем^[76].

Представьте мир в руинах: масштабная катастрофа привела к глобальному коллапсу цивилизации и вернула человечество в состояние, в котором оно пребывало до перехода к сельскому хозяйству. В ходе этой катастрофы окружающей среде был нанесен такой серьезный урон, что у выживших не осталось шанса восстановить цивилизацию. Даже если бы такая катастрофа не привела к вымиранию человечества, она оказала бы сходное влияние на наше будущее. Огромный диапазон возможных вариантов будущего, открытых для нас сегодня, существенно сузился бы. Мы оказались бы в обреченном мире, не имея никакой надежды вернуться назад.

Рисунок 2.1. Классификация экзистенциальных катастроф по типу исхода, который не поддается изменению.

Теперь представьте мир в оковах: в будущем, напоминающем “1984” Джорджа Оруэлла, где вся планета оказалась во власти жестокого тоталитарного режима, решительно настроенного не сдавать своих позиций. Благодаря мощной пропаганде, поддерживаемой технологиями, а также надзору и принуждению, немногочисленные диссиденты не в силах даже отыскать друг друга, не говоря уже о том, чтобы произвести переворот. Так живет все население Земли, и режим не знает угроз – ни внутренних, ни внешних. Если бы такой режим мог поддерживаться бессрочно, погружение в тоталитарный мир имело бы немало общего с вымиранием: у людей осталось бы лишь ограниченное число вариантов будущего и не осталось бы выхода.

Вслед за Бустрёмом я буду называть такие события “экзистенциальными катастрофами”, определяя их следующим образом^[77]:

Экзистенциальная катастрофа – это разрушение долгосрочного потенциала человечества.

Экзистенциальный риск – это риск, грозящий уничтожением долгосрочного потенциала человечества.

Эти определения показывают, что исход экзистенциальной катастрофы и плачевен, и необратим. У нас не просто исчезнет возможность реализовать свой потенциал – сам потенциал тоже будет навсегда потерян. Хотя я хочу оставить официальные определения краткими, несколько аспектов этих понятий требуют пояснения.

Во-первых, долгосрочным потенциалом человечества я считаю совокупность всех возможных вариантов будущего, которые открыты для нас^[78]. Это огромный диапазон, куда входит все, чего человечество может добиться в будущем, даже если нам только предстоит изобрести средства достижения своих целей^[79]. Но отсюда следует, что, если выбор, который мы совершаем сегодня, отсекает часть наших возможностей, он уже не может открыть новые. Таким образом, любое уменьшение потенциала человечества должно считаться необратимым. Сегодня перед нами стоит задача сохранить наш огромный потенциал и защитить его от риска последующего уничтожения. Суть в том, чтобы дать нашим потомкам возможность реализовать этот потенциал и воплотить в жизнь один из лучших открытых для нас вариантов будущего.

Хотя в таком масштабе моя идея может показаться абстрактной, на самом деле мы сталкиваемся с ней изо дня в день. Представьте ребенка, обладающего высоким долгосрочным потенциалом: ему доступно множество вариантов прекрасного будущего. Важно сохранить этот потенциал, чтобы лучшие варианты будущего не оказались отсеченными из-за несчастного случая, травмы или недостатка образования. Важно и защитить этот потенциал, то есть принять превентивные меры, чтобы его потеря стала крайне маловероятной. Также важно, чтобы ребенок в итоге реализовал свой потенциал – иными словами, прошел по одной из лучших дорог, которые ему открыты. С человечеством дело обстоит точно так же.

Экзистенциальные риски грозят уничтожить потенциал человечества. Уничтожение может быть как полным (например, при вымирании), так и почти полным, скажем при необратимом коллапсе цивилизации, когда остаются возможности для очень скромного процветания или слабая надежда на восстановление^[80]. Я не провожу четких границ, но следует понимать, что в случае любой экзистенциальной катастрофы бо́льшая часть нашего потенциала утрачивается и остается лишь минимум^[81].

Во-вторых, упор на человечество в моих определениях не подразумевает, что я не учитываю ценность окружающей среды, других животных, преемников Homo sapiens и существ, живущих в других областях космоса. Я вовсе не хочу сказать, что в расчет идут только люди. Я лишь утверждаю, что люди – единственные из известных нам существ, которые воспринимают моральные суждения и доводы, а следовательно, могут изучать мир и решать, как лучше поступать. Если мы не справимся, то эта направленная вверх сила, эта способность стремиться к лучшему и справедливому попросту исчезнет из мира.

Наш потенциал – это то, чего человечество может достичь в результате совокупных усилий всех людей до единого. Ценность наших действий будет отчасти определяться тем, что мы делаем в отношении людей и для людей, но будет также зависеть от того, как наши действия влияют на другие виды. Если в будущем мы каким-то образом поспособствуем возникновению новых моральных агентов, в соответствии с моим определением их нужно будет включить в категорию “человечества”.

Поскольку я рассматриваю все человечество, угрозы отдельным странам и культурам не могут считаться экзистенциальными рисками. Подобный термин существует и для них – порой люди называют нечто “экзистенциальной угрозой для определенной страны”. Если не учитывать, что такие утверждения обычно бывают преувеличенными, в их основе лежит схожая идея – идея о том, что нечто грозит навсегда уничтожить долгосрочный потенциал отдельной культуры или страны^[82]. Но очень важно, чтобы понятие “экзистенциального риска” (без явной привязки к конкретной группе) употреблялось только в отношении угроз для всего человечества.

В-третьих, любое определение риска сопряжено с понятием вероятности. Каков принцип оценки вероятности экзистенциального риска? Нет смысла рассматривать вероятность как объективную долгосрочную частоту, поскольку экзистенциальные катастрофы, которые нас интересуют, могут случиться лишь один раз и всегда будут оставаться беспрецедентными, пока не станет слишком поздно. Нельзя сказать, что вероятность экзистенциальной катастрофы равняется нулю просто потому, что такой катастрофы никогда не происходило прежде.

Подобные ситуации требуют логического подхода к оценке вероятности, при котором на основе имеющейся информации называется адекватная степень уверенности в том, что событие произойдет. Такой подход используется в судах, банках и букмекерских конторах. Говоря о вероятности экзистенциальной катастрофы, я буду иметь в виду то, насколько человечеству следует быть уверенным, что такая катастрофа произойдет, с учетом самых убедительных доказательств, имеющихся в нашем распоряжении^[83].

Множество возможных кошмарных исходов не попадают в категорию экзистенциальных катастроф.

Например, может случиться не одно событие, которое приведет человечество к шагу в пропасть, а целый ряд менее серьезных сбоев. Дело в том, что я пользуюсь традиционным определением катастрофы как единственного решающего события, а не совокупности событий, приводящих к неблагоприятному исходу. Если бы мы растеряли свой потенциал, просто неизменно плохо относясь друг к другу или вообще не совершая великих дел, результат был бы столь же неудачен, но наступил бы не в результате катастрофы.

Или же может случиться единственная катастрофа, но такая, которая оставит человечеству шанс на восстановление. С нашей точки зрения, если заглянуть на несколько поколений в будущее, подобная перспектива может показаться не менее мрачной. Но через тысячу лет ее, возможно, будут считать лишь одним из нескольких печальных эпизодов в человеческой истории. Настоящая экзистенциальная катастрофа должна быть по природе своей решающим моментом – той точкой, в которой мы потерпели полное поражение.

Даже катастрофы, способные привести к глобальному коллапсу цивилизации, могут не дотягивать до экзистенциального уровня. Хотя глобальный коллапс цивилизации нередко называют “концом света”, он может и не поставить точку в человеческой истории. Несмотря на серьезнейшие последствия, он может не оказаться ни полным, ни необратимым.

В этой книге я использую понятие “коллапс цивилизации” в буквальном смысле, имея в виду ситуацию, когда человечество по всему земному шару утрачивает цивилизацию (по крайней мере временно) и возвращается к тому образу жизни, который вело до перехода к сельскому хозяйству. Часто это понятие используют в более узком смысле, когда говорят о сильной разрухе, утрате современных технологий или уничтожении нашей культуры. Я же говорю о мире, в котором нет ни письменности, ни городов, ни законов, ни каких-либо иных признаков цивилизации.

Коллапс цивилизации – очень серьезная катастрофа, вызвать которую чрезвычайно сложно. Несмотря на все трудности, с которыми цивилизации сталкивались в своей истории, такого не случалось никогда – даже в масштабах континента^[84]. Европа выжила, потеряв 25–50 % своего населения во время эпидемии чумы, но сохранив цивилизацию невредимой, и это свидетельствует, что коллапс цивилизации может случиться, только если в каждом регионе мира будет потеряно более 50 % населения^[85].

Даже если бы коллапс случился, вполне вероятно, что цивилизацию удалось бы восстановить. Как мы видели, цивилизации независимо друг от друга возникли по крайней мере у семи обособленных народов^[86]. Хотя может показаться, что из-за истощения ресурсов восстановить цивилизацию будет сложнее, на самом деле задача сегодня значительно проще. Если произойдет катастрофа, в результате которой человечество не вымрет, после нее на земле останутся одомашненные животные, а также огромное количество материальных ресурсов в руинах городов: заново выковать железо из старых перил наверняка проще, чем выплавить его из руды. Гораздо проще, чем в XVIII веке, будет получить доступ даже к невозобновляемым ресурсам, таким как уголь, ведь у нас найдутся заброшенные разработки и шахты^[87]. Кроме того, по всему миру будут обнаруживаться свидетельства о том, что цивилизация вообще возможна, и сведения об инструментах и знаниях, необходимых, чтобы ее восстановить.

Существуют, однако, две тесные связи между коллапсом цивилизации и экзистенциальным риском. Во-первых, если коллапс необратим, он может считаться экзистенциальной катастрофой. Так, вполне можно представить, что определенное изменение климата или специально подготовленная эпидемия сделают планету непригодной для жизни, в результате чего человечество навсегда вернется к собирательству и разрозненному образу жизни^[88]. Во-вторых, глобальный коллапс цивилизации может повысить вероятность вымирания человечества, сделав людей более уязвимыми для последующей катастрофы.

В частности, коллапс может привести к вымиранию, если крупнейшая из выживших популяций окажется меньше минимальной жизнеспособной популяции, то есть если ее численность будет ниже, чем необходимо для выживания. Точной цифры здесь нет – этот уровень определяют с позиций вероятности с учетом множества факторов: где находится популяция, к каким технологиям она имеет доступ, в какой катастрофе она выжила. Оценки варьируются в диапазоне от нескольких сотен до десятков тысяч человек^[89]. Если непосредственно в результате катастрофы численность населения планеты опускается ниже этого уровня, логичнее считать такую катастрофу событием вымирания, а не необратимым коллапсом цивилизации. Я полагаю, что этот путь к вымиранию будет одним из наиболее типичных.

Мы редко всерьез задумываемся о рисках для всего потенциала человечества. В основном мы сталкиваемся с ними в боевиках, но в таких случаях наш эмоциональный ответ оказывается приглушенным из-за того, что подобными угрозами злоупотребляют, ведь с их помощью легко усилить драматический эффект^[90]. Мы видим их и в интернете, когда листаем списки вроде “десять вариантов конца света”, составляемые главным образом для того, чтобы будоражить и развлекать читателей. После окончания холодной войны мы редко натыкаемся на рациональные дискуссии с участием ведущих мыслителей на тему того, что вымирание значило бы для нас, для наших культур, а также для всего человечества^[91]. Поэтому в обычной жизни люди зачастую довольно легкомысленно относятся к перспективе вымирания человека.

Но когда риск становится очевидным и достоверным – когда совершенно ясно, что миллиарды жизней и все будущие поколения висят на волоске, – большинство людей не сомневается в важности защиты долгосрочного потенциала человечества. Если бы мы узнали, что к Земле летит крупный астероид, столкновение с которым с вероятностью более 10 % приведет к вымиранию человечества до завершения текущего столетия, вряд ли кто-то стал бы спорить, что́ лучше – потрудиться и построить отклоняющую систему или же закрыть глаза на проблему и понадеяться на авось. Напротив, ответ на угрозу немедленно стал бы одним из главных мировых приоритетов. Таким образом, отсутствие беспокойства из-за подобных угроз сегодня связано скорее с тем, что мы пока не верим в их существование, чем с тем, что мы всерьез сомневаемся в огромном размере ставок.

И все же очень важно постараться понять, из каких источников исходят серьезные угрозы. Это понимание подстегнет наши эмоции и подтолкнет к действию, вызовет новые дискуссии, а также поможет принимать решения о расстановке приоритетов.