home    книги    переводы    статьи    форум    ресурсы    обо мне    English

Непрямые способы оценки вероятности глобальной катастрофы

 

 

22.1. Закон Парето. 322

22.2. Гипотеза о «Чёрной королеве». 324

22.3. Парадокс Ферми. 324

22.4. Теорема о Конце света - «Doomsday argument». Формула Готта. 326

22.5. Рассуждение о конце света Картера-Лесли. 328

22.6. Непрямая оценка вероятности природных катастроф.. 332

22.7 Рассуждение о Симуляции. 334

22.8. Интеграция различных непрямых оценок. 338

 

Непрямые способы оценки используют не данные о самом предмете исследования, а разные косвенные источники информации, вроде аналогий, общих закономерностей и верхних пределов. Это вопрос подробно рассматривается Бостромом в статье «Угрозы существованию». Есть несколько независимых способов такой оценки.

22.1. Закон Парето

Закон Парето подробно рассмотрен Г.Г.Малинецким применительно к разнообразным катастрофам в книге «Риск. Устойчивое развитие.  Синергетика». Суть его состоит в том, что частота (точнее, ранг в списке) некой катастрофы связана с её масштабом очень простым законом:

Где а  – параметр, имеющий значение a = - 0,7 для случая жертв стихийных бедствий. Закон Парето носит эмпирический характер, и выглядит как прямая на логарифмическом графике с углом наклона, пропорциональном а. Типичным примером закона Парето является высказывание вроде: «С ростом магнитуды на 1 балл землетрясение происходит в 10 раз реже». (Но один балл магнитуды равен приросту энергии в 32 раза, и называется это закон повторяемости Гутенберга–Рихтера. Для больших энергий параметр сдвигается, и 1 балл прироста в районе 7-9 баллов даёт уменьшение частоты в 20 раз, то есть если землетрясения магнитудой 7-7,9 баллов происходят 18 раз в год, то  8-балльные – раз в год, а 9-бальные – раз 20 лет.) Особенностью этого закона является его универсальность для разных классов явлений, хотя значение параметра могут отличаться. Однако в случае числа жертв стихийных бедствий значение параметра в показателе степени составляет не -1, а - 0,7, что значительно утяжеляет хвост распределения.

Нас в этом распределении интересует, как часто во времени могли бы случаться катастрофы, в которых ожидаемое число жертв превосходило бы нынешнее население земли, то есть было бы порядка 10 млрд. человек. Если мы примем закон Парето с a = - 1, то есть в десять раз более сильное событие происходит в десять раз реже, то катастрофа с 10 млрд. жертв (то есть гарантированно перекрывающая население земли) будет происходить примерно раз 500 000 лет. Это число имеет порядок времени существования самого вида Homo Sapiens. C другой стороны, если взять a = - 0,7 (что означает, что в десять раз более сильное событие происходит только в 5 раз реже, а также в предположении, что природные катастрофы с числом жертв более 100 000 человек происходят раз в 10 лет), то до катастрофы масштаба всего человечества будет только примерно 30 000 лет. Это близко по порядку величины тому времени, которое прошло с момента извержения вулкана Тоба – 74000 лет – когда человечество оказалось на грани вымирания. Мы видим, что тяжесть хвоста распределения сильно зависит от величины параметра а. Однако стихийные бедствия не создают значительного риска в XXI веке при любых разумных значениях а.

Однако гораздо худший результат мы получим, если применим этот закон к войнам и террористическим актам. При этом закон Парето не учитывает экспоненциального характера развития. В реальных случаях для каждого класса событий мы имеем верхнюю границу закона применимости закона Парето, например, предполагается, что не бывает землетрясений с магнитудой больше, чем 9,5. Однако само множество разных классов событий не ограниченно.

Подробно закон степенного распределения катастроф и угрозы вымиранию человечеству рассматривается в статье Робина Хэнсена «Катастрофа, социальный коллапс и человеческое вымирание»[i]. Он отмечает, что важным фактором является разброс живучести отдельных людей. Если этот разброс велик, то чтобы уничтожить всех людей до последнего, нужна гораздо, на несколько порядков, более сильная катастрофа, чем та, которая уничтожает только 99 % людей.

22.2. Гипотеза о «Чёрной королеве»

На основании палеонтологических данных Ван Валенном было обнаружено, что линии вымирания родов животных подчиняется убывающему экспоненциальному закону. «Такая форма линий выживания фактически означает, что вероятность вымирания среднестатистического рода остается примерно постоянной в течение его жизни»[ii]. поскольку время жизни отдельных видов внутри рода Homo составляет порядка миллиона лет, то мы можем ожидать такую же продолжительность жизни и для людей, в той мере, в какой мы являемся обычным биологическим видом. Следовательно, гипотеза о Чёрной королеве не означает существенного риска в XXI веке.

С другой стороны, в настоящий момент мы живём в период 6-ого большого вымирания живых организмов[iii], на этот раз вызванного антропогенными факторами, который характеризуются скоростью вымирания, в 1000 раз превосходящую естественную. Если согласиться с тем, что человек – тоже один из видов, то это уменьшает ожидаемое время его существования с миллиона лет до тысячи.

22.3. Парадокс Ферми

Ещё один не прямой способ оценке вероятности основан на парадоксе Ферми. Парадокс Ферми состоит в следующем вопросе: «Если жизнь и разум обычные явления в природе, то почему мы не видим их проявлений в космосе»? Теоретически, жизнь и разум могли бы зародиться где-то на несколько миллиардов лет раньше, чем на Земле. За это время они могли бы распространиться на сотни миллионов световых лет, хотя бы с помощью самореплицирующихся космических зондов (называемых зонды фон Неймана). Этот объём включает в себя тысячи, а может и миллионы, галактик. Запустить волну самореплицирующихся межзвёздных зондов человечество могло бы уже в ближайшие 100 лет. Это могут быть микророботы, которые оседают на планеты, делают там ракеты и рассылают их по вселенной со скоростями, значительно ниже световых – такие устройства даже не обязаны обладать полноценным универсальным искусственным интеллектом: то же самое делают какие-нибудь актинии в земном океане, только в меньшем масштабе. Такой процесс может быть запущен случайно, просто при освоении ближайших планет с помощью самореплицирующихся роботов. такие микророботы будут в первую очередь потреблять твёрдую материю планет для своего размножения. Для них будут действовать законы эволюции и естественного отбора, аналогичные тем, что имеются в животном мире.

Однако мы не наблюдаем таких микророботов в Солнечной системе, хотя бы потому, что она уцелела. Более того, уцелела не только Земля, но и другие твёрдые тела – спутники дальних планет солнечной системы. Мы также не наблюдаем никаких инопланетных радиосигналов и никаких следов астроинженерной деятельности.

Отсюда возможны четыре вывода (хотя предлагают и больше – см. книгу Стефана Уэбба «50 решений парадокса Ферми»[iv], где рассматривается 50 разных вариантов, которые, в целом, сводятся к нескольким более общим категориям)):

1.      Разумная жизнь возникает во вселенной крайне редко, реже, чем в объёме сферы радиусом в 100 миллионов световых лет в течение 5 миллиардов лет.

2.      Мы уже окружены невидимой нам разумной жизнью, которая так или иначе позволила нам развиться или смоделировала условия нашей жизни. (Сюда же входит возможность того, что мы живём в полностью смоделированном мире.)

3.      Разумная жизнь погибает до того, как успевает запустить хотя бы примитивную «ударную волну разума» из роботов-репликаторов, то есть погибает в своём аналоге XXI века.

4.      Разумная жизнь жёстко отказывается от распространения за пределы родной планеты. Это может быть вполне разумно с её стороны, так как отдалённые космические поселения невозможно контролировать, а значит, из них может придти угроза существованию материнской цивилизации. (Возможно, что разуму достаточно пределов виртуального мира, или он находит выход в параллельный мир. Однако опыт жизни на Земле показывает, что выход на сушу не прекратил экспансии в море – жизнь распространяется во всех направлениях.)

Поскольку эти четыре гипотезы, по байесовой логике, имеют равные права до получения дополнительной информации, мы можем приписать каждой из них субъективную достоверность в 1/4. Иначе говоря, парадокс Ферми с достоверностью в 25 % предполагает, что мы вымрем в XXI веке. И хотя субъективные вероятности – это ещё не объективные вероятности, которые бы мы имели, обладай полнотой информации, наше космической одиночество – это тревожный факт. (С другой стороны, если мы окажемся не одиноки, это тоже будет тревожный факт, в свете рисков, которые создаст возможное столкновение с чужеродной цивилизацией. Однако это покажет нам, что, по крайней мере, некоторые цивилизации способны выжить.)

22.4. Теорема о Конце света - «Doomsday argument». Формула Готта

Другим способом непрямой оценки вероятности гибели человечества является специфическое и довольно спорное приложение теории вероятности, называемое Doomsday argument (DA), или Теорема о Конце света. Я сознательно опускаю огромный объём существующих аргументов и контраргументов в отношении этой теории и излагаю здесь только её выводы. В начале 1980-х годов DA был независимо и в разных формах открыт несколькими исследователями. Основные статьи по этому вопросу были опубликованы в ведущем естественнонаучном журнале Nature в разделе гипотез. DA опирается на так называемый постулат Коперника, который говорит, что обычный наблюдатель находится, скорее всего, в обычных условиях – на обычной планете, у обычной звезды, в обычной Галактике. Этот принцип эффективно предсказывает самые простые факты: он говорит, что вряд ли вы родились в полночь 1 января, или что вы вряд ли живёте на Северном полюсе. Хотя принцип Коперника кажется самоочевидным и почти тавтологичным, он может быть выражен в математической форме. А именно, он позволяет дать оценку вероятности того, что наблюдатель находится в необычных условиях. В частности, он может дать вероятностную оценку о том, сколько времени будет продолжаться некий процесс, исходя из того, сколько времени он уже продолжается (до наблюдения в случайный момент времени) – исходя из предположения, что маловероятно, что наблюдатель случайно оказался в самом начале или в самом конце процесса. Есть две основные формы этого математического предсказания – прямая, в которой вычисляется непосредственная вероятность, называемая формулой Готта[v], и косвенная, выдвинутая Б. Картером и Дж. Лесли[vi], в которой вычисляются байесовы поправки к априорной вероятности. Оба этих подхода сразу попытались применить к вычислению ожидаемой продолжительности жизни человечества. Объём дискуссий по этому вопросу составляет несколько десятков статей, и многие кажущиеся очевидными опровержения не работают. Я рекомендую читателю обратится к переведённым мною статьям Н.Бострома[vii], где разбирается часть аргументов, а также к упоминавшейся уже книге Дж. Лесли и статье Кейва[viii]. Основная дискуссия строится вокруг того, можно ли вообще использовать данные о прошлом времени существования объекта для предсказания его будущего времени существования, и если да, то можно ли использовать эти данные, чтобы предсказать будущее число людей и время до «конца света». При этом в обоих случаях оказывается, что получающиеся оценки будущего времени существования человечества неприятны. 

Рассмотрим сначала формулу Готта. Впервые она была опубликована в Nature[ix] в 1993г. Суть лежащих в основе её рассуждений состоит в том, что если мы наблюдаем некое длящееся событие в случайный момент времени, то, скорее всего, мы попадём в середину периода его существования, и вряд ли попадём в области очень близкие к началу или к концу. Вывод формулы Готта можно посмотреть в статье Кейва. Приведём саму формулу.

                                                       

Где T – возраст системы в момент её наблюдения, t – ожидаемое время её существования, а f – заданный уровень достоверности. Например, если f=0.5, то с вероятность в 50 % система прекратит существовать в период от 1/3 до 3 её нынешних возрастов с настоящего момента. При f=0.95  система просуществует с вероятностью 95 % от 0,0256 до 39 нынешних возрастов.

Формула Готта находит выражение в человеческой интуиции, когда, например, мы полагаем, что если некий дом простоял год, то очень вряд ли он обрушится в ближайшие несколько секунд. Этот пример показывает, что мы можем делать вероятностные высказывания об уникальных событиях, не зная ничего о реальном распределении вероятностей. Большинство попыток опровержения формулы Готта основано на том, что приводится контрпример, в котором она якобы не работает – однако в этих случаях нарушается принцип того, что предмет наблюдается в случайный момент времени. Например, если взять младенцев или очень старых собак (как делал Кейв), то формула Готта не будет предсказывать ожидаемую продолжительность их жизни, однако молодые люди или старые собаки не есть люди или собаки, взятые в случайный момент времени.) Формула Готта была проверена экспериментально, и давала правильные результаты для времени радиоактивного распада атома неизвестного типа, а также для времени существования бродвейских шоу.

В отношении будущего человеческой цивилизации формула Готта применяется не к времени, а к рангу рождения, поскольку население менялось неравномерно, и более вероятно оказаться в период с высокой плотностью населения. (Однако если применить её к времени существования вида, то ничего невероятного не получится: с вероятностью в 50 % человечество просуществует от 70 тысяч до 600 тысяч лет.) Предполагается, что мы, родившись, произвели акт наблюдения нашей цивилизации в случайный момент времени. При этом мы узнали, что всего за историю человечества было только примерно 100 миллиардов людей. Это значит, что мы, скорее всего, попали в середину отрезку, и значит, что очень вряд ли (с менее 0,1 % вероятности) суммарное число людей будет 100 триллионов. А это значит, что шанс того, что человечество распространится по всей галактике в течение многих тысячелетий, также мал.

Однако из этого также следует, что вряд ли что мы живём в последнем миллиарде родившихся людей, а значит, у нас есть, скорее всего, ещё несколько сотен лет до конца света, учитывая ожидаемое население земли в 10 млрд. человек. Для XXI века вероятность гибели цивилизации, исходя из формулы Готта, применяемой у рангу рождения, составляет 15-30  %, в зависимости от числа людей, которые будут в это время жить. Как ни странно, эта оценка совпадет с предыдущей, на основе парадокса Ферми. Разумеется, этот вопрос нуждается в дальнейших исследованиях.

22.5. Рассуждение о конце света Картера-Лесли

Лесли рассуждает несколько другим образом, чем Готт, применяя байесову логику. Байесовая логика основывается на формуле Байеса, которая связывает апостериорную вероятность некой гипотезы с априорной её вероятностью и вероятностью новой порции информации, то есть свидетельства, которую мы получили в поддержку этой гипотезы. (Я рекомендую в этом месте обратиться к переведённым мною статьям Ника Бострома о Doomsday Argument, поскольку не могу изложить здесь всю проблематику в деталях.)

Лесли пишет: допустим, есть две гипотезы о том, сколько будет всего людей от неандертальцев до «конца света»:

1-ая гипотеза: всего будет 200 млрд. людей. (То есть конец света наступит в ближайшее тысячелетие, так как всего на земле уже жило 100 млрд. людей.)

2-ая гипотеза: всего будет 200 трлн. людей (то есть люди заселят Галактику).

И допустим, что вероятность каждого из исходов равна 50 % с точки зрения некого абстрактного космического наблюдателя. (При этом Лесли предполагается, что мы живём в детерминистическом мире, то есть, но эта вероятность твёрдо определена самими свойствами нашей цивилизации, хотя мы этого и не знаем.) Теперь, если применить теорему Байеса и модифицировать эту априорную вероятность с учётом того факта, что мы обнаруживаем себя так рано, то есть среди первых 100 млрд. людей, мы получим сдвиг этой априорной вероятности в тысячу раз (разница между миллиардами и триллионами). То есть вероятность того, что мы попали в ту цивилизацию, которой суждено умереть относительно рано, стала 99,95 %.

Проиллюстрируем это примером из жизни. Допустим, в соседней комнате сидит человек, который с равной вероятностью читает или книгу, или статью. В книге – 1000  страниц, а в статье 10 страниц. В случайный момент времени я спрашиваю этого человека, какой номер страницы, которую он читает. Если номер страницы больше, чем 10, я однозначно могу заключить, что он читает книгу, а если номер страницы меньше 10, то здесь мы имеем тот случай, когда можно применять теорему Байеса. Номер  страницы меньше 10 может получиться в двух случаях:

А) человек читает книгу, но находится в её начале, вероятность этого – 1 % из всех случаев, когда он читает книгу.

Б) Человек читает статью, и здесь эта вероятность равна единице из всех случаев, когда он читает статью.

Иначе говоря, из 101 случая, когда номер страницы может оказаться меньше 10, в 100 случаях это будет потому, что человек читает статью. А значит, что вероятность того, что он читает статью, после получения нами дополнительной информации о номере страницы стала 99 %.

Свойство приведённых рассуждений состоит в том, что они резко увеличивают даже очень небольшую вероятность вымирания в XXI веке. Например, если она равна 1 % с точки зрения некого внешнего наблюдателя, то для нас, раз мы обнаружили себя в мире до этого события, она может составлять 99.9 % в предположении, что в галактической цивилизации будет 200 триллионов человек.

Из этого следует, что, несмотря на абстрактность и сложность для понимания данных рассуждений, мы должны уделять не меньшее внимание попыткам доказать или опровергнуть рассуждение Картера-Лесли, чем мы тратим на предотвращение ядерной войны. Многие учёные стараются доказать или опровергнуть аргумент Картера-Лесли, и литература на эту тему обширна. И хотя он мне кажется достаточно убедительным, я не претендую на то, что доказал этот аргумент окончательно. Я рекомендую всем, кому кажется очевидной ложность приведённых выше рассуждений, обратиться к литературе по этой теме, где подробно рассмотрены различные аргументы и контраргументы.

Рассмотрим ещё несколько замечаний, которые работают за и против аргумента Картера-Лесли. Важным недостатком DA по Картеру-Лесли является то, что время будущего выживания людей зависит от того, каким мы выберем число людей в «длинной» цивилизации. Например, при вероятности вымирания в XXI веке в 1 % и при будущем числе людей в длинной цивилизации в 200 триллионов происходит усиление в 1000 раз, то есть мы имеем 99,9 процентов вымирания в XXI веке. Если пользоваться логарифмической шкалой, это даёт «период полураспада» в 10 лет. Однако если взять число людей в длинной цивилизации в 200 квинтильонов, то это даст шанс в одну миллионную вымирания в XXI веке, что есть 2**20 степени, и ожидаемый «период полраспада» только в 5 лет. Итак, получается, что, выбирая произвольную величину времени выживания длинной цивилизации, мы можем получать произвольно короткое ожидаемое время вымирания короткой цивилизации. Однако наша цивилизация уже просуществовала на наших глазах больше, чем 5 или 10 лет.

Чтобы учесть это различие, мы можем вспомнить, что чем больше людей в длинной цивилизации, тем менее она вероятна в соответствии с формулой Готта. Иначе говоря, вероятность того, что цивилизация вымрет рано – высока. Однако, судя по всему, рассуждение Картера Лесли ещё больше усиливает эту вероятность. При этом сложно сказать, корректно ли применять рассуждение Картера-Лесли вместе с формулой Готта, так как здесь может получиться так, что одна и та же информация учитывается дважды. Этот вопрос нуждается в дальнейших исследованиях.

Оригинальное рассуждение Лесли содержит и ряд других логических проколов, которые были обобщены Бостромом в своих статьях, и основные из них относится к проблеме выбора референтного класса, а также к сомнениям в том, что выборка является действительно случайной. Объём рассуждений на эту тему настолько велик и сложен, что здесь мы только вкратце очертим эти возражения.

Проблема референтного класса состоит в выборе того, кого именно мы должны считать людьми, к которым относится данное рассуждение. Если мы вместо людей возьмём животных, наделённых мозгом, то их будут тысячи триллионов в прошлом, и мы вполне можем ожидать такое же их количество в будущем. Я вижу решение проблемы референтного класса в том, что, в зависимости от того, какой именно референтный класс мы выбираем, соответствующее событие должно считаться концом его существования. То есть каждому референетному классу соответствует свой «конец света». Например, то, что в будущем будет только ещё несколько сотен миллиардов людей, никак не мешает тому, что в будущем будут ещё тысячи триллионы наделённых мозгом существ. В результате получаем очень простой вывод: Конец существования данного референтного класса есть «конец света» для данного референтного класса. (При этом конец существования не означает смерть, а может означать просто переход в другой класс: например, младенец вырастает и становится дошкольником).

Вторая логическая ошибка в рассуждении Лесли состоит в неслучайности выборки. Дело в том, что если бы я родился до ХХ века, то я бы никогда не узнал о рассуждении Картера-Лесли и никогда бы не мог задаться вопросом о его применимости. Иначе говоря, здесь имеется эффект наблюдательной селекции – не все наблюдатели равноценны. Поэтому на самом деле рассуждение Лесли может применяться только теми наблюдателями, которые знают о нём.

Однако это резко ухудшает наши шансы на выживание, даваемые DA. Ведь DA известен только с 80-х годов ХХ века, то есть 27 лет. (Более того, в начале он был известен только более узкому кругу людей. То есть эти 27 лет смело можно сократить лет до 20.) Если взять эти 27 лет, и применить к ним формулу Готта, мы получим 50 % вероятности гибели в промежуток от 9 до 81 года с настоящего момента, что примерно означает более 50 % для XXI века. Как ни странно, эта оценка не сильно расходится с двумя предыдущими.

Можно произвести рассуждение и по-другому. Рассмотрим промежуток времени, в течение которого существуют глобальные риски. При этом в качестве точки отсчёта возьмём 1945 год, а в качестве точки случайного наблюдения – тот момент, когда я узнал о  возможности ядерной войны, как одного из глобальных рисков – 1980 год. (В качестве длящегося события здесь мы рассматриваем период от начала периода подверженности риску до его окончания.) Итак, в момент случайного наблюдения этот риск уже существовал в течение 35 лет. Формула Готта даёт промежуток 50 % для шансов реализации риска с 12 до 105 лет (от 1980 года). То, что это событие до сих пор не случилось, вносит определённый сдвиг в оценку, но, тем не менее, мы можем сказать, что эти 50 % всё ещё действуют на остаток от промежутка в 90 лет с 1980 года, то есть до 2070 года. Иначе говоря, вероятность прекращения ситуации с глобальными рисками составляет более 50 % в XXI веке. Опять примерно тот же результат. Прекращение это может быть как реализация риска, так и переход в некое иное безрисковое состояние, о котором пока сказать ничего невозможно. Если же принять во внимание, что в реальности плотность риска росла в промежуток с 1945 по 70-е годы, то это значительно ухудшит нашу оценку.

На самом деле Doomsday Argument не означает окончательного вымирания в ближайшее время. Для него достаточно резкого снижения численности населения. Например, если население Земли сократится до нескольких тысяч человек (существ), которые просуществуют миллион лет и потом исчезнут, то всё равно наибольшая доля людей из всех когда-либо живших будет жить в XX-XXI веке, когда население было несколько миллиардов и вероятнее всего обнаружить себя именно сейчас.

Может оказаться тогда, что это и не катастрофа будет, а просто - снижение рождаемости плюс возникновение неких постчеловеков. (Но это может быть и племя дикарей, и группа выживших в бункере, или подмножество учёных, которые способны понять DA - если оно будет меньше нынешнего подмножества, которое и так мало.) Сказанное даёт шанс на экспериментальное измерение DA. Но только теми, кто родился сейчас. Если я проживу 100 лет и увижу, что население Земли резко сократилось, то это будет хорошим подтверждением DA. (Правда, и многомирного бессмертия тоже.)

22.6. Непрямая оценка вероятности природных катастроф

Если не учитывать эффекты наблюдательной селекции, мы получаем очень хорошие шансы на выживание в XXI веке от любых природных (но не антропогенных) катастроф – от галактического до геологического масштабов, поскольку из того, что их не было за время существования земли и нашего вида, следует очень малая вероятность того, что они произойдут в XXI веке. Поскольку ни одна природная катастрофа не уничтожила человеческих предков за прошедшие 4 млрд. лет, можно заключить, что наши шансы на гибель XXI веке от природных катастроф составляют менее чем 1 к 40 миллионам. (А с учётом высокой человеческой живучести и приспособляемости, и того меньше.) К сожалению, такие рассуждения принципиально неверны, так как не учитывают малоочевидный эффект наблюдательной селекции.

В силу этого эффекта ожидаемое будущее время существования будет меньше, чем прошлое (см. подробнее мою  статью «Природные катастрофы и антропный принцип» и главу о наблюдательной селекции в разделе о природных катастрофах). Всё же вряд ли вклад наблюдательной селекции составляет больше одного порядка. Однако для разных уровней природных катастроф мы имеем разные характерные периоды времени. Например, жизнь на Земле существует уже 4 млрд лет, и, с учётом сказанного, она могла бы существовать ещё не менее 100 - 400 млн. лет. (Наблюдательная селекция здесь состоит в том, что мы не знаем, какая доля планет земного типа гибнет в процессе эволюции; предположив, что доля уцелевших составляет от 1 к 1000 до 1 к триллиону, и получаем оценки в 100-400 млн. лет как период полураспада.) То есть непрямая оценка вероятности жизнеуничтожающей природной катастрофы была бы 1 к 4 000 000 за сто лет. Это пренебрежимо малая величина на фоне других рисков. Что касается времени существования нашего вида, то последняя природная катастрофа, угрожавшая ему, была гораздо ближе во времени, 74 000 лет назад (вулкан Тоба), и поэтому мы имеем ожидаемое время существования только 7000 лет с учётом максимально возможного эффекта наблюдательной селекции. Наблюдательная селекция здесь состоит в том, что если бы люди были очень мало живучим видом, который вымирает с периодичностью раз в несколько тысяч лет, мы не могли бы заметить этого, так как мы можем заметить только ту ветвь нашего вида, которая прожила достаточный срок для формирования цивилизации, в которой мы можем задаться данным вопросом. 7000 лет  соответствовало бы с учётом огромной погрешности таких рассуждений примерно 1 % вымирания в XXI веке в результате природных катастроф или внутренней присущей виду неустойчивости – причём это максимальная оценка в наихудшем случае. Если не брать в расчет наблюдательную селекцию, то шансы природной катастрофы любого рода, ведущей к вымиранию человечества, на основании прошлого времени существования можно вычислить с помощью формулы Готта (применяемой к времени существования Homo sapiens), и они будут 1 к 1500 за 100 лет, то есть, 0,066 %.

Наконец, есть третьего рода катастрофы, вероятность которых мы можем косвенно оценить по прошлому времени, а именно, по времени, в течение которого существует письменная история, то есть 5000 лет. Мы можем смело утверждать, что за 5000 лет не произошло ни одной катастрофы, которая бы прервала письменную историю. Здесь тоже возможна, но маловероятна наблюдательная селекция, поскольку сильнее действуют не природные, а антропогенные факторы. Та катастрофа, которая могла бы прервать письменную историю 3000 лет назад, например, извержение сверхвулкана в средиземноморье, сейчас бы уже не могла сделать это. Поэтому можно смело сказать, что природная катастрофа, прерывающая письменную традицию (такой, как она была в прошлом, а не сейчас) имеет шансы не более 1 % в XXI веке, считая по формуле Готта (применяя её ко всему времени существования письменной традиции). А поскольку сейчас письменная традиция гораздо прочнее, чем в прошлом, то можно эту оценку смело уменьшить вдвое: до 0,5 %. И даже такая катастрофа, которая прервала бы письменность в прошлом, не прервёт её сейчас и не убьёт всех людей.

Наконец, эффект наблюдательной селекции может проявляться и в отношении к антропогенным катастрофам, а именно, к глобальному риску ядерной войны. (В предположении, что всеобщая ядерная война уничтожила бы человечество или отбросила бы его настолько назад, что написание книг стало бы невозможным.) Эффект наблюдательной селекции здесь состоит в том, что мы не знаем, каковы были шансы нашей цивилизации выжить в период с 1945 до 2007 года, то есть за время существования ядерного оружия. Может быть, в девяти из десяти «параллельных миров» это не удалось. Соответственно, в результате мы можем недооценивать глобальные риски. Если бы интенсивность изменения числа наблюдателей была бы очень велика, то это оказывало бы «прижимающее» воздействие на дату, в которой бы мы себя обнаруживали – то есть мы бы вероятнее всего обнаруживали себя достаточно рано. См. подробнее статью Бострома и Тегмарка[x], где предложены точные выкладки для катастроф космологических масштабов. Если бы вероятность риска вымирания составляла бы 90 % в год, тогда бы я, скорее всего, жил бы не в 2007, а в 1946. То, что я всё ещё жив в 2007 году, даёт определённый верхний предел (с определённой заданной достоверностью) на темп вымирания (для исторических условий XX века). А именно: 5 летний период «полураспада» можно исключить примерно с вероятностью 99,9 (так как за 50 лет прошло 10 циклов по 5 лет, и 2 в 10 степени это 1024. то есть за 50 лет уцелела бы только одна тысячная доля планет.) Рассуждая дальше подобным образом можно достаточно достоверно исключить периоды «полураспада» цивилизации меньшие, чем 50 лет. Однако большие мы исключить не можем. Это, конечно не значит, что реальный период «полураспада» и есть 50 лет, однако, если исходить из принципа предосторожности, то надо предположить, что это так. Такой период полураспада означал бы наши шансы дожить до XXII века примерно в 25 %. И это — в предположении, что уровень угроз останется неизменным с середины XX века.

Выводы: различные независимые методы непрямых рассуждений дают оценки вероятности гибели цивилизации в XXI веке в десятки процентов. Это не должно нас успокаивать в том смысле, что как будто бы это гарантирует нам десятки процентов выживания. Потому что, если учесть степень неопределённости таких рассуждений, то это события категории «десятки процентов», которая, как мы предположили в начале, означает риски от 1 до 100  %.

22.7 Рассуждение о Симуляции

Ник Бостром разработал следующую логическую теорему, называемую рассуждением о Симуляции[xi] (мы уже упоминали её в контексте рисков внезапного отключения «Матрицы» и принципиально новых открытий). Вот ход его рассуждений:

Исходя из текущих тенденций в развитие микроэлектроники, кажется вполне вероятным, что рано или поздно люди создадут саморазвивающийся искусственный интеллект. Нанотехнологии обещают предельную плотность процессоров в триллион штук на грамм вещества (углерода) – с  производительностью порядка 10  флопс. Плюс нанотехнологии позволят превращать залежи каменного угля в огромный компьютер (поскольку основным строительным материалом для него, возможно, станет углерод). Это открывает перспективу превращения всей Земли в «компьютрониум» – одно огромное вычислительное устройство. Мощность такого устройства оценивается в 10  операций в секунду. (Что соответствует превращению миллиона кубических километров вещества в компьютрониум, который покроет всю Землю слоем в 2 метра.) Использование всего твёрдого вещества в солнечной системе даст порядка 10  флопс. Очевидно, что такая вычислительная мощь могла бы создавать детальные симуляции своего человеческого прошлого. Поскольку предполагается, что для симуляция одного человека нужно не более чем 10  флопс (это число основано на количестве нейронов и синапсов в мозгу, и частоте их переключения), то это даст возможность симулировать одновременно 10  людей, или 10  цивилизаций, подобных нашей, с нашей же скоростью развития. Вряд ли компьютрониум направит все свои ресурсы на симулирование людей, но даже если он выделит на это одну миллионную усилий, это будет всё ещё порядка 10  человеческих цивилизаций. Итак, даже если только одна из миллиона реальных цивилизаций порождает компьютрониум, то этот компьютрониум порождает порядка 10  цивилизаций, то есть на каждую реальную цивилизацию приходится 10  виртуальных. Здесь важны не конкретные цифры, а то, что при вполне реалистичных предположениях множество симулированных цивилизаций на много-много порядков больше множества реальных.

Отсюда Ник Бостром делает вывод, что верно по крайней мере одно утверждение из трёх:

1)       Ни одна цивилизация не способна достичь технологического уровня, необходимого для создания компьютрониума.

2)       Или КАЖДЫЙ возможный компьютрониум будет абсолютно не заинтересован в моделировании своего прошлого.

3)      Или мы уже находимся внутри имитации в компьютрониуме.

При этом пункт 2 можно исключить из рассмотрения, потому что есть причины, по которым хотя бы некоторые компьютрониумам будет интересно, каковы именно были обстоятельства их возникновения, но нет такой универсальной причины, которая могла бы действовать на все возможные компьютрониумы, не позволяя им моделировать своё прошлое. Причина интереса к своему прошлому может быть много, назову несколько – это вычисление вероятности своего возникновения, чтобы оценить плотность других сверхцивилизаций во вселенной или развлечение людей или неких других существ.

П.1 означает, что или компьютрониум и симуляции в нём технически невозможны, или что все цивилизации гибнут раньше, чем обретают возможность его создать, что, однако, не означает с необходимостью вымирания носителей этой цивилизации, то есть в нашем случае людей, а только крах технического прогресса и откат назад. Однако пока не видно рациональных причин, делающих компьютрониум невозможным. (Например, утверждения о том, что симуляция сознания невозможна, поскольку сознания де является квантовым эффектом, не работает, так как возможны квантовые компьютеры.) При этом нельзя сказать, что компьютрониум невозможен в принципе, так как люди свойственно видеть сны, не отличимые изнутри от реальности (то есть являющиеся качественной симуляцией), а значит, с помощью генетических манипуляций можно вырастить супермозг, который видит сны непрерывно.

Таким образом, рассуждение о симуляции сводится к острой альтернативе: «Или мы живём в мире, который обречён погибнуть, или мы живём в компьютерной симуляции».

Итак, гибель мира в этом рассуждении не означает вымирания всех людей – она означает только гарантированную остановку прогресса до того, как компьютрониум будет создан. Гарантированность её означает не только, что она произойдёт на Земле, но и на всех остальных возможных планетах. То есть она означает, что имеется некий очень универсальный закон, который препятствует подавляющему (на много-много порядков) большинству цивилизаций создать компьютрониум. Возможно, это происходит просто потому, что компьютрониум невозможен, или потому что моделирование человеческого сознания на нём невозможно. Но может быть, что это происходит потому, что ни одна цивилизация не может достичь уровня компьютрониума, так как сталкивается с некими неразрешимыми противоречиями, и вынуждена или погибнуть, или откатится назад. Эти противоречия должны носить универсальный характер, а не быть связаны только, скажем, с атомным оружием, потому что тогда цивилизации на тех планетах, в коре которых нет урана, смогут устойчиво развиваться. Примером такого универсального противоречия может быть теория хаоса, которая делает системы выше определённого уровня сложности принципиально нестабильными. Другой пример универсального закона, ограничивающего существование систем – это старение. Оно работает так, что ни один человек не может прожить больше 120 лет, хотя для каждого находятся свои конкретные причины смерти. Можно сказать, что ускорение прогресса – это старение наоборот.

Отметим, что наличие универсального процесса уничтожения, дающего верхний предел существованию всех цивилизаций, существование которого подчёркивает Универсальный DA Виленкина и Олума, означает гораздо более мощное давление на среднестатистические цивилизации. Например, наличие верхнего предела продолжительности жизни человека в 120 лет означает среднюю продолжительность жизни  около 70 лет. Универсальный процесс уничтожения должен подавлять даже самые живучие цивилизации, а мы, скорее всего, являемся среднестатистической цивилизацией. Следовательно, на нас этот процесс должен начать действовать раньше и с избыточной силой.

Известное возражение на эти рассуждения опирается на то, что симуляция реальности вовсе не обязательно является копией того, что было в прошлом. (См. обзор возражений рассуждению о симуляции в статье Данилы Медведева «Живём ли мы в спекуляции Ника Бострома?»[xii]) И если мы находимся в сконструированном мире, то это не позволяет нам делать выводы о том, каков реальный мир. Как, например, не может монстр из компьютерной игры догадаться о реальном устройстве мира людей. Однако то, что мы не знаем, каков мир за пределами симуляции, не мешает нам знать, что мы всё же находимся в симуляции. Здесь важно различать два смысла слова «симуляция» – как компьютерной модели, и как того факта, что эта модель напоминает некое историческое событие из прошлого. При этом можно предположить, что большинство симуляций не являются точными подобиями прошлого, и значительная доля симуляций вообще не имеет отношения к прошлому той цивилизации, которая их затем создала. Также и в литературе большинство романов не является историческими романами, и даже исторические романы не точно совпадают с прошлым.

Если мы находимся внутри симуляции, нам угрожают все те же риски гибели, которые могут случиться и в реальности, плюс вмешательство со стороны авторов симуляции, которые нам могут подкинуть некие «трудные задачки» или исследовать на нас некие экстремальные режимы, или просто поразвлечься за наш счёт, как мы развлекаемся, просматривая фильмы про падение астероидов. Наконец, симуляция может быть просто внезапно выключена. (У симуляции может быть предел ресурсоёмкости, поэтому авторы симуляции могут просто не позволить нам создавать настолько сложные компьютеры, чтобы мы могли запускать свои симуляции.)

Итак, если мы находимся в симуляции, это только увеличивает нависшие над нами риски и создаёт принципиально новые – хотя появляется шанс внезапного спасения со стороны авторов симуляции.

Если же мы не находимся в симуляции, то велик шанс, что любые цивилизации по причине катастроф не достигают уровня создания компьютрониума, который мы могли бы достичь к концу XXI века. А это означает, велика вероятность неких глобальных катастроф, которые не позволят нам достичь этого уровня.

Если мы придерживаемся Байесовой логики, нам следовало бы приписывать равные вероятности независимым гипотезам. И тогда мы должны были бы приписать гипотезе о том, что наша цивилизация не достигнет уровня компьютрониума 50  % вероятности (что означает либо невозможность достижения его, либо неизбежность краха цивилизации). Эта оценка совпадает по порядку величины с оценками, которые мы получили другими способами.

Получается, что рассуждение о симуляции действует таким образом, что обе его альтернативы ухудшают наши шансы выживания в XXI веке, то есть его нетто вклад отрицательный, независимо от того, как мы оцениваем шансы одной из двух альтернатив. (Моё мнение состоит в том, что вероятность того, что мы находимся в симуляции, – выше, чем вероятность того, что мы реальная цивилизация, которой суждено погибнуть, и на много порядков.)

Интересно отметить повторяющийся паттерн: альтернатива с SETI также имеет отрицательный нетто-эффект – если они рядом, то мы в опасности, если их нет, то мы тоже в опасности, поскольку это значит, что некоторые факторы мешают им развиваться.

22.8. Интеграция различных непрямых оценок

Все приведённые непрямые оценки выполнены независимо друг от друга, хотя дают примерно одинаковые и неутешительные результаты, состоящие в том, что вероятность человеческого вымирания в XXI веке высока. Однако поскольку эти рассуждения относятся к одной и той же реальности, возникает желание объединить их в более целостную картину. Рассуждение о симуляции Бострома существует логически отдельно от рассуждения конце света Картера-Лесли (которое ещё надо связать с формулой Готта), и соответственно возникает соблазн их «поженить». Такая попытка предпринимается в работе Иштвана Араньоси «The Doomsday Simulation Argument»[xiii]. Их, в свою очередь, интересно связать с многомирным бессмертием в духе Хигго и с влиянием эффекта наблюдательной селекции.

Интересная попытка такого рода предпринята в уже упоминавшейся статье Кноба и Олума «Философское значение космологической инфляции»[xiv]. В противовес «частному Doomsday argument» в духе Картера-Лесли, они выдвигают «Вселенский Doomsday argument». А именно, они показывают, что из того, что мы обнаруживаем себя в ранней форме человечества, следует, с высокой вероятностью, что множество людей, находящееся в короткоживущих цивилизациях, больше множества всех людей, находящихся во всех долгоживущих цивилизациях по всей вселенной, или, иначе говоря, количество долгоживущих цивилизаций крайне мало. Это опять-таки означает, что шансы нашей цивилизации не прожить миллионы лет и не заселить галактику – весьма велики, однако меняет вероятные причины вымирания: а именно, это скорее произойдёт не из-за какой-то частной причины, относящийся только к земле, а из-за некой универсальной причины, которая бы действовала на все планетарные цивилизации. Мы должны быть озабочены, пишут они, не орбитой конкретного астероида, а тем, что во всех планетарных системах существует настолько много астероидов, что это делает выживание цивилизаций маловероятным; мы должны быть озабочены не тем, что некая конкретная ближайшая звезда станет сверхновой, а тем, что смертоносность сверхновых существенно недооценивается. Отметим, что тот же вывод о том, что множество короткоживущих цивилизаций значительно превосходит множество долгоживущих, следует и из рассуждения о симуляции Бострома, если в качестве короткоживущих цивилизаций считать симуляции.

Я полагаю, что суть этой интеграции должна быть в том, что мы выясним, какие рассуждения перекрывают другие, то есть какие из них являются более сильными в логическом смысле. (При этом возможно, что последующие исследования смогут дать более точную картину интеграции, и сведут все отдельные выкладки к одной формуле.) Я вижу такой порядок мощности высказываний (более сильные утверждения, отменяющие более слабые, сверху). При этом я не имею в виду, что все они истины.

a.            Качественная теория сознания, основанная на понятии о квалиа. Квалиа – это философский термин, обозначающий качественную сторону в любом восприятии, например, «красность»[xv]. Природа и реальность квалиа являются объектом интенсивных дискуссий. Теории о квалиа пока не существует, есть только несколько логических парадоксов, с этим связанных. Однако, судя по всему, теория о квалиа может исключать представления о множественности миров и линейности времени. В силу этого такая теория, будь она создана и доказана, сделала бы неправомочными любые нижеследующие рассуждения.

b.           Рассуждение о бессмертии Дж. Хигго, основанное на идее о множественности миров. В этом случае всегда найдётся мир, где я, и часть земной цивилизации соответственно, не погибла. Рассуждение о бессмертии Хигго является очень сильным, потому что оно не зависит ни от конца света, ни от того, находимся ли мы в симуляции или нет. Бессмертие по Хигго делает личный конец света невозможным. Ни один хозяин симуляции никак не может повлиять на работу рассуждения Хигго, потому что всегда найдётся бесконечное количество других симуляций и реальных миров, в точности совпадающих с данной в текущий момент времени, но имеющих с ней разные будущие. Однако рассуждение Хигго опирается на «self sampling assumption» – то есть идею о том, что я являются одним из экземпляров из множества своих копий – а на эту же идею опираются и все последующие рассуждения – аргумент о симуляции, формула Готта, рассуждение о конце света Картера-Лесли. Любые попытки опровергнуть бессмертие по Хигго, основанное на невозможности рассмотрения себя как одного из экземпляров из множества своих копий одновременно опровергают и все эти рассуждения.

c.            Рассуждение о симуляции Бострома. Он тоже работает в предположении о множественности миров, тогда как последующие рассуждения не учитывают этот факт. Кроме того, если мы на самом деле находимся в симуляции, то мы не наблюдаем мир в случайный момент времени, поскольку симуляции, скорее, будут привязаны к исторически интересным эпохам. Наконец, рассуждения в духе DA требуют возможной непрерывной нумерации людей или времени, что в случае множества симуляций не работает. Поэтому любые формы DA утрачивают силу, если рассуждение о симуляции верно. Рассуждение о симуляции сильнее рассуждения о конце света Картера-Лесли и формулы Готта, потому что оно работает, независимо от того, сколько ещё людей будет в нашем реальном мире. Более того, оно существенно размывает понятия о количестве людей и том, что такое реальный мир, поскольку непонятно, должны ли мы учитывать будущих людей из других симуляций, как реальных. Непонятно также, должна ли каждая симуляция симулировать весь мир от начала до конца, или только некий отрезок его существования только для нескольких людей.

d.           Формула Готта. Формула Готта уверенно работает в отношении событий, не связанных с изменением числа наблюдателей, например, в отношении радиоактивного распада, даты сноса берлинской стены, предсказания продолжительности человеческой жизни и т. д. Однако она даёт гораздо более мягкую оценку будущей продолжительности существования человечества, чем аргумент Картера-Лесли. Формула Готта является более простым и понятным инструментом для оценки будущего, чем рассуждение Картера-Лесли. Хотя бы потому, что формула Готта даёт конкретные числовые оценки, а рассуждение Картера-Лесли даёт только поправку к исходным вероятностям. Далее, формула Готта применима к любым референтным классам, так как для любого класса она даёт оценку времени завершения именного этого класса. А в рассуждении Картера-Лесли упоминается обычно именно смерть наблюдателя, и его надо адаптировать ситуациям, где наблюдатель не умирает. Вопрос о том, следует ли применять поправки, даваемые рассуждением Картера-Лесли к оценкам, которые дала формулой Готта, требует дальнейшего исследования.

e.            Аргумент Картера-Лесли. Важным условием аргумента Картера-Лесли (в его интерпретации Бостромом) является несуществование других цивилизаций, помимо земной. Кроме того, очень трудно придумать реальный эксперимент, в котором можно было бы проверить силу этого рассуждения. А мысленные эксперименты работают с определёнными натяжками.

f.            Парадокс Ферми находится тоже внизу этой таблицы, поскольку рассуждение о симуляции очевидным образом отменяет его значение: в симуляции плотность цивилизаций может быть любой, равно как и риск их агрессии, в зависимости от прихоти владельцев симуляции.

Всё сказанное здесь о непрямых способах оценки находится на грани между доказуемым и гипотетическим. Поэтому я предлагаю не принимать на веру сделанные выводу, но и не отбрасывать их. К сожалению, исследования непрямых способов оценки вероятности глобальной катастрофы могут пролить свет на наше ожидаемое будущее, но не дают ключей к его изменению.



[i] Robin Hanson. Catastrophe, Social Collapse, and Human Extinction \\ August 2007 Global Catastrophic Risks, ed. Nick Bostrom.  http://hanson.gmu.edu/collapse.pdf

[ii] а.в. марков. Возвращение черной королевы, или закон роста средней продолжительности существования родов в процессе эволюции. Журн. Общей Биологии, 2000. Т.61. № 4. С. 357-369. http://macroevolution.narod.ru/redqueen.htm.

[iii] См. например: Алексеев Александр Сергеевич. Массовые вымирания в фанерозое. Диссертация на соискание ученой степени доктор геолого-минералогических наук по специальности 04.00.09 палеонтология и стратиграфии. http://macroevolution.narod.ru/alekseev.htm

[v] Carlton M. Caves. Predicting Future Duration from Present Age:A Critical Assessment.

http://info.phys.unm.edu/papers/2000/Caves2000a.pdf

[vi] John Leslie. The End of the World: The Science and Ethics of Human Extinction, L., 2003.

[vii] Ник Бостром. Doomsday Argument жив и брыкается. http://www.proza.ru/texts/2007/05/20-267.html

[viii] Carlton M. Caves. Predicting Future Duration from Present Age: A Critical Assessment. http://info.phys.unm.edu/papers/2000/Caves2000a.pdf

[ix] J. R. Gott III, “Implications of the Copernican principle for our future prospects,” Nature, 363, 315–319 (1993).

[x] Max Tegmark & Nick Bostrom. How Unlikely is a Doomsday Catastrophe? Nature, 438, 754, 2005, arXiv: astro-ph/0512204v2. Макс Тегмарк и Ник Бостром. Насколько невероятна катастрофа судного дня? http://www.proza.ru/texts/2007/04/11-348.html

[xi] Are You Living In a Computer Simulation? Nick Bostrom. Philosophical Quarterly, 2003, Vol. 53, No. 211, pp. 243-255, http://www.simulation-argument.com/, русский сокращённый перевод здесь: http://alt-future.narod.ru/Future/bostrom3.htm

[xii] Данила Медведев «Живём ли мы в спекуляции Ника Бострома?» http://danila.spb.ru/papers/antisim/russim.html

[xiv] Joshua Knobe, Ken D. Olum and Alexander Vilenkin. Philosophical Implications of Inflationary Cosmology. British Journal for the Philosophy of Science Volume 57, Number 1, March 2006 , pp. 47-67(21) http://philsci-archive.pitt.edu/archive/00001149/00/cosmology.pdf