home    книги    переводы    статьи    форум    ресурсы    обо мне    English

Будущее и природа человеческих заблуждений

 

 

Попытки предсказания будущего – прекрасный материал для исследования природы человеческих заблуждений, и наоборот, данные экспериментальной психологии позволяют нам оценить, насколько ограничены мы в предсказании будущего. Нет смысла пытаться предсказать будущее, не исследовав границы своего возможного знания о нём. Эти границы обозначат горизонт нашей способности к прогнозу. Существует более ста возможных ошибок, которые могут совершить люди, пытаясь предсказать будущие катастрофы. Вместо того чтобы перечислить их, мы постараемся исследовать их вероятные корни, то есть причины человеческой ошибочности.

Основной корень возможных ошибок состоит в том, что человек не предназначен для оценки рисков глобальных катастроф. Не предназначен для этого ни его мозг, ни обычный взгляд на мир, ни созданный человеком научный метод. Рассмотрим поочерёдно каждый из этих трёх источников неправильных представлений о путях и вероятностях глобальных катастроф.

Человеческий мозг сформировался в процессе эволюции. Поэтому, в первом приближении, мы можем сказать, что в ходе этого процесса в нём сохранились и усилились те качества, которые способствовали выживанию людей и заселению ими всей Земли. Отсюда можно было бы заключить, что люди успешно избегали катастроф, приводящих к вымиранию вида, в прошлом: во всяком случае, те линии людей, которые не умели этого избегать, не дожили до наших дней, как, например, неандертальцы. Однако люди избежали этой судьбы вовсе не потому, что у них развился некий навык предотвращать катастрофы, а чисто статистически, за счёт того, что они обладали большей живучестью. (Одной из возможных причин вымирания неандертальцев называют прионную инфекцию в духе коровьего бешенства, которая распространилась по всей их популяции в течение 100-200 лет за счёт практики каннибализма; в тоже время запрет на каннибализм, распространённый среди большинства сообществ homo sapiens, способствовал их выживанию – однако этот запрет ни каким образом не приводил к росту понимания того, какова его реальная причина.) Эта человеческая живучесть, безусловно, является ценным ресурсом в случае будущих глобальных катастроф, но она ничего не даёт в смысле понимания их рисков, так как является свойством вида, а не отдельных людей. Для выживания вида каждый человек должен был дожить сам до возраста рождения детей, но не многим более, и в силу этого его понимание рисков затачивалось на преодоление в первую очередь краткосрочных угроз. Более того, рискованное поведение отдельных людей способствовало выживанию вида в целом, побуждая отправляться на заселение далёких островов и иметь больше детей.

Кроме того, homo sapiens, для того, чтобы стать единственным хозяином планеты, вынужден был развить в себе навык уничтожать целые классы разумных существ, которые могли бы стать ему конкурентами. За примерами не надо далеко ходить: от тех же неандертальцев до тасманийских аборигенов, уничтоженных поголовно в XIX веке; кроме того, человек уничтожил мегафауну на всех континентах, кроме Африки. В XX веке люди решили (ценой мировой войны), что геноцид – это не способ решения проблем. Тем не менее, в багаже очевидных решений, приходящих нам на ум, сохранилась идея «уничтожить всех врагов». Нет нужды говорить, что вид, обладающий таким навыком, как «уничтожение всех», становится опасен сам для себя, когда отдельным его представителям попадают в руки достаточные для реализации такого проекта технические средства. В данном случае «уничтожить всех» – это модель поведения, а не ошибка, но она может проявляться и как ошибка в планировании будущего. Ошибка здесь состоит в том, что попытки «уничтожить всех» вовсе не ведут к решению проблемы, а наоборот, только к её усугублению. Пример этого мы видим на примере конфликта Израиля и палестинцев: чем больше израильтяне хотят уничтожить всех террористов, тем больше палестинцы хотят уничтожить всех израильтян и порождают из своей среды террористов. Наоборот, чем меньше стороны пытаются «решить проблему», тем менее актуальна и сама проблема.

Следующая «собака», которую нам подложила эволюция, состоит в том, как наш мозг сравнивает рискованность и полезность действий. Хотя эволюция отсеивала тех людей, которые слишком сильно рисковали собой и погибали в детстве, она также отсеивала и тех, кто слишком сильно стремился к безопасности. Происходило это, возможно, следующим образом: допустим, в «стае» было четыре рисковых парня. Они бурно выясняли между собой отношения, в результате чего трое погибло, а четвёртый стал вожаком стада, покрыл всех самок и у него родился десяток детей. В силу этого рискованное поведение закрепилось, так как, несмотря на то, что большинство склонных к риску самцов погибло, один выживший оставил большое потомство. Более того, отсюда видно, что склонность к риску позволяет повысить свой социальный статус и даже стать вожаком стаи. С другой стороны, самец, который бы стремился к абсолютной безопасности,  избегал бы стычек с другими самцами и, в конечном счёте, утратил статус в стае, и оставил бы мало потомство. Наоборот, рисковый самец, став вожаком стада, будет руководить стадом рискованными методами. Опять же от этого какие-то стада погибнут, какие-то попадут на новые территории и заселят их. Например, Рональд Рейган, объявляя крестовый поход против СССР, увеличивал своими действиями риск ядерной войны, однако выигрыш его интересовал больше, чем проигрыш. Существует много исследований, которые показывают, что восприятие человеком вероятностей выигрышей и проигрышей значительно отличается от поведения абсолютно рационального субъекта. Например, человеку свойственно пренебрегать небольшой вероятностью очень плохого исхода – «тяжёлым хвостом». С нашей эволюционной точки зрения это можно связать с тем, что человек не был бессмертным существом и знал это, поэтому он мог просто не дожить до редкого наихудшего случая, ущерб от которого перевесил бы полезность от всех позитивных исходов, вместе взятых. Показано, что людям свойственно считать вероятности рисков, меньшие 0,001%, то есть одной стотысячной, равными нулю. Понятно, почему это происходит: если средняя жизнь человека включает примерно 20 000 дней, то добавление на каждый день вероятности смерти порядка 0,001% изменит её ожидаемую продолжительность только на несколько тысяч дней, что находится в пределах погрешности оценки продолжительности жизни. Люди выбирают ездить на машине, пить, курить и т. д. потому что риск смертельной аварии или заболевания попадает в эти пределы. Однако такая оценка определённо не годится для обеспечения безопасности человечества, потому что она означала бы гарантированное вымирание человечества в течение 300 лет. Кроме того, люди обычно не складывают вероятности, а многократное повторение разных событий с вероятностью в одну стотысячную может дать значительный эффект.

Здесь же мы можем отметить психологический эффект, состоящий в том, что риск запускает механизмы вознаграждения в мозгу, в силу чего некоторые люди склонны повышать свою норму риска – чтобы поймать «адреналин». Безусловно, это вопрос личного выбора этих людей, пока это касается только их самих. Однако не составляет труда привести примеры ситуаций, когда люди рисковали жизнями сотен людей ради собственного развлечения. Например, ещё в советское время пилот самолёта ТУ-154 на спор с товарищами взялся посадить самолёт с закрытыми шторками окон кабины. Более ста человек погибли. Нетрудно вообразить ситуацию из не очень отдалённого будущего, где кто-то ради развлечения рискнёт судьбой всего человечества. Ведь чем выше ставки, тем выше выброс адреналина! Например, ракетчики на одной американской базе придумали от скуки, как можно обойти систему запуска, требующую двух человек, с помощью одного человека, ножниц и нитки. Интересна также склонность людей выбирать свою норму риска. Например, сравнивали смертность в США на разных классах автомобилей, и оказалось, что на более безопасных по заводским тестам машинах гибнет примерно такое же количество людей, как и на более дешёвых и менее безопасных машинах. Это оказалось связано с тем, что люди на более безопасных машинах ездили агрессивнее и быстрее, а на менее безопасных – осторожнее. В отношении глобальных катастроф это выглядит следующим образом: когда человек едет на машине, он зависит от своей машины и от машины на встречном курсе, то есть от двух машин. Но человек, живущий на Земле, зависит от всего множества войн, терактов и опасных экспериментов, которые могут иметь глобальный масштаб. И это приводит к тому, что для него складываются тысячи норм риска, которые допускают разные люди, решившиеся на реализации этих проектов.

Другой корень неверных представлений, сформировавшийся эволюционно, состоит в крайне опасной связи между правотой, уверенностью и высоким социальным статусом. Одним из важнейших проявлений этой связи является неизменно присущее человеку качество сверхуверенности. Сверхуверенность состоит в том, что людям свойственно приписывать слишком высокую достоверность собственным мнениям. Сверхуверенность проявляется также в чувстве собственной важности, то есть в уверенности в своём более высоком социальном статусе и более высоких способностях, чем есть на самом деле. Большинство опрошенных социологов считают, что они принадлежать к 10 лучшим в мире специалистам. Три четверти водителей считают, что они водят машину лучше, чем среднестатистический водитель.

Другое проявление сверхуверенности – это очень маленькая способность сомневаться в истинности своих высказываний. В экспериментах это проявляется, когда испытуемым предлагают дать оценку некой неизвестной величины (например, числа яиц, производимых в США в год), а затем просят указать интервал 99% уверенности вокруг этой величины. Несмотря на то, что никто не мешает людям указать очень широкий интервал от нуля до бесконечности, люди всё равно указывают слишком узкие интервалы, и реальная величина в них не попадает. Даже если люди являются экспертами в своей области (например, инженерами-гидротехниаками), их интервал уверенности оказывается слишком узок. Даже если людей заранее предупреждают о том, что такой эффект имеет место быть, и просят его избегать, всё равно их интервал уверенности оказывается слишком узок. Даже если людям предлагают денежной вознаграждение в размере 3 месячной зарплаты за правильный результат, всё равно их интервал уверенности оказывается слишком узок. Из этого следует, что проблема не в том, что люди не хотят угадать правильный интервал уверенности: они действительно этого не могут сделать – не могут преодолеть свою сверхуверенность, которая «прошита» в устройстве их мозга. Мы можем часто сталкиваться с проявлениями такой сверхуверенности у других людей, когда слышим заявления о том, например, что вероятность ядерной войны в XXI веке будет нулевой, или наоборот, что она неизбежна. Чужая сверхуверенность достаточно очевидна, однако наиболее опасна своя, которая практически необнаружима собственными силами, да людям обычно и несвойственно искать в себе признаки сверхувернности и стремиться уменьшить свою уверенность в сделанных выводах. Наоборот, люди стараются увеличить своё ощущение уверенности в своих выводах, и в результате на какое-нибудь случайное утверждение наматывается ком селективно подобранных доказательств.

Такое поведение известно как «wishful thinking» – то есть мышление, обусловленное желанием что-то доказать, то есть подкрепить свою уверенность в некой теме. Целью такого мышления вовсе не является поиск истины, отсюда и результат – обычно таким образом истинные высказывания не получаются. Другим названием для этой модели поведения является «рационализация» – то есть подбор рациональных оснований под некое иррациональное решение. В ходе такого отбора противоречащие доводы отсеиваются, а также нет попыток фальсифицировать своё исходное мнение – то есть проверить его устойчивость к опровержениям. Интернет оказывает в этом дурную службу, так как поиск приносит в первую очередь подтверждения. Например, набрав в поиске «взрыв Земли» я наверняка наткнусь на кого-то, кто думает, что это возможно. 

Другое проявление борьбы за социальный статус состоит в резкой поляризации мнений в случае спора. Если человек колеблется между двумя гипотезами, то столкновение с оппонентом заставляет его выбрать одну из гипотез и начать её защищать.  В этом смысле спор не рождает истину. Поскольку вопрос о возможности глобальной катастрофы будет оставаться спорным вплоть до самого конца, то в связи с ней возможно особенно много споров. И если в результате этого спора кто-то преувеличил вероятность глобальной катастрофы, то это не пойдёт на пользу выживания человечества. Переоценка какого-то одного фактора неизбежно означает недооценку другого. В связи со спорами возникает проблема убедительности. Единственный способ для общества начать предотвращать некую возможную глобальную катастрофу – это то, что кто-то его убедит в близости и реальности такого события, а также в возможности и необходимости его предотвращения. Но «убедительность» не тождественна истине. Некоторые сценарии глобальной катастрофы будут более «убедительными» за счёт своей красочности, наличия исторических примеров и того, что их защищали лучшие спорщики. Например, падение астероидов. Другие будут гораздо более трудно доказуемы и их «пиар» будет менее возможен. Например, катастрофа на ускорителе в ходе физических экспериментов.

Следующий корень ошибочных умозаключений и моделей поведения лежит в эмоциональных реакциях. Хотя доказательства вероятности некой катастрофы могут быть весьма строгими, эти выкладки понятны только тому учёному, который их сделал, а лица, принимающие решения, не будут перепроверять эти выкладки, а будут реагировать на них  в значительной мере эмоционально. Поэтому реакция публики, академии наук,  парламента, правительства, президента на любые, даже самые серьёзные предупреждения, будет эмоциональной, а не логической. Более того, поскольку человеку свойственно определять свою позицию в течение 10 секунд, а потом начать подбирать факты для её защиты, эта эмоциональная реакция имеет шанс закрепиться. В силу сказанного, даже при наличие очень убедительных доказательств (а чем убедительнее доказательства, тем в большей мере катастрофа уже назрела, и тем меньше времени осталось для борьбы с ней), всё равно надо учитывать особенности эмоционального реагирования людей, так как окончательное решение в конечном счёте будет зависеть не от тех, кто это доказательство вывел. Кроме того, людям свойственно чувствовать себя экспертами по глобальным вопросам, поскольку это повышает их самооценку. Например, если человека спросить, каков порядковый номер лантана в таблице Менделеева, то он, если он не химик, легко признается, что не знает этого, и готов посмотреть в таблицу; однако если спросить его о некой глобальной проблеме, например, о риске ядерной войны, то он сразу даст ответ, вместо того, чтобы посмотреть существующую литературу на тему.

Далее, естественной психологической реакцией является защита от неприятного знания. Первым уровнем такой защиты является состояние отрицания в духе «это слишком плохо, чтобы быть правдой». Действительно, глобальная катастрофа, ведущая к вымиранию всех людей – это наихудшее событие, которое может с нами случиться. Тем более что не обязательно она будет быстрой, мгновенной и красивой, а может быть долгой и мучительной, скажем, в случае глобального радиоактивного заражения. Поэтому нетрудно предположить, что психологические механизмы защиты включатся на всю мощь, чтобы уменьшить её ужасность, а главное – или счесть её невозможной, или вообще исключить из мышления, вытеснить.  Поскольку люди знают, что идеи в духе «это слишком плохо, чтобы быть правдой» не имеют под собой никаких оснований, и каждый может вспомнить случаи из жизни, когда происходили вещи настолько плохие, что в это трудно поверить (ребёнок, заболевший раком; невеста, умирающая накануне свадьбы и т. д.), то этот тезис подменяется другим, а именно: «это слишком невероятно, чтобы быть правдой». Последнее высказывание по своей логической природе является тавтологией: «этого не может быть, потому что не может быть никогда». Однако в отношении глобальных окончательных катастроф их «невероятность» выводится, например, из того, что их не было в прошлом. По ряду причин, которые мы подробно рассмотрим дальше, это, однако ничего не значит  (например, в связи с наблюдательной селекцией). Уникальные события регулярно случаются.  

Вероятность глобальной катастрофы отвергается также потому, что это очень большое событие. Но и очень большие события иногда происходят, более того, рано или поздно происходят. Следовательно, подобное преуменьшение вероятности носит в первую очередь эмоциональный характер.

По одной из теорий, психологическая реакция на катастрофу или известие о неизлечимой болезни, называемая «горевание», проходит пять стадий: отрицание, гнев, попытка заключить сделку с судьбой, депрессия, принятие. Можно предположить, что и эмоциональная реакция на риск глобальной катастрофы будет проходить похожие стадии. Тогда стремлению «заключить сделку с судьбой» будут соответствовать попытки избежать катастрофы с помощью бункеров и т. д.

То, что известно в быту как «стадный инстинкт», проявляется в психологических экспериментах по исследованию конформизма. Когда группа подсадных испытуемых единогласно утверждает, что белое – это чёрное, то значительная доля реальных испытуемых, находящихся в этой группе, тоже не верит своим глазам и боится высказать несогласие с группой. Особенно силен этот эффект, когда нужно выступить в одиночку против группы. По крайней мере до недавнего времени люди, высказывающиеся о значительном риске глобальных катастроф, особенно со стороны неких принципиально новых источников, оказывались в похожей ситуации. Они в одиночку должны были выступать против общественного мнения, справедливо опасаясь отвержения обществом и десоциализации. Однако и общество со своей стороны часто весьма заинтересовано в отвержении новых идей (точно также как, старый вожак стаи отвергает претензии молодого самца на лидерство). Например, от предложения идеи анестезии в конце XVIII века до реального её применения прошло почти 50 лет, хотя необходимые препараты – эфир – были уже известны. То же самое произошло и с идеей дезинфицировать руки перед операцией: в середине XIX века врачи всё ещё не верили в заражение от бактерий, и миллионы рожениц погибли от родовой горячки за десятки лет от того момента, когда идея была высказана и до того, как она была принята.

 

Теперь обратимся к возможным причинам недооценки рисков глобальных катастроф, происходящих из устройства науки. Научный метод был создан, чтобы преодолеть все виды интеллектуальных искажений, связанных с ненадёжностью человеческого мозга, и получить доступ к по-настоящему достоверному знанию. Обобщая, скажу, что важной частью научного метода является экспериментальная проверка результатов. Именно предсказуемые повторяющие результаты наблюдений и экспериментов позволяют отсеять ложные теории и подтвердить истинные. Благодаря этому, какие бы систематические ошибки не совершил человек, придумывая теорию, они с большой вероятностью будут вскрыты практикой. Таким образом, научный метод компенсировал несовершенство человеческого мозга экспериментальной проверкой.

Однако ничего подобного не происходит в случае исследований рисков глобальных катастроф. Экспериментальная проверка любых теорий о глобальной катастрофе нежелательна, и более того, физически невозможна, так как в случае успеха не останется ни одного наблюдателя. В силу этого классический экспериментальный метод в случае глобальных катастроф буксует, и не выполняет своей функции по устранению различных интеллектуальных искажений.

Читатель этой книги может, вероятно, предположить, что со мной, автором, что-то не так. Что это неправильно и нездорово испытывать интерес к сценариям человеческого вымирания, что в этом скрыта паранойя или религиозное апокалиптические мышление. Однако экспериментальные исследования показывают, что люди в состоянии депрессии имеют более точные предсказания о будущем (кроме своего собственного), чем люди в обычном состоянии сознания. Я хочу сказать, что крайне ошибочно думать, что проблемы с гонцом, который принёс плохое известие, а не самой ситуацией.

При этом границы человеческой склонности ошибаться в прогнозах будущего стали притчей во языцех.  Например, газета Нью-Йорк Таймс опубликовала передовицу, посвящённую очередной неудаче в попытке создать самолёт, которая закончилась бесславным падением в воду, и предрекла, что свойства материалов таковы, что не удастся создать самолёт в течение ближайшего миллиона лет. Однако братья Райт испытали свой самолёт через 9 дней после этой статьи, и об этом событии газета не написала ни слова. То есть коэффициент ошибки составил 40 миллионов раз. В этой истории важно так же то, что самые важные открытия совершались вдали от людских глаз и становились великими событиями с огромными последствиями только задним числом.

Одна из основных ошибок в области футурологии состоит в том, что людям свойственно переоценивать тенденции, касающиеся ближайшего будущего, и недооценивать качественные изменения, которые проявятся в более отдалённом будущем. Классический пример такой оценки – прогноз о том, что рост числа повозок в Лондоне приведёт к тому, что все жители города станут кучерами, а навоз поднимется до уровня крыш. При этом интересно, что качественно этот прогноз сбылся: почти все стали водить машины, под капотами которых скрыты десятки лошадиных сил, а вредные выхлопы двигателей поднялись значительно выше крыш.

Теперь остановимся на крайне важном различии между наилучшим, наиболее вероятном и наихудшим результатом.

Склонность людей недооценивать вероятность наихудшего исхода регулярно проявляется при реализации крупных проектов. Президент Буш оценивал стоимость будущей Иракской войны в 50 миллиардов, однако один из его экономистов выдал более реалистичную оценку в 200 миллиардов, за что был уволен. Теперь суммарные расходы на войну оцениваются в сумму между 1 и 2 триллионами долларов. Истребитель F-22 должен был стоить 30 миллионов долларов, а стал стоить 300. МКС должна была стоить порядка 8-10 миллиардов долларов, а обошлась более чем в 100.

То же самое происходит и относительно оценок надёжности и безопасности. Атомные станции должны были иметь надёжность одна крупная авария на миллион лет эксплуатации, однако Чернобыль произошёл, когда суммарная наработка всех станций в мире составляла порядка 10 000 лет эксплуатации. космические корабли «Спейс Шаттл» были рассчитаны на менее, чем одну аварию на 1000 полётов, но первая авария произошла на 25-ом полёте. То есть исходная оценка надёжности 1 к 25 была бы более точной.

То есть реальная ситуация оказывается в несколько десятков раз хуже, чем задуманная и рассчитанная. Всё же она оказывается лучше, чем в алармистских предупреждениях, в духе того, что шаттл вообще никогда не взлетит, Ирак завоевать не удастся и т. п. Алармистские прогнозы точно также нереалистичны, только с обратным знаком.

Теперь разберёмся со «страшилками». Очевидно, что выработался своего рода условный рефлекс на сообщения о возможных рисках и опасностях в духе: это всё страшилки, нас пугают, чтобы привлечь внимание и вытрясти денег, но мы это раскусили и потому бояться не будем. Действительно, имеется целый класс «прогнозов» в духе «к земле летит гигантский астероид», «на дне неаполитанского залива лежит 20 атомных бомб» и т.п., которые были придуманы и нарочно тиражируются СМИ, чтобы что-то поиметь с человеческой паники. В результате получается, как в басне «Волк, волк» - восприятие подобных предупреждений притупляется, и когда появляется реальное предупреждение, его никто не слышит. Я хочу подчеркнуть, что читатель имеет право воспринимать эту книгу как очередную «страшилку», но прошу отметить, что «Волк» существует независимо от того, в какую игру со страшилками мы, люди, устроили.  При этом здесь вы не найдёте призывов о том, что нужно срочно бежать и спасать мир определённым образом – я не знаю, как это сделать.

Следующее важное обстоятельство, часто не принимаемое во внимание при прогнозах будущего, состоит в том, что более быстрые процессы затмевают более медленные. Например, если у нас в чашке Петри посеяно несколько культур бактерий, то через какое-то время наибольший объём будет занимать та культура, которая растёт быстрее всех. В отношении предсказания будущего это означает, что нам следует выделять не самые большие процессы, а самые быстрорастущие. Например, бессмысленно рассматривать рост населения Земли до 2100 года в отрыве от биотехнологий, потому что эти биотехнологии или уничтожат всех людей, или резко продлят жизнь, или обеспечат всех достаточным количеством пропитания. Более того, и внутри биотехнологий нам следует выделять наиболее быстрорастущие направления.

Человеческие мнения крайне подвержены влиянию фоновых обстоятельств, то есть того, каким образом оформлено высказывание, а не того, что именно в нём сказано. Что звучит страшнее: "Русские посылают сообщения инопланетянам со своего радиотелескопа, выдавая им расположение Земли" или  "НАСА транслирует песню Биттлз "Через вселенную" в сторону Полярной звезды"? Первое сообщение вызывает в целом осуждение, а второе одобрение, потому что в нём использованы слова, которые связаны с приятными ощущениями. Хотя с физической точки зрения происходит одно и тоже. Это говорит о том, насколько наши мнения зависят от того, что, по сути, не важно.

Через 20 или 30 лет люди, если ещё будут живы, составят новый список глобальных угроз, потому что эта проблема, однажды возникнув, никуда не денется. И они будут просматривать те списки рисков, которые мы предлагаем сейчас, и будут поражаться их наивности, неполноте и односторонности. Насколько бы совершенные списки рисков мы бы сейчас ни составляли, мы только царапаем по поверхности этой проблемы, и должны быть готовы к тому, что в будущем эти списки будут значительно доработаны и многие наши ошибки и иллюзии будут очевидны.

 

Рекомендуемая литература (К каждой главе я приложу список из трёх-пяти наиболее интересных работ по данной теме, которые стоит почитать; но это не полный список: заинтересовавшиеся читатели без труда найдут более полный список работ в Интернете.):

Росс Л., Нисбетт Р. Человек и ситуация: Уроки социальной психологии. Аспект Пресс, М., 1999.

Турчин А.В. О возможных причинах недооценки рисков гибели человеческой цивилизации  // Проблемы управления рисками и безопасностью: Труды Института системного анализа Российской академии наук: Т. 31.  М., КомКнига, 2007.

Юдковски Е. Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков. // Сб. Диалоги о будущем, М., УРСС, 2008.