На краю пропасти. Экзистенциальный риск и будущее человечества - Орд Тоби. Страница 16
Как мы пренебрегаем экзистенциальными рисками
Мир только начинает осознавать важность экзистенциального риска. Мы уже приступили к оценке самых значимых угроз и ищем способы их избежать, но добиться того, чтобы масштаб нашей деятельности соответствовал масштабу проблем, нам только предстоит. В контексте общего распределения глобальных ресурсов экзистенциальным риском прискорбно пренебрегают.
Рассмотрим возможность искусственной пандемии, входящую, как мы скоро увидим, в число самых серьезных рисков, с которыми сталкивается человечество. Годовой бюджет международного органа, ответственного за запрет биологического оружия (Конвенции о биологическом оружии), составляет всего 1,4 млн долларов, а это меньше бюджета среднего “Макдональдса”[128]. Все расходы на снижение экзистенциальных рисков, связанных с продвинутым искусственным интеллектом, ограничиваются десятками миллионов долларов, в то время как на развитие искусственного интеллекта выделяются миллиарды долларов[129]. Сложно точно измерить мировые расходы на снижение экзистенциального риска, но можно с уверенностью сказать, что человечество из года в год больше тратит на мороженое, чем на обеспечение того, чтобы разрабатываемые нами технологии нас не уничтожили[130].
В научных исследованиях ситуация примерно такая же. Подробно изучается риск небольших катастроф, но катастрофы, способные уничтожить долгосрочный потенциал человечества, остаются без внимания. В период с 1991 года было опубликовано лишь две климатические модели, показывающие эффекты полноценной ядерной войны между США и Россией, несмотря на то, что в считаные минуты может быть осуществлен пуск целых сотен ракет[131]. Проводится огромная работа по исследованию изменения климата, но худшие сценарии – например, предполагающие потепление более чем на шесть градусов – изучаются сравнительно мало и обычно остаются без внимания в официальных докладах и при обсуждении стратегических планов[132].
Почему же стратегические риски не получают должного внимания, хотя они реальны и настолько значимы? Почему ими систематически пренебрегают? Ответы можно найти в экономике, политике, психологии и истории экзистенциального риска.
Экономическая теория говорит нам, что рынки, страны и целые поколения будут недооценивать экзистенциальный риск. Хотя рынки прекрасно справляются с тем, чтобы поставлять самые разные виды товаров и услуг, некоторые виды систематически поставляются в недостаточном количестве. Рассмотрим чистый воздух. Когда качество воздуха повышается, выгоду получает не конкретный индивид, а все члены общества. Когда я получаю выгоду от более чистого воздуха, это не уменьшает выгоду, которую приобретаете в такой ситуации вы. Вещи, обладающие двумя такими характеристиками, называются общественными благами, и рынки плохо справляются с их поставкой[133]. Как правило, мы решаем эту проблему на местном или национальном уровне, вверяя правительству задачу финансировать или регулировать обеспечение общественных благ.
Защита от экзистенциального риска – это общественное благо: защита пойдет на пользу всем нам, а моя защита не идет во вред вашей. Таким образом, мы ожидаем, что рынок будет пренебрегать экзистенциальным риском. Хуже того, защита от экзистенциального риска – это глобальное общественное благо, и выгодоприобретатели разбросаны по всему миру. Это значит, что пренебрегать им будут даже государства.
Я пишу эту книгу в Великобритании. Эта страна с населением около 70 млн человек – одна из самых населенных в мире, но число ее жителей составляет менее 1 % текущего населения Земли. Решив в одиночку работать с экзистенциальным риском, Великобритания взвалит на себя все расходы на соответствующие меры, но получит лишь одну сотую долю выгод. Иными словами, даже если бы британское правительство было прекрасно информировано и действовало в интересах граждан, оно в 100 раз обесценивало бы работу по снижению экзистенциального риска. Подобным образом Россия обесценивала бы ее в 50 раз, США – в 20 раз, и даже Китай не смог бы не обесценить ее в 5 раз. Поскольку столь большая доля выгод перетекает другим странам, каждой из них хочется выехать на плечах остальных и часть работы, которая пошла бы на пользу всем нам, не делается вовсе.
Тот же эффект, который приводит к этому недостатку защиты, приводит к переизбытку риска. Поскольку лишь 1 % ущерба от экзистенциальной катастрофы приходится на граждан Великобритании, британское правительство заинтересовано в том, чтобы недооценивать минусы рискованных мер, снижая их в те же самые 100 раз. (Ситуация становится еще хуже, если у индивидов или небольших групп появляется возможность представлять экзистенциальные риски.)
Это значит, что управлять экзистенциальным риском лучше всего на глобальном уровне. Но в отсутствие эффективных институтов это чрезвычайно сложно, в связи с чем скорость реакции мира снижается, а опасность того, что выжидающие страны поставят под угрозу срыва весь процесс, повышается.
Даже если бы мы смогли преодолеть эти различия, заключить работающие договоры и согласовать меры для снижения экзистенциального риска, мы столкнулись бы с последней проблемой. Выгодоприобретатели рассеяны не только по миру, но и по поколениям; к ним относятся все люди, которые когда-либо будут жить на земле. Защита от экзистенциального риска – это межпоколенческое глобальное общественное благо. Таким образом, даже при слаженной работе всего мирового населения экзистенциальные риски будут обесцениваться во много раз, оставаясь, по сути, обделенными вниманием[134].
Дополнительные причины можно найти в политологии. Внимание политиков и чиновников нередко сосредоточено на краткосрочной перспективе[135]. Время на размышления и действия в их случае все чаще определяется выборными циклами и циклами производства новостей. Им очень сложно обращать внимание на проблемы, предотвращать которые нужно сейчас, хотя они не возникнут в течение еще нескольких выборных циклов. Они вряд ли будут наказаны, если пустят ситуацию на самотек, тем более что их внимания требуют более срочные вопросы.
Бывают и исключения – например, ситуации, когда к немедленным действиям призывает активная группа избирателей, ведь в таком случае их расположение сразу приносит политику выгоду. Такие группы особенно сильны, когда определенная мера идет на пользу небольшой части общества, и потому им есть смысл предпринимать политические шаги. Но защита от экзистенциального риска выгодна всем гражданам, в связи с чем ни одна опорная группа избирателей не берет на себя ответственность за проблему. Отсюда и пренебрежение, хотя и преодолимое. Когда граждане внимательно относятся друг к другу и действуют из бескорыстных побуждений, когда они проявляют чуткость к бедам других, как мы видели в ситуациях с защитой окружающей среды, охраной прав животных и отменой рабства, в них находятся и страсть, и решимость, необходимые, чтобы призвать лидеров к ответу.
Еще одна политическая причина связана исключительно с серьезностью проблемы. Когда я касаюсь темы экзистенциального риска в беседах с высокопоставленными политиками и чиновниками, они реагируют однотипно: выражают искреннюю глубокую озабоченность вкупе с ощущением, что работа с величайшими рисками, с которыми сталкивается человечество, им “не по плечу”. Мы ожидаем, что наши правительства будут заниматься вопросами, выходящими за рамки компетенций каждого из нас, но решение проблемы экзистенциального риска выходит и за рамки компетенций целых стран. По политическим (и экономическим) причинам это представляется вопросом, требующим масштабных международных действий. Однако, поскольку международные организации очень слабы, проблема экзистенциального риска повисает в воздухе.
Поведенческая психология выделяет еще две причины, по которым мы пренебрегаем экзистенциальным риском, и корнями они уходят в эвристические правила и предубеждения, благодаря которым нам становится проще принимать решения в сложном мире[136]. Первая из них – эвристика доступности. Это склонность людей оценивать вероятность событий в зависимости от того, могут ли они припомнить аналогичные примеры. Никому не хочется допустить повторения недавних трагедий (особенно если они произвели большое впечатление или широко освещались в прессе). Но это значит, что часто мы недооцениваем вероятность событий, которые случаются достаточно редко и потому не случались на нашей памяти или которые не случались никогда прежде. Даже когда эксперты утверждают, что существует значительная вероятность беспрецедентного события, нам очень сложно поверить им, пока мы сами не станем ему свидетелями.