Экзистенциальный риск

Экзистенциальный риск (англ. existential risk) — это риск, при котором неблагоприятный исход приведёт либо к уничтожению разумной жизни, возникшей на Земле, либо к постоянному и радикальному сокращению её потенциала .

В отличие от глобальных катастрофических рисков, которые могут привести к значительным потерям, но допускают восстановление человечества , экзистенциальный риск затрагивает всё человечество и ведёт к необратимым последствиям для всей будущей цивилизации .

Определение и концепция

Впервые термин был систематически введён философом Ником Бостромом в 2002 году . Основное определение, данное Бостромом, является классическим: экзистенциальный риск — это ситуация, когда неблагоприятный исход либо уничтожает разумную жизнь земного происхождения, либо навсегда и кардинально урезает её потенциал . Это означает, что человечество как вид либо полностью исчезает, либо теряет возможность когда-либо достичь высокоразвитого постчеловеческого состояния и реализовать свой будущий потенциал, который оценивается как астрономически ценный .

Отличие от других рисков

Необходимо различать экзистенциальные риски и глобальные катастрофические риски (ГКР, GCR). Глобальные катастрофические риски могут привести к гибели значительной части населения (например, 10% и более) или вызвать глубокий, но временный кризис, такой как «тёмные века», ядерная война обычными вооружениями или пандемия . Однако в этих случаях человечество в конечном итоге восстанавливается, и потенциал для будущего развития сохраняется. Экзистенциальный риск исключает возможность такого восстановления .

Ключевые мыслители

Ник Бостром — ввёл понятие «экзистенциального риска» как отдельной категории и обосновал важность его изучения. Является основателем Института будущего человечества при Оксфордском университете .
Тоби Орд — философ, автор книги «На краю пропасти. Экзистенциальный риск и будущее человечества», в которой оценивает вероятности основных экзистенциальных угроз .
**Дерек Парфит** — его работа о важности будущего и этике повлияла на формирование долгосрочной перспективы в оценке рисков .
**Бертран Расселл** и **Джонатан Шелл** — одни из первых, кто осознал и публично заявил об угрозе самоуничтожения человечества после создания ядерного оружия .

Основные угрозы

Антропогенные экзистенциальные риски (AXR) считаются наиболее вероятными и значимыми . Среди них выделяются:

Неконтролируемый искусственный интеллект (ИИ) — создание ИИ, превосходящего человеческий интеллект, цели которого несовместимы с выживанием или благополучием человечества. Оценивается как один из самых серьёзных рисков (1 из 10 по оценке Т. Орда) .
Ядерная война — крупномасштабный ядерный конфликт, способный вызвать «ядерную зиму» и гибель цивилизации .
Искусственные пандемии — создание и (случайный или намеренный) выпуск генетически модифицированных патогенов, устойчивых к существующим лекарствам .
Катастрофическое изменение климата — выход климатической системы за пределы «переломных точек», вызывающий необратимые изменения, невозможные для адаптации .
Другие технологические риски — нанотехнологии, биоинженерия, квантовые вычисления и другие развивающиеся технологии, которые могут быть использованы во вред .

Этические последствия

Экзистенциальный риск находится в центре внимания таких этических движений, как эффективный альтруизм и долгосрочная перспектива (longtermism) . Сторонники этого подхода утверждают, что уменьшение даже небольшой вероятности экзистенциальной катастрофы имеет колоссальную моральную ценность, поскольку на кону стоит всё потенциальное будущее человечества . Согласно этой точке зрения, мы живём в критический период «Пропасти» (The Precipice), когда наши решения определят, смогут ли миллиарды будущих поколений вообще существовать .

Изучение экзистенциальных рисков

Исследования экзистенциальных рисков ведутся в нескольких специализированных центрах, включая:

Институт будущего человечества (Future of Humanity Institute, Оксфордский университет)
Центр изучения экзистенциального риска (Centre for the Study of Existential Risk, Кембриджский университет)