Экзистенциальный риск
Экзистенциальный риск (англ. existential risk) — это риск, при котором неблагоприятный исход приведёт либо к уничтожению разумной жизни, возникшей на Земле, либо к постоянному и радикальному сокращению её потенциала .
В отличие от глобальных катастрофических рисков, которые могут привести к значительным потерям, но допускают восстановление человечества , экзистенциальный риск затрагивает всё человечество и ведёт к необратимым последствиям для всей будущей цивилизации .
Определение и концепция
Впервые термин был систематически введён философом Ником Бостромом в 2002 году . Основное определение, данное Бостромом, является классическим: экзистенциальный риск — это ситуация, когда неблагоприятный исход либо уничтожает разумную жизнь земного происхождения, либо навсегда и кардинально урезает её потенциал . Это означает, что человечество как вид либо полностью исчезает, либо теряет возможность когда-либо достичь высокоразвитого постчеловеческого состояния и реализовать свой будущий потенциал, который оценивается как астрономически ценный .
Отличие от других рисков
Необходимо различать экзистенциальные риски и глобальные катастрофические риски (ГКР, GCR). Глобальные катастрофические риски могут привести к гибели значительной части населения (например, 10% и более) или вызвать глубокий, но временный кризис, такой как «тёмные века», ядерная война обычными вооружениями или пандемия . Однако в этих случаях человечество в конечном итоге восстанавливается, и потенциал для будущего развития сохраняется. Экзистенциальный риск исключает возможность такого восстановления .
Ключевые мыслители
- Ник Бостром — ввёл понятие «экзистенциального риска» как отдельной категории и обосновал важность его изучения. Является основателем Института будущего человечества при Оксфордском университете .
- Тоби Орд — философ, автор книги «На краю пропасти. Экзистенциальный риск и будущее человечества», в которой оценивает вероятности основных экзистенциальных угроз .
- Дерек Парфит — его работа о важности будущего и этике повлияла на формирование долгосрочной перспективы в оценке рисков .
- Бертран Расселл и Джонатан Шелл — одни из первых, кто осознал и публично заявил об угрозе самоуничтожения человечества после создания ядерного оружия .
Основные угрозы
Антропогенные экзистенциальные риски (AXR) считаются наиболее вероятными и значимыми . Среди них выделяются:
- Неконтролируемый искусственный интеллект (ИИ) — создание ИИ, превосходящего человеческий интеллект, цели которого несовместимы с выживанием или благополучием человечества. Оценивается как один из самых серьёзных рисков (1 из 10 по оценке Т. Орда) .
- Ядерная война — крупномасштабный ядерный конфликт, способный вызвать «ядерную зиму» и гибель цивилизации .
- Искусственные пандемии — создание и (случайный или намеренный) выпуск генетически модифицированных патогенов, устойчивых к существующим лекарствам .
- Катастрофическое изменение климата — выход климатической системы за пределы «переломных точек», вызывающий необратимые изменения, невозможные для адаптации .
- Другие технологические риски — нанотехнологии, биоинженерия, квантовые вычисления и другие развивающиеся технологии, которые могут быть использованы во вред .
Этические последствия
Экзистенциальный риск находится в центре внимания таких этических движений, как эффективный альтруизм и долгосрочная перспектива (longtermism) . Сторонники этого подхода утверждают, что уменьшение даже небольшой вероятности экзистенциальной катастрофы имеет колоссальную моральную ценность, поскольку на кону стоит всё потенциальное будущее человечества . Согласно этой точке зрения, мы живём в критический период «Пропасти» (The Precipice), когда наши решения определят, смогут ли миллиарды будущих поколений вообще существовать .
Изучение экзистенциальных рисков
Исследования экзистенциальных рисков ведутся в нескольких специализированных центрах, включая:
- Институт будущего человечества (Future of Humanity Institute, Оксфордский университет)
- Центр изучения экзистенциального риска (Centre for the Study of Existential Risk, Кембриджский университет)