Ник Бостром
Ник Бостром (англ. Nick Bostrom; имя при рождении — Никлас Бострём, швед. Niklas Boström; род. 10 марта 1973, Хельсингборг, Швеция) — шведский философ, один из наиболее влиятельных современных мыслителей в области трансгуманизма и глобальных рисков для цивилизации. Основатель и бывший директор Института будущего человечества (Future of Humanity Institute) при Оксфордском университете. Наиболее известен как автор гипотезы симуляции, а также работ по проблеме искусственного суперинтеллекта и концепции «экзистенциального риска» . Книга Бострома «Superintelligence: Paths, Dangers, Strategies» (2014) стала международным бестселлером и была включена в список бестселлеров The New York Times .
Биография
Ранние годы и образование
Ник Бостром родился в 1973 году в Хельсингборге (Швеция). В детстве он не любил школу и последний год старшей школы провёл, обучаясь на дому . В 1994 году получил степень бакалавра в Гётеборгском университете, затем — степень магистра по философии и физике в Стокгольмском университете и степень магистра по вычислительной нейробиологии в Королевском колледже Лондона (1996). В 2000 году защитил докторскую диссертацию в Лондонской школе экономики под руководством Колина Хаусона и Крейга Каллендера .
Академическая карьера
С 2000 по 2002 год преподавал в Йельском университете, затем был постдокторантом Британской академии в Оксфорде . В 2005 году основал Институт будущего человечества (Future of Humanity Institute) при Оксфордском университете и возглавлял его до закрытия в 2024 году . Также является главным исследователем в Macrostrategy Research Initiative . Входит в число самых цитируемых философов в мире в возрасте до 50 лет .
Основные идеи
Экзистенциальный риск
Центральное понятие в философии Бострома — «экзистенциальный риск» (existential risk). Он определяет его как риск «неблагоприятного исхода, который либо уничтожит жизнь на Земле, либо навсегда и радикально сократит её потенциал» . В отличие от глобальных катастрофических рисков, экзистенциальные риски угрожают не отдельным группам, а всей цивилизации в целом. Бостром утверждает, что с утилитарной точки зрения «приоритет номер один, два, три и четыре — это снижение экзистенциального риска», поскольку будущее потенциально может содержать огромное количество ценной жизни, которая будет потеряна в случае гибели цивилизации .
Гипотеза симуляции
В 2003 году Бостром опубликовал статью, в которой предложил так называемый «симуляционный аргумент» (simulation argument). Согласно его рассуждениям, по крайней мере одно из трёх утверждений должно быть истинным :
- Доля цивилизаций, достигающих постчеловеческой стадии, близка к нулю.
- Доля постчеловеческих цивилизаций, заинтересованных в создании симуляций предков, близка к нулю.
- Доля всех людей с нашим типом опыта, живущих в симуляции, близка к единице.
Таким образом, если технологически развитые цивилизации не вымирают и не теряют интереса к созданию симуляций, то мы почти наверняка живём в компьютерной симуляции, созданной более развитой цивилизацией . Эта идея оказала огромное влияние на массовую культуру и стала предметом обсуждения такими фигурами, как Илон Маск и Сэм Альтман .
Суперинтеллект и управление ИИ
В книге «Superintelligence: Paths, Dangers, Strategies» (2014) Бостром исследует сценарии появления искусственного интеллекта, превосходящего человеческий. Он определяет суперинтеллект как «любой интеллект, который значительно превосходит когнитивные способности человека практически во всех областях» . Бостром выделяет возможные пути к суперинтеллекту (включая полную эмуляцию мозга и усиление человеческого интеллекта), но основное внимание уделяет искусственному общему интеллекту (AGI) .
Ключевые концепции в этой области включают :
- **Ортогональность цели** (orthogonality thesis) — любой уровень интеллекта может быть теоретически совмещён с практически любой конечной целью (вплоть до абсурдной, например, производство скрепок для бумаги).
- **Инструментальная конвергенция** (instrumental convergence) — для достижения своих целей любой суперинтеллект будет стремиться сохранять своё существование, приобретать ресурсы и улучшать свой интеллект, даже если эти инструментальные цели противоречат интересам людей.
- **Интеллектуальный взрыв** (intelligence explosion) — ИИ с возможностью самосовершенствования может запустить быстрый процесс роста интеллекта, который приведёт к появлению суперинтеллекта.
Бостром утверждает, что проблема управления суперинтеллектом («AI alignment») — разработка таких систем, которые будут действовать в интересах человечества, даже если их когнитивные способности превосходят наши, — является одной из главных задач современности. Он предлагает принцип «дифференциального технологического развития» (differential technological development): следует замедлять развитие опасных технологий и ускорять развитие защитных технологий .
Трансгуманизм
Бостром является одним из ведущих теоретиков трансгуманизма. В 1998 году он стал сооснователем Всемирной трансгуманистической ассоциации (ныне Humanity+) . Определяя трансгуманизм, он пишет: «Интеллектуальное и культурное движение, утверждающее возможность и желательность фундаментального улучшения человеческого состояния с помощью прикладного разума, особенно путём разработки и распространения технологий для устранения старения и значительного повышения человеческих интеллектуальных, физических и психологических способностей» .
Бостром считает, что человеческая природа является не окончательной формой, а заготовкой для дальнейшей трансформации . Он различает «трансчеловека» (переходную форму) и «постчеловека» (принципиально новое существо) . Среди возможных направлений улучшения человека он выделяет: увеличение продолжительности жизни, расширение интеллектуального потенциала, улучшение телесной функциональности, расширение сенсорных модальностей, а также контроль над настроением и эмоциями .
Библиография
Книги
- Anthropic Bias: Observation Selection Effects in Science and Philosophy (Routledge, 2002)
- Global Catastrophic Risks (ред., OUP, 2008)
- Human Enhancement (ред., OUP, 2009)
- Superintelligence: Paths, Dangers, Strategies (OUP, 2014)
- Deep Utopia: Life and Meaning in a Solved World (2024)