Технологическая сингулярность

Технологическая сингулярность — гипотетический момент в будущем, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации. Согласно одной из наиболее популярных версий, именуемой «интеллектуальным взрывом», создание искусственного суперинтеллекта запускает цепную реакцию самосовершенствования, в результате которой машинный разум многократно превосходит человеческий.

История концепции

Идея об ускоряющемся росте научного знания восходит к работам Фридриха Энгельса, писавшего о том, что развитие наук усиливается пропорционально квадрату расстояния от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, отмечавший непрерывный рост темпов научного творчества.

Впервые термин «сингулярность» в контексте технологий использовал американский математик Джон фон Нейман в середине XX века, имея в виду математическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты.

В 1965 году британский математик Ирвинг Гуд сформулировал концепцию «интеллектуального взрыва»: сверхразумная машина сможет создавать ещё более совершенные машины, и тогда «несомненно произошёл бы взрыв интеллекта», а человеческий разум остался бы позади.

Современную интерпретацию понятия предложил американский математик и писатель-фантаст Вернор Виндж. В эссе «Грядущая технологическая сингулярность» (1993) он отметил, что это будет означать конец человеческой эры, поскольку новый суперинтеллект будет продолжать совершенствоваться с непостижимой скоростью. Виндж предсказывал наступление сингулярности в период между 2005 и 2030 годами.

Позже идею популяризировал американский футуролог Рэймонд Курцвейл, который прогнозирует наступление сингулярности к 2045 году.

Основные школы

В дискуссиях о сингулярности выделяются три основные школы мысли:

• Ускоряющиеся изменения (Accelerating Change) — технологические изменения питают сами себя и потому ускоряются; наши линейные интуиции о будущем ошибочны. Сторонники: Рэй Курцвейл, Элвин Тоффлер.

• Горизонт событий (Event Horizon) — создание сверхчеловеческого интеллекта приведёт к будущему, настолько непохожему на всё, что было раньше, что его невозможно предсказать. Сторонник: Вернор Виндж.

• Интеллектуальный взрыв (Intelligence Explosion) — усиление интеллекта создаёт положительную обратную связь: чем умнее система, тем быстрее она может сделать себя ещё умнее. Сторонники: Ирвинг Гуд, Элиезер Юдковски.

Возможные пути достижения

Среди основных сценариев наступления сингулярности выделяют:

• Самосовершенствующийся искусственный интеллект — прямое программирование сверхразума, способного к рекурсивному самоулучшению.

• Загрузка сознания (mind uploading) — перенос личности человека в вычислительную среду с последующим многократным усилением когнитивных способностей.

• Симбиоз человека и машины — создание гибридного интеллекта через нейроинтерфейсы.

• Эволюция интернета — возникновение глобального сетевого разума с самоорганизацией и самосознанием.

Возможные последствия

• Позитивные сценарии: решение глобальных проблем — болезней, бедности, экологического кризиса, достижение практического бессмертия.

• Негативные сценарии: порабощение или уничтожение человеческого вида суперинтеллектом («проблема контроля ИИ»), глобальный экономический коллапс из-за массовой безработицы, увеличение неравенства в обществе.

• Агностические сценарии: принципиальная невозможность для человеческого разума понять цели и действия постсингулярного интеллекта, что делает любые прогнозы бессмысленными.

Критика

Концепция технологической сингулярности подвергается критике по нескольким направлениям:

• Философская критика: отрицание возможности создания человекоподобного сознания алгоритмическими методами (Джон Сёрль, Хьюбер Дрейфус).

• Физические ограничения: закон Мура замедляется, и невозможно уменьшить размер электронных схем ниже определённого атомного веса.

• Логистическая модель: развитие сложных систем идёт не по экспоненте, а по S-образной логистической кривой, выходящей на плато.

• Метафизическая критика: вера в сингулярность рассматривается как результат тотальной зависимости человека от техники и своеобразная светская мессианская идея. Бесконтрольно ускоряющийся технический прогресс, по мнению некоторых критиков, ведёт не к господству машинного сверхразума, а к тотальному экзистенциальному обессмысливанию и антропологической катастрофе.

Ряд учёных, например А. В. Коротаев и А. В. Марков, утверждают, что явно выраженной точки сингулярности не будет, а Мир-Система уже прошла точку максимальной скорости развития в процессе модернизационного фазового перехода. В то же время специалисты по метасистемным переходам отмечают, что критика необоснованных прогнозов не должна переноситься на саму базовую концепцию сингулярности, которая не требует обязательного создания «сильного ИИ» на базе цифровых компьютеров.