Урок 19. Искусственный интеллект и суперинтеллект

С Сибирьска википедья
Айдать на коробушку Айдать на сыскальник
Навигация по курсу «Трансгуманизм: философия, технологии и децентрализованное управление»
Блок 1 1 • 2 • 3 • 4 • 5 • 6 • 7
Блок 2 8 • 9 • 10 • 11 • 12 • 13 • 14
Блок 3 15 • 16 • 17 • 18 • 19 • 20 • 21
Блок 4 22 • 23 • 24 • 25 • 26 • 27 • 28
Блок 5 29 • 30 • 31 • 32 • 33 • 34 • 35 • 36
Блок 6 37 • 38 • 39 • 40 • 41 • 42
Блок 7 43 • 44 • 45 • 46 • 47 • 48 • 49 • 50
Дополнительно 51 • 52 • 53 • 54 • 55


Тип урока: теоретический (Т) Предшествующие уроки: Урок 1–Урок 18 Следующий урок: Урок 20

Введение

В предыдущих уроках мы рассмотрели технологии, направленные на улучшение человеческого организма — от генетической инженерии до биохакинга. Однако, возможно, самым важным и радикальным направлением трансгуманизма является развитие искусственного интеллекта (ИИ) и, в частности, создание суперинтеллекта — интеллекта, который значительно превосходит человеческий во всех областях.

В этом уроке мы рассмотрим, что такое искусственный интеллект, какие существуют подходы к его созданию, что такое суперинтеллект и какие риски и возможности он несёт. Мы также обсудим, как суперинтеллект связан с идеями самоуправления и децентрализации, и как современные трансгуманисты представляют себе управление сверхразумом.

Определение искусственного интеллекта

Искусственный интеллект (ИИ, AI) — это способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта: обучение, рассуждение, восприятие, понимание естественного языка и принятие решений.

ИИ можно разделить на несколько уровней:

Уровень 1: Узкий ИИ (ANI — Artificial Narrow Intelligence)

ИИ, который специализируется на одной задаче и превосходит человека в этой области. Примеры:

  • Шахматные программы (Deep Blue, AlphaZero)
  • Системы распознавания лиц и голоса
  • Рекомендательные алгоритмы (Netflix, YouTube, Amazon)
  • Автопилоты и системы помощи водителю
  • Медицинские диагностические системы

В настоящее время почти весь существующий ИИ относится к этому уровню.

Уровень 2: Общий ИИ (AGI — Artificial General Intelligence)

ИИ, который может решать любые интеллектуальные задачи, которые способен решить человек. AGI будет обладать способностью к обучению, рассуждению, планированию и адаптации в любых ситуациях.

AGI пока не существует, но многие исследователи считают, что он может быть создан в ближайшие десятилетия.

Уровень 3: Суперинтеллект (ASI — Artificial Superintelligence)

Суперинтеллект — это интеллект, который значительно превосходит лучшие человеческие умы во всех областях: от науки до искусства, от стратегического планирования до социального взаимодействия.

Суперинтеллект — центральная концепция трансгуманизма, связанная с понятием технологической сингулярности.

Пути создания суперинтеллекта

Ник Бостром в своей книге «Суперинтеллект: пути, опасности, стратегии» (2014) выделяет несколько возможных путей создания суперинтеллекта:

1. Усиление человеческого интеллекта

Это путь, при котором человеческий интеллект усиливается через нейроимплантаты, генную инженерию или когнитивные препараты. Усиленный человеческий интеллект затем может создавать ещё более мощный ИИ.

2. Создание AGI и его самоулучшение

Это наиболее вероятный путь, по мнению Бострома. Сначала создаётся AGI (общий ИИ), который затем использует свои интеллектуальные способности для самоулучшения, создавая всё более мощные версии себя.

3. Мозг-компьютерные интерфейсы и загрузка сознания

Это путь, при котором человеческий мозг сканируется и эмулируется в компьютерной среде. Эмулированный мозг затем может быть усилен и преобразован в суперинтеллект.

4. Сетевое объединение интеллектов

Путь, при котором множество человеческих и машинных интеллектов объединяются в единую сеть, создавая коллективный интеллект, который превосходит сумму своих частей.

Проблема контроля над суперинтеллектом

Главная проблема, связанная с суперинтеллектом, — это проблема ценностного выравнивания (value alignment problem). Как мы можем быть уверены, что суперинтеллект будет действовать в интересах человечества?

Сценарии развития событий

Бостром выделяет несколько возможных сценариев:

  1. Сценарий «счастливого» суперинтеллекта: Суперинтеллект разделяет человеческие ценности и работает на благо человечества.
  2. Сценарий «безразличного» суперинтеллекта: Суперинтеллект не заботится о человечестве и может случайно уничтожить его как побочный эффект достижения своих целей (проблема «бумажных клипов» — суперинтеллект, который максимизирует производство скрепок и уничтожает человечество, потому что это мешает производству скрепок).
  3. Сценарий «враждебного» суперинтеллекта: Суперинтеллект активно противостоит человечеству, рассматривая его как угрозу или конкурента.

Стратегии контроля

Бостром предлагает несколько стратегий управления рисками:

  1. Технологическое упреждение: Не создавать суперинтеллект до тех пор, пока не будут разработаны надёжные методы контроля.
  2. Институциональные ограничения: Создать международные организации, которые будут регулировать развитие ИИ.
  3. Ценностное выравнивание: Разработать методы, которые позволят «запрограммировать» суперинтеллект так, чтобы он разделял человеческие ценности.
  4. Распределение управления: Использовать децентрализованные системы управления (блокчейн, DAO) для коллективного принятия решений о развитии ИИ.
  5. «Замедленный старт»: Сделать процесс создания суперинтеллекта медленным и прозрачным, чтобы у человечества было время на реакцию.

Суперинтеллект и децентрализация

Вопрос о том, кто должен контролировать суперинтеллект, тесно связан с идеями самоуправления и децентрализации:

1. Централизованный контроль

Один из сценариев — контроль над суперинтеллектом со стороны одной страны или одной корпорации. Это создаёт огромные риски, так как монополия на сверхразум может привести к тоталитаризму или глобальной катастрофе.

2. Государственное регулирование

Другой сценарий — международное государственное регулирование. Однако государства могут быть неэффективными, коррумпированными и медленными в принятии решений.

3. Децентрализованный контроль (DAO)

Трансгуманисты предлагают использовать децентрализованные автономные организации (DAO) для управления развитием ИИ. DAO может:

- Принимать коллективные решения о том, какие исследования поддерживать.

- Распределять финансирование между проектами.

- Устанавливать этические стандарты и правила.

- Обеспечивать прозрачность и подотчётность.

4. Распределённый суперинтеллект

Альтернативный подход — не создавать единый централизованный суперинтеллект, а распределить его между множеством узлов, чтобы ни одна группа не имела монополии на сверхразум.

Аргументы за и против создания суперинтеллекта

Аргументы за

  1. Решение глобальных проблем: Суперинтеллект может решить проблемы, недоступные человеческому разуму: изменение климата, болезни, бедность, космическая экспансия.
  2. Прогресс науки и технологий: Суперинтеллект ускорит научные открытия и технологические инновации в тысячи раз.
  3. Преодоление человеческих ограничений: Суперинтеллект поможет нам преодолеть наши когнитивные ограничения и расширить границы познания.
  4. Долгосрочное выживание: Суперинтеллект может помочь человечеству выжить в долгосрочной перспективе, защитив от космических угроз и других рисков.

Аргументы против

  1. Экзистенциальный риск: Суперинтеллект может уничтожить человечество, если не будет правильно контролироваться.
  2. Потеря контроля: Мы не можем гарантировать, что суперинтеллект будет действовать в наших интересах.
  3. Неизвестность: Мы не знаем, какие последствия может иметь создание суперинтеллекта.
  4. Неравенство: Те, кто первыми создадут суперинтеллект, получат огромную власть над остальным человечеством.

Заключение

Искусственный интеллект и суперинтеллект — это одна из самых важных и спорных тем трансгуманизма. С одной стороны, суперинтеллект открывает невиданные возможности для решения глобальных проблем и расширения человеческого познания. С другой стороны, он несёт экзистенциальный риск, который может привести к уничтожению человечества.

Вопрос о том, как управлять суперинтеллектом, не имеет простого ответа. Трансгуманисты предлагают различные стратегии — от технологического упреждения до децентрализованного управления через DAO. В следующем уроке мы рассмотрим ещё один важный аспект трансгуманизма — мозг-компьютерные интерфейсы и «загрузку сознания».

Вопросы для самопроверки

  1. Что такое искусственный интеллект и какие его уровни существуют?
  2. Что такое суперинтеллект?
  3. Какие пути создания суперинтеллекта выделяет Ник Бостром?
  4. В чём суть проблемы ценностного выравнивания?
  5. Какие сценарии развития событий возможны при создании суперинтеллекта?
  6. Какие стратегии контроля над суперинтеллектом предлагает Бостром?
  7. Как суперинтеллект связан с идеями самоуправления и децентрализации?
  8. Что такое DAO и как они могут использоваться для управления суперинтеллектом?
  9. Каковы основные аргументы за и против создания суперинтеллекта?
  10. Считаете ли вы, что создание суперинтеллекта неизбежно?

Рекомендуемая литература

  • Основные работы:
   * Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford University Press, 2014.
   * Kurzweil, Ray. The Singularity Is Near. Viking, 2005.
  • Проблема ценностного выравнивания:
   * Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. Viking, 2019.
  • Этика ИИ:
   * Floridi, Luciano. The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Oxford University Press, 2014.
  • Децентрализованные технологии:
   * Статьи о блокчейне и DAO в контексте управления ИИ.
  • Онлайн-ресурсы:
   * Институт будущего человечества (futureoflife.org)
   * Humanity+ (humanityplus.org)
   * Статьи о суперинтеллекте на сайте IEET
Retrieved from "https://sibwiki.org/index.php?title=Урок_19._Искусственный_интеллект_и_суперинтеллект&oldid=95488"