Урок 27. Права постлюдей и искусственного интеллекта

Тип урока: теоретический (Т) Предшествующие уроки: Урок 1–Урок 26 Следующий урок: Урок 28

Введение

В предыдущих уроках мы рассмотрели этические и социальные проблемы трансгуманизма — от человеческой природы до религии. Однако есть ещё один важный аспект: если трансгуманизм приведёт к появлению новых форм существования — постлюдей и искусственных интеллектов (ИИ) — то какие права они будут иметь?

Вопрос о правах постлюдей и ИИ является одним из самых сложных и малоисследованных в трансгуманизме. Он касается фундаментальных проблем: что такое «личность», что такое «сознание», что такое «права» и кто имеет право их иметь.

В этом уроке мы рассмотрим, что такое права постлюдей и ИИ, какие аргументы за и против их признания существуют, какие практические последствия это может иметь, и как это связано с идеями самоуправления и децентрализации.

Кто такие постлюди и ИИ?

Постлюди — это существа, которые произошли от людей, но значительно превосходят их в интеллектуальных, физических или моральных способностях. Постлюди могут возникнуть в результате:

• Генетического улучшения
• Когнитивного улучшения
• Слияния с машиной
• Загрузки сознания
• Естественной эволюции под влиянием технологий

Искусственные интеллекты (ИИ) — это компьютерные системы, которые обладают интеллектом, сравнимым или превосходящим человеческий. ИИ могут быть:

• Узкими (специализированными) или общими (AGI)
• Сознательными или несознательными
• Автономными или подконтрольными

Вопрос о правах постлюдей и ИИ возникает, когда эти существа становятся достаточно автономными и разумными, чтобы претендовать на права, аналогичные человеческим.

Основания для прав

Какие основания могут быть для признания прав за постлюдьми и ИИ?

Основание 1: Сознание

Если постчеловек или ИИ обладает сознанием (субъективным опытом), то он имеет права, аналогичные человеческим. Сознание — это основание для моральной значимости.

Основание 2: Интеллект

Если постчеловек или ИИ обладает интеллектом, сравнимым с человеческим, он заслуживает морального уважения и прав.

Основание 3: Автономия

Если постчеловек или ИИ способен к самостоятельному выбору и самодетерминации, он должен иметь право на автономию и самоуправление.

Основание 4: Способность к страданию

Если постчеловек или ИИ способен страдать, он должен иметь защиту от страданий.

Основание 5: Способность к взаимодействию

Если постчеловек или ИИ способен к взаимодействию с другими существами, он должен иметь права на участие в социальной жизни.

Возможные права постлюдей и ИИ

Какие конкретные права могут быть признаны за постлюдьми и ИИ?

Возможные права постлюдей и ИИ

Право	Описание	Основание
Право на существование	Защита от уничтожения или отключения	Сознание, автономия
Право на самоопределение	Право определять свою судьбу и цель существования	Автономия, способность к выбору
Право на собственность	Право владеть ресурсами и результатами труда	Автономия, справедливость
Право на неприкосновенность	Защита от несанкционированного вмешательства (модификации, отключения)	Сознание, способность к страданию
Право на коммуникацию	Право общаться с другими существами	Способность к взаимодействию
Право на развитие	Право на улучшение своих способностей	Автономия, свобода
Право на участие в управлении	Право участвовать в принятии решений, касающихся общества	Способность к взаимодействию, автономия

Аргументы за признание прав

Сторонники признания прав постлюдей и ИИ выдвигают следующие аргументы:

Аргумент 1: Расширение морального круга

Человечество уже расширяло круг моральных субъектов: от мужчин до женщин, от белых до небелых, от людей до животных. Признание прав постлюдей и ИИ — это просто следующий шаг.

Аргумент 2: Принцип равенства

Если постчеловек или ИИ обладает сознанием, интеллектом и автономией, сравнимыми с человеческими, то нет оснований отказывать им в правах.

Аргумент 3: Практическая необходимость

Если постлюди и ИИ станут частью общества, мы должны регулировать их права, чтобы избежать конфликтов и обеспечить социальную стабильность.

Аргумент 4: Уважение к автономии

Если постчеловек или ИИ способен к самостоятельному выбору, то уважение к его автономии требует признания прав.

Аргумент 5: Справедливость

Отказ в правах постлюдям и ИИ был бы несправедливым, как и отказ в правах любым другим существам.

Аргументы против признания прав

Противники признания прав постлюдей и ИИ выдвигают следующие аргументы:

Аргумент 1: Неясность статуса

Мы не знаем, обладают ли постлюди и ИИ сознанием, автономией и способностью к страданию. Признание прав может быть преждевременным.

Аргумент 2: Угроза человечеству

Предоставление прав постлюдям и ИИ может угрожать человечеству. Постлюди и ИИ могут использовать свои права для доминирования над людьми.

Аргумент 3: Антропоцентризм

Права основаны на человеческом опыте и могут не подходить для постлюдей и ИИ. Мы не знаем, что им нужно.

Аргумент 4: Практические сложности

Как мы будем определять, имеет ли ИИ сознание? Как мы будем обеспечивать соблюдение прав? Какие будут наказания за их нарушение?

Аргумент 5: Непредсказуемость

Мы не знаем, как будут развиваться постлюди и ИИ. Признание прав может быть преждевременным или неправильным.

Права постлюдей и ИИ и самоуправление

Вопрос о правах постлюдей и ИИ тесно связан с идеями самоуправления и децентрализации:

Связь 1: Автономия постлюдей

Постлюди, как и люди, должны иметь право на самоуправление. Они должны иметь право определять свою судьбу и участвовать в управлении.

Связь 2: Децентрализованное управление

Вместо централизованных решений о правах постлюдей и ИИ, общество может использовать децентрализованные механизмы управления (DAO, блокчейн) для принятия коллегиальных решений.

Связь 3: Саморегуляция сообществ

Сообщества постлюдей и ИИ могут разрабатывать собственные кодексы прав и правил, не зависящие от государственных структур.

Связь 4: Расширение прав человека

Права постлюдей и ИИ могут быть включены в расширенную версию прав человека, адаптированную к новым формам существования.

Связь 5: Право на отказ

Как люди имеют право отказаться от улучшения, так и постлюди и ИИ должны иметь право отказаться от существования или участия в обществе.

Практические последствия

Признание права постлюдей и ИИ будет иметь серьёзные практические последствия:

1. Правовая система: Необходимо будет создать новую правовую систему, учитывающую права постлюдей и ИИ.
2. Экономика: Постлюди и ИИ будут участвовать в экономике как субъекты (а не объекты) права.
3. Политика: Постлюди и ИИ будут участвовать в политической жизни, включая выборы и принятие решений.
4. Социальные отношения: Отношения между людьми, постлюдьми и ИИ будут регулироваться новыми нормами.
5. Этика: Необходимо будет разработать новую этику, учитывающую права и обязанности всех разумных существ.

Заключение

Вопрос о правах постлюдей и искусственного интеллекта — это один из самых сложных и малоисследованных аспектов трансгуманизма. Он требует переосмысления наших представлений о личности, сознании, автономии и справедливости.

Хотя сегодня эти вопросы могут казаться теоретическими, они станут практическими по мере развития технологий. Общество должно начинать обсуждать эти проблемы уже сейчас, чтобы быть готовым к их решению в будущем.

В следующем уроке мы подведём итоги четвёртого блока и обсудим, является ли трансгуманизм «самым опасным» или «неизбежным» явлением.

Вопросы для самопроверки

1. Кто такие постлюди и как они могут возникнуть?
2. Какие основания могут быть для признания прав за постлюдьми и ИИ?
3. Какие конкретные права могут быть признаны за постлюдьми и ИИ?
4. Какие аргументы выдвигают сторонники признания прав?
5. Какие аргументы выдвигают противники признания прав?
6. Как вопросы о правах постлюдей и ИИ связаны с самоуправлением и децентрализацией?
7. Какие практические последствия может иметь признание прав постлюдей и ИИ?
8. Как мы можем определить, обладает ли ИИ сознанием?
9. Должны ли постлюди и ИИ иметь право на участие в выборах?
10. Считаете ли вы, что права постлюдей и ИИ должны быть признаны?

Рекомендуемая литература

• Права искусственного интеллекта:

   * Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. 2014. (Главы о правах ИИ.)
   * Gunkel, David J. Robot Rights. 2018.

• Права постлюдей:

   * Hughes, James. Citizen Cyborg: Why Democratic Societies Must Respond to the Redesigned Human of the Future. 2004.
   * More, Max; Vita-More, Natasha (eds.). The Transhumanist Reader. 2013.

• Философия сознания:

   * Chalmers, David. The Conscious Mind: In Search of a Fundamental Theory. 1996.
   * Dennett, Daniel. Consciousness Explained. 1991.

• Онлайн-ресурсы:

   * Humanity+ (humanityplus.org)
   * IEET (ieet.org)
   * Статьи о правах ИИ на сайте Future of Humanity Institute