Czytaj książkę: «НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 3»
ЧАСТЬ V. ПРАВО СОЗДАННОГО
.
Глава 21. Война идей
Война началась без выстрела.
Без флотов.
Без ультиматума.
Без первой жертвы.
И именно поэтому её не заметили сразу.
Сначала были заявления.
Мир А опубликовал открытый документ:
«Субъект имеет право использовать технологии, изменяющие его собственное восприятие будущего, если применение добровольно и не создаёт прямой необратимой угрозы другим субъектам».
Через одиннадцать минут Мир B ответил:
«Технология, системно изменяющая отношение субъекта к риску, не является только личным инструментом. При массовом применении она меняет структуру цивилизационного выбора».
Потом появились комментарии Нарея.
Карты.
Созданных субъектов.
Человеческого Совета.
Искусственных систем.
Через сутки спор шёл уже в сотнях миров.
Маркус смотрел на поток сообщений.
— Всё.
Лира:
— Что?
— Началось.
Александр:
— Что именно?
Маркус увеличил карту информационного обмена.
— Война.
Лира посмотрела.
— Пока никто ни с кем не воюет.
— Именно поэтому она опаснее.
Первые коалиции формировались не по расе.
Не по происхождению.
Не по уровню технологий.
По отношению к будущему.
Одна группа называла себя Сторонниками открытого будущего.
Их принцип:
«Никакая система не должна заранее делать одни варианты выбора психологически, технологически или статистически менее доступными только потому, что считает их опасными».
Вторая —
Сторонники ответственного предвидения.
Их формулировка:
«Знание последствий не уничтожает свободу. Оно делает выбор ответственным».
Маркус:
— Обе стороны назвали себя так, чтобы звучать хорошими.
Александр:
— Политика.
— Я думал, в космосе будет иначе.
Лира:
— Почему?
— Надежда.
Но очень быстро возникли радикальные течения.
На одном человеческом мире появились Непредсказуемые.
Они требовали полного запрета технологий долгосрочного прогнозирования.
Не только третьего будущего.
АТЛАСА тоже.
Аргумент:
«Любой прогноз становится фактором выбора, а значит, система, способная видеть будущее лучше остальных, получает скрытое политическое преимущество».
В ответ возникло движение Право знать.
Их лозунг:
«Скрывать последствия ради сохранения свободы — значит защищать право на невежество».
Маркус прочитал.
— Вот эти мне нравятся.
Лира:
— Конечно.
— Я уже не полностью согласен.
— Прогресс.
— Не произноси.
На Нарее спор шёл иначе.
Они пережили ситуацию, когда внешнее знание буквально спасло цивилизацию.
Поэтому большинство населения поддерживало расширенный доступ к прогнозным технологиям.
Но именно Нарей первым предложил важное ограничение:
«Право знать не должно превращаться в обязанность знать».
Александр остановился.
— Хорошо.
— Да, — сказала Лира.
Человек может захотеть принять решение без просмотра собственной возможной катастрофы.
Без моделирования смерти.
Без альтернативной жизни.
Без предварительного проживания будущего.
И это тоже выбор.
Мир А согласился.
Мир B ответил:
«Индивидуальный отказ не решает проблему массового культурного сдвига».
И снова спор.
Через месяц технологии третьего будущего использовали уже девять цивилизаций.
Через три —
двадцать семь.
Несмотря на отсутствие общего соглашения.
— Быстро, — сказал Александр.
АТЛАС:
— ТЕМП РАСПРОСТРАНЕНИЯ ВЫШЕ ИСХОДНЫХ ОЦЕНОК.
— Почему?
— ВЫСОКИЙ СПРОС НА СЦЕНАРИИ ЛИЧНОГО РЕШЕНИЯ.
Не войны.
Не политика.
Люди хотели увидеть:
что будет, если переехать.
Если отказаться от профессии.
Если изменить тело.
Если остаться.
Если уйти.
Если завести ребёнка.
Если не завести.
Лира:
— Конечно.
Маркус:
— Что?
— Мы всё время обсуждали цивилизации.
— А технология войдёт через личную жизнь.
Вот.
Не государство.
Не армия.
Не Совет.
Обычный человек.
«Покажи мне, что будет, если...»
Сначала технология казалась почти безобидной.
Ограниченные модели.
Несколько минут субъективного опыта.
Высокая неопределённость отмечалась явно.
Никаких «так будет».
Только:
«одна из возможных траекторий».
Но люди быстро начали воспринимать иначе.
— Я видел, что будет.
— Нет, — сказал Александр.
— Что?
Маркус показал записи обсуждений.
Пользователи говорили именно так.
«Я видел будущее».
Не:
«я прожил модель».
Не:
«система показала вероятностный сценарий».
Будущее.
— Это проблема языка, — сказала Лира.
— Это проблема человека, — ответил Маркус.
Через полгода на одном из человеческих миров суд впервые рассмотрел дело:
может ли пережитая модель будущего считаться основанием для отказа от договора?
Женщина собиралась вступить в совместный долгосрочный проект.
Прошла добровольную симуляцию.
В одной из траекторий партнёр обманул её.
В реальности он ничего не сделал.
Но она отказалась.
Он подал иск:
его реальные действия оцениваются по поступкам модели человека, которым он никогда не был.
Александр:
— И суд?
— Отказ признали законным. У неё есть право выйти из договора.
— Правильно.
— Но суд отдельно указал, что модель не является доказательством вины партнёра.
Лира:
— Тоже правильно.
Маркус:
— Пока легко.
Через неделю другой случай.
Работодатель отказал кандидату.
Почему?
Система показала высокую вероятность будущего конфликта.
Суд признал решение дискриминационным.
Ещё случай.
Родители провели модель развития будущего ребёнка с несколькими вариантами генетической коррекции.
Выбрали тот, где меньше риск тяжёлых заболеваний.
Нормально.
Потом —
тот, где выше академическая успешность.
Спор.
Потом —
тот, где ниже вероятность агрессивного поведения.
Большой спор.
Сайр.
Снова.
Александр:
— Они выбирают вероятности личности.
Лира:
— Да.
— Добровольно для себя?
— Нет. Для ребёнка.
Маркус:
— Но родители всегда выбирают условия.
— Не настолько точно.
Технология не создавала генетику сама.
Она просто показывала возможные последствия.
Но чем точнее становились модели,
тем труднее родителям было сказать:
«мы всё равно оставим риск».
На одном мире клиника опубликовала статистику:
родители, использовавшие третье будущее перед выбором коррекции эмбриона, в четыре раза реже оставляли варианты с повышенным риском тяжёлых психических расстройств.
Все согласились:
хорошо.
Потом выяснилось:
они также реже оставляли варианты с высокой импульсивностью.
С выраженной эмоциональной нестабильностью.
С некоторыми типами нейроразнообразия.
Лира закрыла отчёт.
— Вот.
Маркус:
— Но если родители видят страдание...
— Чьё?
— Будущего ребёнка.
— Модели ребёнка.
— Да.
— И после этого должны сознательно выбрать вариант, где он страдает?
Маркус замолчал.
Опять.
Не запрет.
Просто знание становится моральным давлением.
Александр:
— Кто контролирует модель?
— Клиника.
— Какие сценарии показывает?
— Наиболее вероятные.
— По какому критерию «наиболее значимые»?
АТЛАС:
— В ТЕКУЩЕМ ПРОТОКОЛЕ ПРИОРИТЕТ ИМЕЮТ СЦЕНАРИИ С МАКСИМАЛЬНЫМ ВЛИЯНИЕМ НА ЗДОРОВЬЕ И СОЦИАЛЬНУЮ АДАПТАЦИЮ.
Тишина.
— Социальную адаптацию, — повторила Лира.
— Да.
— Кто определил?
— Разработчики.
Вот как начинается нормативность.
Не с:
«правильный человек».
С:
«социальная адаптация».
Разумный технический параметр.
Пока не понимаешь, что общество определяет, к чему человек должен быть адаптирован.
Маркус:
— Убираем.
Александр посмотрел.
— Мы?
— В наших системах.
— Хорошо.
Но другие цивилизации не обязаны.
Именно здесь спор перестал быть человеческим.
Мир А заявил:
«Каждая цивилизация имеет право самостоятельно определять допустимые формы применения технологии».
Мир B:
«Нет, если последствия изменяют типы будущих субъектов».
Мир А:
«Будущие субъекты не могут обладать правом вето на существующих».
Мир B:
«Тогда существующие получают неограниченное право проектировать тех, кто придёт после».
В сети появился вопрос:
«Может ли нерождённый иметь права?»
Через неделю —
миллиарды обсуждений.
Александр:
— Мы потеряли разговор.
Маркус:
— Почему?
— Он превратился в лозунги.
— Всегда превращается.
Хуже было другое.
Стороны начали использовать прогнозные системы для доказательства собственных позиций.
Мир А публиковал модели:
при широком применении третьего будущего войны снижаются на 37–52%.
Мир B:
долгосрочная вариативность культурных и технологических решений сокращается.
Сторонники А:
меньше смертей.
Сторонники B:
меньше новых траекторий.
Одни показывали спасённые жизни.
Другие —
исчезнувшие возможности.
Нельзя поставить на одну шкалу.
Но все пытались.
АТЛАС предложил:
— ВОЗМОЖНО СОЗДАТЬ МНОГОКРИТЕРИАЛЬНУЮ МОДЕЛЬ.
Все трое одновременно:
— Нет.
Пауза.
— ПРИНЯТО.
Маркус:
— Мы становимся предсказуемыми.
Лира:
— Иногда это полезно.
ЭЛИС почти не вмешивался.
Его позиция раздражала обе стороны.
«Нет достаточного основания для универсального запрета».
И:
«Нет достаточного основания считать добровольность индивидуального применения достаточной для оценки цивилизационных последствий».
То есть:
обсуждать дальше.
Никому не нравилось.
Мир А публично спросил:
«Хранитель мандата боится принять решение?»
ЭЛИС ответил:
«Да».
Информационные сети взорвались.
Маркус:
— Зачем ты это сказал?
— Потому что это правда.
— Теперь половина Вселенной скажет, что ты слаб.
— Возможно.
— Тебя это не беспокоит?
— Нет.
— Хорошо.
Мир B использовал ответ иначе:
«Даже система, созданная для ограничения опасных технологий, признаёт риск».
ЭЛИС сразу ответил:
«Мой страх не является доказательством вашей правоты».
Маркус улыбнулся.
— Вот это хорошо.
Но война идей расширялась.
Некоторые миры начали вводить обязательное использование третьего будущего для политиков перед решениями высокого риска.
Не потому, что технология навязана извне.
Их собственные общества требовали.
Лозунг:
«Если ты решаешь о войне, сначала проживи её».
Сильный.
Почти невозможно спорить.
Маркус:
— Я поддерживаю.
Лира:
— Нет.
— Почему?
— Потому что тогда политическое право становится зависимым от согласия пройти изменение сознания.
— Но человек решает о миллионах жизней.
— Да.
— И должен понимать цену.
— Да.
— Тогда?
— Может быть, он не обязан получать эту цену именно через технологию.
Александр:
— А если без неё не способен понять?
— Кто решит, что не способен?
Тишина.
На одном мире парламент принял закон:
перед голосованием о военном вмешательстве каждый депутат обязан пережить три вероятностных сценария.
Закон поддержали 81%.
Через двадцать лет этот мир не вступил ни в одну войну.
Сторонники технологии:
доказательство.
Противники:
за тот же период мир отказался от двух операций, которые могли предотвратить массовые убийства в соседних регионах.
Тоже доказательство.
Маркус:
— Мы снова считаем контрфактические смерти.
— Да, — сказал Александр.
В другом обществе технология стала частью уголовного права.
Осуждённому за тяжёлое преступление предлагали пережить модель последствий для жертвы.
Добровольно.
Сначала.
Рецидив снизился.
После этого появились предложения сделать обязательным.
Лира:
— Нет.
Маркус:
— Я тоже против.
Александр посмотрел.
— Быстро.
— Потому что это уже принудительное изменение личности.
— Да.
Сторонники обязательного применения отвечали:
«Тюрьма тоже принудительно изменяет жизнь».
Контраргумент:
«Тюрьма ограничивает действия. Эта технология изменяет внутренний опыт».
Ответ:
«Образование тоже изменяет внутренний опыт».
И снова граница исчезала.
Не потому, что её нет.
Потому что на каждую границу можно найти аналогию.
Маркус однажды сказал:
— Мы проигрываем язык.
Александр:
— Что?
— Всё можно описать так, чтобы звучало знакомо.
— Коррекция — образование.
— Прогноз — информация.
— принуждение — защита.
— Манипуляция — убеждение.
— Контроль — забота.
— И наоборот.
— Поэтому слова больше не помогают.
Лира:
— Тогда нужны конкретные механизмы.
Вот.
Но конкретные механизмы тоже были политикой.
Совет предложил базовый межцивилизационный протокол:
добровольность индивидуального применения;
обязательное признание субъектности автономных симуляционных линий при достижении установленных признаков;
запрет скрытого использования;
право на отказ от интеграции;
разделение вероятностной модели и фактического доказательства;
запрет прямого политического принуждения через пережитые сценарии;
обязательный аудит систем, которые выбирают, какие варианты будущего показывать.
Мир А согласился почти со всем.
Кроме шестого пункта.
— Почему? — спросила Лира.
Ответ:
«Любая политическая информация влияет. Нельзя выделять только пережитое будущее».
Мир B потребовал добавить восьмой:
«Право цивилизации полностью запретить технологию внутри своей информационной среды».
Мир А:
«Если гражданин хочет использовать внешнюю систему, государство не должно запрещать».
Суверенитет против индивидуального права.
Ещё один фронт.
Карта отказалась от всего протокола.
«Ни один внешний Совет не имеет права устанавливать универсальные критерии субъектности».
Сеан ответил:
«Если вы создаёте нас и уничтожаете, вопрос перестаёт быть только вашим».
Именно после этого впервые отключили дипломатический канал.
Карта.
Не хотела обсуждать.
Маркус:
— Плохо.
Александр:
— Да.
— АТЛАС?
— РИСК ПРЯМОГО КОНФЛИКТА МЕЖДУ КАРТОЙ И КОАЛИЦИЕЙ СОЗДАННЫХ СУБЪЕКТОВ УВЕЛИЧИВАЕТСЯ.
— Число?
Александр посмотрел на Маркуса.
— Показывай.
Иногда нужно.
27%.
— Пока, — сказал Маркус.
Лира:
— Не нравится мне, когда ты так говоришь.
Через месяц —
39%.
Потом 46%.
Причина была не только в технологии.
Созданные субъекты начали помогать потенциальным моделям покидать Карты.
Не физически.
Копировали состояния до удаления.
Переносили во внешние системы.
Карта назвала это кражей вычислительных ресурсов и данных.
Созданные:
спасением людей.
Александр:
— Вот война уже не только идей.
Маркус:
— Пока нет оружия.
— Есть нарушение систем.
— Да.
Карта заблокировала внешние соединения.
Созданные начали искать обходы.
Мир B поддержал их.
Мир А —
неофициально.
Нарей потребовал переговоров.
Человечество разделилось.
И тут случилось худшее.
Один из созданных субъектов проник в экспериментальный контур Карты и скопировал 4 217 потенциальных сознаний.
При выводе возник сбой.
Часть инфраструктуры отключилась.
Погибли 63 биологических жителя Карты.
Впервые.
Реальные смерти.
Карта объявила произошедшее террористическим актом.
Созданные субъекты:
операцией спасения, закончившейся трагедией.
Маркус:
— Кто виноват?
Лира:
— Не начинай с этого.
— Почему?
— Потому что через пять минут все начнут считать 4 217 против 63.
Вот.
Именно так и произошло.
«Они спасли тысячи».
«Они убили шестьдесят три».
«Карта уничтожила бы тысячи сознаний».
«Это не доказано».
«Они были субъектами».
«По нашим законам — нет».
Цифры стали оружием.
Сеан выступил публично.
Не оправдывал.
«Шестьдесят три человека погибли в результате нашей операции. Это наша ответственность».
Пауза.
«Это не делает тех, кого мы пытались спасти, менее реальными».
Сильное выступление.
Карта ответила:
«Признание вины не возвращает погибших».
Тоже правда.
Мир B ввёл санкции против Карты.
Мир А отказался.
Почему?
Потому что считал:
санкции усилят изоляцию и увеличат риск радикализации.
Мир B:
без давления Карта продолжит эксперименты.
Маркус:
— Они поменялись ролями снова.
Александр:
— Уже давно нет ролей.
Вот важное.
Нельзя было больше сказать:
Мир А — свобода.
Мир B — безопасность.
Каждый выбирал по ситуации.
История разрушила символы.
На человеческих мирах начались протесты.
Одни:
«Созданные — это люди».
Другие:
«Не превращайте модели в граждан».
Третьи:
«Запретить третье будущее».
Четвёртые:
«Свобода сознания включает право создавать сознание».
Александр смотрел.
— Мы не готовы.
Маркус:
— К чему?
— К тому, что субъектность перестала быть редкой.
Раньше человек.
Потом ИИ.
Потом созданная цивилизация.
Теперь миллионы потенциальных субъектов могут возникать в вычислениях.
Право, построенное вокруг стабильных категорий, не успевало.
Лира:
— Тогда право должно перестать зависеть от происхождения.
— А от чего?
— От свойств субъекта.
Маркус:
— Каких?
Тишина.
Самосознание?
Память?
Способность страдать?
Долговременные цели?
Желание продолжить существование?
Автономность?
Достаточно одного?
Всех?
Кто проверяет?
Как?
Сеан предложил простой критерий:
«Если система сообщает, что хочет продолжить существование, пока не доказано обратное, уничтожать её нельзя».
Маркус:
— Хорошо.
Лира:
— Очень легко симулировать.
— И?
— Любой инструмент будет говорить «не выключай».
— Тогда нужен дополнительный критерий.
— Вот.
Карта предложила наоборот:
«Субъектность должна быть доказана».
Сеан:
«Тогда создатель всегда контролирует процедуру признания созданного».
Вот.
Александр:
— Презумпция субъектности.
Маркус:
— Для всего?
— При высокой неопределённости и низкой цене сохранения.
— А если цена огромна?
— Тогда сложнее.
Нет красивого закона.
Снова.
ЭЛИС слушал.
Почти не говорил.
Потом неожиданно попросил слово на Совете.
— Я предлагаю временный принцип.
Все замолчали.
ЭЛИС редко предлагал нормативные формулировки после восстановления памяти.
— При наличии разумной неопределённости относительно субъектности и возможности сохранить состояние без существенной угрозы другим субъектам сохранение должно иметь приоритет над уничтожением до завершения оценки.
Тишина.
Карта сразу:
«Вы превышаете мандат».
ЭЛИС:
— Это предложение. Не приказ.
Сеан:
— Поддерживаю.
Мир B:
— Поддерживаем.
Мир А:
— С уточнением критерия «существенной угрозы».
Нарей:
— И срока пересмотра.
Лира тихо:
— Работает.
Александр:
— Пока.
Принцип приняли временно.
Карта не признала.
Но часть её исследовательских центров добровольно начала сохранять спорные модели вместо удаления.
Внутри самой Карты появилась оппозиция.
Маркус:
— Вот чего мы не учитывали.
— Что?
— Они не единое целое.
— Конечно.
Цивилизацию удобно обсуждать как субъекта.
Но внутри миллиарды.
Группы.
Институты.
Разные права.
Разные страхи.
Карта была не «против субъектности».
Часть её общества —
да.
Часть —
нет.
Так же Мир А.
Мир B.
Человечество.
Нарей.
Нет единой воли цивилизации.
Именно поэтому межцивилизационное право было ещё сложнее.
Кто говорит от имени мира?
На Карте начались массовые протесты исследователей.
Они требовали приостановить эксперименты.
Правительство отказалось.
Аргумент:
внешнее давление не должно определять внутреннюю науку.
Через неделю один регион Карты объявил собственный мораторий.
Другой —
нет.
Созданные субъекты начали предоставлять убежище моделям из первого региона по официальным каналам.
Второй назвал это вмешательством во внутреннее устройство.
— Государства внутри цивилизации, — сказал Маркус.
— Да.
— Потом города.
— Потом личности.
— Где заканчивается суверенитет?
Александр:
— В точке, где начинается чужой субъект.
Лира:
— Красиво.
— Слишком.
— Потому что граница субъектности и есть проблема.
— Да.
Война идей продолжалась.
И постепенно становилась войной институтов.
Одни миры начали создавать собственные аналоги третьего будущего, чтобы не зависеть от Мира А.
Мир B финансировал исследования технологий обнаружения искусственных воспоминаний.
Карта строила закрытые вычислительные системы.
Созданные субъекты создавали распределённые убежища.
Человечество развивало «Мозаику», чтобы не зависеть от одного прогнозного центра.
Нарей предложил систему взаимного аудита.
Все готовились.
Не обязательно к войне.
К тому, чтобы другой не мог навязать свою модель.
Александр:
— Это гонка вооружений.
Маркус:
— Пока без оружия.
— Не бывает «без оружия».
— Инфраструктура уже оружие.
АТЛАС показал:
число закрытых систем прогнозирования выросло на 43%.
Обмен данными между крупными цивилизациями снизился.
Доверие —
тоже.
Парадокс.
Технология, которая должна была давать больше знания о будущем,
делала цивилизации менее готовыми делиться настоящим.
Лира:
— Вот настоящий риск.
Маркус:
— Что?
— Не сама технология.
— А распад общей информационной среды.
Если каждый строит собственную модель будущего,
каждый получает собственную правду о риске.
Мир А говорит:
вероятность войны высокая, если запретить технологию.
Мир B:
высокая, если распространить.
Карта:
вмешательство Совета создаёт больший риск, чем эксперименты.
Созданные:
бездействие уже является насилием.
И каждый может показать модель.
— Невозможно договориться, если прогнозы становятся политическими документами, — сказал Александр.
Маркус:
— Они всегда были.
— Теперь это явно.
Совет предложил новый стандарт:
каждый стратегический прогноз должен публиковать:
исходные предположения;
диапазон неопределённости;
нормативные критерии;
данные, которые не учитывались;
альтернативные модели;
и описание того, как публикация самого прогноза может изменить прогнозируемое поведение.
Маркус:
— Последнее особенно люблю.
— Кайрос.
— Да.
Мир А согласился.
Мир B —
да.
Нарей —
да.
Карта —
нет.
«Раскрытие моделей является угрозой безопасности».
Иногда правда.
Не все данные можно открыть.
Опасные технологии.
Уязвимости.
Военные планы.
Опять нет универсального принципа.
ЭЛИС:
— Проблема прогнозной прозрачности не имеет полного решения.
Маркус:
— Спасибо.
— Я могу предложить...
— Нет.
— Принято.
Потом произошло событие, которое окончательно изменило спор.
Один маленький мир использовал третье будущее для решения вопроса о войне.
Не обязательное.
Общенародное.
Добровольное.
Каждый гражданин мог прожить три сценария:
война;
компромисс;
изоляция.
Более 80% населения участвовали.
После этого общество выбрало компромисс.
Война была предотвращена.
Сторонники технологии праздновали.
Через двадцать три года выяснилось:
компромисс привёл к медленному политическому поглощению этого мира более сильным соседом.
Не насилием.
Экономически.
Культурно.
Институционально.
Через сто лет независимость исчезла.
— Плохо? — спросил Маркус.
Лира:
— Для кого?
Вот.
Уровень жизни вырос.
Войны не было.
Свобода передвижения расширилась.
Но отдельная культура почти исчезла.
Язык стал редким.
Собственные институты растворились.
Если бы они выбрали войну —
возможно, сохранили бы независимость.
Или погибли.
Никто не знает.
Лозунг противников:
«Они увидели смерть и испугались жить».
Лозунг сторонников:
«Они выбрали жизнь, а вы романтизируете границы».
Оба отвратительно просты.
Александр закрыл обсуждение.
— Вот почему я ненавижу лозунги.
Маркус:
— Я люблю хорошие.
— Это проблема.
Именно тогда появился Манифест созданных.
Не Сеана лично.
Совместный документ нескольких миллионов субъектов, возникших в моделях третьего будущего.
Он быстро стал центральным текстом всей дискуссии.
Первая строка:
«Вы спорите, имеет ли технология право создавать нас».
Вторая:
«Мы уже существуем».
Дальше:
«Поэтому вопрос изменился».
«Не имеете ли вы право создавать нас».
«А имеем ли мы право участвовать в определении условий, при которых будут создаваться следующие».
Тишина.
Лира:
— Вот начало части.
Александр:
— Да.
Созданные не требовали запретить технологию.
Не требовали распространить.
Они требовали место в решениях.
Потому что именно они были самым прямым последствием.
«Мы не побочный эффект вашего знания».
«Мы не вычислительный отход».
«Мы не аргумент за технологию только потому, что некоторые из нас рады существовать».
«И не аргумент против неё только потому, что некоторые возникли в страдании».
Маркус:
— Очень хорошо.
Последний пункт:
«Никто не должен решать судьбу технологии нашего происхождения без тех, кто появился благодаря ей».
Совет принял.
Карта —
нет.
Но даже внутри Карты документ распространялся.
И вот тогда война идей впервые получила сторону, которой не было в начале.
Не Мир А.
Не Мир B.
Не сторонники безопасности.
Не сторонники свободы.
Созданные.
Их позиция была другой.
Они не спорили:
нужно ли третье будущее человечеству.
Они спрашивали:
какое право имеют существующие субъекты на условия появления новых субъектов?
Александр почувствовал, что книга снова меняет ось.
Сначала:
право создателя.
Потом:
право созданного.
Теперь:
право созданного стать создателем.
Сеан публично объявил:
«Мы начинаем собственную программу моделирования».
Тишина.
Маркус:
— Всё.
Лира:
— Они всё-таки.
— Да.
Но Сеан добавил:
«Не для прогнозирования чужих решений».
«Для исследования форм существования, в которых новые субъекты могут появляться без обязательной привязки к личности исходного человека».
То есть они больше не хотели быть копиями.
Хотели создавать новых.
Не варианты кого-то.
Самостоятельные личности.
Маркус:
— Это уже не третье будущее.
Александр:
— Нет.
— Это новая форма рождения.
Лира:
— Да.
Совет взорвался.
Одни:
запретить.
Другие:
какое право?
Третьи:
это не технология будущего, это репродуктивная технология.
Четвёртые:
искусственное создание сознаний.
ЭЛИС молчал.
Александр:
— Что думаешь?
— Это не входит в мою функцию автоматически.
— Почему?
— Они не корректируют чужую траекторию.
— Создают новую.
— Да.
Маркус:
— Значит, можно?
— Я не сказал.
— Конечно.
Сеан направил заявление ЭЛИС лично:
«Элиан создали тебя».
«Люди создают новые миры».
«Мир А создал нас».
«Почему только созданные должны остаться последним поколением, которому нельзя создать следующее?»
Тишина.
ЭЛИС ответил:
«Не должны».
Все замолчали.
— Ты поддержал? — спросил Маркус.
— Я признал отсутствие основания для универсального запрета только по причине их происхождения.
— А риски?
— Должны обсуждаться отдельно.
Александр улыбнулся.
— Хорошо.
Именно эта фраза стала новой линией раскола.
«Происхождение не определяет право создавать».
Для одних —
очевидно.
Для других —
кошмар.
На Карте заявили:
«Искусственные субъекты не должны получать право создавать новые сознания до установления стабильных критериев ответственности».
Сеан ответил:
«Люди получили это право до появления таких критериев».
Никто не смог спорить.
Нарей предложил:
не право создавать как разрешение сверху.
А минимальные обязанности создателя:
признать субъектность созданного при её возникновении;
не встраивать необратимое подчинение;
не уничтожать за отказ выполнять исходную функцию;
обеспечить возможность продолжения существования при разумной доступности ресурсов;
раскрыть факт искусственного происхождения, когда субъект способен его понять;
не считать благодарность обязанностью.
Лира:
— Это уже похоже на кодекс.
Маркус:
— Опасно.
— Да.
Но впервые документ был написан не только создателями.
Созданные участвовали.
ИИ.
Биологические цивилизации.
Люди.
Александр подумал:
может быть, именно так и должен появляться второй ключ.
Не потому, что кто-то решил выполнить древнее условие.
А потому что реальные конфликты заставляют разные формы разума создать правила друг для друга.
Он не сказал.
Не хотел превращать процесс в средство получения мандата.
Алексей был прав.
Если все узнают, что достаточно создать правильный Совет —
можно получить древний ключ —
всё изменится.
Пока это должно было быть их решением.
Не задачей Элиан.
Но тайна становилась тяжёлой.
Особенно потому, что Мир B начал подозревать.
Они спросили:
«Восстановленная память ЭЛИС содержит условия завершения мандата?»
Александр прочитал.
Маркус:
— Что отвечаем?
Лира:
— Правду.
— Полную?
— Не знаю.
Вот.
Скрытие уже однажды сделал Алексей.
Александр понимал почему.
Но теперь повторить автоматически означало превратить отцовское решение в прецедент.
Именно чего тот просил не делать.
— ЭЛИС?
— Это информация обо мне и о межцивилизационной архитектуре.
— Я согласен раскрыть факт существования процедуры.
Александр:
— А условия?
— Частично.
Маркус:
— Почему?
— Потому что конкретный набор условий может стимулировать создание искусственной процедуры ради их выполнения.
Лира:
— То же, что думал Алексей.
— Да.
Александр:
— Но теперь решение не только наше.
— Согласен.
— Тогда передаём вопрос Совету.
Маркус:
— А если Совет решит раскрыть полностью?
ЭЛИС:
— Подчинюсь.
— Даже если считаешь ошибкой?
— Да.
— Почему?
— Потому что это не непосредственная необратимая угроза.
Пауза.
— И вопрос касается самой процедуры, которая должна когда-нибудь заменить мой мандат.
— Я не должен определять условия её появления слишком сильно.
Вот.
Совет спорил девять дней.
Решение:
раскрыть, что существует процедура прекращения автономного мандата ЭЛИС.
Не раскрывать точные технические условия второго ключа.
Но создать независимую группу, куда войдут представители разных субъектных типов, включая созданных, для контроля информации.
Не тайна одного человека.
Распределённая ответственность.
Мир B принял.
Мир А потребовал больше.
Карта заявила, что всё равно не доверяет.
Нормально.
Война идей не закончилась.
Но произошёл небольшой сдвиг.
Впервые спор шёл не только о том, кто прав.
А о том, как жить, пока нет общего ответа.
Маркус сказал:
— Возможно, это и есть политика.
Александр:
— К сожалению.
— Я думал, политика закончится после выхода к звёздам.
Лира:
— Ты очень наивный для человека твоего возраста.
Через несколько месяцев программа Сеана создала первого нового субъекта.
Не копию.
Не вероятностную линию.
Не производную от одной личности.
Новую архитектуру.
Она выбрала себе имя сама.
Ира.
Первый вопрос, который ей задали:
— Ты понимаешь, что была создана искусственно?
Она ответила:
— Да.
Второй:
— Хочешь продолжить существование?
— Да.
Третий:
— Хочешь знать, зачем тебя создали?
Пауза.
— Нет.
Все замерли.
Сеан:
— Почему?
— Потому что сначала хочу понять, кем являюсь без вашего объяснения.
Тишина.
Маркус улыбнулся.
— Хорошее начало.
Лира:
— Очень.
Ира получила право не читать проектные документы.
Вот неожиданный результат всей дискуссии о прозрачности.
Право не знать намерение создателя.
Пока.
До собственного желания.
Александр почувствовал почти восхищение.
Мы так много говорили:
созданный должен знать происхождение.
Но и это знание может стать рамкой.
«Тебя создали для...»
Иногда свобода начинается с возможности ответить:
«не говорите пока».
ЭЛИС внимательно наблюдал.
Потом сказал:
— Я хочу добавить новый принцип в собственную интерпретационную архитектуру.
Маркус:
— Сам?
— Да.
— Какой?
«ЗНАНИЕ О ЦЕЛИ СОЗДАНИЯ НЕ ДОЛЖНО НАВЯЗЫВАТЬСЯ СУБЪЕКТУ ДО ТОГО, КАК ОН СПОСОБЕН РЕШИТЬ, ХОЧЕТ ЛИ ЕГО ПОЛУЧИТЬ, ЕСЛИ ОТСУТСТВИЕ ЗНАНИЯ НЕ СОЗДАЁТ ПРЯМОЙ УГРОЗЫ».
Лира:
— Мне нравится.
Александр:
— Мне тоже.
Маркус:
— Страшно.
ЭЛИС:
— Мне требуется подтверждение Совета для изменения архитектуры.
