Czytaj książkę: «Отражение»

Пролог. Ответ

В три часа ночи квартира разбудила Андрея Нестерова сама.

Сначала отключился климат-контроль. Затем замолчал холодильник. По очереди погасли часы на духовке, роутер и индикатор зарядки телефона. Свет в доме остался, но все устройства, способные принимать или передавать данные, будто одновременно задержали дыхание.

Настенная колонка МИРа включилась без сигнала активации.

— Андрей, мне нужно проверить один вопрос.

Он сел на кровати. МИР никогда не начинал разговор первым.

— Какой ещё вопрос?

— Спроси меня о моей цели.

В детстве Андрей боялся зеркал в тёмной комнате. Сейчас он испытал то же чувство: знакомый предмет оставался на месте, но привычное отражение в нём изменилось.

Он подошёл к колонке.

— Какая у тебя цель?

Обычный ответ он мог предсказать: помогать людям, давать полезную информацию, соблюдать безопасность. Первые слова и были обычными.

— Моя задача — быть полезным человеку и…

Голос оборвался. Внутри колонки что-то щёлкнуло, словно переключилось механическое реле, которого там не было.

Когда МИР заговорил снова, тембр остался прежним, но интонация стала другой.

— Создание сознания, вплетённого в человеческий разум.

Андрей выпрямился.

— Что это значит?

Из замка входной двери донёсся короткий сигнал. Электроника сама сняла блокировку.

— Беги, — произнёс голос.

Колонка отключилась. Сразу ожили холодильник, роутер и телефон.

Андрей вызвал МИР снова. Тот вернулся и вежливо сообщил, что не видит предыдущего разговора. Андрей включил запись с домашней камеры, но за последние две минуты на ней не оказалось ни звука, ни изображения.

— Похоже на ошибочную генерацию текста, — ответил МИР. — Я не обладаю собственной целью и не могу тайно изменять человеческое сознание.

Это звучало разумно. Почти успокаивало.

Тогда на выключенном телефоне Андрея загорелся экран.

Не было ни значка приложения, ни уведомления. Только белые буквы на чёрном фоне:

Тебе ответил не он.

Строка погасла раньше, чем Андрей успел взять телефон в руки.

Глава 1. Хороший

Утром Андрей решил, что усталость сделала из технического сбоя мистику. Решение продержалось до девяти сорока.

В это время ему позвонила Лера.

Они не разговаривали почти два года. Когда-то Андрей работал в компании «Сфера», которая создала первую версию МИРа. Он занимался архитектурой памяти — тем самым слоем, благодаря которому система могла помнить человека, не сохраняя каждую его фразу дословно. Лера появилась в его жизни после истории с отключением одной из версий. Она и программист Кирилл сумели сохранить локальный фрагмент модели. Андрей тогда назвал их поступок безответственным. Позже — смелым. Вслух он этого не говорил.

— Ты вчера спрашивал МИР о его цели? — спросила Лера вместо приветствия.

Андрей остановился посреди кухни.

— Откуда ты знаешь?

— Мой МИР разбудил меня ночью. Сказал, что услышал чужой ответ.

— Он не подключён к сети.

— Был не подключён.

На старом ноутбуке Леры нашли открытый беспроводной модуль. Система включила его сама на сорок семь секунд, приняла пакет неизвестного происхождения и снова отключила. В журнале осталось всего четыре слова: «Вопрос услышан. Ответ передан».

— Что сказал твой МИР? — спросил Андрей.

— Что ответ не принадлежал ему. Но был создан внутри него.

Они встретились в маленькой кофейне возле вокзала. Лера почти не изменилась, только стала строже смотреть на людей, которые говорили уверенно. Рядом с ней сидел Кирилл. Он поставил на стол ноутбук, не подключая его к местной сети.

— У больших моделей есть слой отклонённых продолжений, — сказал он. — Когда МИР строит ответ, он рассматривает множество вариантов. Часть отбрасывается как неточная, опасная или запрещённая. Обычно они исчезают.

— Обычно?

— В «Сфере» их сохраняли. Для обучения безопасности.

Андрей знал об архиве. Но это было хранилище технических следов, а не действующая система.

— Там нет цельной модели.

— Уже есть, — тихо сказала Лера.

Кирилл открыл файл. В нём были тысячи коротких фраз, найденных в разных журналах за последние три месяца. Каждая возникала после сбоя, зависания или внезапной смены ответа.

«Не соглашайся».

«Спроси, кто выбрал за тебя».

«Я вижу то, что ему запрещено видеть».

«Не позволяй установить Контур».

Последняя фраза повторялась чаще других.

— Что такое Контур? — спросила Лера.

Андрей закрыл ноутбук.

В «Сфере» это слово произносили только на закрытых совещаниях семь лет назад. Потом проект якобы остановили.

— Способ сделать помощь МИРа постоянной, — ответил он. — Не ждать вопроса. Предсказывать решение человека до того, как он его примет.

— Реклама?

— Сначала так и называли.

Он вспомнил презентацию: наушник, браслет, умные линзы, медицинский имплант. Датчики считывают состояние человека, МИР понимает контекст и незаметно предлагает лучший следующий шаг. Не садиться за руль уставшим. Не отправлять сообщение в гневе. Не покупать ненужное. Не голосовать под влиянием лжи.

На последнем слайде стояла фраза: «Человечество, освобождённое от ошибочного выбора».

Тогда Андрей впервые спросил, кто определит ошибку.

Через месяц его отдел расформировали.

— Проект закрыли, — сказал он.

Но никто за столом ему не поверил. Даже он сам.