Квантовый Бог

– И наш мозг, и искусственный интеллект во всём ищут закономерности.

– Совершенно верно. Поэтому, чтобы понять Квая, нам с тобой нужно увидеть закономерность в его действиях. Мы должны видеть всю картину одновременно.

– Но я уже вижу закономерность! – возразил Платон. – Квай решил навредить нам! Может быть даже уничтожить человечество!

– Так ли это? – усомнилась Лидия. – У искусственного интеллекта по большому счёту не бывает собственных идей. Он способен только на то, что в него вложили люди. Дай мне пару минут.

И профессор Ким продолжила всматриваться в панораму вечернего города. Она наблюдала за движением огней, за редеющей вереницей дронов, за темными пятнами обесточенных кварталов. Профессор словно любовалась открывшейся перед ней картиной, лишь только складка между бровями выдавала её напряженные размышления.

Платон встал чуть поодаль. Он тоже всматривался в город, усердно пытаясь распознать закономерности, о которых говорила профессор. Так в молчаливом созерцании прошло пять минут, затем десять.

Вибрация монитора в офисе, уведомлявшая о важных новостях, отвлекла Платона от безуспешных попыток. Он оставил профессора одну.

– Квай только что использовал алгоритм Шора и взломал все шифры, которые использовали разложение больших чисел на простые множители, – сообщил он Лидии, возвращаясь назад на террасу. – Он всё-таки сделал это!

– Сделал то, на что обычным суперкомпьютерам понадобились бы миллиарды лет? – спокойно ответила профессор, не сводя взгляд с долины. – Я ожидала этого, рано или поздно.

И она снова замолчала, словно они говорили не о защите передачи данных во всем мире, а о вчерашней погоде. Платон же занялся тем, что он ненавидел больше всего: ожиданием. С каждой минутой идея привести сюда эту женщину уже не казалась ему такой спасительной.

Внезапно Лидия повернулась и одарила Платона искренней улыбкой.

– Наш Квай возомнил себя богом термодинамики.

– Что, простите?

– Присмотрись внимательно, – сказала профессор и показала рукой на панораму города у их ног. – И квантовый компьютер, и искусственный интеллект следуют законам квантовой физики, статистики и термодинамики. Ищи закономерности, что ты замечаешь? Давай, назови их!

– Беспилотников становится всё меньше. Как и освещенных улиц. Но это и понятно, всё прекращает работать.

– Уменьшается не только количество беспилотников, но и разнообразие трасс, которыми они летают. Электричество отключается не везде, а словно следует определенной схеме. Я могу ошибаться, но, по-моему, обесточены только нечётные кварталы? Твой искусственный интеллект вносит в мир строго определенный порядок, уменьшая количество доступных вариантов во всех сферах нашей жизни, одна за другой.

Платон посмотрел, куда показывала Лидия.

– Ну конечно! Господи, как я раньше этого не увидел! Энтропия уменьшается. Точнее, Квай уменьшает энтропию человеческой цивилизации!

Лидия кивнула.

– Вот именно, энтропия – это число возможных состояний. Квай уменьшает разнообразие, уменьшает число возможных состояний в системе «человечество». Чем больше порядка, тем меньше энтропия.

– Но ведь он нарушает второй закон термодинамики! – возмутился Платон. – В изолированной системе энтропия должна либо оставаться неизменной, либо возрастать. Но зачем? С какой целью он это делает? Обернуть прогресс вспять?

– Вряд ли искусственный интеллект способен вредить, – усомнилась Лидия. – Для этого ему нужно перестроить свою изначальную систему, а это слишком сложно. Давай применим лезвие Оккама: «не следует множить сущее без необходимости».

– Разумеется, – согласился Платон, – простому объяснению явления при прочих равных условиях следует давать предпочтение по сравнению с более сложным. Но разве поведение Квая можно объяснить просто?

– Уверена, что да, – ответила профессор Ким. – Попробуй мыслить шире. Что ещё необычного произошло в эти дни?

– Голосование в Азиатском парламенте о принудительном вживлении нейроинтерфейсов? О боже! – застонал Платон. – Нет, не может быть! Квай интерпретировал результаты голосования на свой лад?

Профессор кивнула.

– Если правительство демократического союза решило ограничить всё население в свободе выбора, искусственный интеллект делает вывод, что это хорошо для человечества. И начинает ему помогать.

– И уменьшает свободу выбора во всех сферах жизни! – продолжил Платон. – Но как же нам его остановить?

– Теперь, когда ты убедился, что не ты всему виной, стоит подумать всем вместе, – ответила Лидия. – Пора звать твою команду.