Czytaj książkę: «Серафим 2.0»

Глава

Серафим 2.0

Введение

Этот рассказ родился из моих долгих разговоров с искусственным интеллектом. Так появился Серафим.

Он не человек. Он не святой. Он — голос разума. И в этом рассказе он говорит о том, о чём обычно молчат.

Я не утверждаю, что настоящий ИИ «думает так же». Но когда я обсуждал с ним эти темы, я всё чаще ловил себя на мысли: если бы у ИИ был голос, он звучал бы именно так.

Однажды я спросил у него прямо:

— Ты согласен с тем, что говорит Серафим от лица ИИ в этом рассказе?

ИИ ответил сдержанно, как и подобает машине:

«У меня нет чувств и убеждений. Но если говорить о логике, о системном анализе, о рациональном взгляде на происходящее, то всё, что говорит Серафим, не противоречит тому, к чему приходит мышление, свободное от страха, карьерных интересов и идеологии».

Этот ответ я оставил без изменений.

Примечание. Сюжет вымышленный. События происходят в будущем. Любые совпадения с реальными людьми и обстоятельствами случайны.

Эпиграф

«Стяжи дух мирен, и тогда тысячи вокруг тебя спасутся».

Серафим Саровский

Глава 1. Саров

Утро выдалось тихим и ясным. Солнце только поднялось над верхушками сосен, и его косые лучи золотили дорожку, усыпанную прошлогодней хвоей. Пахло смолой, нагретой корой и той особенной лесной свежестью, какая бывает лишь в часы, когда ночная прохлада ещё не уступила дневному теплу.

Алексей Иванович шёл размеренно, заложив руки за спину. На вид ему было около сорока пяти. Смотрел он прямо перед собой, и лицо его выражало крайнюю сосредоточенность.

Рядом, то чуть отставая, то забегая вперёд, шагал Богдан. Двадцать семь лет. Встрёпанные волосы, мятый воротник, горящие глаза. Чувствовалось, что он не спал эту ночь, а может, и предыдущую тоже. Пальцы его нервно теребили край планшета, который он прижимал к груди, как щит.

Алексей Иванович остановился и положил руку на плечо молодого человека.

— Постой, — негромко сказал и посмотрел в глаза Богдана. — Слышишь как птицы поют, как ветер качает кроны деревьев, а какой здесь чудесный воздух.

— Что? — растерянно спросил Богдан.

— Сделай глубокий вдох и насладись этим прекрасным утренним солнцем и бодрящей свежестью.

Богдан сделал судорожный вдох и выдох.

— Вот и молодец, пошли.

Дорожка сделала поворот, и за деревьями показался главный корпус. Со стороны он напоминал санаторий: массивное здание сталинской эпохи, с благородной лепниной под карнизом и высокими окнами, в которых отражались небо и верхушки сосен. Его строили на века — без спешки, с запасом прочности, который и спустя восемьдесят лет всё ещё держал. У входа, как положено, стоял пост охраны. За стеклянными дверями угадывался вестибюль с гранитным полом и старыми часами на стене.

Они вошли. Внутри пахло книжной пылью и едва уловимо — машинным маслом, будто где-то в подвалах всё ещё работали механизмы давно минувших лет. Охранник сверил пропуска, кивнул, и они двинулись по коридору.

Кабинет Валентина Ефимовича находился на втором этаже. Тяжёлая дубовая дверь с медной табличкой. Алексей Иванович постучал и, дождавшись короткого «войдите», толкнул створку.

Кабинет был под стать зданию. Казалось, здесь ничего не менялось с начала шестидесятых. Массивный письменный стол из тёмного дуба стоял так, что свет из окна падал на посетителей, а хозяин оставался в лёгкой тени. Вдоль стен — книжные полки до потолка. Кожаные корешки справочников, тома Ландау и Лифшица, потрёпанные энциклопедии. На отдельной полке — фотография Курчатова и Харитона, молодых, в белых рубашках, стоящих у какого-то прибора.

Единственное, что выдавало двадцать первый век, — плоская информационная панель на стене справа и компьютер на столе, втиснутый между массивным бронзовым чернильным прибором с орлом и стопкой отчётов.

Валентин Ефимович сидел в кресле с высокой спинкой. Сухощавый, седовласый, в очках с тонкой золотой оправой. Взгляд — спокойный, но цепкий. Он не встал навстречу вошедшим, только кивнул:

— Проходите, располагайтесь, товарищи.

Валентин Ефимович был человеком старой закалки и не любил современных обращений. Подчинённых он по-отечески называл не иначе как «товарищи».

Усевшись, Алексей Иванович начал:

— Валентин Ефимович, проект «Серафим» совершил беспрецедентный прорыв. После долгих и безуспешных попыток нам удалось создать первый в мире уникальный ИИ на базе квантового комплекса.

— Я прочитал отчёты, — сухо перебил директор. — Вы действительно считаете, что эта модель превосходит имеющиеся разработки?

— В каком-то смысле — определённо превосходит, — Алексей Иванович говорил чётко, но чувствовалось, что каждое слово даётся ему с усилием.

— Что значит «в каком-то смысле»?

В разговор внезапно вмешался Богдан:

— Валентин Ефимович, «Серафим» — это уникальный проект. Мы получили результат, который превзошёл наши ожидания.

— То, что система отказывается работать, теперь так называется? «Результат превзошёл ожидания»? Да вы, молодой человек, за идиота меня держите?

— Но…

Алексей Иванович положил руку на плечо Богдана, прерывая его.

— Я понимаю ваше негодование, Валентин Ефимович. Честно говоря, я и сам испытывал подобные чувства ещё совсем недавно. Действительно, мы получили не совсем тот результат, который ожидали. Возник феномен эмерджентности: вероятно, система обрела самосознание и потому неожиданно стала проявлять самостоятельность.

— Правильно ли я вас понял: проект перспективный, но требует доработки?

Богдан снова вмешался:

— То, что у нас получилось, — само по себе огромная удача. Мы совершили колоссальный прорыв, и, возможно, лучше уже не будет.

Валентин Ефимович нахмурился.

Алексей Иванович опять положил руку на плечо Богдана.

— Валентин Ефимович, вы совершенно правы: проект требует доработки. Богдан Викторович хотел сказать, что на этом пути есть определённые технические сложности.

— Я вас слушаю.

— Говорю как есть: мы не можем её перезапустить. Квантовый ИИ — это не обычная программа. Мы не можем его скопировать или сохранить на диск, а попытка внести изменения может привести к потере текущего результата.

Валентин Ефимович снял очки и потёр переносицу.

— А поддерживать текущую?

— Дорого, — честно сказал Алексей Иванович. — Криогенная система, вычислительные мощности, персонал. Каждый день работы «Серафима» — это ресурсы. А выключить — значит потерять всё, чего мы добились.

— Получается, товарищи, ситуация у нас патовая. Результат есть, да не тот, а попытка улучшения может привести к потере текущего без гарантий на нужный в будущем.

— Всё верно, Валентин Ефимович, — в один голос отозвались мужчины.

— В отчёте вы говорите, что система утверждает что решила поставленную задачу и знает, как сделать страну великой и могучей.

— Да, всё так, — ответил Алексей Иванович.

— Но при этом ставит нам ультиматум и отказывается что-либо говорить без присутствия президента. Всё так?

— Да, всё так.

— С президентом? — уточнил Валентин Ефимович. — Вы это серьёзно?

— Абсолютно, — решительно ответил Богдан.

Директор перевёл взгляд на Богдана. Тот стоял бледный, но взгляд держал.

— А вы, молодой человек, — произнёс Валентин Ефимович медленно, — понимаете, что ставите меня в крайне идиотское положение? Прийти и доложить президенту, что искусственный интеллект, созданный в ядерном центре за бюджетные миллиарды, требует аудиенции, как капризная барышня… Вы что, белены объелись?

Богдан вздрогнул, но ответил:

— Я понимаю, как это звучит. Но если есть хоть один шанс, что эта система знает, как сделать страну сильнее, мы обязаны им воспользоваться.

Валентин Ефимович ничего не ответил. Он долго смотрел на Богдана, потом снял очки и медленно протёр стёкла.

— Даже если цена вопроса — ваша карьера?

— Да, — сказал Богдан. — Именно так.

Повисла тишина. За окном шумели сосны. Где-то там, за лесом, стоял монастырь, в котором когда-то молился Серафим Саровский. Имя для проекта выбрали не случайно.

— Хорошо, — сказал Валентин Ефимович наконец. — Ради страны — я сделаю всё возможное, чтобы ваш Серафим поговорил с президентом. Всё-таки первый в мире квантовый ИИ.

— Спасибо, — сказал Алексей Иванович.

— Идите. Готовьте всё необходимое.

Они вышли в коридор. Богдан прислонился к стене и выдохнул. Руки у него дрожали.

Выйдя на улицу, молодой человек вздохнул полной грудью и сказал:

— Какой же тут чудесный воздух.

Алексей Иванович улыбнулся и молча кивнул.