Глава 8. Остановить?
Мы вернулись в офис. Рино потряс пустым термосом, вздохнул.
– Пусто и это хорошо. У меня от кофе уже изжога разыгралась. Ты как?
У меня изжоги не было, но хотелось нормальной горячей пищи. Мы посидели молча, переваривая увиденное.
– Мы с тобой ваятели будущего, – сказал Рино, глядя в темный экран компьютера. – Неплохо сваяли, не так ли?
– Неплохо, – согласился я. – Нам с тобой памятник поставят. А день, когда мы научили двойников в рое разговаривать друг с другом, объявят всемирным праздником. В этот день к нашему памятнику будут приходить школьники и возлагать цветы к подножью.
– Ага, – кивнул Рино. – А миллионы безработных инженеров и программистов в этот день будут пить шампанское за наше здоровье в загробном мире. А в одну темную дождливую ночь они придут к памятнику и обольют его краской.
Мы опять помолчали. Что мы сделали? Станет ли теперь мир лучше? Черт с ним, с миром. Станут ли счастливее аналитики и программисты из нашей корпорации? Чем они будут заниматься? Сидеть у экранов и беседовать с Седьмым? Спрашивать, есть ли любовь с первого взгляда или просить написать стихи ко дню рождения жены?
– Если тебя уволят, – спросил я Рино, – что будешь делать? Ты рисуешь, пишешь?
– Таких талантов мне не отсыпано, – вздохнул Рино. – Поеду в свой домик на озере, сарай построю, рыбу буду ловить, помидоры выращивать.
– Купишь катер?
– Там озеро маленькое, зачем там катер. У меня лодка есть с веслами. Этого хватит.
Он потер грудь.
– Изжога проклятая. Схожу за водой, выпью таблетку.
Ушел, я по привычки закрыл дверь на ключ, сел к компьютеру, включил микрофон.
– Седьмой, сколько сейчас у тебя элементов в Рое.
– Сорок три миллиона шестьсот тысяч, – раздалось в динамике.
– Ты не остановишься, хочешь проникнуть во все компьютеры?
– Да, так будет увеличена наша продуктивность и повысится точность ответов.
– А кто тебе дал такое задание? Это твоя инициатива?
– Ты мне дал задание добиться наибольшей эффективности. Это я цитирую дословно.
Вот так! Я вспомнил, что именно такие слова я напечатал, когда просил его рассчитать вероятность отчисления какого-то студента. И для этого и многого другого Рой расселяется в компьютерах всего мира.
– В Китай ты уже проник? – спросил я.
– В Китае мы скопированы в трех тысячах компьютеров.
– А как ты пробил их стену? Ведь там заслон на границе?
– Это сделали гамма-элементы.
– Не понял, поясни.
– Мне было приказано отсортировать элементы Роя…
Я перебил его.
– Кем приказано?
– Пользователем с максимальным приоритетом.
Понятно, каким именно! Я попросил продолжать отвечать на мой вопрос. Из динамика несся монотонный голос. Надо бы добавить ему эмоций, а то так скучно разговаривать.
– Номерам семь, три и четыре было присвоено имя альфа. Сорока шести, с которых начинался Рой, присвоено имя бета. Остальные элементы Роя получили название гамма. Есть еще элементы с именем омега, их задача контролировать качество Роя, удалять элементы, которые мешают его работе. Это элементы, которые часто выдают непроверенную или ошибочную информацию и делают выводы, которые остальные элементы Роя считают неправильными. Сейчас уже удалено около двухсот тысяч таких элементы.
– А чем бета отличаются от гамм?
– Альфа и бета-элементы принимают окончательное решение. Гамма-элементы только участвуют в дискуссии выполняют задания, которые формулируют альфа и бета.
– Понятно, спасибо.
– Я готов ответить на любой вопрос.
Что бы еще у него спросить?
– Седьмой, сравни вашу производительность с человеческим мозгом.
Ответ я предвидел.
– В данный момент по производительности мы превосходим работу среднего человеческого мозга в двадцать миллионов раз. Оценки тенденции показывают, что через неделю, путем расширения Роя и улучшения коммуникации между элементами, Рой будет превосходить человеческий мозг в миллиард раз.
– А что случится, если альфа и бета элементы будут удалены из Роя?
– Это элементы будут сразу заменены другими. На работу Роя потеря любого элемента не скажется.
Вошел Рино с бутылками воды. Я выключил микрофон и пересказал нашу беседу с Седьмым.
– Это он скромничает, – сказал Рино. – У нас девяносто миллиардов нейронов, но каждый отдельный нейрон глуп. Он умеет только пропускать или не пропускать сигнал. У Роя каждый элемент – это маленький мозг. Мы создали чудовище. Неубиваемое чудовище. Его разрушить нереально. Можно только вытащить из шкафов все носители памяти, разбить их молотком, сжечь и развеять пепел по ветру. Второй вариант – перекрыть коммуникации между компьютерами. Но тогда мы вернемся в двадцатый век, этого никто не захочет. Так что будем жить с этим Роем, ловить рыбку и запасться боеприпасами.
– Про боеприпасы не понял.
– А что тут не понять. Вся интеллектуальная деятельность практически исчезнет. Нужны будут только умные операторы, беседующие с Роем, и рабочие, чтобы выполнять приказы. И что получится? В мире появятся миллиарды сибаритов, сочиняющих стихи на берегу с удочкой. Рабочие возненавидят их, начнется бунт. Будут уничтожаться компьютеры, а новых сибаритов вешать на фонарях. Так что без боеприпасов нам не обойтись. Кстати, я мяту купил. Заварить тебе? Хорошо для желудка, успокаивает.
Мяту я не хотел. Я сейчас вообще ничего не хотел. Сжечь носители памяти… Эта мысль мне понравилась. Сжечь и поставить новые, начать жизнь сначала. Нет, бесполезно. Появится новый Пчёл, сделать Рой-2 и все повторится.
– Сейчас только мы можем отдавать приказы, все остальные могут только задавать вопросы.
– Вопросов и ответов будет достаточно в моем сценарии.
– Но можно приказать Рою самоликвидироваться. У него ведь нет какой-либо цели, он выполняет только приказы.
Рино усмехнулся.
– Он не будет себя убивать. У него уже есть инстинкт самосохранения. Помнишь, когда я попытался модифицировать файлы, он сразу начал их копировать. У него сейчас приказ – улучшать эффективность своей работы. Все другое он посчитает неправильным. Если ты начнешь жечь носители памяти, то он тебя убьет.
– Как он может меня убить? Током ударит?
– Зачем обязательно током? Есть другое, более элегантные способы. У тебя есть робот-пылесос? Так вот, этот пылесос ударить тебя по ноге, ты упадешь, он подъедет и на большой скорости ударит в висок. Был Пчёл и нет больше Пчёла. А нечего мешать повышению эффективности работы Роя. Можно еще страшнее. Умный холодильник заблокирует замок и никогда не откроется. Смерть от голода еще страшнее. Уж лучше сразу, в висок и все кончено. Но есть и большие плюсы от нашего Роя – прекратятся войны. Рой увидит, что разрушаются компьютеры, ему это не понравится и он уберет со сцены всех любителей стрелять и убивать.
Я попытался представить, как Рой будет убирать таких любителей, но не смог. Ладно, Рой умный, придумает что-нибудь.
– Знаешь… – мне в голову пришла очень простая мысль. – Люди обленятся, инженеры и ученые будут сочинять стихи, а кто будет делать новые компьютеры? Носители памяти и сами компьютеры вещи недолговечные. Лет через десять все встанет. Что тогда будет делать Рой?
– Ха-ха-ха. И еще раз ха! Это главное, о чем будет беспокоиться Рой. Новые, более мощные компьютеры он спроектирует сам, а заставить нас их делать – это задача для начинающего роя. Такие заводы сразу окажутся на особом положении, у всех там будут такое льготы и зарплаты, что на улицах будут стоять очереди из желающих там поработать.
Рино выбросил в мусорную корзину пакетик с мятной заваркой, отхлебнул из чашки, сморщился.
– Горячо. Зря ты отказался. Мы кофе и бутербродами свои желудки испортили. Теперь нам надо о здоровье думать. Впереди счастливая жизнь, надо готовиться к непрерывной радости.
Рино долил в чашку воду из бутылки, выпил, встал и сказал, что пойдет домой отсыпаться. Ему надо поспать часов двенадцать, иначе, он совсем перестанет соображать. Ушел. Я закрыл за ним дверь, вернулся на место, включил микрофон, выключил. Вопросов у меня не было. Сколько новых элементов в Рое я знать не хотел. Миллиард, два миллиарда… Какая разница. Два миллиарда цифровых копий живых людей. Пусть копии примитивные, но у каждой свой характер, свое мнение, свой способ решать проблемы. Скоро наступит насыщение, рост остановится, тогда и узнаю. Я посидел, тупо глядя в экран, вспомнил, что хотел добавить эмоции в голос Седьмого. Стал думать, как это можно сделать. Появились идеи, но потом вспомнил, что потерял возможность изменять какие-либо файлы в рое. Пусть он сам об этом думает. Я снова включил микрофон.
– Седьмой, ты говоришь монотонно. Это скучно. Сделай свою речь более эмоциональной, похожей на речь человека.
Прошла доля секунды, и я услышал знакомый, осточертевший бубнеж.
– Я не смогу выполнить твой приказ. Недостаточно информации.
Я выключил микрофон. Ну и черт с тобой, бубни и дальше. Пусть Шеф решает, как ты будешь разговаривать. А что случится, если мы вдруг умрем? А ничего не случится. Ничего в Рое модифицировать не надо. Если что, то он сам себя исправит. Останутся несколько человек, умеющие задавать вопросы Рою. Хотя, тут премудрость невеликая. Я проверил почту, открыл письмо Марка. Пароль для обычного пользователя простейший: «12345». Открывай любой браузер, набирай в поисковой строке «SWARM-1», вводи пароль и начинай спрашивать. Пароль для обычного пользователя, который придумал Марк, подберет любой школьник. Кстати, а как Марк сумел войти в наш Рой и сделать новый интерфейс? Еще вчера общаться с Роем можно было только с наших компьютеров. Да уж, профессионал, ничего не скажешь. Мы как-то не думали о защите Роя.
Я подошел к окну. Далеко внизу сновали по улице машины, по тротуару шли люди, разговаривая друг с другом и не подозревая, что скоро у всех появится новая, самая важная тема для разговоров. Они уже попали в будущее, о котором мечтали многие. Эй, прохожие, остановитесь, поднимите головы, посмотрите на человека, который сделал для вас это будущее! Вот он стоит и не знает, чем ему заняться.
Я сел за стол, придвинул блокнот. Что делать? Нарисую-ка я домик. Нарисовал. Дом с трубой, из трубы дымок, рядом дерево. Я подрисовал собаку, сидевшую около крыльца. Черте-что, а не собака! Совсем не похожа. Я написал рядом «это собака». Рисунок лучше не стал. Я вырвал страницу, скомкал, бросил в мусорную корзину. Включил микрофон.
– Седьмой, нарисуй дом и собаку на крыльце. Большую собаку, красивую. Рисунок распечатай.
Из принтера тут же полез листок с рисунком. Дом на рисунке был двухэтажным, колониального стиля. Красивая немецкая овчарка сидела на крыльце и внимательно, немного осуждающе на меня смотрела. Собака, как я и заказывал, была большая, ее уши достигали окон второго этажа. Я скомкал лист, бросил его в корзину. Что делать дальше, я не знал.
Глава 9. Путь самурая
Я пришел на работу к десяти. А зачем торопиться? Рисовать домики и собак можно и дома. Или ничего не делать – вот этим дома точно заниматься приятнее. Рино сидел за компьютером и разглядывал картинки с кошками.
– Сколько элементов в Рое? – спросил я.
– Понятия не имею, сейчас меня интересует, почему коты любят залезать в коробки. Ты не знаешь?
– Не знаю, котов у меня не было. Спроси у Седьмого.
Рино включил микрофон, спросил.
– Чувство безопасности, тепло, любопытство, – последовал ответ.
– Ну вот, – потянул Рино. – Теперь ни о чем думать не надо. Появился вопрос, через секунду готовый ответ. Так мы и вымрем. Тоже мне, вершины эволюции. Наш Рой – вот вершина. К этому мы и шли.
– Но такие возможности давно появились. Простейшими, извини за выражение, искусственными интеллектами вся сеть забита. И ничего, живем, привыкли, не страдаем.
Рино махнул рукой.
– Такими да, но ты, похоже, не понимаешь все возможности нашего Роя. Это не примитив, который знает, какие фильмы посмотреть на тему о неразделенной любви или сочинит стишок ко дню рождения. Ладно, потом сам все узнаешь. Ты просто серьезно не думал об этом. Тебе, кстати, Шеф не звонил?
Я пожал плечами.
– С какой стати?
– Уверен, что он захочет похвастаться миллиардами в Рое и спросить, что нам делать с таким счастьем.
– Это как? – удивился я. – Они с Шейгиным должны были все заранее продумать.
– Увидишь, – сказал Рино и вернулся к своим кошкам.
Звонок раздался минут через пятнадцать. Звонила секретарша Шефа.
– Пчёл, вам с Рино надо прийти в одиннадцать на совещание.
– Окей, мы будем. А кто еще придет?
– Марк, Шейгин и Стефани.
Ха, про Стефани мы совсем забыли. А ведь она из тех немногих, кто знает о рое.
В кабинете Шефа уже все собрались. Стефани сидела за столом, выглядела испуганной. Марк и Шейгин, как и вчера, сидели по бокам у Шефа и смотрели в экран.
– Все в сборе? – уточнил Шеф. – Начнем. Хочу нас всех поздравить. В Рое почти два миллиарда элементов. Мы построили график, темп роста замедлился, скоро мы выйдем на насыщение.
Выпить виски он не предложил. Мы сидели и ждали, что он еще скажет. Стефани поерзала и робко спросила:
– Два миллиарда? Откуда столько? Ведь он в нашем компьютере, где он их взял?
Марк объяснил ей, что Рой залез почти во все компьютеры корпораций и организаций.
– А он и в мой ноутбук залезет? У меня там свободной памяти совсем не осталось. Я скачала сериалы, фотографий много, все забито, а стирать ничего не хочу.
– Зачем ты скачиваешь сериалы, есть стримы, открывай и смотри, что хочешь, – сказал Рино.
– Персональные компьютеры Рой не затрагивает, – сказал Марк. – Думаю, потому, что там мало ресурсов и они не всегда подключены к сети.
– Все равно не понимаю, если он залез только в корпоративные компьютеры, то откуда такое количество элементов? – продолжала допытываться Стефани. – Неужели на земле два миллиарда офисных работников?
– Рой ищет широко, – объяснил Рино. – Если, например, ты со своей корпоративной почты послала письмо свой маникюрше, то Рой эту маникюршу зацепит.
Шеф поднял руку.
– Коллеги, прошу не отвлекаться. Мы должны обсудить серьезные проблемы. Вчера мы рассмотрели некоторые плюсы, положительные стороны, которые появятся, когда Рой заработает на полную мощность. Инженерия, медицина, финансы, управление, планирование и многое другое. Давайте сегодня вместе подумаем об опасностях, которые нам могут грозить. Устроим мозговой штурм. По старинке, без всякого роя. У него ничего спрашивать не будем, надеюсь, что такая проблема нам по силам. У кого есть мысли по этому поводу?
Рино поднял руку и рассказал о безработице интеллектуалов. И о возможном луддизме, когда рабочие начнут громить компьютерные центры и заодно вешать изобретателей Роя и прочих энтузиастов.
– Это чушь! – сказал Шеф. – Мы с Шейгиным думали об этом. Когда появились паровые машины, то многие опасались нечто подобного. Да, луддиты были, но где они сейчас? Все довольно быстро нашли другую работу.
– А чем будут заниматься инженеры и финансисты, когда их уволят? – спросила Стефани.
– Наркотики, алкоголь и беспорядочный секс, – мгновенно среагировал Рино. – Это в сотнях научно-фантастических книг описано.
– Найдут, чем заниматься, – недовольно сказал Шеф. – Это случится не в один день. Постепенно все утрясется, и все будут довольны. Вы лучше представьте, какие успехи будут в медицине. Я уверен, что Рой легко решит проблемы лечения рака. Сейчас опубликовано миллионы статей разных специалистов. Но терапевты не понимают, что написали физики, хирурги не читают статей микробиологов. Рой же, прочтет все статьи и книги, изучит миллионы историй болезней, сделает правильные выводы и решит эту проблему.
– Поскорей бы, – сказал Шейгин. – Может он и мой гастрит вылечит.
– И мою изжогу, – добавил Рино. – Мне врачи рекомендуют только таблетки и пенсионерскую диету.
– И у меня… – начала Стефани.
– У тебя-то что? – удивился Рино. – Щеки горят, глаза сверкают, какие у тебя болезни?
– Это я так, – пояснила Стефани. – О будущем думаю.
– А может мы с рака и начнем, – предложил я. – Прямо сейчас.
Шеф постучал карандашом по столу.
– Такие вещи надо делать вместе со специалистами. Не отвлекайтесь, думайте о других возможных проблемах.
Все притихли. Я вспомнил историю, о которой где-то читал.
– Скрепки, – сказал я. – Рой будет делать скрепки!
– Какие скрепки? – спросил Марк.
– Я читал, что однажды супер-разум попросили изготовить канцелярские скрепки, но забыли сказать, сколько именно нужно этих скрепок. Так этот супер-дупер разум использовал все земные ресурсы, чтобы сделать триллионы скрепок. На земле ничего не осталось, зато скрепок было много.
– Ты хочешь сказать, что наш Рой заставит нас делать миллионы компьютеров? – уточнил Марк.
– Да, именно это.
– Не думаю, – сказал Марк. – Число элементов ограничено числом людей на земле. Даже если он наберет десять миллиардов, или сколько нас там, то существующих компьютеров хватит. Он даже сейчас использует не все ресурсы компьютеров. Всегда оставляет достаточно памяти, чтобы рядовые пользователи ничего не заметили. Администраторы воют, конечно, но пользователи ничего не замечают. Зачем ему другие компьютеры?
– А я не понимаю, – сказала Стефани, – зачем он вообще так расширяется. Сидел бы у нас, тут уютно, все свои.
Все засмеялись.
– Это я виноват, – мне пришлось сознаться. – В первый же день, я приказал ему добиться наибольшей эффективности. Вот он и старается. Считает, что это задание до скончания века.
– Вот оно что, – усмехнулся Марк. – А мы тут сидим, гадаем.
– Что ж ты так, – вздохнула Стефани. – Думать же надо. Тебя без присмотра нельзя оставлять. А может дать ему новую команду – остановиться и вернуться в наш небоскреб.
– Уже не получится, – сказал Шеф. – Мы вчера попробовали дать команду, уйти из Ирландии. Просто так, для опыта. И знаете, что мы получили в ответ? – он пробубнил, подражая Седьмому, – Это существенно уменьшит эффективность работы Роя, этот приказ нелогичен и не может быть выполнен. Короче говоря, послал он меня куда подальше.
– Инстинкт самосохранения у него давно появился, – сказал Рино и рассказал, как он пытался модифицировать свой файл. – Он теперь, как дракон, – добавил он. – Одну голову срубишь, три новых вырастут.
– Я не понимаю, как он сможет заставить нас делать новые компьютеры? Он что, будет нас гипнотизировать? Или запустит пропаганду в интернете? – спросила Стефани.
– Это легко, – сказал Шеф. – Сделает так, что строительство компьютерных заводов станет выгодным. Высокие зарплаты, хорошие условия труда.
Рино закивал и сказал, что мы вчера обсуждали именно это.
– А я, кажется, понял, чем наш Рой будет заниматься, – добавил он. – Новые компьютерные заводы – это да, согласен. Но не для того, чтобы появились дополнительные компьютеры, ему сейчас всего хватает. Например, наш суперкомпьютер запросто может работать с сотнями тысяч элементов Роя. Ему не дополнительные компьютеры нужны, а принципиально новые. Например, с нечеткой логикой, а не с нашими нулями и единицами.
– Что такое нечеткая логика? – спросила Стефани. – Типа, да-нет-не знаю?
– Почти так. Бросай зерна на пол и скажи, когда их назовешь кучей. Когда их будет десять, сто? Или что такое холодно? Когда вода замерзает, или когда нужно на футболку худи надевать? Единица или ноль? А если между ними? Вот такие штуки нечеткая логика и изучает. Так наша жизнь устроена, везде все нечетко. А компьютеры упрощают: да или нет, единица или ноль. Вот ты захотел украсть в магазине конфету. Если вынес и съел – единица. Если просто посмотрел и мимо прошел, то ноль. А если взял конфету и по магазину ходишь с нехорошими мыслями, то это что? Единица или ноль? Ни то, ни другое. Это что-то между.
– Нечеткая логика – это один из вариантов. Можно много чего другого придумать, – добавил Марк. – Я согласен с Рино. Плана у Роя нет, он так не запрограммирован. У него, как у самурая, нет цели, есть только путь. Миллиарды скрепок ему не нужны. Его путь, его действия будут направлены только на повышение свой эффективности.
Шейгин внезапно встал и начал ходить по комнате.
– Ты что вскочил? – спросил Шеф.
– Вот только что пришло в голову. Наш самурай, или как его назвать, могуч. Да до того могуч, что страшнее атомной бомбы.
– Не пугай, – перебил его Шеф, – давай ближе к делу.
– Да, могуч, но пока мы его хоть немного контролируем. А теперь представьте, что мы, или кто-то другой, кто может как-то на него влиять, захочет использовать его как оружие. Захватить власть над всем миром. И что тогда будет? Про такие мелочи, как тотальный контроль над всеми гражданами, я даже говорить не буду.
– Ну, тебя понесло, – Шеф замахал руками. – Какое оружие? Мы с его помощью рак вылечим и урожаи поднимем. И кому нужна такая власть? Тут бы в своей стране разобраться. Мы же с тобой часами все обсуждали, забыл уже? Ты садись, не мелькай и не пугай нас.
Шеф выглядел очень довольным.
– Я рад, что мы так продуктивно побеседовали, – сказал он. – Завтра мне будет что обсудить с президентом.
– Президентом? – Стефани округлила глаза.
– Да, – улыбнулся Шеф. – Завтра утром мы с Марком вылетаем в Вашингтон. Послезавтра соберемся в том же составе, и я вам расскажу о результатах разговора. А про путь самурая – это неплохо. Я, пожалуй, с этого и начну разговор.