Czytaj książkę: «2062: время машин»

Czcionka:

Посвящается A и B, наполняющим мою жизнь смыслом.

1. Homo digitalis

Человек – удивительное создание. Несмотря на изобилие различных форм жизни на планете, мы, вероятно, наиболее удивительная из всех, которые когда-либо на ней существовали. Мы поворачивали вспять реки, создавали острова и прочими способами меняли природу для своих целей. Мы построили невероятные сооружения.

Монументальные пирамиды в Гизе. Невероятной протяженности Великая Китайская стена¹. Изумительная Саграда-Фамилия. Мы пересекали жаркие пустыни, покоряли высочайшие горы. Мы отправили Tesla Roadster в космос². Мы даже покинули Землю, чтобы прогуляться по Луне.

Мы создали научные теории, объясняющие загадки Вселенной: от ее рождения тринадцать миллиардов лет назад до ее смерти, которая наступит через один гугол лет в будущем³. Мы покорили огонь, мы уничтожили оспу и объединялись, чтобы свергнуть деспотов и диктаторов. Мы создали искусство, заставляющее людей прослезиться от осознания его грандиозности. Величественные мелодии «Страстей по Матфею» Баха. Чистая красота «Давида» Микеланджело. Сокрушающая печаль Тадж-Махала.

Но, несмотря на все эти удивительные достижения, мы вскоре будем заменены. Почти все следы homo sapiens будут стерты с лица Земли так же, как были стерты следы существования наших предков, homo neanderthalensis. Эволюция никогда не закончится.

Около 50 000 лет назад homo neanderthalensis не смогли противостоять появлению homo sapiens. Мы точно не знаем, когда и как вымерли неандертальцы. Возможно, они не смогли адаптироваться к переменам в климате; отголоски этой проблемы доносятся до нас и сегодня. Может быть, они не выдержали конкуренцию с homo sapiens, которые не оставили им экологической ниши для выживания.

В чем бы ни заключалась причина, неандертальцы вымерли и на их место пришли мы. Так же, как и все виды, существовавшие до нас, мы уступим место кому-то новому и более успешному. Поскольку мы умны – не забывайте, что слово sapiens (разумный) входит в название нашего вида, – мы можем даже предугадать, кто именно нас заменит.

Нашим преемником станет homo digitalis – биологический род Homo, эволюционировавший в цифровую форму. Все наши занятия станут по большей части (а в некоторых случаях и совсем) цифровыми. Человеческий разум будет заменен искусственным, а человеческую деятельность в реальном мире заменит цифровая деятельность в виртуальном мире. Это и есть наше искусственно-интеллектуальное будущее.

Моя прошлая книга рассказывала историю искусственного интеллекта, которая начинается с Древней Греции и закончится примерно через 45 лет, в 2062 году⁴. В центре внимания были технологии: интеллект машин, которые мы создаем сегодня, достигнет нашего уровня как раз около 2062 года. Там, где заканчивается моя предыдущая книга, начинается эта⁵. Она рассказывает о том, где окажется человечество через пару веков после изобретения думающих машин. Здесь я пишу не о технологиях, а о нас самих. Исследую влияние искусственного интеллекта на человечество.

О том, как будут выглядеть технологии через сто или двести лет, мы говорить не станем. Как Артур Ч. Кларк однажды сказал, технологии такого далекого будущего все равно будут казаться волшебством⁶. Важнее то, что мы с ними сделаем, ведь это будет самая сильная магия, на которую способен человек.

Путь homo sapiens

Почему мы, Homo sapiens, так преуспели? Почему именно мы (к счастью или к сожалению) хозяева этой планеты? Почему homo sapiens заменили homo neanderthalensis?

Неандертальцы не так уж сильно от нас отличались. Их ДНК совпадало с нашим на 99,7 процента. Они были немного ниже и крепче нас, что давало им меньшее отношение поверхности к объему и делало их более адаптированными к сезонному климату. Несмотря на миф о примитивности неандертальцев, их мозг был крупнее нашего. Если принять во внимание разницу в размере тел, мозг неандертальца был вполне сравним с мозгом homo sapiens.

Так что же дало нам преимущество? Возможно, мы никогда этого не узнаем. Самый вероятный кандидат на эту роль – язык. Около ста тысяч лет назад у homo sapiens стала развиваться сложная разговорная речь. Для сравнения: неандертальцы, скорее всего, имели только примитивный протоязык. Этот протоязык был, вероятно, ближе к музыке, чем к речи.

Трудно быть уверенным, что именно в этом состояла причина нашего успеха. Большую часть двадцатого века в научной среде не принято было обсуждать происхождение языка. Учитывая крайне малое количество конкретных фактов на тот момент, споры на эту тему имели в основном спекулятивный характер. Многие считали, что дискуссия о том, как появился язык, не несет никакой практической пользы. Когда в 1866 году было образовано Парижское лингвистическое общество, одно из его правил звучало так: «Общество не принимает никаких обсуждений на тему происхождения языка или создания универсального языка». Подобный запрет приняло и Лондонское филологическое общество в 1872 году.

На протяжении большей части двадцатого века лингвисты изучали строение современного языка, не уделяя особого внимания тому, как он стал таким. Но этот вопрос важен. Как так вышло, что только homo sapiens сумели создать развитую языковую систему? Какое влияние этот факт оказал на процесс эволюции?

Даже в 1970-е, когда вопрос о происхождении языка вновь стал обсуждаться, споры на эту тему сосредоточились в основном на том, как язык возник, а не когда это произошло или как повлияло на наше развитие. Лингвисты спорили, был ли язык нашим врожденным свойством, как убеждал нас Ноам Хомский⁷, или развивался из протоязыка на протяжении какого-то времени. Гораздо меньше внимания уделялось тому колоссальному значению, которое язык имел для нашей способности доминировать на планете.

Влияние языка

До того, как появилась разговорная речь, наша способность обучаться была сильно ограничена. Каждому поколению приходилось переучиваться с нуля. Разумеется, некоторые знания и навыки в процессе обучения можно просто продемонстрировать. Я могу показать вам ядовитые растения, как изготовить деревянное копье или как пить воду из листьев в тропическом лесу. Но такой процесс обучения может быть очень долгим и болезненным. Один человек должен показать другому все, что тому нужно знать, а значит, многие сведения умирали вместе с их обладателями.

Эволюция – это тоже процесс обучения, но еще более медленный и эффективный, нежели демонстрация. Гены, обеспечивающие поведение, которое повышает способность к выживанию, имеют больше шансов на то, чтобы быть переданными следующему поколению. Но такое развитие имеет свои пределы. Коровы до сих пор не научились производить сено. Акулы не научились разводить тюленей. Разумеется, этого и не произойдет.

Язык поменял все правила игры. Благодаря ему я получил возможность объяснить вам, какие растения можно есть, а какие нельзя: «Не ешьте грибы с пятнами или эти аппетитные красные ягоды». Я также могу объяснить вам, как поймать оленя: «Всегда подходите с подветренной стороны и следите, чтобы солнце было у вас за спиной. Рассвет или закат – лучшее для этого время». Могу рассказать вам, как выращивать пшеницу: «Сажайте весной, собирайте урожай в конце лета. Прежде чем начать сажать зерно, подождите, пока закончатся холода».

Но язык не только упростил для следующих поколений процесс охоты, уборки урожая и возделывания земли. Он подарил нам истории, мифы, религии. Язык дал нам астрономию и астрологию, географию, историю, экономику, политику. Сделал возможными науку, технологии и медицину. Именно язык добавил слово sapiens в название нашего вида.

Общества развивались и становились сильнее благодаря языку. Он помогал нам работать вместе, разрешать конфликты и доверять друг другу. Язык дал нам возможность развивать экономику обмена, а затем и денежную экономику. Язык помог людям начать специализироваться в определенных сферах. Он дал толчок образованию и привел к формированию наших политических систем.

Важно то, что язык позволил нам обучаться не только индивидуально, но и как части общества. Наша сила стала коллективной. Знания больше не исчезали со смертью человека. Теперь они легко и быстро могли быть переданы от поколения к поколению.

У неандертальцев не было ни единого шанса.

Влияние письменности

Homo sapiens совершили еще один рывок тогда, когда язык обрел не только устное, но и письменное воплощение. Это стало второй ступенью на пути к завоеванию власти над планетой.

Письменность появилась на территории Китая около 5000 лет до н. э. и, независимо от этого, в Месопотамии около 3100 лет до н. э. Она дала возможность обществам еще больше усложнить свою структуру. Города становились центром общественной жизни, а письменность помогла кодифицировать законы, которые этой жизнью управляли. Теперь люди могли письменно фиксировать сделки и право на собственность, создавать уголовное право. Письменность позволила городам существовать более упорядоченно.

Ее появление означало, что образование теперь не ограничивается временны́ми и пространственными рамками. Устная речь давала возможность учиться только у того, чью речь можно было услышать, а значит, привязывала человека к конкретной социальной группе. Но теперь, когда знание могло быть записано, желающему открывался доступ к гораздо большему числу учителей.

Поначалу письменность, разумеется, была слишком медленной и дорогой. Писцы старательно копировали тексты вручную. К примеру, чтобы переписать Библию, требовалось более ста дней. Основная часть населения оставалась неграмотной и к плодам появления письменности имела косвенное отношение.

Сделанный человечеством сравнительно недавно третий шаг – это печать. Иоганн Гутенберг изобрел печатный станок примерно в 1440-м. В следующем году в Европе было напечатано чуть меньше ста тысяч книг. В следующем веке это число выросло до трехсот тысяч. Еще спустя век оно удвоилось и дошло почти до семисот тысяч книг. Сегодня книгопечатание превратилось в миллиардную индустрию, в которой трудятся сотни тысяч людей, выпускающих миллионы книг каждый год⁸.

Неудивительно, что, после того как печатный станок сильно сократил цену и время, необходимые для создания книги, наступил период, который мы называем Возрождением. Идеи и учения теперь могли распространяться проще и быстрее. Сегодня интернет позволяет делиться информацией со всей планетой почти даром. Знание стало дешевым и изобильным. Люди, в свою очередь, стали умнее.

Колёрнинг

Следующий шаг человечество делает прямо сейчас. Он заключается в том, что я называю колёрнингом. Это идея, близкая к коллективному образованию, но все же немного от него отличающаяся.

Социологи, антропологи и другие ученые описывают, как homo sapiens двигались вперед группами, на протяжении многих поколений учились вместе. Это и есть «коллективное образование». Каждое поколение коллективно перенимает знания у предыдущего. Как группа мы умнее последнего поколения, но это не значит, что любой отдельно взятый индивид умнее. Колёрнинг же предполагает не групповое обучение, а индивидуальное обучение внутри группы. В колёрнинге каждый человек усваивает все то, что и другие члены группы. Все индивиды владеют одинаковыми знаниями, и потому каждый член группы становится умнее.

Благодаря устной речи колёрнинг возможен внутри группы, насчитывающей от десяти до ста человек. Человеку что-то объясняют – он это учит. Письменность дает возможность расширить группу до миллиона или даже миллиарда человек. Любое записанное знание человек сможет перенять, если у него будет к нему доступ. Однако есть множество навыков, которые мы не в силах передать другим людям. Всем одинаково тяжело учиться езде на велосипеде. Мало что можно сказать или написать, чтобы облегчить этот процесс.

Язык, на котором мы разговариваем, не только не является идеальным посредником для колёрнинга, он, вероятно, не является даже языком нашего мыслительного процесса. Одному человеку приходится переводить свои мысли на язык, затем записывать или озвучивать эти идеи. Другой человек должен перевести этот язык обратно в мысли.

Это медленный и сложный процесс.

Он приводит нас к последней ступени в процессе передачи знаний, той, которая дает homo digitalis неоспоримое преимущество. Колёрнинг начинает осуществляться не средствами языка, а с помощью компьютерного кода. Компьютерный код – гораздо более подходящий способ передачи знания, его можно просто копировать. Нет необходимости переводить его туда и обратно, этот процесс легко и быстро выполним. К тому же, в отличие от наших воспоминаний, код не стирается со временем. Если однажды он был усвоен, его невозможно забыть. Трудно придумать лучший способ для колёрнинга, чем обмен компьютерными кодами.

Всемирное обучение

Такие компании, как Tesla и Apple, уже осваивают колёрнинг в глобальных масштабах. Например, Apple использует эту методику, чтобы улучшить систему распознавания голоса. Каждый смартфон компании учится у других смартфонов и улучшает коды для распознавания речи. Tesla похожим образом использует колёрнинг, чтобы сделать лучше автономное управление автомобилем. Любая машина может совершенствовать как собственную систему беспилотного вождения, так и системы других автомобилей. Каждую ночь автомобили Tesla могут загрузить последние обновления и поделиться ими. Если одна машина научилась объезжать брошенные тележки для шопинга, другие машины быстро перенимают этот навык.

Колёрнинг – одна из причин, почему у homo sapiens нет ни одного шанса против homo digitalis. Кроме того, это одна из причин, почему homo digitalis появятся на горизонте раньше, чем мы думаем. Мы привыкли учиться всему самостоятельно, «с нуля». У нас нет опыта одновременного глобального приобретения новых знаний.

Представьте себе ситуацию, при которой мы имели бы возможность учиться как компьютеры, просто запоминая нужные коды. Мы бы смогли говорить на всех языках мира, играть в шахматы, как Гарри Каспаров, или в го, как Ли Седоль⁹. Мы бы смогли доказывать теоремы так же легко, как Эйлер, Гаусс или Эрдёш¹⁰. Мы могли бы создавать поэзию не хуже, чем Вордсворт¹¹ или Шекспир. Мы могли бы играть на всех музыкальных инструментах. Проще говоря, наши способности достигли бы максимально возможного на нашей планете уровня. Более того, мы смогли бы их совершенствовать. Это звучит пугающе, но таково будущее, которое ждет homo digitalis, когда они начнут делиться компьютерными кодами.

Чтобы лучше осознать преимущества колёрнинга, необходимо понять две важные идеи. Во-первых, компьютеры – это универсальные машины, которые могут запустить любую программу. Во-вторых, программы могут совершенствоваться. В частности, программа может улучшить собственные характеристики, чтобы успешнее справляться с поставленной задачей. Позвольте мне объяснить более детально, почему эти концепты имеют такое большое значение и почему они дают homo digitalis такое весомое преимущество.

Универсальные машины

Алан Тьюринг¹² был одним из прародителей ИИ. Его интересовало, что случится, если компьютер сможет мыслить. Кроме того, он заложил основы самой идеи компьютера. Ему пришла в голову простая, но гениальная мысль: универсальная вычислительная машина. Машина, которая сможет вычислить все, что можно вычислить. Да, вы поняли меня правильно. С тех пор как Тьюрингу пришла в голову эта идея, мы смогли создать такой компьютер.

Центральными для идеи универсальной вычислительной машины являются концепты «программ» и «данных», которыми эти программы оперируют¹³. Программы – это последовательности инструкций, которые компьютер выполняет при решении проблемы. Можно представить их в виде своеобразных рецептов. Данные – это разная информация, с которой работает программа, как, например, ингредиенты, используемые во время конкретного процесса приготовления.

Представьте себе проблему обновления чьего-то банковского счета в тот момент, когда этот человек совершает электронный платеж. Мы можем написать программу, которая будет это делать вне зависимости от суммы платежа или личности человека, совершающего его. Данные, с которыми работает программа, – это база клиентов, включающая их имена, номера счетов и суммы платежей.

Программа для совершения электронного платежа работает следующим образом: сначала она находит имя клиента и баланс счета в базе, затем вычитает платеж из баланса и, наконец, обновляет баланс в базе. Просто, как все гениальное. Изменив данные, мы можем вычесть платеж из счета другого клиента или даже клиента другого банка. Изменив программу, мы можем заставить компьютер делать что-то другое. Например, если мы заставим его прибавлять сумму, а не вычитать, то получим программу, которая позволяет вносить электронные депозиты.

Таким образом, компьютер – образец универсальной машины, способной выполнить любую программу. В этом и заключается секрет смартфона, который лежит в вашем кармане. В него можно загрузить приложения, позволяющие выполнять задачи, о которых создатели смартфона даже подумать не могли. В этом смысле смартфон стал гораздо большим, чем просто телефон: он стал навигатором, календарем, будильником, калькулятором, блокнотом, музыкальным проигрывателем, игровой консолью и постепенно становится еще и личным помощником. Продвинутые технологии могут дать нам компьютеры, способные работать быстрее, но не могут дать компьютеры, способные вычислить больше, чем универсальная вычислительная машина, о которой Тьюринг впервые подумал еще в тридцатых годах прошлого века. Любопытно то, что Тьюрингу пришла в голову эта мысль еще до того, как был создан первый компьютер.

Более того, компьютеры – единственная универсальная машина, которую человек изобрел. Вообразите, что дала бы нам универсальная машина для путешествий. Она позволила бы нам летать, плавать под водой и путешествовать по земле. Она могла бы ехать по рельсам, по шоссе, по траве и даже через зыбучие пески. Она бы смогла вмещать сколько угодно человек. Черт возьми, она бы довезла нас даже до Луны. Представьте себе трансформеров на стероидах.

Для того чтобы выполнить новую задачу, компьютеру просто нужна новая программа. Это делает компьютеры бесконечно приспосабливаемыми. Те машины, которые у нас есть, обладают гораздо большим потенциалом. Они даже способны стать искусственно разумными. Нам нужно лишь найти нужную программу.

Еще одна невероятная идея заключается в том, что нам даже не нужно искать новую программу, потому что компьютер способен сделать это сам. Он сам может научиться решать новые задачи. Даже научиться вести себя разумно.

Машины, которые учатся

Как компьютер может научиться делать что-то новое? По сути, программа – это просто устойчивая последовательность инструкций в виде компьютерного кода. Вообще говоря, термин «компьютерный код» представляется довольно удачным, учитывая, что инструкции программы действительно прописаны шифром. На компьютерах с процессором Z80, например, код 87 означает прибавление одного числа к другому, а 76 – окончание работы программы. На компьютере с процессором 6800 код 8B выполняет функцию прибавления, а DD – функцию закрытия программы¹⁴.

Важная вещь, связанная с кодом, заключается не в том, что он зашифрован, а в том, что это обычные данные – последовательность чисел. Это очень впечатляющая идея. Если мы хотим поменять программу, нужно просто загрузить новые коды в качестве данных. Еще больше впечатляет тот факт, что программа может поменять собственные данные, а значит, поменять сама себя. В этом и заключается суть обучения машины: компьютер может поменять собственные данные и собственный код, чтобы улучшить свои характеристики.

Не столь важно знать, как именно алгоритмы обучения решают, что именно поменять в коде. Некоторые изменения вызваны эволюцией, мутациями и скрещиванием кодов, такими же, как генные мутации и скрещивания в человеческой репродукции. Другие обусловлены самим мозгом, обновляющим связи между искусственными нейронами так же, как наш мозг укрепляет подобные связи в процессе нашего обучения.

В любом случае компьютер оставляет те изменения, которые улучшают его работу, и избавляется от других, которые этого не делают. Это происходит медленно, но компьютеры развиваются.

У нас уже есть один хороший пример создания интеллекта – homo sapiens. Наш интеллект – вещь в большой степени приобретенная. Мы были рождены без языка. Мы не умели читать и писать. У нас не было никаких знаний об арифметике, астрономии или истории Древнего мира. Но мы выучились всему этому и не только.

Обучение станет, вероятно, одной из важнейших характеристик думающих компьютеров. Это затрагивает феномен «бутылочного горлышка», проблему освоения компьютером всех знаний, которые человечество приобрело на протяжении нескольких тысяч лет. Программирование всех этих знаний вручную, факт за фактом – очень долгий и сложный процесс. Но нам и не нужно этого делать, компьютеры могут освоить все это самостоятельно.

Теперь нам окончательно ясно, что компьютеры превосходят людей в обучаемости. Они способны написать программу, которая может улучшить их собственный код, а также поделиться им с другими компьютерами. Так просто! Одновременно это гораздо эффективнее человеческого процесса обучения.

В следующий раз, когда вы попытаетесь научить ребенка вычислять максимум математической функции или склонять немецкий глагол, представьте, насколько проще это можно было бы сделать, если бы он был компьютером. Вы просто дали бы ему нужный код.

1.Вопреки распространенному мнению, Великую Китайскую стену нельзя увидеть из космоса. Пирамиды в Гизе можно, но с низкой околоземной орбиты.

2.Спортивный электромобиль американского предпринимателя Илона Маска, запущенный в 2018 году в космос с целью продемонстрировать, что ракета-носитель Falcon Heavy сверхтяжелого класса с возможностью повторного использования первой ступени может запускать полезную нагрузку до орбиты Марса. (См. также примечание 4.) – Здесь и далее примеч. пер.

3.Один гугол равен 10¹⁰⁰, или единице с сотней нулей. Компания Google получила свое название в результате изменения написания этого термина.

4.В Австралии моя последняя книга вышла под заголовком «Оно живое! Искусственный интеллект от логического пианино к роботам-убийцам». В Великобритании же (что актуально в контексте Брекзита) она была издана с другим названием: «Сны андроидов: прошлое, настоящее и будущее ИИ». В США она имела заголовок «Думающие машины: будущее искусственного интеллекта».

5.Вот несколько забавных фактов о 2062 годе. Илон Маск предположил, что к этому времени на Марсе будет построен город с населением около миллиона человек. Действие «Джетсонов», популярного телевизионного мультсериала с роботами-горничными и летающими машинами, происходит через сто лет после его запуска в эфир в 1962 году. Все, кто не увидел комету Галлея в 1986-м, смогут сделать это в 2062 году. Правда, только в том случае, если мир не закончит свое существование к тому моменту, ведь Исаак Ньютон предсказывал, что апокалипсис случится в 2060-м.

6.Когда я был ребенком, мечтающим о том, чтобы построить думающую машину, Артур Ч. Кларк был одним из моих любимых фантастов. Он однажды сказал, что любая передовая технология неотличима от магии.

7.Avram Noam Chomsky (Ноам Хомски), р. 1928. Американский лингвист, политический публицист, философ и теоретик. Профессор лингвистики Массачусетского технологического института (МТИ), автор классификации формальных языков, называемой иерархией Хомского. – Примеч. ред.

8.Мы скоро будем говорить об экспоненциальных изменениях, но книгоиздание – одно из первых таких изменений, оказавших серьезное влияние на общество.

9.Гарри Каспаров (1963–) – советский гроссмейстер, один из величайших шахматистов в истории. Ли Седоль (1983–) – корейский чемпион по го.

10.Леонард Эйлер (1707–1783), Карл Фридрих Гаусс (1777–1855), Пал Эрдёш (1913–1996) – известные математики.

11.Уильям Вордсворт – английский поэт-романтик, основной автор сборника «Лирические баллады», условно относимый к т. н. «озерной школе».

12.Алан Тьюринг (1912–1954) – английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. – Примеч. ред.

13.Универсальная машина Тьюринга – это более абстрактное и в то же время более механическое, чем современные компьютеры, изобретение. Тем не менее оно ничуть не хуже. Машина состоит из бумажной ленты, на которой написаны символы, из головки, которая может их читать, писать новые символы на бумажной ленте или перемещать ленту вправо и влево, а также из электроники, которая производит различные действия (такие, как чтение ленты, написание символов или движение ленты) в зависимости от внутреннего состояния и последнего прочитанного символа. Впервые такую машину Тьюринг описал в 1937 году. См. Alan Turing, ‘On Computable Numbers, with an Application to the Entscheidungsproblem’, Proceedings of the London Mathematical Society, vol. 42, pp. 230–265. («О вычислимых числах, применительно к проблеме разрешения», труды Лондонского математического общества, т. 42, с. 230–265.)

14.Инструкции для Z80-х и для 6800-х микропроцессоров существуют в виде шестнадцатеричных чисел). Десятичная система существует по целочисленному основанию 10: после 9 идет 10, затем 11, 12 и т. д. В шестнадцатеричной системе после 9 идет A (=10), B (=11), C (=12), D (=13), E (=14), F (=15), потом 10 (=16), 11 (=17), 12 (=18) и т. д. Инструкция DD для 6800-го микропроцессора известна как «остановись и гори». До создания таких микропроцессоров компьютеры были большими и ненадежными, а при остановке их работы всегда существовала небольшая угроза воспламенения.