Искусственный разум и новая эра человечества

С распространением машин, способных сравниться с человеческим интеллектом или превзойти его, человеческий разум отчасти уступает ведущую позицию. Это обещает не менее глубокие преобразования, чем в эпоху Просвещения. Даже если так называемый общий искусственный интеллект (Artificial general intelligence, AGI), решающий любые интеллектуальные задачи на уровне человека и способный связывать задачи и понятия в рамках различных дисциплин, не появится, существующий ИИ изменит представления человечества о реальности и, следовательно, о самом себе. Мы движемся к великим достижениям, и эти достижения должны побудить нас к философским размышлениям. Спустя четыре века после того, как Декарт провозгласил свою мáксиму, встает вопрос: если ИИ мыслит, то кто тогда мы?

ИИ откроет мир, в котором решения будут приниматься тремя основными способами: людьми, что уже знакомо, машинами, что становится все более привычным, и людьми и машинами в сотрудничестве (а не просто людьми с помощью программного обеспечения), что не только непривычно, но и беспрецедентно. Благодаря ИИ машины будут превращаться из наших инструментов в наших партнеров. Мы все реже будем задавать ИИ конкретные вопросы – гораздо чаще мы будем ставить ИИ перед некоторыми неоднозначными задачами и спрашивать: «Как, по-твоему, мы должны действовать?»

В этом изменении как таковом нет ничего угрожающего или ободряющего. Но это будет сдвиг такого масштаба, что, по всей вероятности, он изменит курс развития целых народов и ход истории в целом. Благодаря интеграции ИИ в нашу жизнь будут достигнуты, казалось бы, невозможные цели человека, а работу, ранее считавшуюся чисто человеческой, такую как создание музыки или новых методов лечения, помогут нам делать или будут делать за нас машины. Целые области деятельности людей будут окутаны паутиной процессов с участием ИИ, при этом иногда будет трудно определить границы между чисто человеческим, чисто машинным и гибридным машинно-человеческим принятием решений.

Например, в сфере политики демократический мир вступает в эпоху, когда процессы ИИ, основанные на так называемых больших данных, будут определять многие аспекты политических процессов: разработку политических сообщений, адаптацию и пропаганду этих сообщений среди различных групп населения, создание и распространение дезинформации злоумышленниками, стремящимися посеять социальную рознь, разработку и развертывание алгоритмов для обнаружения, идентификации и обезвреживания дезинформации и других форм вредоносных данных. При этом роль ИИ в определении и формировании информационного пространства становится все сложнее определить – иногда даже его разработчики могут лишь в общих чертах описать, как он действует. Это может изменить перспективы демократии и даже самой свободы воли. Независимо от того, насколько благотворными или обратимыми окажутся эти изменения, государствам всего мира важно знать о них, чтобы владеть ситуацией и не нарушать общественные договоры.

Будущее военной сферы еще сложнее. Если армии примут на вооружение стратегию и тактику, сформированные ИИ, ход мыслей которого непонятен людям – военным и стратегам, соотношение сил изменится и его будет сложнее определить. Если такие машины получат возможность самостоятельно принимать военные решения, будут нарушены и потребуют адаптации традиционные концепции обороны и сдерживания, а также законы войны в целом.

На этих примерах особенно хорошо видно, какие барьеры появятся между социальными группами и странами, которые станут применять различные ИИ или не сделают этого. Если разные группы или государства используют разные ИИ, их способы восприятия реальности могут разойтись в непредсказуемых направлениях. По мере развития различных способов партнерства человека и машины – с разными целями, разными моделями обучения и разными практическими и этическими ограничениями в отношении ИИ – это может привести к росту конкуренции, технической несовместимости и взаимонепонимания. В результате технология, которая изначально считалась инструментом преодоления национальных различий и распространения объективной истины, со временем может стать причиной тотального отчуждения стран и народов.

Показательный пример – AlphaZero. Эта система доказала, что ИИ больше не ограничен пределами человеческих знаний – во всяком случае, в играх. Разумеется, ИИ AlphaZero, основанный на машинном обучении так называемых глубоких нейронных сетей, имеет свои ограничения. Но машины находят все больше решений, выходящих за рамки человеческого воображения. В 2016 г. компания DeepMind Applied, входящая в DeepMind, разработала ИИ (во многом родственный AlphaZero) для оптимизации охлаждения центров обработки данных Google. Над этой задачей уже работали лучшие инженеры мира, но ИИ DeepMind еще больше оптимизировал охлаждение, дополнительно сократив энергозатраты на 40 %. Это огромное улучшение по сравнению с человеческой производительностью^[7]. Когда при помощи ИИ будут достигнуты сопоставимые прорывы в различных областях деятельности, мир неизбежно изменится. Результатом будет не просто более эффективное решение человеческих проблем – на многих открытиях ИИ будет лежать печать нечеловеческого обучения и мышления.

Как только производительность ИИ при выполнении той или иной задачи превзойдет человеческую, отказ от применения ИИ хотя бы в качестве дополнения к человеку будет восприниматься как признак недальновидности, халатности и даже саботажа. Но одно дело шахматист, которому ИИ посоветовал пожертвовать ценной фигурой (в этом нет ничего смертельно опасного), и совсем другое – главнокомандующий, которому ИИ порекомендует пожертвовать значительным числом сограждан, чтобы спасти (по расчетам ИИ) еще больше людей. На каком основании эту жертву можно было бы отменить и была бы эта отмена оправдана? Всегда ли люди будут знать, какие расчеты произвел ИИ? Смогут ли люди обнаружить ошибочное решение ИИ и вовремя отменить его? Если мы не в состоянии понять логику отдельных решений ИИ, должны ли мы верить каждой его рекомендации? Если мы заблокируем решения ИИ, не рискуем ли мы, вмешиваясь в слишком сложные для нас процессы? И даже если мы понимаем логику, цену и значение отдельных решений – что, если наш противник получил аналогичную рекомендацию от своего ИИ? Если он пойдет на жертву, а мы нет, потерпим ли мы поражение?

В случаях с AlphaZero и халицином ИИ решал задачи, поставленные перед ним людьми. Целью AlphaZero была победа в шахматах. Цель ИИ, открывшего халицин, состояла в том, чтобы убить как можно больше патогенов – и чем больше патогенов уничтожено без вреда для человека, тем больше успех. Еще одной целью была сфера, недоступная человеку: ИИ было поручено искать неизвестные способы доставки лекарств. ИИ добился успеха, потому что обнаруженный им антибиотик убивал патогенные микроорганизмы, но главное его достижение заключалось в том, что он расширил возможности лечения, открыв новый надежный антибиотик наряду с новым способом доставки.

Возникает новый вид партнерства между человеком и машиной. Сначала человек определяет задачу для машины. Затем машина, действуя в сфере, недоступной для человека, определяет оптимальный процесс, который человек потом может изучить, понять и, в идеале, внедрить в существующую практику. Стратегия и тактика AlphaZero расширили представления людей о шахматах, а ВВС США адаптировали основные принципы AlphaZero для нового ИИ μZero, который автономно управляет самолетом наблюдения U-2, принимая самостоятельные решения об использовании его радарных систем^[8]. ИИ, открывший халицин, расширил наши знания как в узкой области уничтожения бактерий и доставки лекарств, так и в широком смысле (здравоохранение, медицина).

Это партнерство человека и машины знаменует собой появление совершенно нового опыта. Речь не о страхе перед всезнающими, все контролирующими машинами – это остается предметом научной фантастики и отвлекает внимание от подлинных вопросов общества, которые возникают в связи с партнерством человека и ИИ.

Приведем другой пример – поисковые системы. Десять лет назад, когда интернет-поиск был основан на анализе данных, а не на машинном обучении, можно было, например, сначала задать поиск «рестораны изысканной кухни», а затем – «одежда». При этом результаты второго поиска не зависели от результатов первого. В обоих случаях поисковая система собирала как можно больше информации, а затем выдавала варианты – что-то вроде цифровой телефонной книги или каталога. Но теперь поисковые системы не просто выполняют задания пользователей, а руководствуются моделями, основанными на поведении людей. Пользователю, который только что искал рестораны изысканной кухни, а теперь ищет одежду, возможно, предложат дизайнерскую одежду, а не более доступные альтернативы. И даже если его действительно интересовала именно дизайнерская одежда, разница очевидна – если раньше нам показывали весь диапазон возможностей, то теперь мы доверяем формирование исходного списка машине.

До сих пор разум был прерогативой, а начиная с эпохи Просвещения – и определяющим признаком человечества. Но теперь нашим партнером становится ИИ, и это повлияет как на людей, так и на машины. В дальнейшем машины будут просвещать людей, расширяя доступную нам реальность такими способами, о которых мы и не догадывались, а люди будут создавать машины, способные учиться и оценивать значение своих открытий. Так наступит новая эпоха.

Человечество имеет многовековой опыт использования машин для облегчения, автоматизации и замены ручного труда. Волны перемен, вызванных промышленной революцией, до сих пор прослеживаются в экономике, политике, интеллектуальной жизни и международных отношениях. Сегодня же мы медленно, почти не осознавая этого, начинаем пользоваться удобствами, предоставляемыми ИИ. Он уже стал нашим партнером в повседневной жизни – он помогает нам принимать решения о том, что нам есть, что носить, что делать и как добраться к тому или иному пункту назначения.

Но несмотря на то, что ИИ может делать выводы, вырабатывать прогнозы и принимать решения, он не обладает «самосознанием», то есть способностью размышлять о своей роли в мире. У него нет намерений, мотивации, морали или эмоций. И тем не менее ИИ изменит и людей, и среду, в которой мы живем. А если люди будут расти и учиться вместе с ИИ, у них может возникнуть подсознательный соблазн относиться к нему как к своему собрату.

Большинству людей ИИ останется непонятен, но все больше людей в университетах, корпорациях и правительствах начинают создавать и эксплуатировать ИИ. Благодаря внедрению ИИ в обычные потребительские продукты, такие как поисковые системы, многие из нас уже взаимодействуют с ИИ – осознанно или нет. И если число людей, которые могут создавать ИИ, растет, то ряды тех, кто задумывается о социальных, правовых, философских, духовных, моральных последствиях появления ИИ для человечества, пока немногочисленны.

Благодаря развитию и распространению ИИ человеческий разум открывает новые горизонты, приближая ранее недостижимые цели: новые модели для предсказания стихийных бедствий, более глубокое знание математики, более полное познание Вселенной. Но это происходит за счет изменения отношений человека с разумом и реальностью, а существующие философские концепции и общественные институты никак не подготовили нас к этой революции.

Глава 2
Как мы здесь оказались. История человеческого мышления

На протяжении всей истории человечества люди пытались полностью постичь основы нашего мира и нашего существования. Каждый народ по-своему ставил вопрос о природе реальности: как ее осознать? Можно ли ее предвосхитить? Реально ли ее переделать или исправить? Решая эти вопросы, каждое общество вырабатывало собственный определенный набор инструментов для урегулирования взаимоотношений с окружающим миром. Концепция отношения человеческого разума к реальности – его способность познавать окружающее, удовлетворение, которое приносит это знание, и ограничения, присущие этому процессу, – всегда оставалась центральной в нашей картине мира. Даже если в той или иной эпохе или культуре человеческий разум считался ограниченным – неспособным воспринять или понять огромные масштабы Вселенной или эзотерические измерения реальности, – отдельному разумному человеку отводилось почетное место как единственному земному существу, способному наиболее полно понять мир и сформировать его картину. ИИ – новый мощный участник этого процесса, созданный человечеством. Чтобы разобраться в том, насколько значительна произошедшая эволюция, мы сделаем краткий обзор пути, на котором человеческий разум, пройдя через сменяющие друг друга исторические эпохи, обрел свой почетный статус.

Люди реагируют на окружающую среду и приспосабливаются к ней, выделяя явления, которые мы можем изучать и в конечном итоге объяснять – научно, теологически или обоими способами. Каждая историческая эпоха характеризовалась собственным пониманием порядка вещей, на основе которого развивались социальные, политические и экономические механизмы. Древность, Средневековье, Возрождение, современный мир создавали различные концепции человека и общества, пытаясь разобраться в том, где и как они вписываются в общий порядок вещей. Когда господствующие представления теряли способность объяснять воспринимаемую нами реальность – пережитые события, сделанные открытия, знакомство с другими культурами, – происходили революции в мышлении (а иногда и на политической арене) и начинались новые эпохи. Эпохальный вызов сегодняшнему пониманию реальности бросает наступающая эпоха ИИ.

На Западе этика, поощряющая стремление людей к знаниям, зародилась в Древней Греции и Древнем Риме. Древние греки развивали дух разума и поиска, возвысив стремление к знаниям и сделав его определяющим аспектом как индивидуальной самореализации, так и коллективного блага. В знаменитом мифе о пещере из труда «Государство» классического философа Платона говорится о важности поиска истины. Представленная в виде диалога между Сократом и Главконом, эта аллегория уподобляет людей узникам, прикованным спиной к свету. Узники не видят ничего, кроме теней, отбрасываемых из просвета пещеры на расположенную перед ними стену. Философ же подобен освободившемуся узнику, который имеет ясное представление о мире. Платоновский поиск истинной формы вещей говорил о его вере в существование абсолютной сущности (эйдоса, внутренней формы), к которой можно стремиться, но нельзя достичь.

Древнегреческих философов и их последователей вдохновляла на великие свершения убежденность в том, что мы можем постичь хотя бы некоторые аспекты реальности с помощью дисциплины и разума. Пифагор и его ученики исследовали связь между математикой и внутренними гармониями природы, возводя это стремление в ранг эзотерической духовной доктрины. Фалес Милетский создал исследовательский метод, схожий с современным научным методом, – им вдохновлялись и первопроходцы науки раннего Нового времени. Обширная классификация знаний Аристотеля, новаторская география Птолемея и трактат «О природе вещей» Тита Лукреция Кара свидетельствовали о том, что древние мыслители верили в способность человеческого разума открыть и понять хотя бы главные основы мироздания. Благодаря этим работам и способу мышления, который в них использовался, человек научился создавать изобретения, укреплять оборону, проектировать и строить великие города, которые, в свою очередь, становились центрами образования, торговли и дальнейших исследований.

И все же древних мыслителей не смущало существование необъяснимых на первый взгляд явлений, которые сложно было адекватно объяснить с помощью одного лишь разума. Эти таинственные явления приписывались воле множества богов. Богам следовало поклоняться с сопутствующими обрядами и ритуалами, их нужно было знать, но их нельзя было объяснить человеческой логикой. Рассказывая о достижениях античности и об упадке Римской империи, Эдвард Гиббон, историк XVIII в., то есть эпохи Просвещения, описывал мир, в котором языческие божества использовались в качестве объяснения фундаментальных природных явлений, таинственных, важных и пугающих:

Тонкая ткань языческой мифологии быта сплетена из материалов хотя и разнородных, но вовсе не дурно подобранных один к другому… Божества тысячи рощ и тысячи источников мирно пользовались своим местным влиянием, и римлянин, старавшийся умилостивить разгневавшийся Тибр, не мог подымать на смех египтянина, обращавшегося с приношениями к благодетельному гению Нила. Видимые силы природы, планеты и стихии, были одни и те же во всей Вселенной. Невидимые руководители нравственного мира неизбежно принимали одни и те же формы, созданные вымыслом и аллегорией^[9].

Науке еще не было известно, почему сменяются времена года и почему земля регулярно умирает и возрождается. Древнегреческая и древнеримская культуры признавали чередование дня и ночи и времен года, но не объясняли его на основе экспериментов или чисто логически. Вместо объяснения предлагались знаменитые Элевси́нские мистерии, в которых разыгрывалась драма богини урожая Деметры и ее дочери Персефоны, обреченной проводить часть года в подземном царстве Аида. Участие в таких эзотерических обрядах позволяло людям узнавать о том, как времена года влияют на урожайность региона и на общество в целом. Аналогично, торговец, отправляющийся в путешествие, мог из опыта, накопленного его общиной, знать о приливах, отливах и морской географии, но он все равно стремился умилостивить богов, от которых, как он верил, зависят ситуация на море и безопасность его путешествия.

Появление монотеистических религий изменило баланс между разумом и верой, характерный для Древнего мира. Размышляя о природе божественного и о божественности природы, древние философы, как правило, не называли некой единой и главной фигуры или сущности, которой можно было бы поклоняться. Однако ранняя христианская церковь сочла, что подобные логические умозаключения заводят в тупик – или, в самом лучшем случае, могут служить разве что предвестниками откровений христианской мудрости. Скрытая реальность, над постижением которой трудился Древний мир, теперь считалась божественной, доступной лишь частично и косвенно – через поклонение при обязательном посредничестве церкви. Церковь на протяжении веков удерживала почти абсолютную монополию на знание, а знание заключалось в постижении священных ритуалов и Священного Писания, язык которых был понятен лишь немногим мирянам.

Обещанной наградой для тех, кто следовал «истинной вере» и придерживался обозначенного ею пути к мудрости, была загробная жизнь – якобы более реальный и значимый уровень бытия, чем наблюдаемая реальность. В Средние века – период от падения Рима в V в. до захвата Константинополя Османской империей в XV в.^[10] – человечество прежде всего стремилось познать Бога. Мир можно было познать только через Бога, теология фильтровала и упорядочивала опыт людей в отношении природных явлений. Мыслители и ученые раннего Нового времени, такие как Галилей, подвергались преследованиям и гонениям за то, что осмеливались пренебречь посредничеством церкви.

Главным инструментом постижения реальности стала схоластика, уважавшая отношения между верой, разумом и церковью. Последняя оставалась арбитром легитимности как для верований, так и (во всяком случае, в теории) для политических лидеров. Многие полагали, что христианство должно быть единым, как теологически, так и политически, хотя в реальности разногласия между различными религиозными течениями и политическими группами существовали с самого начала. Впрочем, мировоззрение Европы не обновлялось в течение многих десятилетий. Огромный прогресс был достигнут в описании и изображении Вселенной – к этому периоду относятся «Сумма теологии» Фомы Аквинского, произведения Джефри Чосера, живопись Джотто ди Бондоне и изыскания Марко Поло, – но не в ее объяснении. Каждое непонятное явление, большое или малое, просто считалось делом рук Господа.

В XV–XVI вв. Запад пережил две революции, которые открыли новую эпоху – а вместе с ней и новую концепцию роли человеческого разума и сознания в восприятии реальности. Изобретение печатного станка позволило распространять информацию среди больших групп людей на понятных им языках, а не на латыни ученых классов. Это свело на нет историческую зависимость населения от церкви, которая должна была интерпретировать для него все идеи и представления. Благодаря печати протестантская Реформация провозгласила, что люди сами могут и должны определять для себя божественное. Им больше не нужны разрешения, гильдии или титулы, и каждый может использовать свои собственные способности для чтения и рассуждений, чтобы понять Священное Писание.

Реформация, разделившая христианский мир, утверждала возможность существования личной веры без посредничества церкви. С этого момента авторитет в религии, а со временем и в других сферах стал подвергаться проверке и испытанию собственными исследованиями. Это новшество сохранилось до наших дней.

Новые технологии, новые способы мышления и широкомасштабные политические и социальные изменения подпитывали друг друга. Когда книгопечатание упростило тиражирование и распространение информации без дорогостоящего труда монастырских переписчиков, новые идеи стали распространяться и получать популярность быстрее, чем их можно было запрещать. Централизованная власть – будь то католическая церковь, Священная Римская империя под руководством Габсбургов (считавшаяся преемником единого Римского государства на Европейском континенте), национальные или местные правительства – уже не могла остановить распространение печати или эффективно бороться с неугодными идеями. Лондон, Амстердам и другие ведущие города отказались от запрета на распространение печатных материалов, поэтому свободные мыслители, преследуемые правительствами своих государств, могли находить убежище и доступ к развитой издательской индустрии в соседних странах. Мечта о доктринальном, философском и политическом единстве уступила место многообразию и раздробленности, что во многих случаях сопровождалось свержением сложившихся общественных классов и жестокими конфликтами между противоборствующими фракциями. Поразительный научный и интеллектуальный прогресс шел рука об руку с жесткими религиозными, династическими, национальными и классовыми спорами, которые принесли людям много бед и опасностей.

На фоне доктринального брожения и раздробления интеллектуальной и политической власти отличались удивительным богатством художественные и научные изыскания – отчасти благодаря возрождению классических текстов, способов обучения и аргументации. Это и было Возрождение – то есть возвращение классического образования, когда новое искусство, архитектура и философия одновременно стремились прославлять достижения человека и вдохновлять его на дальнейшее развитие. Гуманизм, руководящий принцип эпохи, был направлен на воспитание личности, способной к полноценному участию в гражданской жизни, ясному мышлению и самовыражению. Эти навыки следовало воспитывать путем обучения гуманитарным наукам: искусству, письму, риторике, истории, политике и философии. Людей эпохи Возрождения, проявивших мастерство в науках и искусствах, – Леонардо да Винчи, Микеланджело, Рафаэля – почитали не меньше, чем великих философов древности с фрески «Афинская школа» последнего. Гуманизм воспитывал любовь к чтению и образованию – первое способствовало второму.

Заново открытые греческая наука и философия опять вдохновили исследователей на поиски глубинных механизмов нашего мира и инструментов их изучения. Аналогичные изменения происходили в сфере политики и государственного устройства – ученые формировали новые политические концепции, не поддерживавшие идею восстановления христианского единства под эгидой Ватикана. Итальянский дипломат, философ и классицист Макиавелли, описывая прагматичные (и зачастую не слишком привлекательные) способы утверждения государственных интересов, не смущался тем, что они не всегда совпадают с христианской моралью^[11].

Исследование исторических знаний и растущее чувство владения механизмами общества вдохновили европейцев на Великие географические открытия, в ходе которых Запад сталкивался с новыми странами, формами верований и типами политической организации. Самые развитые государства и ученые умы Европы внезапно встретились с чем-то совершенно новым для них: странами с абсолютно другими религиями, разными историями, с собственными, независимо появившимися формами экономики и общественной организации. Для западного разума, убежденного в своей исключительности, эти независимо созданные общества представляли собой глубокую философскую проблему. Эти культуры формировались самостоятельно, не знали христианской веры и независимо развивались, не проявляя никакого интереса к европейской цивилизации, которую Запад считал самоочевидной вершиной человеческих достижений. В некоторых случаях – например, в империи ацтеков в Мексике – местные религиозные церемонии, а также политические и общественные структуры оказывались странно похожи на европейские.

У тех, кто давал себе труд обдумать эти необычные совпадения, появлялись навязчивые вопросы: неужели эти отдельные культуры с их собственным видением мира были важны сами по себе? Неужели у этих людей из Америки, Китая и других далеких стран такие же умы и сердца, как у европейцев? Нуждались ли эти «новооткрытые» цивилизации в том, чтобы получить от европейцев какое-то новое видение реальности и «пробудиться» к истинной природе вещей, желали ли они божественного откровения или научного прогресса? Или это просто отдельные народы, каждый с собственной историей и собственным видением мира, с собственными достоинствами?

Большинство западных исследователей и мыслителей пришли к выводу, что новооткрытые культуры не имеют фундаментальных знаний, которые стоило бы перенимать. Тем не менее поле зрения западного сознания начинало расширяться и исследователям приходилось считаться с тем, что мир шире и сложнее, чем они думали. В некоторых западных странах это привело к появлению концепций единого человечества и прав человека, которые дали свои плоды позднее, после значительных периодов их осмысления.