Czytaj książkę: «ИИ. История машины, которая научилась говорить»
Вступление. Что мы называем искусственным интеллектом
Слово «искусственный интеллект» звучит так, будто за ним стоит одна технология с ясными границами. В действительности это скорее имя для множества разных способов поручить машине работу, которую люди связывают с мышлением: искать ход в игре, распознавать речь, находить объекты на снимке, переводить фразу, рекомендовать фильм, продолжать текст. Одни системы следуют заранее заданным правилам, другие находят закономерности в примерах, третьи соединяют несколько методов и инструментов. Общее название удобно — и именно поэтому оно способно запутать.
Когда говорят «ИИ умеет», полезно остановиться и уточнить: какая система, какая задача, в каких условиях? Успех в одной области не переносится автоматически в другую. Шахматная программа может исследовать огромное число вариантов и играть сильнее чемпиона, не становясь от этого универсальным собеседником. Модель может составить связный абзац и одновременно ошибиться в простом факте. Автоматическое распознавание изображения может быть точным на тестовом наборе и ненадёжным при другом освещении, ракурсе или составе данных. Слово «интеллект» словно обещает единую шкалу способностей. Практика предлагает целый набор разных шкал — и спор о том, какие из них важны.
Эта книга начинается с различия между результатом и объяснением. Если машина выполнила задачу, мы знаем, что она выполнила именно эту задачу при этих условиях. Но что доказал успех? Что система нашла полезный способ решить ограниченную проблему? Что найденный метод переносится на новые ситуации? Что машина поняла смысл происходящего? Это не один и тот же вывод. Чем эффектнее результат, тем легче незаметно перейти от первого утверждения ко второму, а затем к третьему.
Вопрос не нов. В 1950 году Алан Тьюринг предложил обсуждать машинное мышление через игру, где судят по ответам, а не по недоступному наблюдателю внутреннему состоянию. Это был способ переформулировать трудный спор, не волшебный прибор для измерения разума. В 1956 году исследователи, собравшиеся на летний проект в Дартмуте, закрепили выражение «искусственный интеллект» как имя исследовательской программы. И Тьюринг, и Дартмут важны для этой истории. Но ни один эпизод не отменяет более ранних попыток описать рассуждение, вычисление и управление как процедуры — и не закрывает вопрос, что именно мы вправе заключить из поведения машины.
Нам хочется найти момент рождения. Так история получает понятное начало: несколько людей, одна лаборатория, прорыв, после которого будущее будто бы стало неизбежным. Но техника редко подчиняется такой драматургии. В ней сходятся идеи, которые долго развивались отдельно; устройства, которые наконец становятся достаточно быстрыми; данные, собранные для конкретных задач; деньги и институты, поддерживающие долгую работу; а также труд, который не всегда виден в рассказе об изобретателе. То, что позднее выглядит прямой дорогой, в моменте было выбором между несовершенными вариантами.
Поэтому мы будем возвращаться к одним и тем же вопросам. Какую задачу люди хотели решить? Как они описали её машине? Что именно считали успехом? Какие ресурсы и чья работа понадобились? Где система справлялась, а где её возможности заканчивались? И что изменилось после того, как результат вышел из лаборатории и стал частью чужой повседневной жизни?
Эти вопросы помогут пройти через разные эпохи, не сваливая всё в одну историю непрерывного прогресса. В одни периоды исследователи пытались описать знания набором символов и правил. В другие ставка делалась на обучение по примерам. Позже важными стали большие массивы данных, более мощные вычисления и модели, которые находят статистические связи в тексте, изображениях и других материалах. Ни один подход не просто вытеснил предыдущие. Они по-разному решают задачи, требуют разных условий и терпят неудачу по разным причинам. История становится понятнее, если видеть не смену одного «разума» другим, а смену способов формулировать проблему и оплачивать её решение.
Здесь будут заметные победы: программа обыгрывает чемпиона, нейросеть резко улучшает распознавание изображений, новая архитектура меняет направление исследований, разговорный интерфейс делает генеративные модели привычными для широкой публики. Но победа — начало разбора, а не его конец. Надо спросить, что измерялось, на каком наборе задач и какой ценой достигнут результат. Система может быть выдающейся в узком смысле и при этом не обладать теми качествами, которые читатель невольно приписывает ей по одному удачному ответу. Признать достижение и очертить его границы — не взаимно исключающие жесты.
Эта точность нужна не только специалистам. Автоматизированные решения участвуют в отборе материалов, распределении внимания, работе организаций и доступе людей к услугам. Даже когда система ничего не «понимает» по-человечески, последствия её классификаций и рекомендаций вполне реальны. Вопрос о машине быстро становится вопросом о тех, кто поставил задачу, выбрал критерий, собрал данные, проверил результат и решил внедрить его. Ответственность не растворяется в модели. Она распределена между людьми и учреждениями — иногда так широко, что её трудно заметить.
Так же устроена и цена автоматизации. Модели и программы не возникают сами собой: их проектируют, обучают, оценивают, поддерживают и включают в конкретные продукты. За гладким результатом могут стоять вычислительные ресурсы, инженерные решения и большой объём человеческого труда — от подготовки данных до проверки опасных сбоев. История ИИ становится неполной, если в ней остаются только знаменитые авторы алгоритмов и исчезают все, кто делал систему работоспособной, полезной или хотя бы безопаснее.
Эта книга не собирается объявлять машину человеком на основании убедительной беседы. Но ответ «это всего лишь программа» тоже ничего не объясняет: программа может менять то, как распределяются работа, власть, деньги и внимание. Нам понадобится язык точнее двух привычных крайностей. Различать способность выполнить задачу, устойчивость результата, перенос на новые условия, понимание в человеческом смысле и сознательный опыт — значит не уклоняться от ответа, а выяснять, о каком именно ответе идёт речь.
Хронология книги доведена до 29 сентября 2026 года; сведения о быстро меняющихся системах имеют смысл только вместе с датой и условиями, при которых они были верны. Это срез, а не финальная точка. Некоторые технические детали устареют, но вопросы о доказательствах, границах способностей и человеческих решениях останутся пригодны для следующей версии технологии.
Дальше мы начнём с более старой и более широкой истории, чем история компьютеров: с попыток вынести рассуждение наружу, представить его правилами, числами и механизмами. Затем увидим, как отдельные замыслы превратились в исследовательскую дисциплину, почему обещания регулярно опережали возможности и что изменилось, когда машины стали учиться на примерах и работать в масштабах, прежде недоступных. Путь приведёт к нынешним системам, но цель не в том, чтобы объявить их последним словом.
Цель — научиться читать их результаты без благоговения и без пренебрежения. Спросить, что они сделали, как это стало возможным и кому теперь приходится жить с последствиями. Возможно, тогда вопрос «думает ли машина?» станет не проще, зато станет точнее: мы сможем обсуждать не мифическую способность вообще, а конкретные доказательства, ограничения и выборы, из которых складывается искусственный интеллект.
Глава 1. До того, как машинам дали имя
В 1950 году Алан Тьюринг предложил читателям мысленный эксперимент. Представьте: вы задаёте вопросы, а ответы приходят только на бумаге. По ним нужно понять, кто собеседник — человек или машина. На первый взгляд, это игра про ловкость: сумеет ли устройство подобрать убедительные слова? Но за ней скрывался вопрос посложнее. Что именно мы называем мышлением — то, что происходит внутри, или работу, которую можно наблюдать?
Нам знакома эта трудность и без компьютеров. Мы судим о чужом мышлении по тому, что человек говорит и делает, хотя не можем напрямую заглянуть в его сознание. С машиной возникает соблазн применить двойной стандарт: потребовать от неё доказательств, которых мы не требуем от собеседника, или, наоборот, принять гладкий ответ за доказательство понимания. Тьюринг предложил не готовое решение этой дилеммы, а способ сделать её предметом разговора.
Чтобы ответить, Тьюринг не мог просто попросить машину пройти проверку: компьютера, способного вести такой разговор, ещё не существовало. Он опирался на десятилетия исследований и более длинную историю попыток описать разум через правила и действия. Люди научились разбирать отдельные выводы, рассчитывать таблицы по повторяемой процедуре, строить машины с программируемой последовательностью шагов, а затем — задавать вопросы о границах самого вычисления.
Это не история о том, как Аристотель «изобрёл ИИ», а Бэббидж построил компьютер раньше всех. Такие формулы звучат эффектно и стирают различия между идеями, которые возникали в разное время и решали разные задачи. Перед нами несколько дорог: сделать выводы проверяемыми; снять с людей утомительные повторяющиеся расчёты; научиться управлять устройством по сигналам о том, что происходит вокруг; понять, какие задачи можно описать конечным набором правил. Ни одна дорога сама по себе не привела к искусственному интеллекту. Их пересечение изменило сам вопрос: какую часть умственной работы можно поручить машине?
По пути мы встретим не только философов и знаменитых изобретателей, но и людей, чью работу машина должна была заменить или продолжить: вычислителей, астрономов, инженеров и тех, кто собирал механизмы с невиданной точностью. Их истории помогают увидеть главное: программа никогда не возникает в пустоте. Кто-то выбирает задачу, кто-то описывает правила, кто-то собирает устройство, а кто-то решает, считать ли полученный результат успехом.
Почти в каждом эпизоде важно отделить замысел от результата: что авторы хотели построить, что действительно смогли запустить и какие выводы оправдывал эксперимент. Это простое различие убережёт нас от красивой истории, в которой проект задним числом превращается в готовое изобретение.
Мечта о рассуждении без спора
В повседневном разговоре мы редко останавливаемся, чтобы разобрать форму каждого вывода. Услышав «все люди смертны» и «Сократ — человек», мы без долгих вычислений приходим к заключению, что Сократ смертен. Но можно отделить содержание от формы: если все представители некоторого класса обладают свойством, а конкретный объект принадлежит этому классу, то свойство относится и к нему. В «Первой аналитике» Аристотель систематизировал виды умозаключений, включая силлогизмы, и тем самым дал рассуждению предмет, который можно было изучать отдельно от частного спора. Силлогизм — это вывод по заданной схеме: несколько исходных утверждений, посылок, ведут к заключению. В примере с Сократом посылки — «все люди смертны» и «Сократ — человек», а заключение — «Сократ смертен». Логика проверяет переход между ними, а не биографию Сократа и не истинность исходных утверждений.
Это был не замысел мыслящего автомата. Аристотель не проектировал вычислитель, а его логика не была чертежом компьютера. Но появилось важное различие: вывод иногда можно оценивать не по красноречию говорящего, а по устройству аргумента. Если принять посылки и правила, заключение следует или не следует из них. Логика не обещала, что принятые посылки истинны, что вопрос поставлен правильно или что человек выбрал важную тему. Она могла проверить форму перехода. Именно эта ограниченность и делала её полезной: рассуждение переставало быть полностью неуловимым.
Спустя много веков Раймунд Луллий искал способ систематизировать рассуждения о философских и религиозных вопросах. Его Ars Magna — «Великое искусство» — была не компьютерной программой и не нейтральной машиной, разрешающей любой спор. Она принадлежала богословскому миру Луллия и должна была помогать организовывать комбинации понятий и аргументов, в том числе в межрелигиозной полемике. Круги, таблицы и схемы позволяли сочетать категории по заданным правилам. Для современного взгляда здесь заметен знакомый жест: сложную область пытаются представить как конечное число элементов, отношения между которыми можно исследовать систематически.
Но инструмент не становился от этого объективным судьёй. Результат зависел от того, какие понятия были включены, как они определялись и какие выводы автор считал допустимыми. Луллий не устранял убеждения из рассуждения; он строил процедуру внутри собственной системы убеждений. Это различие будет преследовать историю ИИ: вычисление может быть строгим, даже если выбор задачи и исходных предпосылок остаётся человеческим.
В XVII веке Готфрид Вильгельм Лейбниц мечтал о формальном языке, в котором сложные идеи можно было бы выражать ясными знаками, а выводы — получать по правилам. В его проектах переплетались несколько разных замыслов: универсальная характеристика, которая точнее представляла бы понятия, и исчисление рассуждений, способное выполнять операции над ними. В современной популярной версии это часто превращается в одну эффектную цитату: «Давайте посчитаем». Её передают как предсказание компьютера или обещание, что любая человеческая ссора однажды закончится результатом на экране. Но такой пересказ сжимает программу Лейбница до лозунга. Он стремился сделать знания и аргументы достаточно ясными для формального анализа, а не утверждал, что всякая истина, ценность или человеческий конфликт сводятся к арифметике.
Тем не менее в этой мечте уже содержался переход от спора к операции. Если две стороны используют один и тот же язык, если понятия определены, если правила вывода приняты, то часть разногласий можно разбирать шаг за шагом. Но слово «если» здесь несёт почти весь вес конструкции. Реальные споры редко начинаются с общих определений; люди спорят о том, какие факты важны, кому доверять и какую цену считать приемлемой. Формальная процедура может помочь обнаружить противоречие, но сама по себе не выбирает справедливую цель.
И всё же идея оказалась живучей. Сначала рассуждение описывают как систему отношений между знаками. Затем возникает соблазн поручить работу над знаками устройству. Чтобы понять, как этот переход стал инженерной задачей, нужно на время отложить философов и посмотреть на таблицы чисел.
Машины, которые считали
До электронных компьютеров слово «компьютер» обозначало прежде всего человека, который вычисляет. В учреждениях и научных проектах работа делилась между сотрудниками: одни выполняли отдельные операции, другие переносили числа в таблицы, третьи проверяли результат. Так рассчитывали астрономические и навигационные таблицы, нужные морякам, инженерам и наблюдателям неба. Число могло пройти длинную цепочку рук, прежде чем стать готовой строкой в справочнике.
Таблица не выглядела интеллектуальным триумфом. Она была инфраструктурой, незаметной, пока всё сходилось, и опасной, когда в вычислении закрадывалась ошибка. Утомление человека — не единственная причина ошибок: могла сбиться исходная запись, перепутаться знак, потеряться перенос разряда, не сработать проверка. Исправить одну неверную величину означало иногда перепроверить целую последовательность. Расчёт становился не только математической, но и организационной задачей: как разделить работу, сделать её повторяемой и заметить сбой до того, как он попадёт в печатный справочник?
Чарльз Бэббидж хорошо знал, сколько человеческого труда требовали вычислительные таблицы. Британский математик и инженер начал с проекта разностной машины для автоматизации повторяющихся расчётов, а затем задумал аналитическую машину, которой можно было бы задавать разные последовательности операций. Первая должна была механизировать определённый класс вычислений; вторая открывала куда более широкую возможность — менять программу, не перестраивая весь механизм.
Разность между идеей и механизмом
Чтобы понять, что именно обещала разностная машина, полезно увидеть её принцип на небольшом примере. Возьмём квадраты целых чисел: 1, 4, 9, 16, 25. Если вычитать каждое число из следующего, получатся первые разности: 3, 5, 7, 9. Разности между этими разностями равны 2, 2, 2. Для такого ряда после начальных значений можно продолжать вычисление повторяющимся сложением: следующая разность увеличивается на 2, а следующее число — на новую разность. Механизм не обязан каждый раз заново вычислять квадрат; он использует структуру ряда и выполняет однотипные операции.
В этом и заключалась практическая привлекательность метода конечных разностей: сложную таблицу можно было получать серией простых шагов. Но у метода есть границы. Разностная машина не решала любую математическую задачу; она была задумана для определённых видов последовательностей и могла автоматизировать вычисления, если требуемую процедуру удавалось привести к подходящей форме. Это не обесценивает проект. Напротив, ограничение показывает, что инженерный замысел включал конкретный выбор задач. Машину проектируют не для абстрактного «интеллекта», а для определённой работы с её условиями, точностью и приемлемой стоимостью.
Задуманный способ печати тоже имел значение. Если вычисленные цифры выводятся на бумагу напрямую, уменьшается риск, что человек перепишет их с ошибкой. Но автоматическая печать не делает безошибочным весь процесс. Неверная таблица исходных значений, ошибка в проектировании или неисправная деталь способны дать неверный результат. Автоматизация устраняет определённый класс ошибок и создаёт другие места отказа. Это наблюдение справедливо и для современных систем: результат может быть произведён без ручного ввода на последнем шаге, но цепочка до этого результата всё равно состоит из решений и предположений.
Строительство машины оказалось труднее, чем её описание в виде последовательности операций. Бэббидж работал с мастером-инструментальщиком Джозефом Клементом, от которого требовались детали необычайной точности. Работа над разностной машиной остановилась в начале 1830-х после конфликта между ними, а проект оказался связан с расходами, государственным финансированием и вопросом о том, кто контролирует мастерскую и инструменты. Здесь легко написать драму о гении, которого не поняли чиновники. Реальность была менее аккуратной: проект зависел от сложного сотрудничества изобретателя, квалифицированного мастера и покровителей, причём у каждого были свои условия и интересы. Технология существует не отдельно от трудовых отношений и денег.
В 1834 году, после приостановки строительства разностной машины, Бэббидж задумал аналитическую — гораздо более амбициозную. Это не была просто следующая модель с большим числом функций. Разностная машина исполняла заранее ограниченную последовательность арифметических операций; аналитическая должна была получать инструкцию через карты и менять последовательность действий. В ней различались «склад», где удерживались числа, и «мельница», где выполнялись вычисления. Эти названия не нужно воспринимать как буквальные аналоги современной памяти и процессора во всех деталях. Это способ представить принципиально важное разделение: данные хранятся отдельно от механизма, который их обрабатывает.
Связь с жаккардовым станком делает программируемость наглядной. Карточки с отверстиями направляли станок так, чтобы тот воспроизводил выбранный узор; последовательность карт организовывала работу механизма. Бэббидж перенёс этот принцип в проект вычислительной машины. Карта задавала не декоративный рисунок, а операцию или порядок операций. Аналогия Лавлейс — аналитическая машина «ткёт алгебраические узоры» так же, как станок ткёт цветы и листья — была не просто красивой метафорой. Она описывала программу как структуру, управляющую работой универсального механизма.
При этом перфокарта не обладала смыслом сама по себе. Машина не могла догадаться, что отверстия обозначают «сложи эти числа»; смысл задавался соответствием между формой записи, устройством и правилами исполнения. Программа — это не только последовательность символов. Нужна машина, способная трактовать их предсказуемым образом. В этом месте механическая история Бэббиджа встречается с более поздними формальными теориями вычисления: процедуру можно отделить от результата, но только если существует исполнитель, способный следовать ей.
Аналитическую машину не построили в полном виде в XIX веке. В Музее науки Лондона хранится фрагмент механизма, который был изготовлен в мастерской Бэббиджа; это материальное свидетельство работы, но не готовый универсальный вычислитель. В XX и XXI веках исследователи и музейные инженеры смогли построить работающие разностные машины по чертежам Бэббиджа. Это подтвердило инженерную возможность некоторых его проектов, но не следует переносить такую проверку на аналитическую машину: её полный проект оказался куда сложнее и не был воплощён тем же способом. Исторический вес идеи не зависит от того, работал ли в Лондоне 1840-х годов полностью собранный механизм. Однако читатель заслуживает знать разницу между тем, что было построено, тем, что осталось чертежом, и тем, что позднее реконструировали.
Бэббиджевская история показывает, что программируемость появилась не из одной удачной идеи. Её потребовали математический метод, точное производство, управление последовательностью операций и представление данных в физической форме. Если убрать любой из этих слоёв, устройство теряет универсальность или надёжность. Машина на бумаге может быть бесконечно точной; машина в мастерской должна пережить трение, люфт, стоимость металла и спор людей, которые её строят.
С машиной связан и другой часто упрощаемый сюжет — история Ады Лавлейс. В 1843 году она перевела статью итальянского инженера Луиджи Менабреа об аналитической машине и добавила к переводу собственные примечания, по объёму и содержанию значительно превосходившие исходный текст. В одном из них Лавлейс подробно описала операции, необходимые для вычисления чисел Бернулли. Поэтому её часто называют первым программистом. Само звание зависит от того, что именно мы считаем программой и как распределяем авторство в совместной работе; оно не должно превращать историю в соревнование за единственную табличку «первый».
Гораздо важнее, что Лавлейс поняла различие между устройством, которое выполняет операции, и тем, что определяет их порядок. В её примечаниях аналитическая машина предстает не просто калькулятором: если задать соответствующие правила, она могла бы работать с символами, связанными не только с числами; Лавлейс даже рассуждала о возможности манипулировать музыкальными отношениями при условии, что их можно будет формализовать. И одновременно она проводила границу: машина делает то, что мы знаем, как предписать ей делать. Она не создаёт собственные правила и не выбирает цель по собственной воле.
Эту позицию позднее стали называть «возражением Лавлейс», хотя её исходный контекст тоньше, чем популярная формула «машины не способны творить». Лавлейс говорила о возможностях конкретного проекта и о том, что машина не производит новизну сама по себе; её замечания не были экспериментальным доказательством невозможности всякого машинного творчества. Но вопрос она поставила точно: откуда берётся то, что устройство исполняет? В перфокартах, алгоритме, исходных данных, замысле человека — или в самой машине? Ответ будет меняться вместе с технологиями, но вопрос не исчезнет.
Таблицы, Бэббидж и Лавлейс помогают увидеть раннюю форму спора о машинном разуме. Автоматизация может быть впечатляющей без понимания задачи. Машина может выполнить расчёт, который человеку занял бы много времени, но способность получить результат не сообщает, что именно результат означает и нужен ли он. Уже в XIX веке появились две мысли, которые современная реклама ИИ регулярно смешивает: устройство способно производить сложный результат; следовательно, устройство обладает человеческим пониманием. Между этими утверждениями нет автоматического перехода.
