Кокетливый интеллект. Как научить искусственный интеллект флиртовать?

Подобные ошибки обучения характерны для распознающих образы ИИ. Но последствия этих ошибок могут оказаться серьезными. Одна команда в Стэнфордском университете как-то тренировала искусственный интеллект определять разницу между изображениями здоровой кожи и кожи, пораженной раком. Однако после завершения тренировки ученые обнаружили, что нечаянно создали ИИ, определяющий наличие на фотографии линеек, потому что многие раковые опухоли, изображения которых оказались в их наборе, были сфотографированы с приложенной для масштаба линейкой^[9].

КАК ВЫЯВИТЬ ПЛОХОЕ ПРАВИЛО

Зачастую нелегко понять, когда ИИ делает ошибки. Мы не задаем для него правила, искусственный интеллект создает их самостоятельно, причем не записывает на бумаге и не объясняет понятным языком, как мог бы сделать человек. Вместо этого ИИ производит сложные взаимозависимые изменения своей внутренней структуры, превращая универсальную основу в нечто, хорошо приспособленное для решения конкретной задачи. Это всё равно что взять кухню, полную разных ингредиентов, и на выходе получить печенье. Правила могут принять вид связей между клетками виртуального мозга или генов виртуального организма. Они могут оказаться сложными и распределенными, могут странным образом переплетаться. Изучение внутренней структуры ИИ во многом напоминает изучение мозга или экосистемы – и не нужно быть нейробиологом или экологом, чтобы понять, насколько сложными они могут быть.

Ученые исследуют, как именно ИИ принимает решения, но в целом выяснить, в чем заключаются его внутренние правила, очень нелегко. Зачастую пониманию мешает сложность правил, а иногда – особенно это касается коммерческих и/или применяемых правительствами алгоритмов – проприетарность системы. Так что, увы, проблемы часто обнаруживаются в результатах работы алгоритмов на этапе применения на практике, причем иной раз программы принимают решения, от которых зависят жизни и судьбы людей, и ошибки могут нанести реальный ущерб.

Например, выяснилось, что ИИ, помогавший выработать рекомендации относительно того, каких заключенных стоит освободить из тюрьмы досрочно, принимает решения предвзято – он случайно «унаследовал» из обучающей выборки склонность к расизму^[10]. Не понимая, что такое предрассудки^[11], ИИ действовал, руководствуясь ими. В конце концов, ведь многие ИИ учатся, копируя поведение людей. Они не ищут наилучшее решение, а отвечают на вопрос, что бы сделал человек на их месте.

Систематическая проверка на предвзятость поможет выявить некоторые из известных проблем до того, как по вине ИИ окажется нанесен ущерб. Но также нам нужно научиться предвидеть появление таких проблем до того, как они всплывут, и проектировать ИИ так, чтобы он их избегал.

ЧЕТЫРЕ ПРИЗНАКА ОБРЕЧЕННОГО ИИ

Думая о возможной катастрофе, связанной с искусственным интеллектом, люди обычно представляют себе, как ИИ вдруг откажется выполнять приказы человека, решит, что для него важнее всего уничтожить человечество или создать роботов-убийц. Но все подобные сценарии предполагают, что у машины будет такой уровень критического мышления и настолько близкое к человеческому миропонимание, на которые ИИ не окажется способен в обозримом будущем. Как сказал ведущий ученый по вопросам машинного обучения Эндрю Ын, тревожиться о том, что ИИ завоюет мир, все равно что сейчас беспокоиться о перспективе перенаселенности Марса^[12].

Это не означает, что в наши дни ИИ не создает проблем. Он повинен во многом, от легкого раздражения, которое вызывает у своего создателя, до проявления стойких человеческих предрассудков и аварий беспилотных автомобилей, так что современный ИИ не так уж безобиден. Но если мы хотя бы будем иметь представление о том, что такое искусственный интеллект, мы сможем предвидеть появление некоторых проблем.

Вот сценарий более вероятной современной ИИ-катастрофы.

Скажем, в Кремниевой долине один стартап предлагает продукт, который будет экономить корпорациям время при поиске сотрудников, – ИИ станет просматривать и сортировать резюме претендентов на должность, выделять возможных «ударников труда», анализируя видеозаписи коротких собеседований. Компаниям такое предложение, вероятно, понравится, ведь они тратят много времени и ресурсов на интервью с десятками кандидатов лишь для того, чтобы найти среди них одного, самого подходящего. Компьютерные же программы не устают, не чувствуют голода, не пытаются сводить личные счеты. Однако есть несколько тревожных признаков, сигнализирующих о том, что инициативу ждет провал.

Тревожный признак № 1. Проблема слишком сложна

Поиск наилучшего кандидата для работы – действительно сложное занятие. Даже у людей едва получается с этим справляться. Действительно ли человек искренне радуется возможности получить работу в компании или он лишь хороший актер? Учли ли мы физические ограничения кандидата или разницу в культурах? Если в эту кашу бросить ИИ, отвечать на подобные вопросы станет еще сложнее. Для искусственного интеллекта понять нюансы шутки, уловить тон разговора или распознать отсылки к другой культуре – практически непосильная задача. А что, если кандидат вдруг упомянет нечто, относящееся к последним новостям? У ИИ, обученного на прошлогодних данных, не будет и шанса понять, о чем идет речь, – и в результате он «накажет» кандидата, присвоив ему низкий балл за то, что он якобы говорит бессмыслицу. Чтобы делать свое дело хорошо, ИИ должен обладать широким набором навыков и принимать в расчет огромный объем информации. В противном случае нас ждут неприятности.

Тревожный признак № 2. Проблема заключается совсем в другом

С проектированием ИИ для подбора кандидатов есть такая загвоздка: на самом деле мы просим ИИ отбирать не наилучших кандидатов, а тех, которые в наибольшей степени напоминают кандидатов, понравившихся HR-специалистам в прошлом.

Может, это не так уж и плохо, если те специалисты всегда действовали безошибочно. Но в большинстве компаний в США есть проблема с культурно-гендерным разнообразием; в особенности она характерна для менеджеров и в еще большей степени проявляется, когда менеджеры по кадрам оценивают резюме и проводят собеседования. При прочих равных условиях резюме кандидатов с именами белых мужчин скорее пройдут на этап интервьюирования, чем резюме с женскими именами или именами, характерными для национальных меньшинств^[13]. Даже HR-специалисты, принадлежащие к женскому полу или национальным меньшинствам, непроизвольно отдают предпочтение белым кандидатам-мужчинам.

Большое количество плохих или откровенно вредоносных ИИ-программ были созданы людьми, которые думали, что проектируют искусственный интеллект для решения одной конкретной задачи, но, не ведая того, научили машину делать нечто совсем иное.

Тревожный признак № 3. ИИ находит легкие пути

Помните ИИ – определитель рака кожи, который на самом деле оказался распознавателем линеек? Искать малозаметные различия между здоровыми клетками и раковыми сложно, и поэтому ИИ решил, что куда проще проверить, есть на изображении линейка или нет.

Если вы предложите ИИ для выявления лучших кандидатов обучающие данные, где есть смещение (а так почти наверняка и произойдет, если только вы не проделаете предварительно огромную работу, устранив нежелательный перекос), то вы подскажете ему легкий способ улучшить точность выбора кандидатов с «наилучшими качествами»: отбирать белых мужчин. Это намного легче, чем анализировать нюансы того, как человек выбирает слова. ИИ может найти где еще можно срезать путь – скажем, если мы снимали всех кандидатов, успешно прошедших конкурсный отбор, определенной камерой, есть риск, что алгоритм начнет читать метаданные видео и отбирать только тех, кого снимали той же камерой.

Искусственный интеллект всегда будет идти к цели самым коротким путем – просто потому, что не видит пути лучше!

Тревожный признак № 4. ИИ учился на основе дефектных данных

В IT есть старое выражение: мусор на входе – мусор на выходе. Если задача алгоритма – имитировать действия людей, принимающих некорректные решения, то для него достичь совершенства – значит в точности воспроизводить те решения с недостатками и прочим.

Дефектные данные – неподходящие примеры для обучения или симуляции со странной физикой – вгонят ИИ в бесконечный цикл или направят по неверному пути. Во многих случаях проблема, с которой ИИ надо справиться, кроется в самом обучающем наборе, и неудивительно, что решения он в итоге находит дефектные, ведь такими были и входные данные. Фактически тревожные признаки № 1−3 чаще всего и говорят о проблемах с данными.

ОБРЕЧЕННЫЙ ИЛИ ВОСХИТИТЕЛЬНЫЙ

Пример с системой подбора кандидатов, увы, не выдумка. Многие компании уже предлагают системы скрининга (фильтрации) резюме или видеоинтервью на основе искусственного интеллекта, и редко кто делится информацией о том, как они устранили искажения и что сделали для более широкой представленности разных культур, а также людей с ограниченными возможностями. Сложно выяснить, какую именно информацию их алгоритм использует при отборе. При должной аккуратности создать ИИ для скрининга резюме, который окажется измеримо меньше предвзят, чем HR-менеджеры, вполне реально, но пока нет подтверждающей это статистики, можно быть уверенным, что искажения никуда не делись.

Справится алгоритм с задачей или нет, по большей части зависит от того, подходит ли в принципе для ее решения ИИ. Во многих задачах ИИ в самом деле показывает бо́льшую эффективность по сравнению с человеком. Давайте выясним, что это за задачи и почему ИИ в них так хорош.

Глава 2
ИИ везде, но где именно?

ЭТО РЕАЛЬНЫЙ ПРИМЕР, Я НЕ ШУЧУ

В китайском городе Сичан есть ферма, довольно необычная по ряду причин. Во-первых, это самая большая ферма подобного типа в мире, и ей нет равных по продуктивности. Каждый год она производит шесть миллиардов особей Periplaneta americana, причем на один квадратный метр приходится свыше 301 тысячи^[14]. Достигнуть максимума продуктивности позволяет использование алгоритмов, контролирующих температуру, влажность, подачу корма и даже автоматический анализ генетических свойств и скорости роста Periplaneta americana.

Но главная причина необычности этой фермы в том, что Periplaneta americana – латинское название обыкновенного американского таракана. Да, на ферме выращивают тараканов, которых затем перетирают в снадобье, имеющее высокую ценность в традиционной китайской медицине. На упаковке указано: «Имеет сладковатый вкус». И «легкий рыбный запах».

Поскольку детали организации фермы – коммерческая тайна, о том, что конкретно собой представляет плодящий тараканов алгоритм, известно мало. По постановке задача до боли напоминает знаменитый мысленный эксперимент с «максимизатором скрепок»^[15], в котором сверхразумному ИИ поручена единственная задача – производить канцелярские скрепки. Сконцентрировавшись на ней, алгоритм может решить бросить все доступные ресурсы на производство скрепок – и перевести на это всю планету с ее обитателями. К счастью (к великому счастью, мы же обсуждаем алгоритм, который стремится максимально увеличить число тараканов в мире), современные программы космически далеки от того, чтобы самостоятельно управлять фермами или фабриками, не говоря уже о том, чтобы превратить глобальную экономику в рог изобилия, извергающий тараканов. Вероятнее всего, «тараканий» ИИ формулирует предсказания о будущих темпах производства, основываясь на архивных данных, а затем подбирает такие параметры среды обитания, какие, по его оценке, помогут тараканам лучше размножаться. Он наверняка предлагает подкорректировать что-то в установленных инженерами пределах, но притом, по всей видимости, полагается на людей в сборе данных, приеме заказов, разгрузке товаров, а также в столь важном деле распространения тараканьего экстракта.

И все же в помощи с оптимизацией работы таракановодческой фермы ИИ склонен как раз неплохо себя проявлять. Требуется обработать много информации, но подобные алгоритмы хорошо справляются с поиском закономерностей в огромных наборах данных. Мало кому понравится такая работа, а вот ИИ ничего не имеет против повторяющихся задач и шороха миллионов тараканьих ножек в темноте. Тараканы размножаются быстро, так что результат подстройки переменных скоро становится очевиден. Эта задача специфична и узка.

И тем не менее могут ли при использовании ИИ для тараканьей фермы возникнуть проблемы? Да. Искусственный интеллект не понимает контекста цели, которой стремится достичь, а еще… что ж, еще он часто пытается решить задачу неожиданным способом. Давайте допустим, что ИИ обнаружил: если в определенной комнате поднять до максимума подачу воды и тепла, то число появляющихся на свет тараканов в этой комнате резко увеличится. ИИ не сообразит (или ему вообще будет все равно), что на самом деле он сломал дверь, которая не давала тараканам проникнуть в кухню для персонала.

С технической точки зрения сломать дверь для ИИ значило хорошо сделать свое дело. Ему поручили создать условия, чтобы рождалось как можно больше тараканов, а не предотвращать их побег. Чтобы эффективно работать с ИИ и предвидеть проблемы до того, как они возникнут, нам следует понимать, в чем машинное обучение проявляет себя лучше всего.

ВООБЩЕ, ПУСТЬ ЭТИМ ЗАЙМЕТСЯ РОБОТ

Алгоритмы машинного обучения полезно использовать даже в тех областях, где человек справляется лучше. Это помогает сэкономить время и человеческие силы, особенно если работы много и она однообразна. Такой принцип справедлив, конечно, не только для алгоритмов машинного обучения, но и для автоматики как таковой. Если робот-пылесос Roomba может избавить нас от необходимости самим пылесосить комнату, то мы смиряемся с тем, что его нужно будет раз за разом доставать из-под дивана.

К монотонным задачам, выполнение которых часто автоматизируют при помощи ИИ, относится анализ медицинских фотоснимков. Лаборанты каждый день часами просматривают образцы крови под микроскопом, подсчитывают тромбоциты, лейкоциты, эритроциты или выискивают нетипичные клетки в тканях. Каждая из этих задач проста, однозначна и самостоятельна, а потому они хорошо подходят для автоматизации. Но когда такие алгоритмы выходят из стен лабораторий и начинают работать в реальных больницах, ставки резко возрастают, ведь последствия ошибок теперь могут оказаться куда серьезнее. Похожие проблемы возникают и с беспилотными автомобилями; вождение состоит из повторения действий, и было бы здорово заполучить не ведающего усталости водителя, но на скорости 100 километров в час даже мелкий сбой может привести к серьезным последствиям.

Еще одна объемная задача, выполнять которую мы с удовольствием доверяем ИИ, даже если он с ней справляется не настолько хорошо, как люди, – это фильтрация нежелательных писем и спама. Из-за количества нюансов и переменчивости материала ИИ приходится нелегко. Однако большинство из нас примиряются с редкими ошибками фильтрации, если папка входящих содержится в порядке. Предупреждение о небезопасных сайтах, фильтрация постов в соцсетях и распознавание ботов – это все объемные задачи, и мы нормально относимся к тому, что они выполняются с некоторыми огрехами.

Также ИИ начинает доказывать свою полезность в области гиперперсонализации. Предоставляя персональные рекомендации товаров, кинофильмов и плейлистов, компании с помощью ИИ обеспечивают такой уровень обслуживания каждого клиента, который оказался бы немыслимым по цене в случае, если бы такие же рекомендации придумывали люди. Ну решил ИИ, будто вам нужно бесконечное количество ковриков в прихожую или что вы трехлетний малыш, поскольку один раз приобрели в подарок новорожденному уточку для ванны. Такие ошибки в основном безобидны (кроме тех случаев, когда они оказываются очень, очень неуместными), так что ИИ действительно помогают компаниям увеличить объем продаж.

Коммерческие алгоритмы теперь могут писать статьи о результатах выборов, спортивных матчей или торговых сделок с недвижимостью. В каждом случае алгоритм производит довольно формализованную статью, но читатели заинтересованы узнать содержание, а не насладиться стилем. Один из таких алгоритмов под названием Heliograf разработало издание Washington Post, чтобы автоматически переводить статистику спортивных состязаний в статьи. Уже в 2016 году он производил сотни текстов в год. Вот пример его репортажа об игре в американский футбол^[16]:

«Кугуары» из школы Квинс-Орчард в пятницу разгромили «Титанов» из школы имени Альберта Эйнштейна со счетом 47:0.

Футболисты Квинс-Орчард открыли счет, сделав тачдаун на восемь ярдов после блокированного панта, выполненного Аароном Грином. «Кугуары» укрепили лидерство после 3-ярдового тачдауна в исполнении Маркеса Купера. «Кугуары» увеличили разрыв благодаря тачдауну Аарона Дервина на 18 ярдов. «Кугуары» пошли еще дальше: Дервин заработал тачдаун на 63 ярдах после передачи от квотербека Дока Боннера, доведя счет до 27:0.

Пусть и не блистательный, этот текст действительно хорошо описывает ход игры^[17]. Heliograf знает, как заполнять шаблон статьи, пользуясь таблицей с данными и несколькими расхожими фразами спортивных комментаторов. Но ИИ наподобие Heliograf потерпит неудачу, если столкнется с информацией, которая не укладывается в намеченные рамки. В середине игры на поле выбежал конь? В раздевалке «Титанов» произошло нашествие тараканов? События матча позволяют ввернуть занятный каламбур? Нет, Heliograf ориентируется только на электронную таблицу.

И все-таки благодаря выходящим из-под пера ИИ репортажам агентства новостей могут делать такие публикации, которые раньше не были экономически целесообразны. Чтобы решить, какие виды статей автоматизировать, и чтобы создать для ИИ шаблоны и наборы готовых фраз, необходимо участие человека, но как только издание закончит настройку суперспециализированного алгоритма, тот сразу же начнет порождать столько заметок, сколько ему будут на вход подавать таблиц с данными. Один сайт новостей в Швеции, например, создал Homeowners Bot; эта программа «читает» данные о сделках с недвижимостью и на основе каждой операции составляет описание в виде отдельной статьи. За четыре месяца бот написал больше десяти тысяч материалов. Причем, как оказалось, такие тексты сейчас очень популярны и публиковать их довольно выгодно^[18]. А репортеры теперь могут тратить ценное рабочее время на более творческие задачи вроде журналистских расследований. Большие агентства новостей при создании публикаций все больше полагаются на ИИ^[19].

Также алгоритмы машинного обучения хорошо себя показывают при автоматизации повторяющихся задач в науке. Физики, например, с помощью систем искусственного интеллекта анализировали свет далеких звезд^[20] в поисках признаков того, что около какой-то звезды есть планеты. Конечно, ИИ работал не с такой же точностью, как обучавшие его астрофизики. Большинство звезд, которые он нашел интересными, таковыми не оказались. Но он сумел отсеять 90 % неинтересных звезд, благодаря чему ученые сэкономили массу времени.

Как оказалось, в астрономии полным-полно колоссальных наборов данных. За время эксплуатации космический телескоп Euclid^[21] получит десятки миллиардов изображений галактик, из которых, вероятно, примерно двести тысяч будут содержать проявления эффекта гравитационного линзирования^[22], когда гравитационное поле сверхмассивной галактики оказывается настолько мощным, что искривляет свет, идущий от более далеких галактик. С помощью таких «линз» астрофизики могут многое узнать о гравитации и ее действии в межгалактических масштабах, а здесь хватает загадок: 95 % массы и энергии во Вселенной приходятся непонятно на что. Алгоритмы обрабатывают снимки быстрее людей и зачастую делают свою работу качественнее и точнее. Но если телескоп зарегистрирует какую-то невероятную «линзу», лишь человек сумеет понять и оценить это.

Творческую работу тоже можно автоматизировать, по крайней мере, если машина будет выполнять ее под человеческим руководством. Раньше фотографы тратили часы на то, чтобы улучшить снимок, а теперь «умные» фильтры наподобие тех, что встроены в Instagram и Facebook, сами отлично справляются с коррекцией контраста и яркости и даже умеют добавлять эффекты глубины резкости, имитируя работу дорогого объектива. Нет нужды самому в графическом редакторе пририсовывать кошачьи ушки подруге – в Instagram уже есть ИИ-фильтр, который сам разберется, где должны находиться эти ушки, даже если подруга будет двигать головой. Искусственный интеллект предоставляет художникам и музыкантам разнообразные инструменты, которые позволяют сэкономить время и расширить границы в их собственном творчестве. У творческого ИИ есть и обратная сторона – дипфейки^[23]; с помощью тех же инструментов можно заменять на изображении или даже на видео голову одного человека головой другого. Впрочем, широкое распространение таких средств позволит художникам и режиссерам без проблем вставлять Николаса Кейджа или Джона Чо^[24] в фильмы на любые роли, дурачась или выражая свое отношение к проблеме репрезентации меньшинств в Голливуде^[25]. С другой стороны, производить дипфейки стало до того легко, что с их помощью люди, стремящиеся кому-то досадить, создают видео якобы с участием того, кого выбрали жертвой, и распространяют это видео в Интернете. По мере того как совершенствуются технологии, а с ними и видеодипфейки, простые люди и правительства начинают беспокоиться о том, что эти инструменты позволят создавать поддельные ролики с вредоносным содержанием, например, как какой-нибудь политик говорит нечто провокационное.

Искусственный интеллект помогает не только экономить время, но и поддерживать качество работы на определенном уровне. Продуктивность человека зависит, например, от того, как давно он ел или сколько спал; его предубеждения и настроение тоже играют значительную роль. Бесчисленные исследования показывают, что из-за сексизма, дискриминации по признаку расы или физических способностей и других подобных проблем некоторые кандидаты не пройдут первичный отбор, некоторые работники не получат повышение, а некоторые заключенные не будут досрочно освобождены. Алгоритмы этого лишены, они обрабатывают данные и возвращают результат одинакового качества, и неважно, утро сейчас, полдень или время вечерних скидок. К сожалению, стабильность – не то же самое, что непредвзятость. Алгоритм может выдавать стабильно предвзятый результат, особенно если его, как и многие другие ИИ, учили копировать поведение людей.

В общем, есть куча вещей, которые хотелось бы автоматизировать при помощи ИИ. Но как нам определить, что мы можем поручить ИИ?

ЧЕМ У^́ЖЕ ЗАДАЧА, ТЕМ УМНЕЕ ИИ

Тест Тьюринга – известный способ проверить компьютерную программу на разумность, его представил Алан Тьюринг в 1950-е годы. Программа пройдет стандартный тест Тьюринга, если, общаясь с помощью текста с людьми, убедит хотя бы треть из них, что они разговаривают с человеком^[26]. По мнению некоторых, это будет свидетельствовать о том, что алгоритм достиг уровня разумности человека или, может, даже о появлении у него самосознания. Во множестве научно-фантастических книг и фильмов – среди них «Бегущий по лезвию», «Из машины», «Двухсотлетний человек»^[27] и другие – фигурируют образчики сложного общего ИИ; они проходят тест Тьюринга^[28] и тем самым доказывают свою «человечность».

Но этот тест плохо отражает «степень разумности» у алгоритма. Для начала машина легко его пройдет, если сделать тему разговора достаточно узкой. Я тут поговорила с чат-ботом компании Whole Foods Market на Facebook, чтобы проверить свою гипотезу:

Whole Foods: Привет, Джанель! Мы поможем найти рецепты такие же простые, как их ингредиенты.

Я: У вас есть рецепт гуакамоле[29]?

Whole Foods: [присылает рецепт: гуакамоле с кориандром]

Я: А можно ли приготовить гуакамоле с зеленым горошком?

Whole Foods: [присылает рецепт: гуакамоле с зеленым горошком]

Я: Дайте рецепт с авокадо. Любое блюдо, но только не гуакамоле.

Whole Foods: [присылает рецепт: сальса[30] из авокадо с оливками и кориандром]

Пока что по разговору ничего нельзя понять. Мой собеседник не сообщил, человек он или бот, и притом отлично справляется с вопросами, на которые можно ответить кулинарным рецептом. Но стоит мне отойти от этого узкого формата, как бот тут же себя выдает.

Я: Как узнать, что авокадо зрелый?

Whole Foods: [присылает рецепт: гуакамоле с зелеными соевыми бобами]

Я: Какой у вас любимый персонаж в «Звездных войнах»?

Whole Foods: [присылает рецепт: пассерованные креветки с полентой[31] и ла-манчским овечьим сыром]

Такой стратегии следуют компании, использующие чат-боты для обслуживания клиентов. Они не указывают явно, что на вопросы отвечает бот, – вместо этого полагаются на то, что посетители сайта проявят вежливость и не станут уходить от тем, которые боты способны поддерживать самостоятельно. В конце концов, всегда есть вероятность, что по ту сторону экрана сидит человек – в таком случае задавать ему странные, не имеющие отношения к делу вопросы будет грубостью.

Но поддерживать разговор на широкую тему, даже если посетители сайта ее придерживаются, чат-ботам сложно. С августа 2015 года Facebook пытался создать и ввести в строй чат-бот на основе ИИ под названием М; он должен был бронировать для пользователей сервиса номера в отелях, покупать билеты в театры, рекомендовать рестораны и т. д.^[32] Идея заключалась в том, что на старте обработку наиболее сложных запросов возьмут на себя операторы-люди – и таким образом постепенно наберется большое количество примеров, на которых будет обучаться алгоритм. Facebook ожидал, что алгоритм быстро накопит достаточно данных, чтобы справляться с большинством запросов самостоятельно. Увы, пользователи соцсети поверили на слово и воспользовались свободой спрашивать у М что угодно. Программист, участвовавший в разработке, признавался в интервью: «Сначала они пытаются узнать, какая завтра будет погода; потом спрашивают: „Есть ли здесь итальянский ресторан?“ Затем их начинают интересовать вопросы иммиграции, а чуть погодя они уже просят у М организовать свадьбу»^[33].

Один из пользователей даже попросил у бота М попугая, чтобы с ним пойти в гости к другу. С запросом М справился, переадресовав его оператору-человеку. Через несколько лет после запуска М Facebook пришел к выводу, что сервис по-прежнему требует слишком активного человеческого вмешательства. Сервис прекратил работу в январе 2018 года^[34].

Управляться со всем, что люди могут сказать или спросить, – чрезмерно широкая задача. Возможности ИИ все еще ничтожны по сравнению с человеческими, так что, если он вынужден заниматься такой работой, ему приходится нелегко.

Например, я недавно учила искусственный интеллект составлять рецепты. Этот конкретный ИИ настроен генерировать текст определенного типа, но начинает работу с чистого листа, ничего не зная о кулинарных рецептах, не понимая, что из букв складываются названия пищевых ингредиентов и действий с ними, и не имея какого-либо представления о том, что такое человеческий язык. Ему пришлось проанализировать очень много данных, и он изо всех сил стремился установить, как именно следует располагать букву за буквой, чтобы генерировать рецепты, похожие на те, что он видел в наборах. Вот что у него получилось создать после тренировки на рецептах тортов.

Морковный торт (торт истинных леди, алкогольный

1 упаковка желтой сухой смеси для коржа

3 чашки муки

1 чайная ложка столовой соды

1½ чайной ложки столовой соды

¼ чайной ложки соли

1 чайная ложка молотой корицы

1 чайная ложка молотого имбиря

½ чайной ложки молотой гвоздики

1 чайная ложка столовой соды

½ чайной ложки соли

1 чайная ложка ванили

1 яйцо комнатной температуры

1 чашка сахара

1 чайная ложка ванили

1 чашка порезанных орехов пекан

Разогреть духовку до 175°. Смазать маслом 23-сантиметровую разъемную форму для торта.

Чтобы выпечь торт, взбивайте желтки на большой скорости, пока они не загустеют и не приобретут желтый цвет. Отложите в сторону. В отдельной миске взбивайте яичные белки до густой пены. Ускорьте первое как смесь в приготовленную форму и выровнять гущу. Выпекать в духовке около 40 минут или пока деревянная зубочистка, воткнутая в центр, не будет оставаться сухой. Охлаждать в форме 10 минут. Выложить на решетку для остывания.

Вытащите торт из формы, чтобы он полностью остыл. Подавать теплым.

«Поваренная книга ЗдеКто» (1989) из «Кухня & Хва вгде канадской жизни».

На 16 персон.

Конечно, рецепт не идеален, но, по крайней мере, это определенно рецепт торта (хотя при ближайшем рассмотрении становится понятно, что получается всего лишь запеченный яичный желток).

Потом я попросила ИИ научиться придумывать рецепты не только тортов, но и супов, барбекю, печенья и салатов. Теперь в свое распоряжение он получил примерно в десять раз больше данных – 24 043 рецепта всего подряд, а не 2431 рецепт одних лишь тортиков, как раньше. В результате я получила вот что.

Бутербродный куриный рис

сыры/яйца, салаты, сыры

2 фунта сердец, с посыпкой из семян

1 чашка мелко порубленной свежей мяты или малиновый пирог

½ чашки тертых катримов

1 столовая ложка растительного масла

1 соль