Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего

Соглашение о внутреннем консенсусе

Комиссия делает вывод, что по состоянию на сегодняшний день федеральное финансирование ИИ в США является недостаточным и не позволяет не только упрочить американское лидерство, но и сохранить его в перспективе до 2025 года.

За последние пять лет федеральное финансирование научных исследований в области компьютерных наук, в рамках которого инвестируется ИИ, увеличилось в Америке всего на 12,8 %, при том, что в Китае ассигнования на ИИ увеличились более чем в два раза.

Правительство США имеет опыт, как вложить ресурсы в дерзкие технологические проекты и обеспечить их исторические успехи. Лучшие примеры этого – программа «Аполлон» и проект «Геном человека». За последние 10 лет китайское правительство тщательно изучило успешные амбициозные советские программы и опыт государственных мегапроектов США и разработало на этой основе собственные подкрепленные ресурсами технологические мегапроекты, в том числе по ИИ. На фоне Китая продолжение политики финансирования фундаментальных исследований в области ИИ по остаточному принципу правительством США приведет к подлинному краху. Уже в настоящее время Соединенные Штаты по показателю общих расходов на НИОКР в процентах от ВВП занимают лишь десятое место в мире, тогда как в 1985 году – первое.

Увеличение федеральных инвестиций в НИОКР может стимулировать:

– развитие базирующихся на иных, нежели нейронные сети. ИИ, вдохновленных нейронаукой;

– создание отказоустойчивых ИИ, опережающим образом реагирующих на попытку взлома, перехвата управления или разрушения;

– развитие облачной инфраструктуры, помеченных обучающих данных и других инноваций для исследователей ИИ;

– создание оборудования нового поколения, использующего, в том числе нейроморфные чипы, квантовые вычисления, процессоры для вероятностных компьютеров, графовые семантические вычисления на основании сверхмощных видеокарт и т. п.;

– разработку и опробование новых решений для управляемых ИИ коллективов самообучающихся автономных роботизированных устройств различного назначения.

Ограниченная доступность федерального финансирования способствует перетоку мозгов из академических кругов в бизнес. Эта тенденция подрывает способности заниматься инновациями и обучать следующее поколение. Правительство должно преодолеть эту тенденцию в ближайшее время.

В координации работ по ИИ должна резко возрасти роль Национального Научного Фонда (NSF). В настоящее время Фонд управляет 85 % всех федеральных ассигнований на научные исследования в области ИИ со стороны правительства. Комиссия считает необходимым в течение ближайших двух лет как минимум удвоить текущий бюджет NSF на развитие ИИ и близкие научные направления, которые на 2020 финансовый год составляют чуть менее $ 1 млрд.

Комиссия рассматривает ряд моделей, которые могли бы активизировать финансирование НИОКР в области ИИ. Например, предлагается учредить в рамках NSF Национальный институт ИИ, по своему функционалу и инвестиционным возможностям напоминающий Национальный институт рака.

Также предлагается направить дополнительные федеральные ассигнования, в том числе не из научных статей бюджета, на создание инфраструктуры новых высокотехнологичных кластеров, подобных Силиконовой Долине. За основу может быть принят опыт Канады, которая в течение двух лет развернула мощные кластеры ИИ на базе университетов Эдмонтона, Торонто и Монреаля.

Еще одна многообещающая инициатива включает в себя предоставление целевых инвестиций не в темы или изделия, а непосредственно в руководителей лабораторий, специализирующихся на ИИ, предоставив им самим право выбирать конкретные направления исследований. Правительство США должно расставить приоритеты в области федеральных усилий по развитию ИИ и в срочном порядке осуществить инвестиции в этой области, нацеленные на национальную безопасность.

Комиссия полагает, что принятые президентские и правительственные документы, а также решения Конгресса уже создали исчерпывающую базу для скорейшего развертывания практической работы в области ИИ. Именно на практике, а не на принятии новых постановлений должны быть сосредоточены усилия национальных органов в ближайшие несколько лет.

В условиях бюджетных ограничений настало время перераспределить научный бюджет Министерства обороны и разведывательного сообщества в пользу ИИ за счет ограничения расходов на традиционные виды вооружений, которые не предусматривают качественного совершенствования, а продляют свой срок жизни лишь за счет модернизации.

Применение ИИ в сфере национальной безопасности

Комиссия пришла к выводу, что по состоянию на 2019 год Министерство обороны и в несколько меньшей степени разведывательное сообщество далеки от реализации уже имеющихся выгод в применении ИИ. Главная причина этого – не ограничения финансирования, а различного рода бюрократические барьеры и несоответствие новым реалиям старых нормативных документов. Технологические прорывы в лабораториях и на производстве гасятся в сфере документооборота даже тогда, когда он является электронным.

По мнению Комиссии, в настоящее время в сфере правительственных усилий по ИИ царит хаос и бюрократический беспорядок. Удалось выявить, что в настоящее время в рамках правительства в условиях недостатка ресурсов приняты и осуществляются более 600 программ развития ИИ. Очевидно, что такое мелкотемье приводит к тому, что ни одна из программ не рассчитана на достижение действительно прорывных результатов и на технологические прорывы. Деньги в рамках программ в основном расходуются не на исследования и разработки, а на подготовку различного рода документации или, что еще более удивительно, на проведение аудита того, чего нет в природе.

Комиссия пришла к выводу о том, что традиционные подходы к американской системе демократии, свободы и открытости зачастую мешают развивать важные направления использования ИИ. Например, Министерство обороны в рамках программы Maven широко привлекает к разработке общенациональной системы видеораспознавания и видеомониторинга университеты и крупнейшие технологические компании. В течение 2019 года ряд ключевых для программы технологических гигантов и стартапов отказались участвовать в программе, мотивируя это протестами общественности, гражданских активистов и части собственных работников относительно допустимости видеонаблюдения в Америке. В результате, по состоянию на сегодняшний день, Америка даже не приступила к опробованию систем видеомониторинга, которые в рамках цифрового авторитаризма не только покрывают все города Китая, но и стали предметом китайского экспорта.

Лидерство в разработке и использовании ИИ требует иных подходов

Нынешняя система финансирования разработки и приобретения технологий разработана в Министерстве обороны 40 лет назад принципиально для иных типов и видов вооружения. В результате прорывные решения входят в противоречия с управленческими процедурами. Например, разработка приложений в области ИИ может занять месяц. Но для получения разрешений на получение информации, необходимой для разработки, требуется иногда более шести месяцев, а на принятие решения о начале финансирования – до года. Этот процесс, разработанный для ограничения военных расходов в мирное время, совершенно не подходит для ситуации с ИИ.

По сути, американским разработчикам и пользователям ИИ приходится вести две схватки: одну – с Китаем, вторую – с собственными федеральными учреждениями. Кроме того, Министерство обороны привыкло работать с технологическими гигантами. Между тем, в сфере ИИ значительная часть подрывных инноваций создается небольшими компаниями, стартапами, а иногда даже неформальными коллективами разработчиков. У Министерства обороны нет ни опыта, ни желания, ни организационных процедур работать с такими командами и компаниями. Более того, выделение такого рода субъектам финансовых ассигнований рассматривается аудиторами как косвенный указатель на возможную коррупцию. В этих условиях Министерство обороны отрезает себя от значительной части наиболее эффективных разработчиков.

Нельзя сказать, что Министерство обороны ничего не пытается изменить. Так, в 2019 году были созданы частно-государственные партнерства по развитию ИИ с MIT и университетом Карнеги-Меллона.

Существует противоречие между стремлением заказчика получить надежные и безопасные решения и потребностью разработчика проверить платформы в реальных условиях. В существующей системе контрактации для Министерства обороны предусмотрена сдача полностью готовых, протестированных изделий. Однако в случае ИИ это невозможно. ИИ по самой своей природе требует дообучения на практических повседневных реальных данных. Поэтому необходимо изменить в соответствии с современными требованиями порядок контрактации.

Даже самые передовые алгоритмы ИИ потерпят неудачу если будут реализовываться на компьютерах с недостаточной вычислительной мощностью. Хотя Америке принадлежит 2/3 из 50 наиболее мощных суперкомпьютеров, проблема вычислительной мощности для ИИ остаётся острой. Суперкомпьютеры на сегодняшний день – это в подавляющем большинстве научные машины. Массовому производству сверхмощных компьютеров, ориентированных в том числе на облачные вычислительные платформы, а именно такие компьютеры нужны ИИ, пока уделяется меньше внимания, чем они того заслуживают.

Нельзя не отметить, что правительство США не использует должным образом коммерческий ИИ для улучшения своей повседневной работы и экономии средств налогоплательщиков. Несмотря на многочисленные решения правительства, министерства и ведомства так и не перешли к электронному документообороту, так и не оцифровали в отличие от университетов и бизнеса свои архивы, так и не перешли на предоставление сведений в машиночитаемой форме.

Обучение и рекрутинг талантов в области ИИ

Комиссия делает вывод, что оборонные и разведывательные ведомства США нуждаются в кадровой революции. Значительная часть их работников не только не способна заниматься разработкой ИИ на стадии определения технических заданий, но и не подготовлена к его эксплуатации. Особенно это характерно для гражданских министерств и учреждений правительства.

До сих пор кадровая работа на федеральном уровне характеризуется беспорядочным набором и отсутствием продуманной системы управления талантами в сочетании с отсутствием вычислительных мощностей и качеством больших данных правительственного характера. Комиссия полагает, что конкурировать с бизнесом и университетами за таланты правительству будет чрезвычайно сложно. Поэтому необходимо шире использовать практику частно-государственных партнерств. В рамках этих партнерств функции разработки должны оставаться за бизнесом и университетами, а эксплуатации – за правительственными учреждениями. Соответственно главная цель правительства в кадровой работе – это в сотрудничестве с университетами начать сплошную переподготовку административных кадров к использованию ИИ. Вероятно, в ближайшие два-три года специалист, не прошедший переподготовку по применению ИИ и не сдавший квалификационный экзамен, не должен иметь возможность занимать сколько-нибудь значимую должность в правительстве.

Согласно рекомендациям Комиссии, органам и структурам национальной безопасности необходимо пересмотреть требования к кадрам в связи с революцией ИИ. Они должны быть способны качественно и эффективно выполнять шесть функций:

– планирование и разработка организационных документов;

– приобретение и обслуживание программно-аппаратных средств ИИ;

– осуществление анализа больших, умных, разнородных данных;

– формулирование требований к разработчикам по совершенствованию программно-аппаратных решений с позиции заказчиков;

– общение с разработчиками, пользователями, сервисными специалистами в области ИИ по вопросам эксплуатации этих систем;

– принятие решения о том, когда и для чего нужно использовать инструменты ИИ.

В каждом министерстве и ведомстве должно быть сформировано ядро пользователей и сервисных сотрудников, берущих на себя функции наиболее эффективного применения ИИ в практике работы ведомства и оказания помощи специалистам ведомства в практическом применении ИИ. Без формирования таких лидирующих ядер оборонные и разведывательные ведомства в условиях полной безграмотности персонала в части практического использования ИИ не смогут эффективно применять самые передовые решения.

Ядро ИИ должно обладать двумя дополнительными компетенциями. Во-первых, оно должно понимать этические аспекты применения ИИ. Во-вторых, ему нужен доступ к ключевым подразделениям в сфере национальной безопасности, ответственным за разработку и использование ИИ. Эти команды должны быть посредниками между разработчиками и пользователями. Правительство США имеет на сегодняшний день все возможности для более широкого найма талантов в области ИИ и повышения эффективности их работы. Однако многие министерства и ведомства не используют имеющиеся возможности из-за страха руководителей иметь в подчинении на порядок более компетентных в области ИИ людей, чем они сами.

Также к недостаткам можно отнести тот факт, что пока Комитет начальников штабов и различные рода вооруженных сил направляют на курсы ускоренной переподготовки по ИИ в ведущие американские университеты меньшее число офицеров, чем это предусмотрено квотами. Комиссия выяснила причину сложившегося положения. Наиболее талантливые, интеллигентные офицеры одновременно являются и наиболее незаменимыми с точки зрения решения текущих задач. Соответственно вышестоящее командование не отпускает их на учебу, поскольку заинтересовано в их постоянном присутствии в действующих вооруженных силах для выполнения текущих задач.

Существует жесткий рынок для талантов, как в Соединённых Штатах, так и в мире в целом. Спрос на таланты на порядки превышает предложения. Поскольку заработная плата в частном секторе зачастую в несколько раз превышает ту, которую может предложить правительство, большинство талантов выбирает гражданский сектор.

Вряд ли удастся быстро изменить ситуацию, связанную с оплатой труда. Однако правительство может и должно привлечь новое поколение талантов дополнительными возможностями в области социальных пакетов, получения магистерского образования и ученых степеней, гарантированного трудоустройства после завершения срока службы в лучшие компании и университеты.

Сегодня существуют две ключевые проблемы в области кадрового обеспечения прогресса ИИ. Первая проблема состоит в том, что, как это ни парадоксально, многие американские университеты не могут удовлетворить спрос на интерес студентов к ИИ и информатике в целом. Проблема в том, что как у преподавателей, таки у разработчиков, спрос на них превышает предложение.

Анализ преподавания компьютерных наук, осуществленный в 2018 году, показал, что за два года количество вакансий в американских университетах на преподавателя по компьютерным наукам выросло на ошеломляющий 71 %. В 2018 году Ассоциация вычислительных исследований обнаружила, что количество студентов, желающих получить диплом в области компьютерных наук, выросло за 20 лет в 10 раз.

Комиссия предлагает американскому правительству всерьез задуматься о возможности предоставления на льготных условиях не только рабочих мест, но и американского гражданства преподавателям из стран, лидирующих в области компьютерных вычислений, математики, программирования и т. п. Комиссия предлагает разрешить университетам проводить дистанционные собеседования, а при необходимости, курсы повышения квалификации для преподавателей, особенно из России и других стран постсоветского пространства, а также Индии. По завершении таких курсов преподаватели должны сдавать экзамен на знание английского языка, а также проходить собеседования, в том числе в странах своего постоянного проживания с представителями университетов. Подписание предварительного соглашения должно открывать для преподавателей границы Соединенных Штатов, как в части трудоустройства, так и эмиграции.

Комиссия в ближайшее время дополнительно изучит проблемы бакалавриата и магистратуры по ИИ и подготовит предложения правительства по облегчению визового режима и предоставления гражданства не только для талантов в области ИИ, но и для преподавателей.

Также Комиссия считает необходимой федеральную помощь, как университетам, так и иным образовательным структурам в части развертывания онлайновых форм обучения ИИ, в том числе на национальных языках для тех стран и регионов, где высок уровень школьной математической подготовки. Не стоит опасаться, что Америка будет готовить кадры для конкурентов. Как показывает анализ Комиссии действующих онлайн-курсов Стэндфордского, Чикагского университетов и MIT, из 100 лучших выпускников курсов в России более 70 % получили предложения от американских университетов и компаний и переехали в США, для Индии соответствующий показатель превысил 90 %.

Во всем мире предложение талантов ИИ является недостаточным для удовлетворения растущего спроса. Комиссия полагает, что гонка за талантами является самым главным направлением в битве за первенство в области ИИ. Руководители министерств и ведомств, политики должны понимать, что ИИ – это не более чем метафора. ИИ – это машина, которая реализует программы. Все программы в настоящее время и в обозримом будущем будут писаться людьми. Соответственно качество человеческого капитала является определяющим и главным фактором в прогрессе ИИ.

Вывод Комиссии: Америка должна сделать все, чтобы не только обеспечить наилучшие условия для появления американских талантов, но и привлечь к себе максимальное число талантов со всего мира. Это тем более важно, что ИИ является высокомобильной областью. По итогам 2019 года установлено, что около 1/3 исследователей, имеющих докторскую степень в области ИИ, работают на работодателя, базирующегося в другой стране, нежели та, где была получена докторская степень. Для исследователей, входящих в 10 % наиболее цитируемых, этот показатель возрос до 60 %, а для 1 % – до 85 %. Пока в Соединенных Штатах из докторов в области ИИ, входящих в 1 % наиболее цитируемых в мире исследователей, работают 82 %. Однако еще пять лет назад таковых было 94 %.

Защита американских технологических преимуществ

На протяжении десятилетий Соединенные Штаты поддерживают открытую экономику и отстаивают академическую свободу, при этом защищая преимущества в части технологий, ориентированных на оборону и безопасность. Однако некоторые особенности нынешнего геополитическоголандшафта создают угрозу для американского технологического лидерства. Среди такого рода неблагоприятных тенденций выявляются следующие:

– специфика технологий ИИ затрудняет секретность и защиту этих технологий. Исходно исследования в области ИИ носили в значительной степени децентрализованный характер, были ориентированы на бизнес и поэтому носили диффузный и доступный характер;

– значительная часть решений в области ИИ построена на открытом исходном коде. Более того, часть перспективных направлений в ИИ изначально развивается сообществами, ориентированными на открытый исходный код;

– Соединенные Штаты и Китай имеют тесные связи в области ИИ, включая кадровый обмен, финансирование и научные исследования;

– в то время как Китай использует открытость американского общества, китайское руководство засекречивает максимум информации, относящейся к исследованиям в области ИИ, и активно занимается дезинформационными мероприятиями;

– американские исследовательские университеты привлекают лучшие умы со всего мира. Среди этих умов есть и агенты зарубежных спецслужб, которые нацелены на получение секретных данных.

Комиссия полагает, что указанные проблемы не имеют простых решений. Требования безопасности реально сталкиваются с идеалами свободы. Комиссия попробовала найти способы возможных решений.

Прежде всего, правительство США должно продолжать активно использовать экспортный контроль для защиты конкурентных преимуществ США в оборудовании, в частности, в производстве полупроводникового оборудования в процессорах для суперкомпьютеров и нетрадиционных вычислительных устройств, а также по другим направлениям.

Контроль за сохранением преимуществ США в аппаратной области может гарантировать, что американские компании сохранят доминирующее положение на мировом рынке. Это обеспечит правительство США в случае кризисной ситуации возможностями увеличения собственного производства и блокировки IT потенциала противников.

Самым главным в конкуренции является сохранение монопольного или доминирующего положения в части производства аппаратных вычислительных и телекоммуникационных устройств. Как известно, любая аппаратная составляющая ИИ имеет и программный компонент, обеспечивающий возможность удаленного управления этим устройством. Соответственно в ситуации острого конфликта Соединённые Штаты могут просто отключить элементы критической инфраструктуры противника вне зависимости от того, где они расположены.

Американскому правительству целесообразно более строго подходить к разрешению иностранных инвестиций в критическую область производства аппаратных компонентов, чипов и т. п. для компьютеров и телекоммуникаций.

В последнее десятилетие наблюдается взрыв китайских инвестиций в американскую микропроцессорную отрасль, связанную с ИИ. В 2010 году китайцы совершили лишь одну сделку на сумму $ 1,5 млн, а в 2017 году – 27 сделок на сумму $ 514,5 млн.

Недавно в США принят Закон о снижении рисков от иностранных инвестиций (CFIUS). Комиссия считает, что в Министерстве финансов и Государственном департаменте должны полностью использовать возможности, предоставляемые этим законом для избирательной блокировки нежелательных китайских инвестиций.

Самая главная задача для Соединенных Штатов в части сохранения информационного суверенитета – это упрочение лидерства в области производства аппаратного обеспечения ИИ. В настоящее время развернуто финансирование двух принятых в 2018 году программ в этой области, а именно «Инновационной программы развития микроэлектроники для национальной безопасности» и инициативы DARPA по «возрождению национальной электроники».

В гонку вступил и Китай. В 2019 году он учредил Национальный интегрированный инвестиционный фонд, поставив задачу добиться в течение 10 лет 100 % самообеспечения компонентами для полного производства в Китае аппаратного обеспечения ИИ и телекоммуникаций. Этот Фонд израсходует на указанную цель за 10 лет $ 100 млрд. Пожалуй, главная проблема США в соревновании с Китаем в части производства аппаратного обеспечения состоит в том, что Китай может без усилий централизовать ресурсы государства, бизнеса и китайской общины за рубежом, тогда как в Соединенных Штатах бизнес и правительство развивают ИИ исходя из собственных интересов и целей. Эти интересы не всегда совпадают друг с другом. В результате ряд не только стартапов, но и технологических гигантов отказываются от контрактов с Министерством обороны и американским разведывательным сообществом ради сохранения зарубежных, прежде всего азиатских, рынков.

Комиссия полагает маловероятным использование китайского опыта в централизации усилий и увеличении инвестиций в Соединенных Штатах. Вместо этого Америке следует наращивать свое интеллектуальное лидерство, развивая принципиально новые направления аппаратного обеспечения в условиях полной конфиденциальности и секретности. Речь идет, прежде всего, о квантовых вычислениях, вероятностных компьютерах, кремниевой фотонике, нейроподобных процессорах и других нетрадиционных вычислительных системах, необходимых для ИИ.

В докладе Комиссии перед правоохранительными органами и научными руководителями поставлена задача найти точки соприкосновения между открытой исследовательской системой и эффективным противодействием деятельности иностранных разведок в американских кампусах. В условиях американской открытости и традиционных академических свобод противоборствующие государства максимально используют порождаемые этим возможности.

Комиссия подтверждает принципиальную важность сохранения открытости Соединенных Штатов и академических свобод. При этом полагает целесообразным повысить уровень и масштабы превентивного мониторинга поведения лиц, непосредственно связанных с исследовательскими разработками в области ИИ. Частично это может быть решено в бизнесе за счет более тщательного отношения к коммерческой тайне. Что касается университетов, то здесь можно было бы уточнить их уставы с тем, чтобы открыть возможности для наблюдения за сомнительными студентами и преподавателями, подозреваемыми в работе на иностранные державы. Наиболее пристальное внимание Комиссия рекомендует уделять лицам, ориентированным на прямую или косвенную помощь военному и разведывательному потенциалу Китая. Комиссия высказывается против превентивного зачисления иностранных талантов в лица, заслуживающие пристального наблюдения. В силу межгосударственных отношений, а также особенностей менталитета китайцам гораздо проще склонять к сотрудничеству американцев, чем жителей и студентов из России, Украины, Индии и т. п.

Необходимо иметь в виду, что большая часть этих студентов переехали в Соединенные Штаты еще и потому, что выбрали свободу. В то же время никто не должен удивляться тому, что за студентами и исследователями из Китая, а также других союзных Китаю стран, должно быть усилено наблюдение. В Китае плотный мониторинг иностранцев, откуда бы они ни приехали, – норма действительности. Этому никто не удивляется. Против этого никто не протестует. Поэтому Китай, как серьёзный конкурент, вполне заслуживает уважительного отношения и симметричного ответа (рекомендации идентичны документам США времён маккартизма. Можно представить себе уровень возмущения и протестов отечественных и американских правозащитников при появлении такого рода рекомендаций в официальных, открытых документах у нас в стране – прим. авторов).