Мир в технозазеркалье. Почему нужно не отказаться от слежки, а "возглавить" ее

Автор The Diplomat Абиджан Редж в своей статье на примере Индо-Тихоокеанского региона подробно описал модель технологического будущего в мире, где широко используются ИИ и "зеркальный мир", и объяснил, почему важно опередить Китай в этой сфере.

Даже самый невнимательный читатель сообщений о международной политике знает, что технологическая конкуренция в основном, хотя и не всегда, наблюдается между США с союзниками и Китаем, а также Россией, и она снова на первом плане. До сих пор аналитики оценивали этот вопрос с разных сторон: что значит с точки зрения оборонного баланса, возможностей для международного сотрудничества; что означает технологическое преимущество для внутренней политики и т.д. Уходящая администрация Трампа краеугольным камнем своей политики сделала технологическое соперничество с Китаем, подчеркивая необходимость для США сохранять первенство, когда речь заходит о об искусственном интеллекте (ИИ), квантовой информатике, аэрокосмической и других ключевых сферах.

К гонке подключились и другие индо-тихоокеанские державы, такие как Австралия, Индия и Япония, способствуя развитию новых технологий как внутри стран, так и сотрудничеству в этой области между "странами-единомышленниками". В июне этого года заработало Международное партнерство по развитию искусственного интеллекта между 14 странами и Европейским союзом с целью продвижения совместных исследований ИИ, а также его внедрения. Австралия и Индия взяли на себя обязательство работать вместе по ряду важнейших технологий, включая ИИ, в то время как Пентагон стремится к совместному сотрудничеству в области технологий, связанных с ИИ, и практических методов их использования с союзниками и партнерами. Американские аналитические центры также публикуют доклады, где рассматривается перспектива расширения международного сотрудничества в области ИИ и развития "инновационной базы альянса".

В то же время с обострением технологической гонки на первый план выходит стратегическая конструкция "Индо-Тихоокеанского региона", география которого охватывает Индийский и Тихий океаны, ключевыми сторонниками которой являются все те же стороны, обратившие внимание на роль, которую в определении будущего геополитического баланса могут сыграть новые технологии: Австралия, Индия, Япония и Соединенные Штаты. Они подчеркнули, что Индо-Тихоокеанский регион должен быть "свободным", "открытым", "стабильным" и "инклюзивным". С практической точки зрения это значит, что Индо-Тихоокеанский регион должен быть свободен от давления Китая, как экономического, так и любого другого; что он открыт в контексте недопустимости территориальных претензий, противоречащих принципам мирового порядка; и что, и это крайне актуально во время пандемии коронавируса, этот регион устойчив перед разными потрясениями. К этим пожеланием присовокупили также потребность в том, чтобы регион был "инклюзивным", а значит в партнерстве в Индо-Тихоокеанском регионе есть место для всех региональных игроков, их нужд и мнений. К тому же опасения, вызванные возможным давлением Китая и гибридной войной, а также его региональной дипломатией, усилили страх региональных игроков перед смещением баланса военной силы в Индо-Тихоокеанском регионе в пользу Китая.

И здесь я хочу акцентировать внимание на трех связанных с ИИ технологиях, которые в среднесрочной перспективе, до 2030 г., могут способствовать развитию свободного, открытого, устойчивого и инклюзивного характера Индо-Тихоокеанского региона. Я полагаю, что текущие технологические тенденции будут актуальны в ближайшее десятилетие, и что вызовы и возможности в регионе останутся такими же, как и сегодня. С точки зрения их стратегического применения я хочу выделить:

Технологию пространственных вычислений как средство поддержания открытости региона, учитывая его способность максимально использовать геопространственную информацию и, следовательно, ее применение ради укрепления классического военного потенциала;

Устойчивую интеллектуальную инфраструктуру как инструмент восстановления способности региона справляться с кризисами в социально-технической и физической инфраструктуре;

"Технологии контр-кибератаки", которые могут помочь региональным игрокам бороться с дезинформацией, а также с новыми формами кибератак и, следовательно, обеспечивать свободу в регионе, сопротивляясь такому давлению.

Однако все эти три технологии также широко применяются в коммерческих целях и на благо общества, что и подводит меня к инклюзивной части повестки дня: идея сделать выбор их в пользу также касается и поощрения сотрудничать в сфере развития ИИ для тех государств, которые по каким-либо причинам не желают включиться в гонку США и Китая, но вместо этого предпочли бы более конструктивную повестку технологического сотрудничества и с учетом конкретных обстоятельств.

Если обобщить пространственные вычисления — это набор вычислительных технологий, которые позволяют людям улучшить свое взаимодействие с их географической средой. Как писал в книге 2019 г., соавтором которой является, ученый Шаши Шекхар: "пространственные вычисления — это набор идей и технологий, которые меняют нашу жизнь, помогая лучше понять физический мир, зная и уведомляя о наших связях с различными локациями в этом мире, и посещая их". Мы все знаем, что такое приложения пространственных вычислений: начиная от системы глобального позиционирования и заканчивая системами дистанционного зондирования. Но это только начало. Сторонники пространственных вычислений могут заглянуть в ближайшее будущее и видят потенциал для пространственной прогнозной аналитики (методов обнаружения полезных закономерностей в географических и пространственных данных), "Всеобъемлющего интернета вещей (IoT)" (который объединяет мобильные устройства и компьютерные системы), а также бесшовной интеграции данных из открытых, закрытых, подводных и подземных географических локаций.

Однако одной из самых удивительных возможностей пространственных вычислений являются системы дополненной реальности. Как выразились трое экспертов по этому вопросу: "Дополненная реальность обогащает наше восприятие реального мира, накладывая пространственно стабилизированные медиафайлы в реальном времени". Существуют и военные приложения дополненной реальности, и коммерческие возможности. Что доказали создатели мобильной игры Pokémon Go 2016 г., в которой использовалась данная технология.

Гуру технологий Кевин Келли видит в дополненной реальности удивительную возможность для создания "зеркального мира". В своем известном эссе для Wired, опубликованном в феврале прошлого года, он писал: "Когда-нибудь, уже совсем скоро, каждое место и вещь в реальном мире — каждая улица, фонарный столб, здание и комната — будут иметь своего полноразмерного цифрового двойника в зеркальном мире". Если это станет возможным, в Индо-Тихоокеанском регионе появятся новые вызовы для сферы безопасности, учитывая энтузиазм и оппортунизм хакеров, действующих при поддержке государств. Келли также писал: "Все, что подключено к интернету, будет подключено к зеркальному миру". И, если нынешние прогнозы развития IoT, как и пророчество Келли, окажутся верными (согласно одному из прогнозов, к 2030 г. к огромнейшей сети могут быть подключены уже 50 млрд гаджетов), то дополненная реальность сможет предоставить как новые возможности, так и угрозы.

ИИ и пространственные вычисления связаны неразрывно. По мере увеличения количества сенсоров в определенном регионе собранные ими данные будут использоваться для создания более продвинутых моделей машинного обучения, которые после интеграции в гаджеты IoT сформируют эффективный цикл внедрения ИИ.

Многие в Индо-Тихоокеанском регионе еще до пандемии задумывались об устойчивости, т.е. способности искусственных социально-технических и физических систем справляться с неожиданными катастрофами природного или искусственного происхождения. Директор Института 3A и старшая научная сотрудница Intel Женевьева Белл, отвечая в кулуарах "Давоса" на просьбу MIT Technology Review дать прогноз на 2030 г., отметила, что в будущем мы признаем безрезультативность инфраструктуры XX века.

Как она выразилась, "нам придется смириться с тем фактом, что вся инфраструктура XX века — электричество, вода, связь, само гражданское общество — они хрупкие, и из-за этой хрупкости будет сложнее в XXI веке". Пандемия в свою очередь стала подтверждением ее точки зрения, поскольку то, как система здравоохранения в Штатах борется с новым коронавирусом, является лишь одним из маркеров, вызывающих беспокойство. Рассмотрим другой пример: Юго-Восточная Азия регулярно страдает от циклонов, но местные правительства по—прежнему реагируют неадекватно.

Когда дело доходит до физической инфраструктуры, эксперты обычно говорят об "умных городах" (например, у АСЕАН есть План действий по созданию сетей "умных городов") как о панацеи от всех проблем, с которыми можно столкнуться в городе. Если забыть о том, что, когда речь идет о городах, общепринятого определения того, что же можно назвать "умным", нет, и то, что само понятие является спорным, то "умный город" как минимум" является частью сети, с данными и коммуникациями, которые помогают решать проблемы урбанизации — от контроля над дорожным движением до вывоза мусора.

На концепции умных городов куда логичнее сосредоточиться, если рассматривать прогнозы по развитию региона: в 2018 г. Организация Объединенных Наций прогнозировала, что к 2050 г. в половине всех азиатских стран в городах будут проживать более 74% населения. Кроме того, ожидается резкий скачок количества IoT-устройств, а также развитие инструментов, формирующихся благодаря пространственным вычислениям, и новое понятие гибкой инфраструктуры для Индо-Тихоокеанского региона, где ИИ и другие автоматизированные системы обеспечивают устойчивость путем использования бесшовной интеграции геопространственных данных из гаджетов вроде мобильных телефонов, имеющих доступ к интернету, с системами наблюдения раннего предупреждения. Если для вас это звучит абстрактно, просто подумайте о перспективе, когда власти смогут очень точно определять людей и социальные группы, уязвимые перед грядущей катастрофой (например, перед эпидемией инфекционного заболевания или непогодой), и сразу же направлять их к местам, где они могут получить помощь (например, в больницы и убежища).

Ключевой же вопрос, который снова и снова поднимается в стратегической повестке дня Индо-Тихоокеанского региона, — это необходимость борьбы с дезинформацией. Благодаря масштабному использованию соцсетей для вмешательства в президентские выборы в США 2016 г. структурами, аффилированными с российской разведкой, такая проблема стала известна очень на многих уровнях. Гиганты из числа соцмедиа, вроде Facebook, также стали объектом пристального внимания, поскольку их сайтами и приложениями с ловкостью использовались некоторыми сторонами для распространения дезинформации с целью достижения определенных политических целей.

Однако инструментарий машинного обучения — это один из методов, с помощью которого технологии могут помочь в борьбе с дезинформацией и высказываниями, направленными на разжигание насилия. Facebook и Google уже разработали инструменты на основе ИИ — Deeptext и Perspective соответственно, которые борются с онлайн-троллингом и языком вражды. Хотя эти инструменты, чтобы быть по-настоящему эффективным, по-прежнему требуют значительного участия модераторов-людей, они развиваются. Согласно исследованию RAND Europe, проведенному в июне 2020 г. по заказу Лаборатории оборонной науки и технологий Великобритании, алгоритмы машинного обучения способны обнаруживать злоумышленников, в том числе российских троллей, в социальных сетях. Facebook также применил ИИ для обнаружения дезинформации, связанной с Covid-19, на своей платформе и использовал решение, созданное на основе машинного обучения, для блокировки рекламы масок, наборов для тестирования и других предметов, связанных с пандемией. Агентство передовых исследовательских проектов Министерства обороны США также активно инвестирует в исследования по выявлению "дипфейков" — созданных искусственным интеллектом видео и изображений, которые практически неотличимы от реальных.

Но дезинформация, осуществляемая в том числе и посредством дипфейков, — это лишь полбеды, когда речь идет о злоумышленниках, стремящихся наводнить фейками и использовать глобальное информационное пространство. Ученые все чаще выступают с предостережениями относительно "конфронтационного машинного обучения" — набора инструментов, посредством которых хакеры и другие злоумышленники могут использовать уязвимости во время формирования и задействования модели машинного обучения. Как отмечается в гайде на эту тему, подготовленном в рамках одного совместного исследовательского проекта, который проводили ведущие институты и специалисты в этой сфере: "Методы, лежащие в основе производственных систем машинного обучения, систематически уязвимы для нового класса уязвимостей в цепочке создания машинного обучения", за которыми будут охотиться соперничающие стороны.

Это и непосредственно интерес к системам обучения или выводов, или к обеим. Один из примеров конфронтационной атаки на систему машинного обучения — это "заражение модели", когда злоумышленник как бы "портит данные, необходимые для обучения системы машинного обучения, чтобы получить желаемый результат, когда она делает вывод". В одном профильном докладе говорится, что 30% всех кибератак в 2022 г. будут затрагивать "конфронтационное машинное обучение". По мере того, как интернет вещей способствует все более активному распространению систем на базе искусственного интеллекта, исследования в сфере конфронтационного машинного обучения будут нуждаться во все более тесном международном сотрудничестве.

Раньше уже говорилось: по середине между технооптимизмом и технопессимизмом находится технореализм. В этом материале я стремился быть как проспективным, так и прескриптивным. Эта статья проспективна, поскольку имеющие данные основаны на экстраполяции текущих тенденций как в отношении Индо-Тихоокеанского региона с точки зрения его потребностей, так и в отношении существующих технологий; все описанное выше — это оценка объектов и идей, которые появятся независимо от того, нормативной составляющей. Однако эта статья также является упражнением в прескрипции: сфер, где государства могут с выгодой, пусть даже неформально, сотрудничать, опираясь на то, что они по—прежнему желают видеть свободный, открытый, инклюзивный и устойчивый Индо-Тихоокеанский регион.

Впрочем, мощный институциональный эффект будет также иметь участие как государственных, так и негосударственных организаций, например, коммерческих, поскольку связанные с развитием технологий нормы могут быть с легкостью социализированы. Здесь, в свою очередь, формируется геополитическая функция. Если точнее: вспомните об упомянутом выше интеллектуальном мониторинге и гибкой инфраструктуре. До боли очевидно, что стремление Китая использовать ИИ для слежки не только отразилось на этнических меньшинствах, но также "социализировало" применение таких технологий и в других государствах, в частности в авторитарных. Однако создание технокоалиции Индо-Тихоокеанского региона, которая вместо призывов отказаться от использования смарт-наблюдения займется формированием правил его разработки и внедрения без нарушения этических норм, то это автоматически станет мощным противовесом Китаю.

И в завершение: никакие технологии, даже искусственный интеллект, не являются серебряной пулей, когда речь заходит о сохранении относительного преимущества в сравнении с геополитическими соперниками; международная политика слишком сложная вещь. Но что-то столь же занятное, как ИИ, может объединять государства, когда они сталкиваются с рядом проблем, учитывая, что многие из них могут быть — прямо или косвенно — решены с его помощью.