Покажи личико. Почему IBM отказалась помогать полиции устраивать тотальную слежку

Кришна также призвал к национальному диалогу о том, стоит ли вообще использовать такие спорные технологии.

Это обращение выглядит вполне логичным на фоне протестов и приближающихся выборов. Технологические компании одна за другой совершают своеобразные камингауты. То Твиттер отказался от политики невмешательства в контент пользователей и вводит функции верификации сообщений. То глава Фейсбука, напротив, заявил, что не станет вмешиваться ни во что и никогда, переложив всю ответственность за распространение дезинформации на пользователей. Не отстают, как видим, и настоящие пионеры индустрии.

В своем письме глава IBM, фактически, отказывается от сотрудничества с властями в весьма чувствительной на данный момент области общественной жизни США - технологии распознавания лиц, которая широко применяется полицией. Кроме того, она легко может быть использована - и наверняка используется - для расового профилирования. Экстремальным примером которого может стать выдвижение подозрения из-за расовой принадлежности.

Кажется, для технологических элит пришел момент истины: им следует определиться и выбрать - они "джаст бизнес", который выполняет заказы и делает деньги, или они берут на себя социальную и политическую ответственность за тот мир, который создается их технологиями.

Сигналы о том, что нелегкий выбор придется делать, стали поступать некоторое время назад, когда гигантов IТ начали сотрясать внутренние скандалы и скандальчики, связанные с тем, что их сотрудники выражали несогласие с решениями руководства, идущими на пользу бизнесу и прибыли, но круто расходящимися с заявленной миссией компании. Можно ли "делать мир лучшим местом" (миссия Facebook) и в то же время наполнять этот мир ложью и хейтерством? Вопрос, который на днях поставили сотрудники FB перед Марком Цукербергом. Несколько раньше руководство Google было вынуждено отказаться от крупного военного контракта, потому что сотрудники массово сочли, что невозможно работать на "военку" и при этом "не быть злым" (миссия Google).

Ведущие технологические бизнесы увлекаются миссиями, они не просто изобретают, создают технологии, творят грандиозные проекты и зарабатывают на них миллиарды. Они меняют мир. Это не миссия, не девиз и не рекламный лозунг - это реальность. А когда ты начинаешь менять мир - не в рекламном ролике, а на самом деле - вопрос о добре и зле, выборе и истине возникает, как чертик из коробочки. И от твоего ответа зависит не только мир - Бог с ним, с миром, ему не впервой - но от этого зависит твой бизнес, твои деньги. Люди - покупатели, клиенты, заказчики, пользователи, те, кто тебе платит - понимают или, что хуже, верят в то, что ты меняешь мир. И их очень тревожит вопрос: меняешь ты его к лучшему или наоборот? И тут уже отскакивать назад с возгласом "это только инструмент! не мое дело, как люди его используют!" не выпадает.

Решение IBM о выходе из бизнеса по разработке технологии распознавания лиц могло бы показаться загадочным. Отрасль на подъеме, заказчик подпрыгивает от нетерпения, компания - гигант, с которым в этой области трудно конкурировать любой другой американской корпорации. Ближайший конкурент - Китай. Сильный, конечно, конкурент, но трудно себе представить, что в США какой-либо крупный заказчик рискнет покупать китайскую систему распознавания. В общем, все в шоколаде - и вдруг такой неожиданный поворот.

Но даже из контекста обращения генерального директора к Конгрессу США можно кое-что предположить. Письмо, в котором сообщается о закрытии направления, написано в поддержку реформы полиции. В комментариях для прессы руководство компании еще раз привязало технологию распознавания лиц к этой реформе. В компании прекрасно знают, кто, где и как использует их разработки. И, что хуже, о том, кто и как использует технологию распознавания лиц, не секрет для американских граждан. Главный государственный заказчик этой технологии - именно полиция. В нынешнем политическом контексте легко понять настойчивое желание компании избавиться от этой порочащей связи.

Легче всего списать решение руководства IBM именно на это - на нежелание ассоциироваться с полицейским произволом и, напротив, показать, что "технологии с народом", и компании даже готовы отказаться от выгодного заказа, чтобы только не усиливать полицию, которая этот народ душит. Но такого рода легкий пиар не подходит случаю - мы имеем дело не только с технологическим гигантом, закопавшим в разработку технологии колоссальные ресурсы, но также с весьма динамично развивающимся сегментом рынка, на котором именно этот гигант мог отхватить львиную долю прибыли. Слишком высокая цена за сиюминутный пиар.

Что же это тогда - политический шантаж или попытка защитить собственную репутацию? Правительство очень нуждается в технологии, очень ее ждет и понимает, что только из этих рук оно может получить ее достаточно быстро и с гарантией качества. В этом случае вопрос может быть урегулирован: правительство проводит реформу полиции и в числе прочего гарантирует этичное использование технологии. После чего разработку можно продолжить - IBM просто делает паузу, пока вопрос не будет утрясен.

Но скорее всего, у IBM есть все основания подозревать (если не знают наверняка), что полиция и сейчас неэтично использует технологии распознавания лиц, разработанные IBM. Массовая слежка, расовое профилирование, нарушение прав и свобод - в общем, когда окажется, что компания имеет прямое отношение к полицейскому произволу, может стать очень неловко.

Еще недавно вопрос о том, как именно правительство - в частности, полиция - используют проданные им технологии, не слишком интересовал технологические компании. Но сегодня оказывается, что у широкой публики на это могут быть совсем другие взгляды. Разработчика могут если не прямо обвинить в том, как использовалась его технология, то, во всяком случае, он может понести серьезные репутационные (а значит, и финансовые) потери.

Желание дистанцироваться от скандала еще до того, как он грянул в полную силу - разумный ход. В этой истории IBM будет выглядеть как компания, выступившая за ответственное использование технологий, т.е, как подчеркнуто в обращении ее руководства, "в согласии с основными принципами нашей Политики доверия и прозрачности". Как компания, которая ради сохранения принципов демократии, защиты прав и свобод граждан отказалась от огромной прибыли. А вовсе не как компания, которая дала в руки власти и полиции превосходный инструмент для тотальной слежки, расовой и этнической сегрегации и прочих злоупотреблений.

По всей видимости, в воздухе действительно запахло серой - раз крупный бизнес согласился понести некоторые убытки ради сохранения репутации. Впрочем, убытки и так могли возникнуть по целому ряду причин.

Во-первых, разработка технологии распознавания лиц вызвала в западном мире значительно меньше восторга, чем могли ожидать технари - публика оказывает сопротивление внедрению этих систем, а власти на местах, как бы им не хотелось за всеми следить, вынуждены прогибаться под волей избирателей. В результате один за другим крупнейшие города США - потенциальные клиенты - отказываются от использования технологии. Т.е. блестящие перспективы на рынке оказываются в перспективе вовсе не такими блестящими. В конечном итоге, под давлением американцев, очень дорожащих своей приватностью, отказ от использования технологии распознавания лиц может быть принят на уровне федеральных властей. А в отсутствие крупного госзаказа перспективы хорошо заработать отчетливо бледнеют.

Во-вторых, сама технология устаревает на глазах - пандемия коронавируса и тут внесла свои коррективы. Необходимость носить медицинскую маску в публичных местах сделала систему распознавания лиц малоприменимой. Конечно, китайцы заявляют, что уже натренировали свой ИИ так, что он распознает лица, несмотря на маски. Но из подтвержденных достижений пока что - только способность технологии распознать лицо без маски и призвать конкретного носителя этого лица к порядку и соблюдению санитарных норм.

Мир после ковида, возможно, не станет другим, как нам обещают с разных сторон, и все вернется на круги своя. Но в том, что какое-то время люди будут широко пользоваться средствами индивидуальной защиты, можно не сомневаться. Лица будут прикрыты не только у отдельных мусульманских женщин - они будут закрыты массово, и это не будет признаком асоциальности и, соответственно, поводом для подозрений. Система распознавания лиц в ситуации, когда масса людей ходит в масках, причем многие в совершенно однотипных, почти неприменима.

Старый воин - мудрый воин. IBM находится на рынке вычислительной техники уже больше 100 лет. И раз она выходит из бизнеса, который еще вчера казался, а многим и сейчас кажется, перспективным, у нее есть на это веские причины. И они вряд ли сводятся только к вопросам этики.