Восстание против камер. Кто выступает против распознавания лиц
Кто бы мог подумать, что один из самых древних масонских символов - "всевидящее око" - станет еще и одним из самых актуальных символов современности? Но это произошло: сегодня наши города быстро покрываются густой сетью камер видеонаблюдения. Само по себе знание того, что за тобой в каждый момент, на улице, в кафе и в магазине могут наблюдать, конечно, радости не доставляет. Однако с этим еще можно было еще как-то мириться, пока работал "человеческий фактор", то есть когда за мониторами видеонаблюдения сидели люди. Ведь отдельный человек, даже тренированный и обученный, и не все увидит, и не все поймет.
Но последние несколько лет все быстро меняется. В дело вступили программы распознавания лиц, обученные сложными нейросетями. Конечно, они существуют уже не первое десятилетие, однако до сих пор их можно было использовать только локально. Например, чтобы в казино выявить среди играющих профессионального шулера, или чтобы ограничить допуск на секретный объект. Однако пропускная емкость сетей связи, вычислительная мощность компьютеров и "ум" алгоритмов уже достигли такого уровня, который позволяет интегрировать их с системами массового видеонаблюдения.
Причем алгоритмы сейчас не просто "узнают" конкретных людей, находящихся в кадре, но и распознают конкретную ситуацию, которую "видят" - драку, обман, взлом или любое другое правонарушение. И такое наблюдение - круглые сутки, повсеместно и в режиме реального времени. Тотальный контроль, ставший реальностью.
Конечно, технологии позволяли следить за нами и прежде - через спутники, через подключающийся к базовым станциям сотовый телефон, через банковские карты, через IP-адрес... Но это было делом долгим, дорогим и муторным - что Голливуд хорошо показал еще в 1998-м в фильме "Враг государства" с Уиллом Смитом.
Тотальное видеонаблюдение с системой распознавания лиц в реальном времени все кардинально удешевило и ускорило. По сути, когда в городе работает такая система, любой полицейский или сотрудник спецслужб (имеющий доступ) одним нажатием кнопки может выяснить, где находится интересующий его человек, ну или как минимум - где он сегодня был и чем занимался.
Вопрос теперь в том, насколько мы с этим готовы мириться.
Тоталитарное око
Технологии автоматического распознавания лиц внедряются не только в США. В Китае подобная система используется в масштабах всей страны и применяется для поиска и поимки преступников и подозреваемых, а также политических диссидентов. Одну из таких систем разработала для китайских госорганов компания Huawei: ее решение позволяет захватывать до 200 лиц в кадре, и к нему подключена база данных подозреваемых.
В Москве планируется создание одной из крупнейших в мире систем распознавания лиц, объединяющей более 200 тыс. видеокамер, рассказал мэр Москвы Сергей Собянин в ходе совещания у Владимира Путина. По словам Собянина, в ходе эксперимента при помощи видеокамер, установленных в метро и в подъездах жилых домов, были выявлены десятки преступников, которые находились в розыске.
К 2020 г. в Токио претворят в жизнь, пожалуй, крупнейшую подобную разработку: японская система будет обеспечивать надлежащий уровень безопасности Олимпийских игр. Технология запомнит в лицо от 300 до 400 тыс. человек.
Но самая близкая к Украине подобная система внедряется сейчас в Беларуси. Там 29 апреля запустили республиканскую систему мониторинга общественной безопасности. Ее начали создавать в мае 2017-го, когда Лукашенко подписал соответствующий указ. Документ предписывает, что потоки видеоинформации должны поступать в общий канал не только с "государственных" камер, но и со многих иных объектов - и сейчас к системе в приказном порядке подключают все учреждения, магазины и кафе, имеющие собственные камеры наблюдения. Причем за счет самих подключаемых - это определено постановлением Совета министров № 301.
Используемый в системе софт может обнаруживать движение человека или техники, пересечение определенных границ (т. н. geo-fence), программа в состоянии распознавать лица и номера машин, а значит, отслеживать передвижения конкретного человека. Автоматизированная система собирает данные непрерывно, их могут получить любые спецслужбы: МВД, КГБ, МЧС, Департамент финансовых расследований, Служба безопасности президента и Оперативно-аналитический центр - всю информацию без ограничения по объему и источнику получения. Другие ведомства, например таможня или пограничники, тоже могут, но при ряде условий и по согласованию.
Создание такой республиканской системы мониторинга в Беларуси инициировал министр внутренних дел Игорь Шуневич (уроженец Луганска, сделавший карьеру в белорусском КГБ). Предполагалось, что новая система видеонаблюдения обойдется в $100 млн.
Борьба за приватность
Неприятно жить, зная, что за тобой наблюдают всегда и везде. К счастью, развитая демократия позволяет управлять в том числе и чрезмерным рвением правоохранителей. Это уже произошло в США, где Сан-Франциско стал первым городом, запретившим использование технологий распознавания лиц. Постановление городского совета запрещает использовать как саму технологию, так и информацию, полученную из внешних систем, которые используют технологию. Запрет распространяется на городские учреждения и управление полиции Сан-Франциско.
Причина такого решения - беспокойство по поводу того, что применение данной технологии может нарушать неприкосновенность частной жизни и гражданских прав жителей. Прежде всего это касается афроамериканцев и представителей других этнических групп: критики системы распознавания лиц утверждают, что она недостаточно надежна при работе с расовыми меньшинствами. "Ошибки в системе могут привести к тому, что невинные темнокожие люди будут вовлечены в полицейские расследования и в результате попадут в опасные для жизни ситуации", - заявил Мэтт Кейгл, адвокат по защите гражданских свобод из филиала Американского союза защиты гражданских свобод (ACLU) в Северной Калифорнии.
Защитники системы, впрочем, доказывают, что технология распознавания лиц может сыграть важную роль в поиске пропавших без вести или жертв торговли людьми, а также в вычислении потенциальных террористов. Однако доводы правозащитников более весомы: даже если распознавание лиц было бы на 100% точным, полиция все равно может злоупотреблять этой технологией в отношении протестующих или просто неугодных.
Пресс-секретарь управления полиции Сан-Франциско заявил, что сейчас в полиции не используют технологию распознавания лиц. По его словам, в управлении ждут "решения проблемы сохранения конфиденциальности, которая возникает при использовании технологии". Однако запрет не распространяется на международный аэропорт Сан-Франциско и порт Сан-Франциско - они находятся под юрисдикцией федерального правительства. Запрет также не распространяется на практикующие видеонаблюдение частные компании.
Теперь предложения о введении подобного запрета рассматриваются в Окленде (Калифорния) и Сомервилле (Массачусетс). Резоны там те же: сторонники гражданских свобод опасаются, что правительство может злоупотреблять технологией и вести тотальную слежку за гражданами.
Сегодня системы автоматического распознавания лиц в режиме реального времени установлены в аэропортах, на больших стадионах и в полицейских участках США. Такая их распространенность уже вызвала вопросы у Конгресса США, который выразил сомнения в законности использования подобного метода. Проще говоря, Конгресс заподозрил ФБР в незаконной слежке за миллионами людей. По мнению комитета по надзору нижней палаты, федералы могли несколько лет чуть ли не ежедневно нарушать права граждан США на неприкосновенность частной жизни.
По словам членов комитета, к такому выводу они пришли, основываясь на отчете профильного отдела Счетной палаты США, в котором ФБР прямым текстом обвиняется в нарушении инструкций при использовании системы автоматического распознавания лиц.
Известно, что сегодня у ФБР есть доступ к более чем 641 млн изображений, содержащих чувствительную личную информацию, принадлежащую гражданам США. Сюда входят, в том числе, фотографии водительских прав, сканы паспортов и иных документов, удостоверяющих личность. Притом сама система распознавания имеет собственную базу данных, и при идентификации личности по изображениям она сверяется непосредственно с ней. Кроме того, что к персональным данным доступ может получить, в теории, любой сотрудник Бюро, она еще и демонстрирует низкий КПД. В число трудностей, с которыми сталкиваются алгоритмы технологии, входит проблема при сравнении фотографий темнокожих женщин и мужчин.
Как сказано в отчете Конгресса, пренебрежительное отношение Бюро к работе с личной информацией ставит под серьезную угрозу конфиденциальность персональных данных обычных людей. Точное количество потенциальных пострадавших еще предстоит уточнить. Но если эта история получит развитие - "кейс Сан-Франциско" станет лишь началом большой истории.