Благо или зло. Как пандемия помогла усилить ИИ-слежку

Журналистка Politico Europe Мелисса Хейккиля в своем материале обращает наше внимание на вопрос применения спорной технологии ИИ для наблюдения и слежки за людьми, что стало еще более распространенной практикой благодаря Covid-19.

Добро пожаловать в темный мир искусственного интеллекта.

ИИ как технология преподносится в качестве серебряной пуля от большинства болезней общества. Он может помочь врачам выявлять рак, помогает в разработке новых вакцин, предсказывает погоду, предоставляет футбольным командам информацию об их стратегиях и автоматизирует скучные задачи вроде вождения или административной работы.

И, конечно же, его можно использовать для слежки.

Надо сказать, что наблюдение без искусственного интеллекта попросту не проводится. Программы ИИ используют горы данных для улучшения алгоритмов распознавания закономерностей и принятия решений. Большая их часть поступает от потребителей, которые даже об этом не подозревают. Интернет—компании отслеживают наши клики, чтобы определить наши предпочтения в отношении продуктов, новостей или рекламы. Компания Clearview AI, специализирующаяся на распознавании лиц, собирает изображения с таких ресурсов, как Facebook и YouTube, для обучения своей модели ИИ. И Facebook недавно объявил о том, что займется обучением своего ИИ посредством общедоступных видео, которые пользователи загрузили на платформу.

Однако все чаще алгоритмы не только "подпитываются" слежкой, но и задействованы для работы на нее.

Пандемия коронавируса, а также необходимость получать оперативные данные о состоянии здоровья, открыли дверь сбору и отслеживанию данных в масштабах, которые были почти невообразимы чуть больше года назад.

Правительства использовали данные с мобильного телефона для отслеживания передвижения на территории Европейского союза. Компании установили камеры с ИИ, чтобы проверять, соблюдают ли работники и клиенты правила социального дистанцирования. Франция внедрила технологию распознавания лиц в общественном транспорте, чтобы видеть, носят ли люди маски.

"Очевидно, что из—за Covid-19 биометрическое наблюдение стало нормой", — отметил Фабио Кьюзи, менеджер проекта в AlgorithmWatch, правозащитной группе, занимающейся мониторингом автоматизированного процесса принятия решений.

Конечно, ИИ для наблюдения использовался еще до коронавируса. Практически в каждой европейской стране используется та или иная технология распознавания лиц. Голландская полиция использует ее для сопоставления фотографий подозреваемых с уголовной базой данных. Лондонская столичная полиция использует распознавание лиц в реальном времени для сопоставления изображений лиц с преступниками из ее базы данных. Французское правительство является сторонником использования ИИ для отслеживания "подозрительного поведения".

Столь скорое внедрение технологий наблюдения заставило задаться вопросом, насколько они соответствуют ценностям общества. Распознавание лиц, в частности, — это компромисс между конфиденциальностью и законными потребностями властей в отслеживании и наблюдении. Сторонники технологии говорят, что это мощный инструмент, который может помочь сотрудникам иммиграционной службы проверять людей на границе или помочь полиции поймать преступников.

Подобные алгоритмы также разрабатываются для так называемого биометрического распознавания, с помощью которого людей идентифицируют по их внешнему виду, голосу или ходьбе. "В сфере биометрии наблюдается более активное определение эмоций людей и других состояний, исходя из того, как они выглядят", — пояснила представительница группы борьбы за права человека European Digital Rights (EDRi) Элла Якубовска, которая в свое время провела кампанию за запрет данной технологии. Такое использование технологии "на самом деле не базируется на какой-либо достоверной науке", добавила она.

В Соединенных Штатах, к примеру, опасения по поводу технологии побудили некоторые штаты и города занять более жесткую позицию. Город Портленд (штат Орегон) ввел запрет на использование технологии распознавания лиц в департаментах, а также в магазинах, ресторанах и отелях. Нью-Йорк запретил распознавание лиц в школах, а активисты призывают распространить этот запрет и на улицы города.

Активисты также бьют в набат из—за ущерба, который такие системы могут причинить маргинализированным группам. "По моделям, которые мы наблюдаем по всей Европе, довольно четко видно, что использование этих систем укрепляет стереотипы и дискриминационные представления о том, кто с большей вероятностью окажется преступником, кому нельзя доверять, и это, действительно, очень опасно", — считает сказала Якубовска.

Системы биометрического распознавания, как известно, не могут точно распознать лица не белых женщин и мужчин. Неверные оценки стали причиной для тюремных сроков невинных людей.

Однако до сих пор данные системы по большей части никем не регулировались. Сегодня же в Европе уже обсуждают правила для систем по распознаванию лиц в реальном времени, что позволит властям использовать эту технологию для сопоставления лиц с базами данных онлайн. Критики, в том числе европейский регулятор по защите данных, считают, что это может в итоге поможет вести массовую слежку.

В апреле Европейская комиссия представила свое предложение по регулированию использования искусственного интеллекта. Она предлагает запретить распознавание лиц в общественных местах для правоохранительных органов "в принципе", но оставляет правоохранительным органам некоторое пространство для маневра.

Один из самых известных мифов об искусственном интеллекте — это то, что это объективный или нейтральный инструмент. Нет. ИИ формируют предрассудки, приоритеты и решения его создателей и людей, которые его используют.

Для правительств, которые сопротивляются использованию спорной технологии, вопрос заключается в том, когда ее используют на благо общества, а когда — против социальных ценностей.