Благо чи зло. Як пандемія допомогла посилити ШІ-стеження

Журналістка Politico Europe Мелісса Хейккіля в своєму матеріалі звертає нашу увагу на питання застосування спірної технології ШІ для спостереження і стеження за людьми, що стало ще більш поширеною практикою завдяки Covid-19.

Ласкаво просимо в темний світ штучного інтелекту.

ШІ як технологія підноситься як срібна куля від більшості хвороб суспільства. Він може допомогти лікарям виявляти рак, допомагає в розробці нових вакцин, пророкує погоду, надає футбольним командам інформацію про їх стратегії і автоматизує нудні завдання на зразок водіння або адміністративної роботи.

І, звичайно ж, його можна використовувати для стеження.

Треба сказати, що спостереження без штучного інтелекту просто не проводиться. Програми ШІ використовують гори даних для поліпшення алгоритмів розпізнавання закономірностей і прийняття рішень. Велика їх частина надходить від споживачів, які навіть про це не підозрюють. Інтернет-компанії відстежують наші кліки, щоб визначити наші переваги щодо продуктів, новин або реклами. Компанія Clearview AI, що спеціалізується на розпізнаванні осіб, збирає зображення з таких ресурсів, як Facebook і YouTube, для навчання своєї моделі ШІ. І Facebook нещодавно оголосив про те, що займеться навчанням свого ШІ за допомогою загальнодоступних відео, які користувачі завантажили на платформу.

Однак все частіше алгоритми не тільки "підживлюються" стеженням, а й задіяні для роботи на нього.

Пандемія коронавіруса, а також необхідність отримувати оперативні дані про стан здоров'я, відкрили двері збору і відстеженню даних в масштабах, які були майже немислимі трохи більше року тому.

Уряди використовували дані з мобільного телефону для відстеження пересування на території Європейського Союзу. Компанії встановили камери з ШІ, щоб перевіряти, чи дотримуються працівники та клієнти правил соціального дистанціювання. Франція запровадила технологію розпізнавання осіб в громадському транспорті, щоб бачити, чи мають люди маски.

"Очевидно, що через Covid-19 біометричне спостереження стало нормою", — зазначив Фабіо Кьюзі, менеджер проєкту в AlgorithmWatch, правозахисній групі, що займається моніторингом автоматизованого процесу прийняття рішень.

Звичайно, ШІ для спостереження використовувався ще до коронавіруса. Практично в кожній європейській країні використовується та чи інша технологія розпізнавання осіб. Голландська поліція використовує її для зіставлення фотографій підозрюваних з кримінальною базою даних. Лондонська столична поліція використовує розпізнавання осіб в реальному часі для зіставлення зображень осіб зі злочинцями з її бази даних. Французький уряд є прихильником використання ШІ для відстеження "підозрілої поведінки".

Настільки швидке впровадження технологій спостереження змусило задатися питанням, наскільки вони відповідають цінностям суспільства. Розпізнавання осіб, зокрема, — це компроміс між конфіденційністю і законними потребами влади у відстеженні і спостереженні. Прихильники технології говорять, що це потужний інструмент, який може допомогти співробітникам імміграційної служби перевіряти людей на кордоні або допомогти поліції піймати злочинців.

Подібні алгоритми також розробляються для так званого біометричного розпізнавання, за допомогою якого людей ідентифікують за їх зовнішнім виглядом, голосом або ходьбою. "У сфері біометрії спостерігається більш активне визначення емоцій людей і інших станів, виходячи з того, як вони виглядають", — пояснила представниця групи боротьби за права людини European Digital Rights (EDRi) Елла Якубовська, яка свого часу провела кампанію за заборону даної технології. Таке використання технології "насправді не базується на будь-якій достовірній науці", додала вона.

У Сполучених Штатах, наприклад, побоювання з приводу технології спонукали деякі штати і міста зайняти більш жорстку позицію. Місто Портленд (штат Орегон) ввело заборону на використання технології розпізнавання осіб в департаментах, а також в магазинах, ресторанах і готелях. Нью-Йорк заборонив розпізнавання осіб в школах, а активісти закликають поширити цю заборону і на вулиці міста.

Активісти також б'ють на сполох через збитки, які такі системи можуть заподіяти маргіналізованим групам. "По моделям, які ми спостерігаємо по всій Європі, досить чітко видно, що використання цих систем зміцнює стереотипи і дискримінаційні уявлення про те, хто з більшою ймовірністю опиниться злочинцем, кому не можна довіряти, і це, дійсно, дуже небезпечно", — вважає сказала Якубовська.

Системи біометричного розпізнавання, як відомо, не можуть точно розпізнати особи не білих жінок і чоловіків. Невірні оцінки стали причиною для тюремних термінів невинних людей.

Однак досі дані системи здебільшого ніким не регулювалися. Сьогодні ж в Європі вже обговорюють правила для систем з розпізнавання осіб в реальному часі, що дозволить владі використовувати цю технологію для зіставлення осіб з базами даних онлайн. Критики, в тому числі європейський регулятор із захисту даних, вважають, що це в підсумку допоможе вести масове стеження.

У квітні Європейська комісія представила свою пропозицію щодо регулювання використання штучного інтелекту. Вона пропонує заборонити розпізнавання осіб в громадських місцях для правоохоронних органів "в принципі", але залишає правоохоронним органам деякий простір для маневру.

Один з найвідоміших міфів про штучний інтелект — це те, що це об'єктивний або нейтральний інструмент. Ні. ШІ формують забобони, пріоритети і рішення його творців і людей, які його використовують.

Для урядів, які чинять опір використанню спірної технології, питання полягає в тому, коли її використовують на благо суспільства, а коли — проти соціальних цінностей.