Покажи личко. Чому IBM відмовилася допомагати поліції влаштовувати тотальне стеження

Крішна також закликав до національного діалогу про те, чи варто взагалі використовувати такі спірні технології.

Це звернення виглядає цілком логічним на тлі протестів, які наближаються. Технологічні компанії одна за одною здійснюють своєрідні камингауты. То Твіттер відмовився від політики невтручання в контент користувачів і вводить функції верифікації повідомлень. Глава Фейсбуку, навпаки, заявив, що не стане втручатися ні в що і ніколи, переклавши всю відповідальність за поширення дезінформації на користувачів. Не відстають, як бачимо, і справжні піонери індустрії.

У своєму листі глава IBM, фактично, відмовляється від співробітництва з владою в досить чутливою на даний момент сфери суспільного життя США - технології розпізнавання осіб, яка широко застосовується поліцією. Крім того, вона легко може бути використана і напевно використовується для расового профілювання. Екстремальним прикладом якого може стати висунення підозри через расову приналежність.

Здається, для технологічних еліт прийшов момент істини: їм слід визначитися і вибрати - вони "джаст бізнес", який виконує замовлення і робить гроші, або вони беруть на себе соціальну і політичну відповідальність за той світ, який створюється їх технологіями.

Сигнали про те, що доведеться робити нелегкий вибір, стали надходити деякий час назад, коли гігантів ІТ почали стрясати внутрішні скандали і скандальчики, пов'язані з тим, що їх співробітники висловлювали незгоду з рішеннями керівництва, що йдуть на користь бізнесу і прибутку, але круто розходяться з заявленої місією компанії. Можна "робити світ кращим місцем" (місія Facebook) і в той же час наповнювати цей світ брехнею і хейтерством? Питання, яке днями поставили співробітники FB перед Марком Цукербергом. Дещо раніше керівництво Google було змушене відмовитися від великого військового контракту, тому що співробітники масово визнали, що неможливо працювати на "воєнку" і при цьому "не бути злим" (місія Google).

Провідні технологічні бізнеси захоплюються місіями, вони не просто винаходять, створюють технології, творять грандіозні проекти і заробляють на них мільярди. Вони змінюють світ. Це не місія, не девіз і не рекламний слоган - це реальність. А коли ти починаєш міняти світ - не в рекламному ролику, а насправді - питання про добро і зло, виборі та істині виникає, як чортик з коробочки. І від твоєї відповіді залежить не тільки світ - Бог з ним, з світом, йому не вперше - але від цього залежить твій бізнес, твої гроші. Люди - покупці, клієнти, замовники, користувачі, ті, хто тобі платить - розуміють або, що гірше, вірять в те, що ти змінюєш світ. І їх дуже турбує питання: ти міняєш його на краще чи навпаки? І тут вже відскакувати тому з вигуком "це тільки інструмент! не моя справа, як люди його використовують!" не випадає.

Рішення IBM про вихід з бізнесу по розробці технології розпізнавання осіб могло б здатися загадковим. Галузь на підйомі, замовник підскакує від нетерпіння, компанія - гігант, з яким у цій галузі важко конкурувати будь-якої іншої американської корпорації. Найближчий конкурент - Китай. Сильний, звичайно, конкурент, але важко собі уявити, що в США великий замовник ризикне купувати китайську систему розпізнавання. В загальному, все в шоколаді - і раптом такий несподіваний поворот.

Але навіть з контексту звернення генерального директора до Конгресу США можна дещо передбачити. Лист, у якому повідомляється про закриття напрямку, написано на підтримку реформи поліції. У коментарях для преси керівництво компанії ще раз прив'язало технологію розпізнавання осіб до цієї реформи. У компанії чудово знають, хто, де і як використовує їх розробки. І, що гірше, про те, хто і як використовує технологію розпізнавання осіб, не секрет для американських громадян. Головний державний замовник цієї технології - саме поліція. У нинішньому політичному контексті легко зрозуміти наполегливе бажання компанії позбутися від цієї порочної зв'язку.

Найлегше списати рішення керівництва IBM саме на це - на небажання асоціюватися з поліцейським свавіллям і, навпаки, показати, що "технології з народом", і компанії навіть готові відмовитися від вигідного замовлення, щоб тільки не посилювати поліцію, яка цей народ душить. Але такого роду легкий піар не підходить - ми маємо справу не тільки з технологічним гігантом, закопавшим в розробку технології колосальні ресурси, але також з дуже динамічним сегментом ринку, на якому саме цей гігант міг відхопити левову частку прибутку. Занадто висока ціна за миттєвий піар.

Що ж це тоді - політичний шантаж або спроба захистити власну репутацію? Уряд дуже потребує технології, дуже її чекає і розуміє, що тільки з цих рук він може отримати її досить швидко і з гарантією якості. В цьому випадку питання може бути врегульоване: уряд проводить реформу поліції і в числі іншого гарантує етичне використання технології. Після чого розробку можна продовжити - IBM просто робить паузу, поки питання не буде утрясен.

Але швидше за все, у IBM є всі підстави підозрювати (якщо не знають напевно), що поліція і зараз неетично використовує технології розпізнавання осіб, розроблений IBM. Масова стеження, расове профілювання, порушення прав і свобод - загалом, коли виявиться, що компанія має пряме відношення до поліцейського свавілля, може стати дуже ніяково.

Ще недавно питання про те, як саме уряд - зокрема, поліція - використовують продані їм технології, не надто цікавив технологічні компанії. Але сьогодні виявляється, що у широкої публіки на це можуть бути зовсім інші погляди. Розробника можуть якщо не прямо звинуватити в тому, як використовувалася його технологія, то, у всякому разі, він може понести серйозні репутаційні (а значить, і фінансові втрати.

Бажання дистанціюватися від скандалу ще до того, як він ударив у повну силу - розумний хід. У цій історії IBM буде виглядати як компанія, яка виступила за відповідальне використання технологій, тобто, як підкреслено у зверненні її керівництва, "у згоді з основними принципами нашої Політики довіри і прозорості". Як компанія, яка заради збереження принципів демократії, захисту прав і свобод громадян відмовилася від величезного прибутку. А зовсім не як компанія, яка дала в руки влади і поліції чудовий інструмент для тотального стеження, расової та етнічної сегрегації та інших зловживань.

По всій видимості, в повітрі дійсно запахло сіркою - раз великий бізнес погодився понести деякі збитки заради збереження репутації. Втім, збитки і так могли виникнути з цілого ряду причин.

По-перше, розробка технології розпізнавання осіб викликала в західному світі значно менше захоплення, ніж могли очікувати технарі - публіка чинить опір впровадженню цих систем, а влада на місцях, як би їм не хотілося за всіма слідкувати, змушена прогинатися під волею виборців. В результаті один за іншим найбільші міста США - потенційні клієнти — відмовляються від використання технології. Тобто блискучі перспективи на ринку виявляються в перспективі зовсім не такими блискучими. Зрештою, під тиском американців дуже дорожать своєю приватністю, відмова від використання технології розпізнавання осіб може бути прийнята на рівні федеральної влади. А відсутність великого держзамовлення перспективи добре заробити чітко бліднуть.

По-друге, сама технологія старіє на очах - пандемія коронавірусу і тут внесла свої корективи. Необхідність носити медичну маску в публічних місцях зробила систему розпізнавання осіб малопригодною. Звичайно, китайці заявляють, що вже натренировали свій ИИ так, що він розпізнає обличчя, незважаючи на маски. Але підтверджених досягнень поки що - тільки здатність технології розпізнати обличчя без маски і закликати конкретного носія цієї особи до порядку і дотримання санітарних норм.

Світ після ковиду, можливо, не стане іншим, як нам обіцяють з різних сторін, і все повернеться на круги своя. Але в тому, що якийсь час люди будуть широко користуватися засобами індивідуального захисту, можна не сумніватися. Особи будуть прикриті не тільки в окремих мусульманських жінок - вони будуть закриті масово, і це не буде ознакою асоціальності і, відповідно, приводом для підозр. Система розпізнавання осіб в ситуації, коли маса людей ходить в масках, причому багато в абсолютно однотипних, майже непридатна.

Старий воїн - мудрий воїн. IBM знаходиться на ринку обчислювальної техніки вже більше 100 років. І раз вона виходить з бізнесу, який ще вчора здавався, а багатьом і зараз здається, перспективним, у неї є на це вагомі причини. І вони навряд чи зводяться тільки до питань етики.