Цифровий фашизм. До чого призведе розпізнавання емоцій
У комп'ютерів "очі" всюди
"ДС" вже писала про те, як швидко наш світ охоплюють системи тотального відеоспостереження, пов'язані з комп'ютерними системами розпізнавання осіб І лише в деяких містах люди починають відстоювати право на особисте життя без всюдисущого комп'ютерного спостереження.
Сучасні системи комп'ютерного зору, взаємодіючи з нейронними мережами, вже вміють розпізнавати не тільки особи, але й людські емоції, ступінь втоми, агресивні наміри, і навіть прогнозувати вчинки людини у найближчі хвилини.
Примітно, що подібні системи першими почали впроваджувати навіть не спецслужби, а комерційні компанії. Наприклад, авіакомпанія S7 планує використовувати технологію Face ID для розпізнавання облич пасажирів на гейтах при посадці - замість використовуваних нині посадкових талонів. При цьому система також буде оцінювати психологічний стан людини, щоб стюардеси змогли подбати про пасажирів, які бояться польоту.
Одна з великих і відомих українських компаній за допомогою камер вже стежить за емоційним станом своїх співробітників. Гендиректор компанії на форумі "Диригенти змін" розповів, що, згідно з дослідженнями, щасливі люди працюють набагато краще нещасних: "Всі співробітники працюють під камерами, ми калібруючи їх емоції по 70 пунктів і спостерігаємо за щасливими і нещасними".
Працівників, які не демонструють належного рівня щастя, відправляють до психологів і фахівців з HR-відділу. Якщо ситуація не змінюється, нещасливих співробітників просто звільняють.
Гендиректор у своєму виступі навів кілька прикладів того, як працює такий підхід на практиці. Наприклад, співробітник, якого підвищили, набрав зайву вагу протягом півроку. На думку керівника - з-за ліні. Пізніше в компанії, відповідаючи на посипалися запитання журналістів, заявили, що не збираються стежити за співробітниками. Мовляв, цей інноваційний проект - всього лише комп'ютерне моделювання ситуації. А 70 співробітників, за якими велося спостереження, - добровольці, що погодилися допомогти в реалізації ініціативи начальства. Щоправда, критики помітили, що кожен рік 20% співробітників цієї компанії звільняється. Навряд чи можна говорити про щастя при такій текучці.
Діти під наглядом ІІ
У російській Пермі запустили систему розпізнавання емоцій школярів, яка оцінює міміку учнів, розрізняючи страх, агресію, радість. Поведінка учнів контролюють за допомогою камер для ЄДІ (єдиний державний іспит, аналог українського ЗНО), встановлених в кожному класі. Око камери постійно дивиться на учнів; програмне забезпечення ідентифікує, де знаходиться який дитина, та з періодичністю три рази в секунду виробляє скринінг постійно мінливих емоцій школярів. В кінці дня дані аналізуються, після чого визначаються домінуючі емоції: нейтральний стан, радість, здивування, страх, відраза, агресія і печаль.
Проект вже запущений в чотирьох школах міста. Систему розробила місцева IT-компанія New Vizion. За словами її гендиректора Ольги Зарічній, офіційно проект називається "Гібридна нейро-експертна система експрес-діагностики характеру та емоційного стану людини в відеопотоці". Це відео-аналітика, що спеціалізується на розпізнаванні психоемоційного стану людини. Справа в тому, що міміка і микромимика особи відображає процеси, які сама людина дуже рідко контролює.
В основі технології (запозиченою у китайської Huawei) - ансамбль нейронних мереж, які моделюють мислення психолога в ході діагностики емоційного стану. Спочатку була задумка зробити таку нейромережа для конкретних завдань в бізнесі - поки технологію відпрацьовують в школах.
Пілотний проект проводять за згодою місцевої влади, які кажуть, що зацікавлені у виявленні підлітків, що представляють потенційну небезпеку. Ще одне благопристойну виправдання системи тотального контролю за емоціями дітей - запобігання самогубств. Мовляв, якщо комп'ютер стабільно бачить у підлітка печаль, то його відправлять до шкільного психолога, тим самим запобігши спробу суїциду.
Щось подібне реалізовано і в сусідній Білорусі. Наприкінці минулого року у школах двох невеликих містечок - Барань і Болбасово - школярам роздали планшети з попередньо встановленим додатком під назвою Nicola. Його завдання - автоматично збирати дані дітей та їх сімей (робити відеозаписи, запису з екрана тощо), після чого висилати все це на сервер. При цьому через камеру планшета відстежується напрям погляду дитини, аналізують його реакцію, емоції, стан, рухи тіла, відстань між екраном і особою. Програма здатна розуміти, коли дитині нудно, які предмети йому більше подобається і інше. Про все це вона автоматично повідомляє вчителям і керівництву школи. До речі, щоб запустити якусь гру, школяр повинен спочатку зробити домашнє завдання, або прочитати певний текст.
Всього білоруські школярі отримали 600 таких планшетів, в цілому на проект було витрачено близько $250 тис. І це були не державні гроші - проект фінансував одіозний білоруський IT-бізнесмен Віктор Прокопеня.
Додаток Nicola розроблено однієї з компаній Прокопени - Facemetrics. Інші компанії Прокопени і російського олігарха Михайла Гуцерієва - VP Capital і Larnabel Ventures - інвестували в новий проект на основі штучного інтелекту $14 млн. Створені Facemetrics технології відстеження емоцій користувача і було вирішено "обкатати" на білоруських школярів.
Цікаво, що проект мало не зірвався з-за боязні батьків школярів. Спочатку багато хто просто відмовилися брати планшети - люди не вірили, що таку техніку дають безкоштовно. "Я не буду брати, бо ви потім скажете, що ми вкрали його і напишете заяву в міліцію. Адже річ дорога - це безкоштовно?", - говорили вони.
При цьому мало хто обурився самою ідеєю відпрацьовувати подібні технології на школярах. У тій же Пермі від участі в експерименті відмовилися батьки лише чотирьох школярів. Але вікно Овертон зі скрипом зрушила, так що через кілька років камери стеження "за емоціями" можуть з'явитися вже в квартирах дорослих громадян. І хто знає, коли "громадян з відхиленою поведінкою" почнуть тягати по поліцейським "психологів". Технологизм як вища форма фашизму.
