Цифровой фашизм. К чему приведет распознавание эмоций

У компьютеров "глаза" повсюду

"ДС" уже писала  о том, как быстро наш мир охватывают системы тотального видеонаблюдения, сопряженные с компьютерными системами распознавания лиц. И только в некоторых городах люди начинают отстаивать право на личную жизнь без вездесущего компьютерного наблюдения.

Современные системы компьютерного зрения, взаимодействуя с нейронными сетями, уже умеют распознавать не только лица, но и человеческие эмоции, степень усталости, агрессивные намерения, и даже прогнозировать поступки человека в ближайшие минуты.

Примечательно, что подобные системы первыми стали внедрять даже не спецслужбы, а коммерческие компании. Например, авиакомпания S7 планирует использовать технологию Face ID для распознавания лиц пассажиров на гейтах при посадке - вместо используемых ныне посадочных талонов. При этом система также будет оценивать психологическое состояние человека, чтобы стюардессы смогли позаботиться о пассажирах, которые боятся полета.

Одна из крупных и известных украинских компаний при помощи камер уже следит за эмоциональным состоянием своих сотрудников. Гендиректор компании на форуме "Дирижеры изменений" рассказал, что, согласно исследованиям, счастливые люди работают намного лучше несчастных: "Все сотрудники работают под камерами, мы калибруем их эмоции по 70 пунктам и наблюдаем за счастливыми и несчастными".

Работников, которые не демонстрируют должного уровня счастья, отправляют к психологам и специалистам из HR-отдела. Если ситуация не изменяется, несчастливых сотрудников просто увольняют.

Гендиректор в своем выступлении привел несколько примеров того, как работает подобный подход на практике. К примеру, сотрудник, которого повысили, набрал лишний вес в течение полугода. По мнению руководителя - из-за лени. Позднее в компании, отвечая на посыпавшиеся вопросы журналистов, заявили, что не собираются следить за сотрудниками. Мол, этот инновационный проект - всего лишь компьютерное моделирование ситуации. А 70 сотрудников, за которыми велось наблюдение, -  добровольцы, согласившиеся помочь в реализации инициативы начальства. Правда, критики заметили, что каждый год 20% сотрудников этой компании увольняется. Вряд ли можно говорить о счастье при такой текучке.

Дети под присмотром ИИ

В российской Перми запустили систему распознавания эмоций школьников, которая оценивает мимику учеников, различая страх, агрессию, радость. Поведение учеников контролируют с помощью камер для ЕГЭ (единственный государственный экзамен, аналог украинского ВНО), установленных в каждом классе. Глаз камеры постоянно смотрит на учеников; программное обеспечение идентифицирует, где находится какой ребенок, и с периодичностью три раза в секунду производит скрининг постоянно меняющихся эмоций школьников. В конце дня данные анализируются, после чего определяются доминирующие эмоции: нейтральное состояние, радость, удивление, страх, отвращение, агрессия и печаль.

Проект уже запущен в четырех школах города. Систему разработала местная IT-компания New Vizion. По словам ее гендиректора Ольги Заречной, официально проект называется "Гибридная нейро-экспертная система экспресс-диагностики характера и эмоционального состояния человека в видеопотоке". Это видео-аналитика, специализирующаяся на распознавании психоэмоционального состояния человека. Дело в том, что мимика и микромимика лица отражает процессы, которые сам человек очень редко контролирует.

В основе технологии (позаимствованной у китайской Huawei) - ансамбль нейронных сетей, которые моделируют мышление психолога в ходе диагностики эмоционального состояния. Изначально была задумка сделать такую нейросеть для конкретных задач в бизнесе - пока технологию отрабатывают в школах.

Пилотный проект проводят с согласия местных властей, которые говорят, что заинтересованы в выявлении подростков, представляющих потенциальную опасность. Еще одно благопристойное оправдание системы тотального контроля за эмоциями детей - предотвращение самоубийств. Дескать, если компьютер стабильно видит у подростка печаль, то его отправят к школьному психологу, тем самым предотвратив попытку суицида.

Нечто подобное реализовано и в соседней Беларуси. В конце минувшего года в школах двух небольших городков - Барань и Болбасово - школьникам раздали планшеты с предустановленным приложением под названием Nicola. Его задача - автоматически собирать данные детей и их семей (делать видеозаписи, записи с экрана и т.д.), после чего высылать все это на сервер. При этом через камеру планшета отслеживается направление взгляда ребенка, ПО анализируют его реакцию, эмоции, состояние, движения тела, расстояние между экраном и лицом. Программа способна понимать, когда ребенку скучно, какие предметы ему больше нравится и прочее. Обо всем этом она автоматически сообщает учителям и руководству школы. Кстати, чтобы запустить какую-то игру, школьник должен сначала сделать домашнее задание или прочитать определенный текст. 

Всего белорусские школьники получили 600 таких планшетов, в целом на проект было потрачено около $250 тыс. И это были не государственные деньги - проект финансировал одиозный белорусский IT-бизнесмен Виктор Прокопеня.

Приложение Nicola разработано одной из компаний Прокопени - Facemetrics. Другие компании Прокопени и российского олигарха Михаила Гуцериева - VP Capital и Larnabel Ventures - инвестировали в новый проект на основе искусственного интеллекта $14 млн. Созданные Facemetrics технологии по отслеживанию эмоций пользователя и было решено "обкатать" на белорусских школьниках.

Интересно, что проект чуть не сорвался из-за боязни родителей школьников. Поначалу многие просто отказались брать планшеты - люди не верили, что такую технику дают бесплатно. "Я не буду брать, потому что вы потом скажете, что мы украли его и напишете заявление в милицию. Ведь вещь дорогая - как это бесплатно?", - говорили они.

При этом мало кто возмутился самой идеей отрабатывать подобные технологии на школьниках. В той же Перми от участия в эксперименте отказались родители лишь четырех школьников. Но окно Овертона со скрипом сдвинулось, так что через несколько лет камеры слежения "за эмоциями" могут появиться уже в квартирах взрослых граждан. И кто знает, когда "граждан с отклоняющимся поведением" начнут таскать по полицейским "психологам". Технологизм как высшая форма фашизма.