Barbie-мания и тайна нейросети. Почему не стоит превращать себя в куклу
Barbie-мания проявляется не только в засилье розовой одежды у подростков, идущих смотреть фильм о любимой кукле. Соцсети оккупировали фотографии, стилизованные под Барби и Кена
В два клика: как Барби может стать каждый
Последние несколько дней соцсети наводнили фотографии пользователей, стилизованные под Барби или Кена. Эти снимки буквально воплощает в жизнь идею о том, что Барби может стать каждый или каждая. Снимки, по большому счету, малореалистичны, но они довольно хороши и похожи на людей, решивших превратиться в известных персонажей.
Для превращения себя в Барби (или Кена) пользователи используют BaiRBIE.me. Это относительно новый онлайн-сервис (дата регистрации его доменного имени – 17 июля, что видно по данным Whois). На сайте сказано, что он принадлежит Rvnway, американской брендинговой компании.
Чтобы воспользоваться BaiRBIE.me, нужно на сайт закачать фотографию, причем не любой снимок, а достаточно четкий, высокого качества, где человек прямо смотрит в камеру. Затем в настройках сервиса можно выбрать цвет волос, расу, пол (определив, кого вы генерируете – Барби или Кена) и оставить свою электронную почту. В результате бесплатно можно будет получить четыре фотографии Барби или Кена со своим лицом (или лицом другого человека, фото которого использовали для генерации картинок). В последние несколько дней в Кена и Барби превратили многих известных украинцев – Владимира Зеленского, Сергея Притулу, Валерия Залужного.
Эта Барби-мания вызвала интерес пользователей соцсетей, заботящихся о приватности и защите данных. Они тщательно проверили профили сотрудников Rvnway и нашли там дизайнера-россиянку, сдалав вывод, что сам проект является хотя бы частично российским.
Так считать, по крайней мере на сегодняшний день, оснований нет. BaiRBIE.me – это ресурс американской Rvnway, решившей воспользоваться Барби-хайпом и усовершенствовать свои цифровые инструменты, в этом случае – сервиса генерации изображений. Кроме того, компания-владелец BaiRBIE.me таким способом могла решить прорекламировать свой сервис по генерации изображений.
Соглашение BaiRBIE.me с пользователем не содержит особо скандальных пунктов, более того, в нем сказано, что сгенерированные изображения можно использовать в коммерческих целях, а авторские права на созданный контент принадлежат пользователям, которые генерировали картинки с помощью BaiRBIE.me. В соглашении сказано, что сервис будет использовать изображения для совершенствования собственного продукта. То есть, данные пользователей, в этом случае – фотографии – станут некой "пищей", "топливом" для нейросети. BaiRBIE.me и помогут ей становиться лучше. Это вдобавок к электронному адресу, который необходим для того, чтобы пользователи могли в принципе играть с BaiRBIE.me.
Единственным проблемным пунктом соглашения является то, что "BaiRBIE может изменить или заменить любые Условия предоставления услуг или изменить, приостановить или прекратить предоставление сервиса" и "Продолжение использования вами Сервиса после публикации любых изменений в Условия предоставления услуг означает согласие с этими изменениями", хотя и он, по большому счету, стандартен. Очень редко онлайн-сервисы сообщают об изменении Условий предоставления услуг и просят явное согласие на принятие этих изменений. Видимо, такой случай касался только сервиса WhatsApp в 2021 году, что вызвало возмущение пользователей и отток аудитории.
Это было уже. Но серьезнее
Глядя на BaiRBIE.me, невольно впоминается похожая история с мобильным приложением – популярным в 2019 году FaceApp , вокруг которого было гораздо больше обсуждений.
Это приложение состаривало лицо на фотографиях, которые ему так же передавали добровольно пользователи. Однако "зрада" относительно FaceApp прошла очень быстро – оказалось, что это приложение было разработано в Санкт-Петербурге компанией, основанной бывшим сотрудником "Яндекса".
Другое опасное приложение российского происхождения, которое стало популярным в начале войны — NewProfilePic, принцип работы которого похож на BaiRBIE.me. Это приложение собирало гораздо больше данных пользователя и спрашивало доступы к данным его гаджета, а его офис находился в Москве неподалеку от Минобороны России.
Данные как угроза
Главная опасность любых легитимных, на первый взгляд, цифровых инструментов заключается в их доступе к данным пользователей и в том, какие данные используются – к примеру, куда они передаются и с какой целью. Иногда для получения таких данных создаются привлекательные цифровые инструменты и предлагаются нужной аудитории. Еще прошлым летом ГУР предупреждал о создании мобильных приложений, маскировавшихся под игры. В этих играх геймерам нужно было передавать фотографии или геолокации определенных мест, хотя на самом деле эти фото нужны были оккупантам для уточнения мест, но находятся военные объекты и объекты критической инфраструктуры.
Проблемы бесконтрольной передачи данных для украинцев особенно актуальны и сейчас. К примеру, недавно пассажиры одного из автобусных перевозчиков обнаружили, что данные об их перемещении передаются российской аффилированной компании.
Трудности с обращением данных актуальны не только в Украине. Современные цифровые инструменты часто содержат встроенные способы передачи данных о пользователях. К примеру, для того чтобы лучше понимать свою аудиторию, сайты часто используют Facebook Pixel – аналитический инструмент, который обменивается данными с продуктами компании Meta (Facebook, Instagram) и помогает использовать эти данные об аудитории, к примеру, для демонстрации рекламы. Именно этот инструмент (и несколько аналогичных) отвечает за знакомую всем ситуацию – достаточно лишь один раз дать поисковый запрос, например, "купить диван", что эти диваны потом преследовали вас по всем сайтам и соцсетям.
Одно дело, когда такие аналитические пиксели передают данные о диванах или теннисных ракетках, и совсем другое дело – когда так "гуляют" данные о медицинских диагнозах или финансовых проблемах. К примеру, онлайн-платформа психологической помощи BetterHelp передавала данные о пользователях третьим сторонам, в том числе соцсетям для рекламного таргетинга.
Подобные вещи делали американские аптеки, присылавшие конфиденциальную информацию о здоровье и предпочтениях покупателей в Facebook или других платформах. Этой информацией могла быть история покупок пользователя. Сами же пользователи не подозревали, что кому-то, кроме собственно аптеки, известно, что они покупали антидепрессанты, тесты на беременность или экспресс-системы для анализа на ВИЧ.
Топливо для сервисов
Данные, передаваемые BaiRBIE.me, компания планирует использовать для обучения и совершенствования своей нейросети, которая собственно и генерирует изображение. Нейросеть – это специальная программа (онлайн-сервис), умеющая выполнять различные задачи. Для обучения нейросети требуются большие объемы данных. Она их анализирует, учится, пытается увидеть определенные закономерности и совершенствует свои умения. Общие принципы обучения нейросети во многом повторяют работу человеческого мозга, который тоже может учиться на собственном опыте и опыте других людей.
Для обучения нейросетей или более сложных речевых моделей (чатов) требуются данные. Многие используют данные, доступные онлайн, однако некоторые соцсети и фотохостинги запрещают использовать данные своих пользователей для других сервисов, в том числе для обучения нейросетям. Поэтому в BaiRBIE.me пошли другим способом – предложили пользователям актуальный инструмент в обмен на их данные.
Проблемы круговорота данных в интернете
Самая большая проблема относительно BaiRBIE.me и других сервисов, о которых мы рассказали выше, заключается даже не в том, какие данные они собирают – собственно, с этим у BaiRBIE.me особых сложностей пока нет. А в том, куда эти данные затем передаются и как их будет использовать условная третья сторона, которая в какой-то момент станет партнером BaiRBIE.me и будет получать, к примеру, электронные адреса и фотографии пользователей BaiRBIE.me.
В соглашении говорится, что компания может изменить его в любой момент и требует, чтобы пользователи время от времени его перечитывали. Такое требование – это лицемерие, зашитое в юридические формулировки. Ведь понятно, что 99,9% пользователей никогда не читают сделок, а даже прочитав один раз, не перечитывают их. Более того, нельзя гарантировать, что в обновленной версии сервиса не будут содержаться запросы на доступ к более чувствительным пользовательским данным, к примеру, к геолокации или IP-адресу. А это уже в сочетании с электронным адресом поможет деанонимизировать пользователя.
Серьезность проблемы с бесконтрольным оборотом и доступом к данным в последний год можно понять, если следить за тем, как в США пытаются заблокировать TikTok именно из-за проблем с контролем доступа к данным американцев.
Здоровая паранойя
Инструменты по типу BaiRBIE.me не являются критически необходимыми. Разработчики приложения хайпуют на Barbie-истерии и таким образом решают свои собственные задачи – формируют данные электронных адресов, собирают базу фотографий для обучения нейросети и оценивают спрос пользователей на их сервисы.
В бесплатном интернете товаром мы и наши данные – это известное утверждение идеально подходит тому, что делает BaiRBIE.me. Только если мы бесплатно пользуемся поисковой системой или браузером, отдавая наши данные, мы получим реальную пользу от этих инструментов.
Что касается BaiRBIE.me, то эта однодневная игрушка уже через несколько дней перестанет быть интересной. Поэтому вряд ли следует отдавать ей свои данные и кормить ее нейросеть своими фотографиями. Особенно сегодня, во время войны, лучше включить здоровую паранойю и не стать жертвой онлайновой Barbie-истерии.