Эра видеофейков. Теперь каждый может сделать себе порноролик со звездой
Мы почти привыкли к мысли о том, что словам верить нельзя. Собственно, об этом мы знаем столько, сколько сапиенсы вообще владеют даром слова: неоднозначность слов и возможность выдумки, наверное, и сделали нашу коммуникацию и сам наш разум настолько продуктивными. Теперь же на повестке дня – манипуляция зрительными образами. Что по-своему интереснее: поговорка о том, что "лучше один раз увидеть, чем сто раз услышать", больше не имеет смысла. То, что вы что-то видите, совсем не означает, что этому можно верить.
В интернете появились первые образчики довольно правдоподобных фейковых видео, на которых героям сюжетов "приделаны" лица знаменитостей – актеров, актрис, политиков.
Разумеется, вначале было порно. Собственно, продавцы идеи сами подтолкнули нас к этой мысли, выпустив в свет в качестве промороликов именно порнопродукцию. Как бы в насмешку над распоясавшимися феминистками первой фейк-порнозвездой стала Чудо-женщина. В ответ на анонс авторов, объявивших, что снимают продолжение картины "по новым правилам против домогательств", неблагодарная часть аудитории приделала лицо Галь Гадот порноактрисам и сделала Чудо-женщину объектом влажных фантазий. Автором стал реддит-юзер с ником DeepFakes (отсылка к Deep Face от Facebook). Прелесть его разработки в открытом коде – как говорится на знаменитом плакате, "каждый может..." Кроме Галь Гадот материалом для мастера стали также Скарлетт Йоханссон и Тейлор Свифт.
На следующем этапе разработки юзеры получили возможность создать порнофейк с кем угодно, не обладая особыми специальными знаниями. Для этого появились общедоступные – и не слишком сложные в использовании – инструменты. В комьюнити порнофейкеров на "Реддите" вы найдете довольно широкий ассортимент кино- и поп-звезд, ставших героями "взрослых" роликов, в которых они на самом деле никогда не снимались.
"Основной инстинкт" не в первый раз становится двигателем прогресса в области IT. Вспомните популярность формата видеокассет, например. А еще лучше Lenna – первое изображение, на котором была протестирована технология цифрового сжатия. В 1973 г. группа исследователей из Университета Южной Калифорнии выбрала для опытного образца "девушку ноября" журнала Playboy за 1972 г. Выбор можно объяснить тем, что у этого журнала была очень хорошая печать и цветопередача, что было важным условием для опыта. Но это, согласитесь, только половина объяснения. Теперь Lenna - промышленный стандарт, на котором проверяют и отрабатывают алгоритмы обработки изображений. А фотомодель Лена Седерберг стала не только лицом и легендой IT, но и "первой леди интернета" - поскольку ее изображение было впервые передано по сети ARPANET, прототипу интернета.
С тех пор много воды утекло, а электронов – еще больше. Цифровое фото стало, с одной стороны, огромным шагом вперед и для индустрии, и для пользователей – оказалось, что для того чтобы делать хорошие снимки, вовсе необязательно быть профессионалом. Принесло оно, впрочем, и массу проблем, связанных с фейками, – сколько фотокорреспондентов, СМИ и политиков были вовлечены в скандал из-за того, что фото оказались смонтированными с помощью алгоритмов, отработанных на фото Лены. Хоть историю с исчезающим патриаршим "Брегетом" вспомните. Я уж не говорю о том, сколько жизней было испорчено (и даже оборвано) из-за обиженных молодых людей и девушек, компрометировавших своих "бывших" голыми фотками в соцсетях.
Нынешний виток технологий обработки видеоизображений грозит нам и новым витком скандалов. Начиная с мелкой мести покинутых любовников, которые смогут портить жизнь своим бывшим на новом уровне. Заканчивая политикой. Можно предположить, что сейчас количество порнофейков в тематических группах множится под влиянием момента – хочется поиграть с новой игрушкой. Да и использование знаменитостей делает эти игры неприятными, конечно, для знаменитостей, но относительно безопасными для всех остальных. Но когда лица Тейлор Свифт и Эммы Уотсон будут заменены лицами Сары Смит и Маши Ивановой – вот тогда начнутся настоящие проблемы.
Но порно – это так, отработка технологии. Которая на этом, конечно, не остановится. Очередь за общественными деятелями и СМИ. Учитывая уровень правдоподобия, которого позволяет достичь новая технология, кто теперь сможет верить в то, что имярек действительно говорил и делал то, что он говорит и делает на экране?
Собственно, Сара и Маша пока могут спасть спокойно, сделать их действительно узнаваемыми нынешние программы пока не могут, потому что для этого нужно "скормить" им слишком много разноплановых изображений – сотни снимков. Найти в интернете сотни снимков разнообразных звезд – экрана, музыки, спорта, политики – совсем нетрудно. Это, кстати, соображение, которое могло бы заставить Сару и Машу не слишком увлекаться, засыпая аккаунты на ФБ и в "Инстаграме" своими фото. Даже обычными, вполне целомудренными. Но те люди, которые постоянно под светом софитов, ничего не могут с этим поделать – работа у них такая. И они окажутся (уже оказались) главными героями фейковых видео.
Какими могут быть последствия новой возможности? Начнем – как водится – с порно. Мы выходим на новый уровень разговора об эксплуатации тела. Создание порнороликов с приделанными лицами – харассмент, прикрытый трепом о том, что все, мол, понимают, что это понарошку. И если Сара и Маша сами не посмеются вместе со всеми, значит, у них с чувством юмора плохо.
Это проявление насилия может привести к противодействию со стороны закона – откровенные любительские видео могут попасть под запрет. Мера, как мы знаем, неэффективная, но что еще может сделать правительство? Да и сам дух неопуританства носится в воздухе, как было отмечено в знаменитом письме Катрин Денев. Запреты, в свою очередь, стимулируют новые свершения в области обхода и обмана. В общем, гонка вооружений на поле высоких технологий и общественной морали получит новый импульс.
Самые серьезные опасения вызывает использование этой технологии в новостях. Тут она может произвести очередную революцию, сравнимую разве что с появлением соцсетей, сделавших фейк эффективной информационной технологией. То, что видеоизображению верить нельзя, конечно, не новость – были видеофейки и раньше. Но раньше к созданию фейка следовало приложить массу усилий, средств и рабочих рук. Теперь вы сможете сделать фейк сами, используя только свой компьютер. Раньше подобное изображение нужно было протолкнуть на телеканал. на котором могли усомниться или потребовать слишком большую плату за ложь. Теперь вы можете разместить фейк на своем аккаунте или в группе в соцсетях – все прочее сеть сделает сама.
Мы входим в эпоху, в которой верить нельзя ничему. Буквально. Ни словам, которые, скажем прямо, всегда были не слишком надежными, а в последнее время так и вовсе ничего не стоят. Ни даже собственным глазам – потому что глаза преимущественно смотрят в экран и именно из него черпают "правду жизни".
Это может оказаться интересно: попытки получить и донести правду, пробиться с нею через пелену недоверия и толстый-толстый слой полуправды и откровенной лжи могут развернуть нас на сто восемьдесят - к старым добрым методам личного присутствия, ответственности за информацию, доверия реципиента, за которое он готов платить и которое можно потерять одним неловким движением.
Рано или поздно появятся доступные для потребителя алгоритмы определения фейка. Вопрос в том, станем ли мы его использовать и в каких случаях. С появлением возможности быстро и дешево лепить видеофейки мы вплотную подходим к тому моменту, когда для создания виртуальной реальности и жизни в ней не нужны ни шлемы, ни костюмы, ни очки – и без них можно жить именно в том мире, в каком тебе удобно. Мы не просто переходим в мир, где верить ничему нельзя. На самом деле все хуже - теперь можно ничему не верить.
В связи с этим могут сформироваться (и уже формируются) новые социальные отношения в информационном пространстве. Отношения, при которых "правящим классом" станут не только (и не столько) люди, владеющие технологиями (в том числе технологиями создания и распространения информации), но небольшая группа людей, которые знают, "как было на самом деле". Это сакральное знание будет давать людям почти неограниченную власть над теми, кто прячется в зонах информационного комфорта, отговариваясь от реальности магическим "ничему нельзя верить".
Интересно и то, что технология видеофейка вышла на массовый рынок очень вовремя – вместе с выходом в активную жизнь поколения "милениалов". Того самого, у которого визуальное восприятие не просто доминирует, но вытесняет вербальное на поля сознания. Для такого потребителя возможность манипулировать видео – это возможность манипулировать сознанием. Куда более простая и доступная, чем в случае с "поколением текста", - сделать словесный фейк, который смог бы убедить искушенного читателя/слушателя сложнее, чем видеофейк. В отношении визуальных образов мы значительно менее критичны, чем в отношении заведомо обманчивых слов.
