Предлагать интим. Как боты разводят людей на секс и деньги
На одном из закрытых форумов для программистов на днях обсуждали двух ботов. Недавно опробованных и оказавшихся успешными.
Бот (сокращение от робот) — это программа, способная выполнять по определенному алгоритму какие-либо действия через интерфейсы, предназначенные для людей. В данном случае вести диалог с посетителями форума либо в соцсети — там, где эта программа запущена. Причем человек, участвующий в таком диалоге, уверен, что он общается с человеком. Это еще не означает, что такая программа способна мыслить, хотя о том, что такое "мыслить", тоже можно поспорить. Но оставим пока тему мышления в покое. Программа способна обратиться к пользователю-человеку и поддерживать беседу, оперируя такими репликами, которые человек-собеседник сочтет естественными. То есть эта программа способна оправдать ожидания человека-собеседника. Она социализирована и ведет диалог в рамках, принятых в данном обществе. Том обществе, для которого предназначена. Хотя и не думает при этом, поскольку думать она не способна. То есть в целом, с социальной точки зрения такая программа — по меньшей мере в диапазоне заложенных в нее тем для общения — ничем не отличается от большинства людей. Которые тоже оперируют стандартными фразами и реакциями и в принципе не способны думать, да и не хотят.
Далее, такая программа должна побудить собеседника-человека выполнить определенные действия. Выполнение человеком этих действий в результате диалога с программой и есть критерий ее успешности.
Можно, конечно, поспорить о том, пройдет ли такая программа тест Тьюринга в лабораторно-конкурсных условиях. Ответ скорее отрицательный, хотя возможны варианты... Впрочем, это неважно, если программа достигает поставленных задач. В конце концов, ее писали, чтобы работать на результат. И вот вам практические результаты, полученные на форумах, — надо сказать, они впечатляют.
Бот №1 должен был побуждать женщин делиться с мнимым собеседником интимными фотографиями. Целевая аудитория: англоязычные, белые, от 20 до 30, Восточное побережье США. Успех — в 4% случаев. Для собеседника-человека результат так себе, но для программы, выдающей себя за человека, — очень достойный. В среднем уговоры занимали 16 тыс. знаков со стороны бота, причем уже после 5 тыс. знаков становилось понятно, будет ли достигнут успех. Заведомо неуспешные диалоги обрывались — незачем тратить на них ресурсы. Программу обучили на выборке из 200 живых диалогов с реальными людьми, после чего она самообучилась еще на 2 тыс. диалогов и вышла на стабильный 4%-ный результат.
Бот №2 должен был побуждать собеседника жертвовать скромную сумму — до $5, переводя ее на счет через систему PayPal. Раскрутить на деньги, пусть и небольшие, оказалось не сложнее, чем на интимные фото, даже, пожалуй, проще. Когда подготовленный бот был запущен в Сеть, он собрал за сутки $15 тыс.
Создатели ботов заявили, что сделали их не с целью наживы, а для проверки возможностей социального хакинга, потому что, по сути, это и есть хакинг человеческого сознания, проводимый социальными методами. На форуме немедленно вспыхнула дискуссия о допустимости таких экспериментов с точки зрения этики. Но этот аспект, откровенно говоря, представляется не особо интересным. Интереснее другое.
Во-первых, речь идет о программе, которая может быть реализована на любом носителе. Как на носителе-компьютере для диалогов в Сети, так и на носителе-человеке для диалогов в реальном режиме общения. Методы гипнопрограммирования позволяют заложить в человеческое сознание весьма впечатляющую базу вопросов-ответов, которые будут выдаваться буквально на автомате, влет. Впрочем, и безо всякого гипноза эту базу можно просто выучить и довести ее использование до полного автоматизма. Просто такой подход займет немного большее время.
Иными словами, от социального хакинга нигде не скрыться. Даже если вы не посещаете форумы и соцсети, вообще не пользуетесь интернетом, не смотрите телевизор и не слушаете радио, вас неизбежно достанут рано или поздно.
Во-вторых, человеческая психика, как мы видим, — чертовски хрупкая штука. Как и человеческая личность. С личностью вообще масса вопросов. Она буквально размывается. Если вам, помимо вашей воли, внушают желание что-то сделать, то где, собственно, заканчиваетесь вы со своими собственными желаниями и где начинается сторонний манипулятор? Где проходят границы вашей личности, которые должны быть защищены? Какие формы влияния на нее следует считать нормальными, а какие неприемлемыми? Как провести границы допустимого и надо ли защищать их законодательно? Наконец, каковы методы защиты от такого взлома? Они, очевидно, есть, но не сведены в систему. Они доступны скорее интуитивно, и овладение ими выше среднего уровня возникает зачастую как побочный эффект, порождаемый относительно высоким уровнем образования, а также навыками, свойственными некоторым профессиям: умением анализировать большое число разных фактов, успешно, то есть адекватно реальности, связывая их воедино, и высоким уровнем недоверчивости. Кстати, где та грань, за которой недоверчивость можно трактовать как признак психического расстройства?
Но такие навыки есть далеко не у всех. Более того, абсолютное большинство представителей Homo Sapiens не обладает ими вовсе (иронично подвергая, таким образом, сомнению эту биологическую классификацию). Между тем ситуация такова, что разработка системы психологической самообороны и обязательное преподавание ее, начиная с начальной школы, становятся вопросом выживания отдельного человека, общества и государства. Потому что если у вас нет навыков такой самозащиты, то, потолковав с вами недолгое время, профессиональный социальный хакер может раскрутить вас на что угодно. Причем методы социального хакинга совершенствуются буквально на глазах.
Над созданием системы психологической самозащиты, доступной рядовому гражданину, самое время задуматься уже сегодня. И не просто задуматься, а приступить к ее немедленной разработке, сделав это одним из главных стратегических приоритетов. Для начала создать группу специалистов: программистов, психологов, юристов и медийщиков, чтобы оценить хотя бы масштаб задач и обозначить пути их решения. Борьба с враждебной пропагандой, о которой так модно говорить сегодня, — лишь отдельный и далеко не самый сложный случай общей проблемы. Впрочем, и тут никакого решения не видно: дальше разговоров или, в самом лучшем случае, абсолютно неэффективных запретов дело пока не идет.