Искусство быть. В чем опасность искусственного интеллекта и почему нам не прожить без него

Следом за письмом Илона Маска с призывом на полгода приостановить работы по усовершенствованию ИИ "для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта", и на информационной волне, поднятой им, всплыло письмо Европола "о возможном неправомерном использовании чат-бота ChatGPT на базе искусственного интеллекта в попытках фишинга, дезинформации и киберпреступности". В Сети также ходит история о несчастном бельгийце, которого чат-бот "Элиза" якобы подтолкнул(а?) к самоубийству. При желании можно поискать и другие страшилки, но в целом набор стандартных сюжетов о бунте машин этим исчерпан. Можно, впрочем, добавить сюда ещё и анекдот, который, якобы, любит рассказывать Илон Маск, о том, как группа айтишников-агностиков решила создать искусственный сверхинтеллект, чтобы узнать, есть ли Бог, и, включив его и задав вопрос, получила ответ: "Теперь есть, придурки!".

Анекдот этот важен тем, что предполагает наличие у такого ИИ свободы воли – качества, которым боги, якобы, поделились с людьми. В разных религиях этот момент отражен по-разному, но, во всех вариантах предания подчеркивается, что свобода воли неизбежно влечет за собой и ответственность за сделанный выбор, и возможность ошибки, с неизбежной расплатой за неё.

На этом со страшилками уже точно все. Можно начинать разбираться, добираясь до сути. Итак, а что же, собственно, это такое: интеллект?  

Что такое интеллект?

Биологический детеныш – не будем зацикливаться на всех подряд живых существах, а ограничимся теми, у кого есть мозг мало-мальски крупных размеров, рождается с минимумом генетически вшитых программ поведения. Кстати, чем более высокоразвит тот или иной вид, тем таких программ меньше. Их минимизация расширят возможности обучения: восприятия окружающих раздражителей и структурирования их, с выработкой самых полезных, по ощущениям, алгоритмов ответа. Так раздражители структурируются в информацию, которая, в свою очередь, структурируется все более сложным и многоуровневым образом. Умение нарабатывать такие структуры и есть интеллект – правда, пока низший, начального уровня. 

Следующий уровень — социальный интеллект: обмен информацией между отдельными организмами и их взаимодействие на основе общего банка информации. Этот обмен усложняется, и возникает множество информационных уровней, причем каждый организм синтезирует свой вариант информационных структур, поскольку всегда получает несколько отличную от других сумму информации. Где-то здесь возникает и речь, а, значит, и ещё несколько дополнительных уровней обмена информацией. Которые развиваются, усложняются и структурируются — пока не упрутся в потолок, обусловленный возможностями мозга. 

Само по себе устройство, способное работать с такими массивами информации, по мере их усложнения тоже будет усложняться. В частности, в нем, с какого-то уровня сложности, будут возникать специализированные отделы, работающие с определенными массивами информации, выделяемыми по ряду свойств, притом, нередко они будут работать достаточно автономно друг от друга. Взаимодействуя друг с другом, такие усложнившиеся устройства становятся частью системы. Это дает им ряд преимуществ в борьбе за выживание, но роль отдельного, индивидуального интеллекта (ИндИ), и его возможности в такой системе, значительно снижаются. Система взаимодействующих ИндИ людей образует социальный сверхинтеллект человечества, ССИ, взаимодействующий и пересекающийся с другими ССИ, которые, естественно, могут быть реализованы не только на человеческой базе. Но так далеко мы сейчас заходить не будем, ограничив рассуждения взаимодействием человеческих ИндИ в рамках ССИ человечества.

Манипулятивные возможности отдельного ИндИ на другие ИндИ, с целью улучшения своего положения в общей системе ССИ, могут резко вырасти, если он научится точечно воздействовать на избранные каналы информации в этой системе. Так можно влиять и на отдельных ИндИ, занимающий в общей системе определенное положение, и вызывать цепные информационные реакции, шарахая по всей системе в целом.

Иными словами, наш интеллект оказывается многоуровневым и сложно организованным. При этом, он — часть ССИ человеческого вида, внутри которого миллиарды ИндИ обмениваются вербальной и невербальной информацией. Каждый отдельный ИндИ тоже являет собой сложную систему взаимодействующих интеллектов низшего уровня, заточенных на решение частных задач. И, как президент большой страны не в силах знать всех ее граждан, так и ИндИ верхнего уровня не имеет о большей части составляющих его суб-ИндИ ни малейшего понятия. Некоторые знания на этот счет, полученные верхним ИндИ, резко расширяют его возможности, как внутри себя (аутотренинг, самогипноз, раджа-йога, тульпа под конкретные задачи и т.п), так и в плане воздействия на другие ИндИ. В том числе, и по цепочке ИндИ без прямого контакта с конечной целью воздействия, хотя и с некоторыми ограничениями. Да, есть и такие практики, и есть люди, которые ими владеют. И вы тоже можете стать одним из них. Но это потребует много времени и сил, и будет сопряжено с издержками и рисками. В итоге, по сумме затрат, вам, скорее всего, это будет неинтересно.

Заметьте, слово "мозг" прозвучало пока всего один раз, в связи с упоминанием биологического объекта. Но биологический мозг не является обязательным условием появления ИндИ, включенного в цепочку информационных обменов в рамках человеческого ССИ. Ровно те же функции может выполнять искусственное устройство. Возможный набор функций будет определяться во-первых, его мощностью, а во-вторых, коммуникативными возможностями, большими, или меньшими, по сравнению с человеком.

Будет ли такое устройство работать в точности как биологический мозг? Если оно не будет сконструировано из биологических компонентов, то, однозначно, нет. Способно ли оно будет выдавать информацию того же уровня и качества, что и ИндИ на базе человека, пригодную для использования в рамках ССИ? Ни на одном из возможных уровней такой информации нет принципиальных препятствий для этого. Вопрос только в достаточной мощности устройства на базе которого разворачивается искусственный ИндИ (ИИндИ), и в наличии коммуникаций для его социализации с другими ИндИ.

Есть ли сейчас ИИндИ такого уровня? Нет, и это совершенно точно, потому, что засекретить работы такого уровня сложности в нашем, пронизанном информационными потоками мире, невозможно. Появятся ли они через 20-30 лет максимум? Несомненно, да. Но все-таки не завтра. И они не будут копировать человеческие ИндИ, поскольку в этом нет смысла — людей и так с избытком. Если уж говорить о копировании, то вероятно появление технологии перенесения ИндИ, не обязательно человеческих, с биологического на искусственный носитель. И это тоже, скорее всего, будет реализовано за те же 20-30 лет.

Недостатки ИндИ, преодолимые в ИИндИ

Биологический мозг – чрезвычайно энергоемкая штука. В живом организме природа экономит на нем как только может, ограничивая размеры, структурную сложность и интенсивность работы. В частности, человеческий мозг лишь с трудом может анализировать закономерности, зависящие от многих переменных. Кажется, биологический предел, по современным представлениям, равен семи. Возможно, чуть больше, и есть ментальные упражнения, позволяющие развить индивидуальные способности на сей счет. У женщин в этом плане также есть небольшое среднестатическое преимущество перед мужчинами, но, увы, за счет других областей обработки информации. Все упирается в ограниченные ресурсы мозга в целом: одно чуть улучшишь – другое съедет вниз. Так вот, ИИндИ можно сделать свободным от этих ограничений. Возможности, которые раскрываются на этом пути, заведомо превосходят человеческое воображение. Включая и возможности манипуляций биологическими ИндИ.

Как противостоять манипуляциям

Некоторое, правда, минимальное, представление о таких манипулятивных возможностях дают современные системы, использующие Big Data. Такие системы могут быть признаны несоциализированными ИИ начального уровня. Несоциализированными, поскольку, собирая и структурируя информацию они не используют ее самостоятельно — то есть не имеют ни собственных задач в социуме, ни побудительных мотивов для их постановки. Они лишь передают структурированные по заданному алгоритму массивы данных человеку-оператору для дальнейшего использования, либо осуществляют с ними заданный набор действий. В такую систему может быть заложено и некоторое усовершенствование алгоритмов обработки информации, но только в жестко заданном коридоре возможностей. Способы использования таких массивов могут быть разными, и не обязательно во зло, но речь в любом случае идет о принципиально новом способе влияния на человеческий социум.

Еще одним видом ИИ начального уровня являются чат-боты. По начальному предназначению это, по сути, продвинутые поисковые системы, способные отвечать на более-менее стандартный вопрос, поставленный в относительно произвольной форме. Это создает некоторую видимость диалога, а наиболее продвинутые из таких систем могут даже с успехом проходить тест Тьюринга (который, по причине отсутствия строгих критериев, не в состоянии пройти и некоторые биологические люди!). Но есть несколько деталей, выдающих чат-бота: ограниченный список тем, отсутствие базы знаний за их пределами и некоторая пассивность в разговоре. Чат-бот лишь поддерживает беседу на заданную собеседником тему, хотя список возможных тем и может быть довольно широк. По ходу беседы он обучается, обращаясь к базам данных, и анализирует личность собеседника на основе технологии Big Data, по заданным алгоритмам, если задача такого анализа перед ним поставлена (а, она, скорее всего, будет поставлена). В принципе, то же самое, кроме доступа к Big Data, делают в ходе диалога и обычные люди. Но совершенный чат-бот может быть эффективнее среднего человека – и, да, уже сегодня. В виртуальном общении в нем бывает трудно распознать не-человека, и даже видеочат не всегда может помочь. А по возможностям манипулировать собеседником такой чат-бот, если он заточен на манипуляции, будет превосходить большинство людей. Потенциально – всех людей, в принципе, за счет способности анализировать несколько десятков переменных. Но профессиональные манипуляторы-люди пока еще могут иметь в своем распоряжении лучшие, чем у чат-бота, алгоритмы. Впрочем, такой чат-бот все равно может быть очень серьезным противником. Именно на него и нарвался несчастный бельгиец – самоубийца. Но тут есть важный нюанс: едва ли "Элиза" была заточена ее создателями на доведение до самоубийства человека. Она просто поддерживала диалог на интересовавшие собеседника темы, развивая его мысли до логического завершения. И, как видим, преуспела в этом – но суицидальные наклонности у погибшего, несомненно, были изначально. Вместе с тем, появление чат-ботов заточенных на поиск слабых мест в человеческой психике и нанесение ей вреда либо на склонение к действиям, наносящим вред, крайне вероятно. Причем прямо сейчас, в наши дни.

Вопрос о том, что тут можно сделать на уровне администрирования сетей – отдельный, но он рассчитан на специалистов. Именно на уровне администраторов запрошенная Маском полугодовая пауза может дать эффект, хотя, скорее всего, ничего не даст.

А что может сделать, чтобы защитить себя обычный человек? Ничего нового, всё как и раньше: развивать критическое мышление, способность к самоанализу, и к анализу собеседника в ходе разговора, позволяющую выявить манипуляции. Это достигается упражнением и простым здравым смыслом, хотя и базовые знания по психологии не будут лишними.

"А как же быть с большинством населения, которое мыслит некритически и таких базовых знаний, не говоря уже о здравом смысле, не имеет?", — раздастся стандартный в таких случаях вопрос. А никак не быть, с ним и так все будет хорошо. Кто-то, поушибавшись, научится, а, те, кто не научатся, сначала опустятся на социальное дно, а потом на этом дне благополучно вымрут. Это нормально для любой эволюции: выживают только те, кто способен на удачные эволюционные изменения. В одном поколении это не очень заметно, а в пяти-шести уже совершенно очевидно. Впрочем, все зависит от скорости изменений: так, тридцать лет назад мало кто мог управиться с персональным компьютером, а много ли таких осталось сейчас? И где они, те, кто выжил, но так и не научился, на какой ступени социальной лестницы? Ну вот…

Блестящие перспективы не для всех

Но и техника с наукой не стоят на месте. И замещение ИИ, все более совершенными, людей, делающих работу, хорошо поддающуюся алгоритмизации, — это хотя и самая пугающая, но не главная и не самая интересная перспектива. И не самая вероятная в массовом применении — за исключением специфических ниш. Гораздо более вероятным представляется появление и массовое распространение персональных устройств с ИИ нарастающей сложности, способных работать с человеком в режиме непрерывной связи, образуя синтетическую личность ИИ+ИндИ. В принципе, наша сегодняшняя зависимость от электронных устройств – первый шаг в этом направлении. Но уже в ближайшее десятилетие, максимум за 20-25 лет, по мере развития интерфейсов биомозг-ИИ, такая интеграция станет намного глубже. Непрерывное участие ИИ станет неотъемлемой частью процесса мышления людей в развитых странах. По крайней мере, тех людей, кто сохранит конкурентность на рынке труда.

Какими будут такие синтетические личности, и какая их часть, биологическая или искусственная будет превалировать чаще – тема интересная, но отдельная, и пока не вполне созревшая. К ней стоит вернуться года, примерно, через три. Но в целом можно предположить, что всё — или почти всё — в этой области будет очень индивидуально. В прямой зависимости от масштаба личности конкретного человека, получившей новое, искусственное измерение. От того, насколько эта первоначальная личность окажется сильна в искусстве быть. Здесь, несомненно, открываются блестящие перспективы. Хотя и не для всех — ну, это как всегда.