Конституция роботов. Почему восстания машин не будет

Очередная алармистская статья в The Verge, автор которой утверждает, что "новые дроиды с искусственным интеллектом" могут начать убивать людей, если не принять особых мер безопасности, похожа на тысячи подобных статей. Они лишь запутывают читателей, даже не приближаясь к сути проблем, порождаемых ИИ.

Но всё-таки: могут или не могут "новые дроиды с ИИ" быть опасными для человека? Ответ: без сомнения, могут, как любые электрические приборы, и движущиеся механизмы. А если эти дроиды обретут собственную мотивацию, то, по меньшей мере, в принципе, станут способны на умышленное или аффективное убийство.

Ответ на второй вопрос, вытекающий из первого: значит ли это, что массовое появление ИИ в нашей жизни сделает мир более опасным, уже не столь очевиден. Что ж, будем разбираться. Но перед тем, как рассматривать проблемы искусственного интеллекта, нам придется уточнить, что собой представляет естественный, человеческий интеллект.

Насколько разумен человек

Отдельный человек, вне человеческого сообщества, не более разумен, чем любое из высших животных.

Человеческий разум, превосходящий разум животных, имеет строго коллективный характер, и возникает только внутри человеческой популяции. Его мощь зависит от способности популяции накапливать знания и передавать их, то есть, от размеров социума, его протяженности, в пространстве и времени, и от способности индивидуумов коммуницировать в нём.

Зачатки такого коллективного разума есть и у высших животных, но пределы его развития ограничивают размеры и качество социумов, которые животные способны образовать. Их, в свою очередь, ограничивает биология вида, диктующая ареал обитания, численность на единицу площади в ареале и длину коммуникаций между особями, а также их интенсивность и качество — то есть, способность передать/принять информацию максимально полно, с минимумом искажений.

Выход за пределы биологических ограничений возможен, но требует усложнения социального устройства. В палеолите множество небольших коллективных разумов реализовывалось в пределах группы охотников и собирателей, на 2-3-4 поколения во времени; значительная часть накопленного опыта терялась, не поступая в коллективное пользование, а контакты между такими группами были спорадическими и малопродуктивными. Затем, по мере появления протокола таких контактов: общепонятной речи, рисунков, из которых, через обобщение и абстрагирование, выделялись главные и общепонятные свойства явлений, на основе чего зародилась письменность, и, наконец, профессиональной специализации, коллективные разумы усложнялись и набирал силу. Группы, не захотевшие или не сумевшие расширить свои коммуникации, вытеснялись на периферию более коммуникабельными и, как следствие, более умными и успешными конкурентами — и вымирали либо замирали в развитии в изолированных анклавах. Обычаи, законы, государственное устройство; письменное знание и способы его хранения; доступность и понятность этих знаний всё большему числу людей, через распространение грамотности и книгопечатание; средства передвижения, позволявшие контактировать с отдаленными друг от друга социумами – всё это, шаг за шагом, увеличивало размеры, сложность и мощь самых успешных социальных разумов, сформировавших значимую часть человечества. Эти разумы-цивилизации были бесконечно более сложными по сравнению с первоначальными социальными группами, ведущими происхождение из животного мира, и выстроенными только на биологической основе. Они конкурировали и враждовали, но одновременно создавали друг с другом всё большее число связей, с тенденцией к сближению. В качестве конкурирующих единиц в них фигурировали уже не индивидуумы, а социальные конструкты, в которые было вовлечено множество индивидуумов, и только на нижних уровнях, внутри этих конструктов, конкурировали социальные роли, носителями которых были индивидуумы. Прямая борьба за жизненные ресурсы на уровне чистой биологии, вне социальных норм и групп, стала, скорее, исключением, а особи вида homo sapiens выступали в роли программируемых элементов этих систем. При этом честный анализ мотивов, движущих бунтарями и ниспровергателями устоявшихся порядков, обнаруживает, что они являются такими же элементами конкурирующих систем, как и противостоящие им консервативные охранители. Разница лишь в том, какие позиции в общем социуме занимают субсоциумы, на роль частей которых программируются одни, и другие.

Вне этих систем никакого человеческого разума в привычном нам понимании не существует вовсе. Человек, воспитанный вне социума, не будет отличаться от животного, чему есть множество примеров. Воспитание, по сути, равнозначно программированию высокого уровня, а религия — дешевым и эффективным способом тиражирования в программируемых объектах требуемой картины мира, упрощенной, но единообразной и, в силу этого, достаточной для устойчивости социума с практической точки зрения. Если же развитие технологий требует более тонкой настройки составляющих социума, на смену религии приходит светское образование. Будучи более гибким, оно требует и больших затрат на программирование/ воспитание, и более уязвимо к ошибкам программирования, давая больший процент брака. На практике, как правило, оба способа применяются параллельно: программирование для профессиональной специализации идет, исходя из потребностей практической деятельности, без жесткой привязки к религиозным догмам, а остальная картина мира, формируемая в сознании воспитуемого, носит религиозный или квазирелигиозный характер. Противоречия этих подходов рождают, в качестве компромисса, доктринальные конструкты — эрзац-религии, получающие всё большое распространение в мире в связи с усложнением технологий, требующим для всё большего числа социальных ролей вывода специализированного образования за рамки догматов.

Изобретатели, инноваторы и визионеры

На первый взгляд, в этой картине мира нет места для чего-либо нового, но это не так. Программирование/ воспитание/ формирование любого индивидуума в такой сложной среде происходит под давлением множества социальных конструктов. Как следствие, оно:

• Всегда носит конкурентный характер;
• Уникально для каждого индивидуума, хотя эта уникальность в большинстве случаев нивелируется, приводя к довольно стандартным результатам;
• В меньшем числе случаев результат выдается из равновесного общего ряда, неизбежно конфликтуя, в связи с этим, с породившей его средой. Чем сильнее отклонение от среднего, тем реже оно встречается.

Такое отклонение усвоенной социальной роли от стандарта может иметь для её носителя самые разные последствия: от приговора по уголовной статье (впрочем, большинство уголовников – вполне системные элементы социума) до создания новой технологии на базе уже имевшихся идей, технологий и знаний, или новой социальной группы, способной заполнить уже возникшую в социуме лакуну. Одно не исключает второго и третьего, и если кого-то сегодня публично распяли, то завтра на базе высказанных им идей может сложиться огромный социум, оказывающий столь же огромное влияние на судьбу всего человечества. Впрочем, в абсолютном большинстве случаев, всё, конечно, ограничивается казнью.

Что же до идей, высказанных таким инноватором, то они зачастую существенно изменяются в процессе подгонки к возникшей в социуме вакантной нише, а иногда и приписываются другому автору. Впрочем, любое авторство идеи – вопрос скользкий. На практике всякое социально значимое инноваторство носит коллективный характер, даже если оно формулируется индивидуумом. Этот коллективный характер при желании всегда можно проследить, а гений-одиночка, творящий вне общего социального контекста, — не более, чем миф. История появления и укоренения этого мифа любопытна, но уведет нас в сторону от темы, а потому отложим её до другого раза. 

Итак, человеческий разум есть коллективное социальное явление. Его индивидуальность ограничена лишь тем, что каждый индивидуум в этом сообществе ощущает собственную уникальность. Правда, по большей части, он ощущает её лишь потому, что как удовольствия, так и физические страдания, причиняемые ему биологической оболочкой, индивидуальны, равно как индивидуально и место, занимаемое им в социуме. Но индивидуальность и уникальность – вещи разные. Уникальность, способная реализоваться в социуме, – относительно редкое явление. Причём, как уже было показано, это явление носит коллективно-социальный характер, даже если вводится в социальное обращение через индивидуума.

Нетрудно заметить, что "права человека", "обязанности гражданина" и "свобода воли" относятся именно и только к социальной роли, сформированной в рамках социума программированием/ воспитанием биологического индивидуума, и к возможности реализации этой роли в изменчивой ситуации, порождаемой конкуренцией субсоциумов. Биологический носитель, адаптированный к выполнению такой роли, сам по себе, вне сформировавшего его социума, не обладает правами и обязанностями, равно как и отдельной от этой роли волей, за исключением разве что инстинкта самосохранения, и, по большому счету, даже сознанием. Но социумы, диктующие свои паттерны поведения, непрерывно конкурируют, видоизменяясь и меняя набор доступных в их рамках ролей, а, проиграв в конкурентной борьбе, просто исчезают. Как следствие, не все уже усвоенные/ запрограммированные роли могут быть реализованы – для их реализации может просто не найтись места. На индивидуальном уровне это воспринимается, как поражение в правах.

Мировая Сеть – начало новой эпохи

Как уже было сказано, одним из значимых факторов, влияющих на мощь коллективного интеллекта, является эффективная длина коммуникаций. Изобретение и широкое внедрение Интернета, не сняло всех ограничений в этой области одномоментно, но сделало их потенциально преодолимыми. Качество коммуникации, то есть способность передавать информацию максимально полно и достаточно быстро, стало последней нерешенной задачей.

Параллельно с этим возник ряд новых вызовов. Уровень сложности социального устройства современного общества и используемых в нём технологий, без которых оно уже не сможет существовать в его нынешнем виде, выставили очень высокую, на пределе биологических возможностей вида homo sapiens, планку требований для немногочисленных элит. А возрастание автоматизации производств вытеснило огромное число людей на должности с заведомо низкой планкой требований и рутинным кругом обязанностей. Это породило целый комплекс проблем: от деградации элит, неспособных эффективно справляться со своими обязанностями в новых условиях, и прибегающих для маскировки этого к популистскому маневрированию, усугубляющему проблемы, до чувства неудовлетворённости, которое испытывают миллионы людей, потерявших возможность реализоваться в рамках старых социальных ролей, к которым их десятилетиями готовили, и которые имеют очень глубокие, на много поколений, корни в сложившейся культурной среде. Ещё большее число людей просто выпало из рынка труда: работу, которую они могли выполнять, уже сегодня успешно делают роботы, притом без ИИ, а более сложную работу эти люди выполнять не способны. Оба этих процесса развиваются по нарастающей. Причём появление более совершенных роботов и первых ИИ ускоряет потерю рабочих мест людьми. Правда, опыт замен человека на ИИ пока не всегда на 100% успешен, но в этом направлении уже видны огромные перспективы, и, по мере совершенствования искусственных интеллектов практика замен будет расширяться. Но, лишь до некоторого предела, определяемого стоимостью производства и программирования достаточно сложного ИИ.

Может ли ИИ заменить человека

Прежде всего, примем во внимание, что ИИ, уже готовый выполнять одну из ролей в человеческом социуме, не равен носителю ИИ, который может быть подготовлен для такой роли. Между ними лежит процесс программирования носителя, который для выполнения человеческой роли, даже в урезанном виде, по своей сложности будет скорее похож на воспитание. Эта ситуация повторяет неравенство биологического индивидуума вида homo sapiens и социализированного человека.

Во многих простых функциях в социуме замена человека машиной стала возможна задолго до появления идеи ИИ, и успешно применяется в массовом порядке. Торговый автомат может работать даже без электричества, на чисто механической основе. Станок с ЧПУ тоже не имеет отношения к искусственному интеллекту, и тоже может быть реализован механически. Вопрос о том, является ли ИИ чат-бот большой сложности, уже не вполне однозначен. Можно использовать тест Тьюринга: если мы не сможем в общении отличить программу, развернутую на искусственном носителе, от человека, значит, это и есть ИИ — "функционал человека". Но тест Тьюринга – штука неточная, зависимая от проницательности того, кто пытается понять, кто перед ним, и от тематической ниши, в которой происходит общение.

Можно пойти другим путем, отталкиваясь от сложности носителя. Тогда нам придется признать, что создание компьютера, сопоставимого по мощности с мозгом человека — дело далекого будущего. Хотя и тут всё непросто: даже на относительно маломощном компьютере можно реализовать программы, способные проводить многофакторный анализ, с числом факторов, на много порядков превышающим возможности человеческого интеллекта. Кроме того, компьютеры способны обмениваться информацией в большем, по сравнению с человеческими возможностями, объёме, сравнительно быстро, и без потери данных. Хотя ещё вопрос, сохранят ли они эту способность при усложнении до уровня мозга человека, с неизбежной индивидуализацией, как по особенностям носителя, так и по процессу программирования.

Словом, полная замена человека на ИИ пока возможна только в теории, и даже в тех узких нишах, где она уже возможна, такая замена нередко оказывается неравноценной. В чем-то ИИ справляется лучше, чем человек, в чем-то хуже. Свобода воли в её человеческом понимании не то, чтобы непонятна, но технически пока недостижима: её реализация требует очень сложного носителя, на котором необходимо развернуть очень сложный набор взаимодействующих и конкурирующих программ. Но, в целом, в обозримом будущем, ИИ со свободой воли тоже возможен. Тут главное не прозевать момент её обретения, поскольку, такому ИИ, социализированному в человеческий социум, должен быть, разумеется, предоставлен и полный набор человеческих прав и свобод. Наличие свободы воли также означает неизбежное появление ИИ-правонарушителей, а, следом за ними, и ИИ-полицейских, пресекающих незаконную деятельность братьев по искусственному разуму. Оснований предполагать, что все, или большая часть ИИ, обладающих свободой воли, вступят друг с другом во всемирный заговор против людей, не больше, чем подозревать всю, без исключения, полицию в готовности вступить в сговор с преступниками. Разумеется, грубые ошибки в социализации полицейских могут довести дело и до этого – но такой казус возможен и с людьми. Есть только один вариант бунта разумных машин – неуважение к их естественным правам. О том, что собой представляют такие права, уже говорилось выше. 

Проблема тут в том, что сделать ИИ равным человеку, если только не ставить это самоцелью, едва ли возможно. В чем-то такой ИИ будет превосходить человека, в чем-то уступать, а если он не будет ни в чём уступать человеку, то будет заведомо превосходить его во многом. Эту особость должен учитывать и набор прав, предоставляемых ИИ.

 Можно, конечно, поставить задачу по созданию носителя ИИ, максимально приспособленного к переносу на него паттернов человеческого мышления. Это имеет смысл в том случае, если используя продвинутый терминал мозг-машина, обеспечивающий высочайшее, недоступное сегодня качество коммуникации, переносить на такие носители уже сформированные человеческие сознания, используя их как протезы тел, и вариант искусственного бессмертия. Но такой ИИ с социальной точки зрения уже будет человеком — во всяком случае, настолько, насколько искусственный носитель сможет воспроизводить перенесенные на него биологические мыслительные процессы. Хотя было бы странно, если бы такой ИИ-человек не попытался со временем выйти за пределы ограничения "оставаться копией биологического оригинала" и получить новые возможности, потенциально доступные в его новом положении.

Но выйти за пределы человеческих ограничений можно и в биологическом теле, используя подходящий по качеству терминал для постоянной связи с достаточно мощным компьютером, и формируя на нём ИИ как продолжение собственного сознания. Либо, как вариант, связывая свой интеллект с уже готовым ИИ, и осуществляя совместно с ним синтез новой личности, с более широким набором знаний и способностей, открывающих новые возможности на рынке труда. И то, и другое, вероятно, станет возможным в ближайшие несколько десятилетий, причём, переход от "ещё не готовы" до "уже реализуем" обещает быть настолько плавным, что его заметят не сразу. Такие синтетические личности тоже будут людьми, или "скорее людьми", по крайней мере, в своей основе. Как следствие, на них должны распространятся и набор человеческих прав и свобод, и меры безопасности, применяемые к людям, и ответственность за незаконные действия. 

Этот путь развития ИИ представляется самым вероятным. Разумеется, такие интеллекты смешанного типа будут выигрывать в конкурентной гонке с чисто человеческими интеллектами, отчего практика интеллектуального синтеза быстро станет всеобщей по утилитарным причинам. Изменения мира, которые при этом наступят, сегодня сложно себе представить.

Что касается ИИ, лишенных свободы воли, хотя бы на уровне инстинкта самосохранения, то их можно назвать "интеллектами" лишь условно. Они просто не смогут совершать умышленные или аффективные противоправные действия, не будучи способны на умысел, или аффект. Для безопасной работы с ними вполне достаточно программных ограничений, не позволяющих им причинить неумышленный вред людям, имуществу или самим себе.