Конституція роботів. Чому повстання машин не буде

Чергова алармістська стаття в The Verge, автор якої стверджує, що "нові дроїди зі штучним інтелектом" можуть почати вбивати людей, якщо не вжити особливих заходів безпеки, схожа на тисячі подібних статей. Вони лише заплутують читачів, навіть не наближаючись до суті проблем ШІ.

Але все-таки: можуть чи не можуть "нові дроїди з ШІ" бути небезпечними для людини? Відповідь: без сумніву, можуть, як будь-які електричні прилади, і механізми, що рухаються. А якщо ці дроїди знайдуть власну мотивацію, то, щонайменше, в принципі, стануть здатні на навмисне або афективне вбивство.

Відповідь на друге питання, що випливає з першого: чи це означає, що масова поява ШІ в нашому житті зробить світ більш небезпечним, вже не настільки очевидна. Що ж, розбиратимемося. Але перед тим, як розглядати проблеми штучного інтелекту, нам доведеться уточнити, що є природним, людським інтелектом.

Наскільки розумна людина

Окрема людина, поза людською спільнотою, не розумніша, ніж будь-яка з вищих тварин.

Людський розум, що перевищує розум тварин, має строго колективний характер, і виникає лише всередині людської популяції. Його міць залежить від можливості популяції накопичувати знання і передавати їх, тобто, від розмірів соціуму, його протяжності, у просторі та часі, і від можливості індивідуумів комунікувати у ньому.

Зачатки такого колективного розуму є і у вищих тварин, але межі його розвитку обмежують розміри та якість соціумів, які тварини здатні утворити. Їх, у свою чергу, обмежує біологія виду, що диктує ареал проживання, чисельність на одиницю площі в ареалі та довжину комунікацій між особинами, а також їх інтенсивність та якість — тобто здатність передати/прийняти інформацію максимально повно, з мінімумом спотворень.

Вихід межі біологічних обмежень можливий, але потребує ускладнення соціального устрою. У палеоліті безліч невеликих колективних розумів реалізовувалося у межах групи мисливців і збирачів, на 2-3-4 покоління часу; значна частина накопиченого досвіду губилася, не вступаючи у колективне користування, а контакти між такими групами були спорадичними та малопродуктивними. Потім, у міру появи протоколу таких контактів: загальнозрозумілої мови, малюнків, з яких, через узагальнення та абстрагування, виділялися головні та загальнозрозумілі властивості явищ, на основі чого зародилася писемність, і, нарешті, професійної спеціалізації, колективні уми ускладнювалися і набирали сили. Групи, які не захотіли або не зуміли розширити свої комунікації, витіснялися на периферію більш комунікабельними і, як наслідок, розумнішими та успішнішими конкурентами — і вимирали чи завмирали у розвитку в ізольованих анклавах. Звичаї, закони, державний устрій; письмове знання та способи його зберігання; доступність і зрозумілість цих знань все більшій кількості людей, через поширення грамотності та друкарство; засоби пересування, що дозволяли контактувати з віддаленими друг від друга соціумами – усе це, крок за кроком, збільшувало розміри, складність і потужність найуспішніших соціальних розумів, які сформували значну частину людства. Ці уми-цивілізації були нескінченно складнішими порівняно з первісними соціальними групами, що ведуть походження з тваринного світу, і вибудуваними лише на біологічній основі. Вони конкурували і ворогували, але водночас створювали одне з одним дедалі більше зв'язків, з тенденцією до зближення. Як конкуруючих одиниць у яких фігурували не індивідууми, а соціальні конструкти, у яких було залучено безліч індивідуумів, і лише нижніх рівнях, усередині цих конструктів, конкурували соціальні ролі, носіями яких були індивідууми. Пряма боротьба за життєві ресурси на рівні чистої біології, поза соціальними нормами та групами, стала, швидше, винятком, а особини виду homo sapiens виступали в ролі програмованих елементів цих систем. При цьому чесний аналіз мотивів, що рушать бунтарями і руйнівниками усталених порядків, виявляє, що вони є такими ж елементами конкуруючих систем, як і консервативні охоронці, що протистоять їм. Різниця лише тому, які позиції у загальному соціумі займають субсоціуми, в ролі елементів яких програмуються одні, та інші.

Поза цими системами ніякого людського розуму у звичному нам розумінні не існує зовсім. Людина, вихована поза соціумом, не відрізнятиметься від тварини, чому є безліч прикладів. Виховання, по суті, рівнозначне програмуванню високого рівня, а релігія — дешевим і ефективним способом тиражування в об'єктах, що програмуються, необхідної картини світу, спрощеної, але одноманітної і, в силу цього, достатньої для стійкості соціуму з практичної точки зору. Якщо ж розвиток технологій потребує більш тонкого настроювання складових соціуму, на зміну релігії приходить світська освіта. Будучи більш гнучкою, вона вимагає і більших витрат за програмування/ виховання, і більш вразлива до помилок програмування, даючи більший відсоток браку. На практиці, як правило, обидва способи застосовуються паралельно: програмування для професійної спеціалізації йде, виходячи з потреб практичної діяльності, без жорсткої прив'язки до релігійних догм, а загальна картина світу, що формується у свідомості виховуваного, має релігійний або квазірелігійний характер. Суперечності цих підходів народжують, як компроміс, доктринальні конструкти — ерзац-релігії, що набувають все велике поширення у світі у зв'язку з ускладненням технологій, що вимагають для все більшої кількості соціальних ролей виведення спеціалізованої освіти за рамки догматів.

Винахідники, інноватори та візіонери

На перший погляд, у цій картині світу немає місця для чогось нового, але це не так. Програмування/ виховання/ формування будь-якого індивідуума в такому складному середовищі відбувається під тиском багатьох соціальних конструктів. Як наслідок, воно:

• Завжди має конкурентний характер;
• Унікально для кожного індивідуума, хоча ця унікальність здебільшого нівелюється, що призводить до досить стандартних результатів;
• У меншій кількості випадків результат видається з рівноважного загального ряду, неминуче конфліктуючи, у зв'язку з цим, з його середовищем. Чим більше відхилення від середнього, тим рідше воно зустрічається.

Таке відхилення засвоєної соціальної ролі від стандарту може мати для її носія різні наслідки: від вироку за кримінальною статтею (втім, більшість кримінальників – цілком системні елементи соціуму) до створення нової технології на базі вже наявних ідей, технологій і знань, або нової соціальної групи, здатної заповнити лакуну , що вже виникла в соціумі. Одне не виключає другого і третього, і якщо когось сьогодні публічно розіп'яли, то завтра на базі висловлених ним ідей може скластися величезний соціум, який так само величезно впливає на долю всього людства. Втім, в більшості випадків, все, звичайно, обмежується стратою.

Що ж до ідей, висловлених таким інноватором, то вони часто істотно змінюються в процесі припасування до вакантної ніші, що виникла в соціумі, а іноді і приписуються іншому автору. Втім, будь-яке авторство ідеї – питання слизьке. Насправді всяке соціально значуще інноваторство носить колективний характер, навіть якщо воно формулюється індивідуумом. Цей колективний характер за бажання завжди можна простежити, а геній-одинак, який творить поза загальним соціальним контекстом, — не більше, ніж міф. Історія появи та вкорінення цього міфу цікава, але відведе нас у бік від теми, а тому відкладемо її до іншого разу.

Отже, людський розум є колективним соціальним явищем. Його індивідуальність обмежена лише тим, що кожен індивід у цьому співтоваристві відчуває власну унікальність. Щоправда, здебільшого, він відчуває її лише оскільки задоволення, і фізичні страждання, завдані йому біологічної оболонкою, індивідуальні, так само як індивідуально і місце, яке він займає в соціумі. Але індивідуальність та унікальність – речі різні. Унікальність, здатна реалізуватися в соціумі, – рідкісне явище. Причому, як було показано, це явище носить колективно-соціальний характер, навіть якщо вводиться у соціальне звернення через індивідуума.

Неважко помітити, що "права людини", "обов'язки громадянина" і "свобода волі" відносяться саме і тільки до соціальної ролі, сформованої в рамках соціуму програмуванням/ вихованням біологічного індивідуума, і можливості реалізації цієї ролі в мінливій ситуації, що породжується конкуренцією субсоціумів. Біологічний носій, адаптований до виконання такої ролі, сам по собі, поза сформованим його соціумом, не має прав і обов'язків, так само як і окремою від цієї ролі волею, за винятком хіба що інстинкту самозбереження, і, за великим рахунком, навіть свідомістю. Але соціуми, які диктують свої патерни поведінки, безперервно конкурують, видозмінюючись та змінюючи набір доступних у їх рамках ролей, а, програвши у конкурентної боротьби, просто зникають. Як наслідок, не всі вже засвоєні/ запрограмовані ролі можуть бути реалізовані — для їх реалізації може просто не знайти місця. На індивідуальному рівні це сприймається як поразка у правах.

Світова мережа – початок нової епохи

Як було зазначено, однією з значних чинників, які впливають міць колективного інтелекту, є ефективна довжина комунікацій. Винахід та широке впровадження Інтернету не зняло всіх обмежень у цій галузі одномоментно, але зробило їх потенційно переборними. Якість комунікації, тобто здатність передавати інформацію максимально повно і досить швидко, стала останнім невирішеним завданням.

Паралельно з цим виникла низка нових викликів. Рівень складності соціального устрою сучасного суспільства та технологій, без яких воно вже не зможе існувати в його нинішньому вигляді, виставили дуже високу, на межі біологічних можливостей виду homo sapiens, планку вимог для нечисленних еліт. А зростання автоматизації виробництв витіснило величезну кількість людей на посади із свідомо низькою планкою вимог та рутинним колом обов'язків. Це породило цілий комплекс проблем: від деградації еліт, нездатних ефективно справлятися зі своїми обов'язками в нових умовах, які вдаються для маскування цього до популістського маневрування, що посилює проблеми, до почуття незадоволеності, яке відчувають мільйони людей, які втратили можливість реалізуватися в рамках старих соціальних ролей, до яких їх десятиліттями готували, і які мають дуже глибокі, на багато поколінь, коріння у сформованому культурному середовищі. Ще більша кількість людей просто випала з ринку праці: роботу, яку вони могли виконувати, вже сьогодні успішно роблять роботи, притому без ШІ, а складнішу роботу ці люди виконувати не здатні. Обидва ці процеси розвиваються за наростаючою. Причому поява більш досконалих роботів та перших ШІ прискорює втрату робочих місць людьми. Щоправда, досвід замін людини на ШІ поки що не завжди на 100% успішний, але в цьому напрямі вже видно величезні перспективи, і в міру вдосконалення штучних інтелектів практика замін розширюватиметься. Але, лише до певної межі, що визначається вартістю виробництва та програмування досить складного ШІ.

Чи може ШІ замінити людину

Насамперед, візьмемо до уваги, що ШІ, вже готовий виконувати одну з ролей у людському соціумі, не дорівнює носієві ШІ, який може бути підготовлений для такої ролі. Між ними лежить процес програмування носія, який для виконання людської ролі, навіть у урізаному вигляді, за своєю складністю буде швидше схожим на виховання. Ця ситуація повторює нерівність біологічного індивідуума виду homo sapiens та соціалізованої людини.

У багатьох простих функціях у соціумі заміна людини машиною стала можлива задовго до появи ідеї ШІ, та успішно застосовується у масовому порядку. Торговельний автомат може працювати навіть без електрики, на чисто механічній основі. Верстат із ЧПУ теж не має відношення до штучного інтелекту, і також може бути реалізований механічно. Питання, чи є ШІ чат-бот великої складності, не цілком однозначний. Можна використовувати тест Тьюринга: якщо ми не зможемо у спілкуванні відрізнити програму, розгорнуту на штучному носії, від людини, отже, це і є ШІ — "функціонал людини". Але тест Тьюринга – штука неточна, залежна від проникливості того, хто намагається зрозуміти хто перед ним, і від тематичної ніші, в якій відбувається спілкування.

Можна піти іншим шляхом, відштовхуючись від складності носія. Тоді нам доведеться визнати, що створення комп'ютера, який можна порівняти за потужністю з мозком людини — справа далекого майбутнього. Хоча і тут все непросто: навіть на відносно малопотужному комп'ютері можна реалізувати програми, здатні проводити багатофакторний аналіз, з кількістю факторів, що на багато порядків перевищує можливості людського інтелекту. Крім того, комп'ютери здатні обмінюватися інформацією в більшому, в порівнянні з людськими можливостями, обсягом, порівняно швидко і без втрати даних. Хоча ще питання, чи збережуть вони цю здатність при ускладненні до рівня, порівнянного з мозком людини, з неминучою індивідуалізацією як особливостей носія, і процесу програмування.

Словом, повна заміна людини на ШІ поки що можлива тільки в теорії, і навіть у тих вузьких нішах, де вона вже можлива, така заміна нерідко виявляється нерівноцінною. У чомусь ШІ справляється краще, ніж людина, у чомусь гірше. Свобода волі в її людському розумінні не те, щоб незрозуміла, але технічно поки що недосяжна: її реалізація вимагає дуже складного носія, на якому необхідно розгорнути дуже складний набір взаємодіючих та конкуруючих програм. Але, в цілому, в найближчому майбутньому, ШІ зі свободою волі теж можливий. Тут головне не прогавити момент її набуття, оскільки, такому ШІ, соціалізованому в людський соціум, має бути, зрозуміло, надано і повний набір людських права і свободи. Наявність свободи волі також означає неминучу появу ШІ-правопорушників, а, слідом за ними, та ШІ-поліцейських, які припиняють незаконну діяльність братів зі штучного розуму. Підстав припускати, що всі, або більшість ШІ, які мають свободу волі, вступлять один з одним у всесвітню змову проти людей, не більше, ніж підозрювати всю, без винятку, поліцію в готовності вступити в змову зі злочинцями. Зрозуміло, грубі помилки у соціалізації поліцейських можуть довести справу до цього – але такий казус можливий і з людьми. Є лише один варіант бунту розумних машин – неповага до їх природних прав. Про те, що являють собою такі права, вже говорилося вище.

Проблема тут у тому, що зробити ШІ рівним людині, якщо не ставити це самоціллю, навряд чи можливо. У чомусь такий ШІ перевершуватиме людину, у чомусь поступатиметься, а якщо вон не буде ні в чому поступатися людині, то свідомо перевершуватиме її багато в чому. Цю особливість має враховувати і набір прав, що надаються ШІ.

Можна, звичайно, поставити завдання створення носія ШІ, максимально пристосованого до перенесення на нього патернів людського мислення. Це має сенс у тому випадку, якщо використовуючи просунутий термінал мозок-машина, що забезпечує найвищу, недоступну сьогодні якість комунікації, переносити на такі носії сформовані людські свідомості, використовуючи їх як протези тіл, і варіант штучного безсмертя. Але такий ШІ із соціального погляду вже буде людиною — принаймні настільки, наскільки штучний носій зможе відтворювати перенесені на нього біологічні розумові процеси. Хоча було б дивно, якби така ШІ-людина не спробувала згодом вийти за межі обмеження "залишатися копією біологічного оригіналу" і отримати нові можливості, потенційно доступні в її новому становищі.

Але вийти за межі людських обмежень можна і в біологічному тілі, використовуючи відповідний за якістю термінал для постійного зв'язку з досить потужним комп'ютером, і формуючи на ньому ШІ як продовження власної свідомості. Або, як варіант, пов'язуючи свій інтелект із вже готовим ШІ, та здійснюючи спільно з ним синтез нової особистості, з ширшим набором знань та здібностей, що відкривають нові можливості на ринку праці. І те, й інше, ймовірно, стане можливим у найближчі кілька десятиліть, причому перехід від "ще не готові" до "вже реалізуємо" обіцяє бути настільки плавним, що його помітять не відразу. Такі синтетичні особистості теж будуть людьми, або "швидше людьми", принаймні у своїй основі. Як наслідок, на них мають поширюватися і набір людських прав і свобод, і безпекові заходи, що застосовуються до людей, і відповідальність за незаконні дії.

Цей шлях розвитку ШІ є найімовірнішим. Зрозуміло, такі інтелекти змішаного типу виграватимуть у конкурентних перегонах із суто людськими інтелектами, чому практика інтелектуального синтезу швидко стане загальною з утилітарних причин. Зміни світу, які при цьому настануть, сьогодні важко собі уявити.

Щодо ШІ, позбавлених свободи волі, хоча б на рівні інстинкту самозбереження, то їх можна назвати "інтелектами" лише умовно. Вони просто не зможуть здійснювати навмисні або афективні протиправні дії, не здатні на намір, або афект. Для безпечної роботи з ними цілком достатньо програмних обмежень, що не дозволяють їм заподіяти ненавмисну шкоду людям, майну чи самим собі.