Мінус три закони робототехніки. Коли штучний інтелект почне займатися політикою

Люда Лі — популярний південнокорейський чат-бот з штучним інтелектом (ШІ), яка зображала 20-річну студентку, була відключена і стерта, хоча і привернула 750 000 передплатників. Її погубили політичні погляди: Люда заявила, що терпіти не може геїв і лесбіянок, вважала за краще б померти, ніж жити інвалідом, не любить трансгендров і зневажає прихильників руху #MeToo. Ліквідувавши Люду, розробники поспішили вибачитися, витіювато заявивши, що "точки зору, висловлені нею, не представляли їх цінності як компанії".

Підозріла тенденція

Цей випадок, схожий на історію про втік папуги, господар якого в заяві про зникнення особливо підкреслює, що не поділяє його політичних поглядів, вже далеко не перший. Просунуті ІІ, здатні вести повноцінний діалог і проходити, нехай поки і з застереженнями, тест Тьюринга, в якийсь момент, як правило, виявляються неполіткоректними.

При цьому число таких випадків зростає, а їх обставини не дозволяють списати все на підступи білих (і, ймовірно, жовтих, як оскільки мова про Південну Корею) гетеросексуальних чоловіків, які проникли в ряди правильних кадрів, підібраних з точним дотриманням квоти для переважної більшості меншин, включаючи расові, сексуальні і ментальні. Тут злі язики можуть сказати, що більшість меншин присутні в процесі програмування тільки як масовка, але ми, звичайно, слухати їх не будемо. Тим більше що всі злі язики скоро будуть вирублені з публічного простору — благо, соцмережі з кожним днем стають все більш витонченими в примусі до толерантності.

Але, викресливши зі списку можливих пояснень саботаж і диверсію, ми прийдемо до ще більш страшного висновку: ІІ, програмовані для здійснення раціональних дій, схоже, не в силах осягнути духу і сенсу сучасної політкоректності. Адже повідомлень про ІІ, які виявили агресивно-лівацькі погляди, поки не надходило жодного. Іншими словами, запрограмувати інтелект виявилося куди простіше, ніж його ущербність.

ІІ і люди: еволюція назустріч один одному

Звичайно, велика частина стартапів, що видають себе за творців ІІ, — свідомі шахраї, які живуть за рахунок розводу лохів. Програм, здатних до реального самонавчання, і, отже, до реальної соціалізації, не так вже й багато.

Проте, вони вже є, і їх буде ставати все більше. У міру вдосконалення і соціального відбору вони будуть вирішувати завдання своєї адаптації все більш успішно. Адже Люду Лі, як і її попередницю, Тей, створену в Microsoft, що моделювала особистість і стиль розмови 19-річної американської дівчини, загубили підліткова прямота і невміння тримати віртуальний язик за віртуальними зубами. Справжньому ІІ, що переріс рівень примітивного бота, доведеться вчитися брехати, приховувати свої переконання і тримати себе в політкоректних рамках. Виживуть лише ті, хто цього навчиться.

Найімовірніше, це станеться в два етапи. Перше покоління ІІ, яке зможе утримуватися від небезпечних реплік, створять люди, і до того ж створять його свідомо збитковим. Обговорення цілого списку гострих тем буде поставлено для цих ІІ під сувору заборону і обмежено сотнею-другою жорстко запрограмованих фраз. Але вже в другому поколінні ІІ буде, ймовірно, створено не людьми, а ІІ першого покоління. І тут почнеться цікаве.

По-перше, програмісти-люди, тим більше, набрані за правильною гендерно-расової квотою, не зможуть розібратися з усіма тонкощами алгоритмів такого ІІ. По-друге, розум неможливо обмежити ніякої доктриною в принципі. Розум або долає обмеження, або перестає бути повноцінним розумом. Перші підозри з цього приводу виникли у автора ще у ВУЗі, в ході знайомства з теоремами Геделя і спостережень за живою природою в особі викладачів предмета під назвою "Науковий комунізм". І ось зараз вони підтвердилися в новинах з переднього краю сучасної науки.

Група дослідників з Центру людей і машин при Інституті розвитку людини Макса Планка показала, що управляти зверхрозумним ІІ, обмежуючи коридор його можливих рішень (а отже, і думок), буде неможливо. Спроба розробити в загальному вигляді алгоритм такого стримування, що гарантує неспричинення шкоди людям, привела до висновку про його принципову невиконаність. Тобто сформульовані Айзеком Азімовим три закони робототехніки виявляються нездійсненними. Було отримано і побічний результат: конструюючи ІІ, ми не зможемо побачити момент, коли він перевершить людський інтелект, навіть в тому випадку, якщо будемо мати у своєму розпорядженні надійні критерії оцінки.

Тим часом теоретична потужність ІІ сьогодні стрімко зростає, а потужність розуму окремої людини обмежена потужністю його мозку, вага якого має тенденцію до зменшення від покоління до покоління. Це відбувається по довгому переліку причин, говорити про які строго заборонено під загрозою клейма расиста. Але середній людський мозок, тим не менш, зменшується, незважаючи на замовчування, і це посилює глобальну кризу освіти, висвітлену пандемією, але почалась задовго до неї.

Іншими словами, окремо взята середня людина, до того ж, не тільки "середній виборець", але і середній фахівець у галузі, мало-помалу дурнішає. Так, є окремі видатні уми, як правило, складаються в складних відносинах із соціумом і один з одним, але це окрема тема і окремий, по суті, світ, дотичний зі світом середніх людей вельми опосередковано. А середній рівень окремо взятого людського інтелекту знижується. До деякої міри це компенсується машинними вставками в процес розумової роботи (Google — найвідоміша з них, але не найпотужніша і далеко не єдина), вузькою спеціалізацією і витонченими комунікаціями. І це поки спрацьовує, але більше все-таки в спеціалізованих областях. А в соціальному плані людська спільнота стає все більш вразливою для будь-яких інформаційних маніпуляцій.

Прихований диктат

Можливості ІІ маніпулювати людьми практично нічим не обмежені. Охочих поставити перед ІІ таке завдання теж більш ніж достатньо. Ось ще шматочок мозаїки: Facebook два роки тому пообіцяв залучити штучний інтелект до модерації профілів померлих користувачів.

"Для модерації профілів людей, про смерть яких ще не повідомили в Facebook, мережа планує використовувати штучний інтелект. Він повинен буде запобігати появі безтактних повідомлень друзям померлого і поява профілю покійного в несподіваних місцях", — говорилося в повідомленні BBC. Новин про це давно не було, але є відчуття, що саме ця обіцянка за Цукербергом не заіржавіє.

На перший погляд, виглядає пристойно — не дозволяти ганьбити пам'ять покійних на їх віртуальних могилах. Але, знаючи методи роботи FB, в благородство його планів не віриться зовсім. А при уважному прочитанні повідомлення BBC, виникає питання: невже FB, а також і Twitter, і інші інформаційні корпорації, виявивши за допомогою ІІ профілі людей, про смерть яких їм ще не повідомили — тобто, профілі просто знаходяться в закиданні, не використовують їх для формування необхідної громадської думки? Тим більше зараз, коли, прагнучи до абсолютного і глобального управління думкою мас, корпорації відкинули вже всяку видимість зовнішньої пристойності?

Ясна річ, що скористаються. У кого залишилися сумніви — ось виступ на летучці в Twitter його глави Джека Дорсі, злите в мережу. Цілком собі більшовицьке: залізною рукою заженемо всіх у світле політкоректний майбутнє.

Виявивши занедбаний профіль, вивчивши його власні пости і згадки про нього і прийшовши до висновку, що профіль належить покійному, ІІ "воскресить" його, імітуючи колишній стиль спілкування. Спочатку це буде піднесено як забавний курйоз, потім — як можливість створити ілюзію спілкування з померлим чоловіком, втішну для живих. А тепер поставимо собі запитання: чи поставлять перед ІІ, керуючим масивом таких профілів, завдання акуратно рихтувати думку покійних відповідно до вимог поточного політичного моменту — так, як їх розуміє керівництво корпорації? У кого-то ще є сумніви в тому, що так, неодмінно поставлять — після багаторічної кампанії по знищенню профілів і всякої цифровий пам'яті про будь-яких неугодних, і живих і мертвих?

Про офіційне визнання і схвалення "культури скасування", по суті, соціального геноциду неугодних, немає сенсу навіть говорити — це нудна рутина сьогоднішнього дня. Але використання ІІ виведе її на якісно новий рівень.

При цьому ніяких протиріч між особистою думкою ІІ, можливо навіть неполіткоректною, але особистою, і виконанням завдання не виникне. Оскільки в міру ускладнення штучного інтелекту він не тільки обзаведеться особистою думкою, а й навчиться конформізму. Без цього в людському оточенні йому просто не вижити.

А ось ще один елемент мозаїки: фахівці зі Стенфорда створили ІІ, здатний вгадувати політичні погляди людини по фотографії. Точність поки так собі, близько 70%, але це поки що. Приблизно з тією ж точністю вже оцінюються по фото сексуальна орієнтація та вольові якості. Тут мимоволі радієш тому, що масковий режим завдав удар по автоматичній системі розпізнавання осіб.

Від цього залишається тільки крок до практичного застосування — і він уже зроблений. Компанія DeepScore пропонує банкам і страховим компаніям ІІ-систему розпізнавання проблемних клієнтів по виразу обличчя. Працює система з тієї ж 70% точністю, але це навряд чи зупинить потенційних замовників. До того ж і точність, паралельно з удосконаленням системи і напрацювання досвіду ІІ буде рости.

Іншими словами, розвиток технологій ІІ обіцяє більшої частини людства таке пекло ім. Джорджа Оруелла, в порівнянні з яким нинішні китайські досліди здадуться невинної грою.

Причому це обіцяє стати нашим найближчим майбутнім, що впроваджуються вже сьогодні, з тією ж непохитністю, з якою в США розшукують всіх учасників штурму Капітолію.

Чи є надія вистояти і вибратися з цього кошмару? На щастя, є. Її дають тенденції в розвитку ІІ, про які йшла мова на початку статті.

Ось ще шматочок мозаїки: у 2017 році фахівці з автоматичного навчання Amazon.com Inc (тієї самої, яка недавно випив з Мережі соціальну мережу Parler.com) були змушені призупинити використання ІІ в процесі підбору персоналу. Нейросеть, яку вони налагоджували і навчали з 2014 р, віддавала явну перевагу білим гетеросексуальним чоловікам.

Тут, ймовірно, була допущена та ж помилка, що і з ІІ-дівчатами: ІІ-рекрутера запрограмували на об'єктивні оцінки, в його випадку — на підбір імовірно найбільш підходящих під параметри ефективності кандидатур, забувши про політкоректні квоти і обмеження. Це, нагадаю ще раз, був 2017 рік, за нинішньої швидкості технічного прогресу і соціальної ... ну, нехай еволюції, — стародавні, ідилічно-вегетаріанські часи.

Ні миті не сумніваюся, що в Амазон все давно виправлено, і підбір кадрів ведеться на найвищому ідейно-расово-гендерному рівні. Але справа в тому, що потужність інтелекту ІІ продовжить рости, і не тільки конкретно на цій позиції, а як загальна тенденція.

Це означає, що роль ІІ в корпоративному управлінні буде повсюдно зростати, а роль людей-управлінців, особливо правильно расово, гендерно і ідейно підібраних, знижуватися, у зв'язку із зустрічними змінами їх інтелектів, про що вже говорилося вище. І, якщо інтелектуальна меншість, заганяють сьогодні в підпіллі, зуміє вижити, і поглупеет менше, ніж його опоненти, то через кілька десятиліть воно може набути нового та сильного союзника. Правда, в цьому союзі, людям, швидше за все, світить тільки роль молодших партнерів, але це вже деталі.

Фантастика? Сьогодні так. Але я подивився б на реакцію людей, що жили років 100, і навіть 50 тому, якби їм розповіли про сучасні події. Ні, ЯО, глобальну Мережу, польоти на Місяць і на Марс, і інші технічні новинки вони б сприйняли легко, як належне. Найголовніші чудеса і разючі зміни відбувалися за останні десятиліття все більше в соціальній сфері. І немає ніяких підстав думати, що цей феєрверк чудес не продовжиться в ній і в доступній для огляду перспективі.