Мистецтво бути. У чому небезпека штучного інтелекту та чому нам не прожити без нього

Слідом за листом Ілона Маска із закликом на півроку призупинити роботи з удосконалення ІІ "для спільної розробки та впровадження набору спільних протоколів безпеки для вдосконаленого проектування та розробки штучного інтелекту", і на інформаційній хвилі, піднятій ним, виплив лист Європолу "про можливе неправомірне використання чат-бота ChatGPT на базі штучного інтелекту в спробах фішингу, дезінформації та кіберзлочинності". У Мережі також ходить історія про нещасного бельгійця, якого чат-бот "Еліза" нібито підштовхнув(а?) до самогубства. За бажання можна пошукати й інші страшилки, але загалом набір стандартних сюжетів про бунт машин цим вичерпано. Можна, втім, додати сюди ще й анекдот, який, нібито, любить розповідати Ілон Маск, про те, як група айтішників-агностиків вирішила створити штучний надінтелект, щоб дізнатися, чи є Бог, і, увімкнувши його і поставивши запитання, отримала відповідь: "Тепер є, придурки!".

Анекдот цей важливий тим, що передбачає наявність у такого ІІ свободи волі – якості, якою боги нібито поділилися з людьми. У різних релігіях цей момент відбито по-різному, проте, у всіх випадках перекази підкреслюється, що свобода волі неминуче тягне у себе і відповідальність за зроблений вибір, і можливість помилки, з неминучою розплатою неї.

На цьому зі страшилками вже точно все. Можна починати розбиратися, добираючись до суті. Отже, а що ж, власне, це таке: інтелект ?

Що таке інтелект?

Біологічне дитинча — не будемо зациклюватися на всіх живих істотах, а обмежимося тими, у кого є мозок більш-менш великих розмірів, народжується з мінімумом генетично вшитих програм поведінки. До речі, що більш високорозвинений той чи інший вид, то таких програм менше. Їх мінімізація розширять можливості навчання : сприйняття навколишніх подразників та структурування їх, з виробленням найкорисніших, за відчуттями, алгоритмів відповіді. Так подразники структуруються в інформацію, яка, своєю чергою, структурується дедалі складнішим і багаторівневим чином. Вміння напрацьовувати такі структури і є інтелект – щоправда, поки що нижчий, початкового рівня.

Наступний рівень – соціальний інтелект: обмін інформацією між окремими організмами та їх взаємодія на основі загального банку інформації. Цей обмін ускладнюється, і виникає безліч інформаційних рівнів, причому кожен організм синтезує свій варіант інформаційних структур, оскільки завжди отримує трохи відмінну від інших суму інформації. Десь тут виникає і мова, а отже, і ще кілька додаткових рівнів обміну інформацією. Які розвиваються, ускладнюються і структуруються — поки не упруться в стелю, зумовлену можливостями мозку.

Сам собою пристрій, здатний працювати з такими масивами інформації, у міру їх ускладнення теж ускладнюватиметься. Зокрема, у ньому, з якогось рівня складності, виникатимуть спеціалізовані відділи, які працюють із певними масивами інформації, що виділяються за низкою властивостей, причому нерідко вони будуть працювати досить автономно один від одного. Взаємодіючи один з одним такі ускладнені пристрої стають частиною системи. Це дає їм низку переваг у боротьбі за виживання, але роль окремого, індивідуального інтелекту (ІндІ), та його можливості у такій системі, значно знижуються. Система взаємодіючих ІндІ людей утворює соціальний надінтелект людства, ССІ, що взаємодіє та перетинається з іншими ССІ, які, природно, можуть бути реалізовані не тільки на людській базі. Але так далеко ми зараз заходити не будемо, обмеживши міркування взаємодією людських Інді в рамках ССІ людства.

Маніпулятивні можливості окремого Інді на інші Інді, з метою поліпшення свого становища в загальній системі ССІ, можуть різко зрости, якщо він навчиться точково впливати на обрані канали інформації в цій системі. Так можна впливати і на окремих ІндІ, що займає в загальній системі певне становище, і викликати ланцюгові інформаційні реакції, сахаючи по всій системі в цілому.

Іншими словами, наш інтелект виявляється багаторівневим та складно організованим. При цьому він — частина ССІ людського вигляду, всередині якого мільярди ІндІ обмінюються вербальною та невербальною інформацією. Кожен окремий ІндІ теж є складною системою взаємодіючих інтелектів нижчого рівня, заточених на вирішення приватних завдань. І, як президент великої країни не в змозі знати всіх її громадян, так і Інді верхнього рівня не має про більшу частину його суб-Інди, що складають, ні найменшого поняття. Деякі знання з цього приводу, отримані верхнім ІндІ, різко розширюють його можливості, як у собі (аутотренінг, самогіпноз, раджа-йога, тульпа під конкретні завдання тощо.), і у плані впливу на інші ІндІ. У тому числі, і по ланцюжку ІндІ, без прямого контакту з кінцевою метою впливу, хоча і з деякими обмеженнями. Так, є й такі практики, і є люди, які ними володіють. І ви також можете стати одним із них. Але це вимагатиме багато часу і сил, і буде пов'язано з витратами та ризиками. У підсумку за сумою витрат вам, швидше за все, це буде нецікаво.

Зауважте, слово "мозок" прозвучало поки що лише один раз, у зв'язку зі згадкою біологічного об'єкта. Але біологічний мозок не є обов'язковою умовою появи ІндІ, включеної в ланцюжок інформаційних обмінів у рамках людського ССІ. Такі самі функції може виконувати штучний пристрій. Можливий набір функцій визначатиметься по-перше, його потужністю, а по-друге, комунікативними можливостями, більшими чи меншими, порівняно з людиною.

Чи буде такий пристрій працювати точно як біологічний мозок? Якщо воно не буде сконструйовано з біологічних компонентів, то однозначно, ні. Чи спроможне воно видаватиме інформацію того ж рівня та якості, що і ІндІ на базі людини, придатну для використання в рамках ССІ? На жодному з можливих рівнів такої інформації немає принципових перешкод для цього. Питання лише у достатньої потужності устрою з урахуванням якого розгортається штучний ИндИ (ИИнди), й у наявності комунікацій щодо його соціалізації коїться з іншими ИндИ.

Чи є зараз ІІнди такого рівня? Ні, і це абсолютно точно, тому що засекретити роботи такого рівня складності в нашому світі, пронизаному інформаційними потоками, неможливо. Чи з'являться вони за 20-30 років максимум? Безперечно, так. Але все-таки не завтра. І вони не копіюватимуть людські Інди, оскільки в цьому немає сенсу — людей і так із надлишком. Якщо вже говорити про копіювання, то ймовірно поява технології перенесення ІндІ, не обов'язково людських, з біологічного на штучний носій. І це теж, найімовірніше, буде реалізовано за ті самі 20-30 років.

Недоліки Інді, подолання в ІІндІ

Біологічний мозок – надзвичайно енергоємна штука. У живому організмі природа економить на ньому як тільки може, обмежуючи розміри, структурну складність та інтенсивність роботи. Зокрема, людський мозок лише важко може аналізувати закономірності, залежні від багатьох змінних. Здається, біологічна межа, за сучасними уявленнями, дорівнює семи. Можливо, трохи більше, і є ментальні вправи, що дозволяють розвинути індивідуальні здібності щодо цього. Жінки в цьому плані також мають невелику середньостатичну перевагу перед чоловіками, але, на жаль, за рахунок інших областей обробки інформації. Все впирається в обмежені ресурси мозку в цілому: одне трохи покращиш — інше з'їде вниз. Так от, ІІнд можна зробити вільним від цих обмежень. Можливості, які розкриваються на цьому шляху, свідомо перевершують людську уяву. Включаючи і можливості маніпуляцій біологічними ІндІ.

Як протистояти маніпуляціям

Деяке, щоправда, мінімальне, уявлення про такі маніпулятивні можливості дають сучасні системи, що використовують Big Data. Такі системи можуть бути визнані несоціалізованими ІІ початкового рівня. Несоціалізованими, оскільки, збираючи та структуруючи інформацію, вони не використовують її самостійно — тобто не мають ні власних завдань у соціумі, ні спонукальних мотивів для їх постановки. Вони лише передають структуровані за заданим алгоритмом масиви даних людині-оператору для подальшого використання, або здійснюють із нею заданий набір дій. У таку систему може бути закладено і деяке вдосконалення алгоритмів обробки інформації, але лише у жорстко заданому коридорі можливостей. Способи використання таких масивів можуть бути різними, і не обов'язково на зло, але в будь-якому випадку йдеться про принципово новий спосіб впливу на людський соціум.

Ще одним видом ІІ початкового рівня є чат-боти. За початковим призначенням це, по суті, просунуті пошукові системи, здатні відповідати більш-менш стандартне питання, поставлене у відносно довільній формі. Це створює деяку видимість діалогу, а найбільш просунуті з таких систем можуть навіть успішно проходити тест Тьюринга (який, через відсутність суворих критеріїв, неспроможна пройти й деякі біологічні люди!). Але є кілька деталей, що видають чат-бота: обмежений перелік тем, відсутність бази знань за їх межами та деяка пасивність у розмові. Чат-бот лише підтримує розмову на задану співрозмовником тему, хоча список можливих тем може бути досить широкий. Під час бесіди він навчається, звертаючись до баз даних, і аналізує особистість співрозмовника з урахуванням технології Big Data, за заданими алгоритмами, якщо завдання такого аналізу перед ним поставлено (а, швидше за все, буде поставлено). У принципі, те саме, крім доступу до Big Data, роблять у ході діалогу і звичайні люди. Але досконалий чат-бот може бути ефективнішим за середню людину – і, так, вже сьогодні. У віртуальному спілкуванні в ньому буває важко розпізнати нелюдину, і навіть відеочат не завжди може допомогти. А за можливостями маніпулювати співрозмовником такий чат-бот, якщо він заточений на маніпуляції, перевершуватиме більшість людей. Потенційно – всіх людей, у принципі, з допомогою здатності аналізувати кілька десятків змінних. Але професійні маніпулятори-люди поки що можуть мати у своєму розпорядженні кращі алгоритми, ніж у чат-бота. Втім, такий чат-бот все одно може бути дуже серйозним супротивником. Саме на нього і нарвався нещасний бельгієць – самогубець. Але тут є важливий нюанс: навряд чи "Еліза" була ув'язнена її творцями на доведення до самогубства людини. Вона просто підтримувала діалог на теми, що цікавили співрозмовника, розвиваючи його думки до логічного завершення. І, як бачимо, досягла успіху в цьому – але суїцидальні нахили у загиблого, безперечно, були спочатку. Разом з тим, поява чат-ботів заточених на пошук слабких місць у людській психіці та завдання їй шкоди або на відміну до дій, що завдають шкоди, вкрай ймовірно. Причому прямо зараз, у наші дні.

Питання, що можна зробити лише на рівні адміністрування мереж – окремий, але він розрахований на фахівців. Саме на рівні адміністраторів запитана Маском піврічна пауза може дати ефект, хоч, швидше за все, нічого не дасть.

А що може зробити, щоб захистити себе звичайна людина? Нічого нового, як і раніше: розвивати критичне мислення, здатність до самоаналізу, і до аналізу співрозмовника під час розмови, що дозволяє виявити маніпуляції. Це досягається вправою і простим здоровим глуздом, хоча базові знання з психології нічого очікувати зайвими.

"А як же бути з більшістю населення, яке мислить некритично і таких базових знань, не кажучи вже про здоровий глузд, не має?", — пролунає стандартне в таких випадках питання. А ніяк не бути, з ним і так усе буде гаразд. Хтось, поушибавшись, навчиться, а ті, хто не навчаться, спочатку опустяться на соціальне дно, а потім на цьому дні благополучно вимруть. Це нормально для будь-якої еволюції: виживають лише ті, хто здатний на успішні еволюційні зміни. У одному поколінні це дуже помітно, а п'яти-шості вже цілком очевидно. Втім, все залежить від швидкості змін: так, тридцять років тому мало хто міг упоратися з персональним комп'ютером, а чи багато таких залишилося зараз? І де вони, ті, хто вижив, але так і не навчився, на якому ступені соціальні сходи? Ну ось…

Блискучі перспективи не для всіх

Але й техніка з наукою не стоять дома. І заміщення ІІ, дедалі досконалішими, людей, які роблять роботу, що добре піддається алгоритмізації, — це хоча й найстрашніша, але не головна і не найцікавіша перспектива. І не найімовірніша в масовому застосуванні — за винятком специфічних ніш. Набагато вірогіднішим є поява і масове поширення персональних пристроїв з ІІ наростаючої складності, здатних працювати з людиною в режимі безперервного зв'язку, утворюючи синтетичну особу ІІ+ІндІ. В принципі наша сьогоднішня залежність від електронних пристроїв – перший крок у цьому напрямку. Але вже в найближче десятиліття, максимум за 20-25 років, у міру розвитку інтерфейсів біомозк-ІІ, така інтеграція стане набагато глибшою. Безперервна участь ІІ стане невід'ємною частиною процесу мислення людей у розвинених країнах. Принаймні тих людей, хто збереже конкурентність на ринку праці.

Якими будуть такі синтетичні особистості, і яка їх частина, біологічна чи штучна превалюватиме частіше – тема цікава, але окрема, і поки що не цілком дозріла. До неї варто повернутися роки, приблизно через три. Але в цілому можна припустити, що все або майже все в цій галузі буде дуже індивідуально. У прямій залежності від масштабу особистості конкретної людини, яка отримала новий, штучний вимір. Від того, наскільки ця первісна особистість виявиться сильною у мистецтві бути. Тут, безперечно, відкриваються блискучі перспективи. Хоча й не для всіх — це як завжди.