Люди-кіборги VS роботи

Спори з приводу безпеки штучного інтелекту почалися з розвитком цієї технології. Такі компанії, як Google, Facebook, Amazon і Microsoft вважають, що ШІ-системи ніякої загрози не несуть і сприймають їх як вигідне вкладення капіталу. Представники іншого табору, очолюваного Элоном Маском і Стівеном Хокінгом, переконані, що одного разу штучний інтелект перевершить розум людини і роботи поработят людей.

Виступаючи на конференції для IT-еліти Code Conference, яка пройшла нещодавно у Сан-Франциско, Елон Маск заявив, що в найближчому майбутньому люди можуть стати "домашніми вихованцями" машин. Щоб уникнути настільки незавидної долі, людині доведеться стати кіборгом, розширивши свої інтелектуальні можливості за рахунок спеціальних технологій. Поліпшити когнітивні здібності допоможуть спеціальні чіпи та інші пристрої, в тому числі, так зване "нейронний мереживо" - мозкової імплантат, що дозволяє безпосередньо підключатися до обчислювальних мереж і миттєво отримувати онлайн-інформацію. Такий пристрій буде працювати в симбіозі з людським мозком. "Нейронний мереживо" вже розробляється в світових лабораторіях вчені провели успішні випробування на мишах, успішно зробили електронний імплантат з допомогою ін'єкції. Технологія може використовуватися не тільки для підвищення розумових здібностей, але і допоможе відслідковувати стан мозку, виявляючи його патології.

Маск не грає на публіку, він всерйоз побоюється повстання роботів, вважаючи, що наслідки розвитку штучного інтелекту можуть бути дійсно драматичними, при яких сталь домашнім вихованцем робота - найбезпечніший варіант. Не дарма в минулому році глава компаній Tesla і SpaceX створив фонд в $1 млрд для фінансування досліджень, спрямованих на захист людства від штучного інтелекту. На Code Conference Маск також заявив, що готовий інвестувати в розробки, пов'язані з "нейронних мереживом".

Побоювання з приводу стрімкого розвитку ШІ не безпідставні. У березні цього року штучний інтелект AlphaGo від Google беззастережно переміг найсильнішого в світі гравця в дуже складній інтелектуальній грі "Го" Чи Седоля. AlphaGo - один з кращих прикладів втілення технології штучних нейронних мереж і глибинного машинного навчання (deep learning).

Для участі в турнірі AlphaGo "натренировали" на використання можливостей програми для оцінки позицій та вибору найбільш виграшних ходів. "Го" передбачає, що під час кожного ходу у гравця є 200 різних варіантів, причому поки навіть найпотужніший суперкомп'ютер у світі не в змозі прорахувати всі можливості розвитку партії. Відповідно, в оцінці позиції і виборі ходу величезне значення має інтуїція гравця. Тому до недавнього часу "Го" була однією з небагатьох ігор, в яких людина набагато краще комп'ютера. Так що перемога AlphaGo над одним з найсильніших гравців світу стала переломним етапом в розвитку штучного інтелекту. Принципове досягнення в тому, що машина не просто прораховувала ходи, вона вчилася грати, нарощуючи досвід з допомогою програми глибинного машинного навчання.

Розуміння і усвідомлення того, що комп'ютер вчиться сам, з одного боку, захоплює, з іншого - насторожує. Особливо лякає перспектива застосування ШІ в армії, поліції, судової системи. Нещодавно, до речі, міжнародне адвокатське агентство прийняло в штат робота "Росса" (Ross), створеного компанією IBM на основі штучного інтелекту Watson. Використовуючи deep learning, він зараз "напрацьовує практику" і в перспективі зможе вести справи з банкрутства самостійно. Не секрет, що багато років за замовленням Пентагону конструюють оснащених штучним інтелектом роботів-солдатів.

Насправді, ІІ застосовується вже практично у всіх сферах. На тій же платформі IBM Watson розробники створюють лікаря-терапевта, який здійснює первинну діагностику на основі даних хімічних аналізів і живого діалогу між пацієнтом і роботом. Дуже швидко розвивається аналіз систем розпізнавання мови: машина вже практично наздогнала людини. ІІ навчається визначати міру близькості між різними фразами, пропозиції, текстами. Зростає якість роботи пошукових систем машинного перекладу - завдяки тому, що комп'ютер починає розуміти і аналізувати зміст тексту. Причому ІІ вчиться не тільки розуміти сказане, але і повністю синтезувати зрозумілу людині мову. Чатботы в соціальних мережах та новинні програми, замінюють журналістів - вже звичні явища. Незабаром штучний інтелект будуть застосовувати для біржових торгів, банківського скорингу, фінансового аналізу, управління транспортними засобами тощо, використовуючи комп'ютер персональний помічника.

Нещодавно Реймонд Курцвейл, відомий футуролог, винахідник численних систем для розпізнавання мовлення, технічний директор в області машинного навчання в компанії Google, опублікував прогноз про те, що чекає людство в найближчі 50 років. Зокрема, він вважає, що вже в 2020 році персональні комп'ютери досягнутий обчислювальної потужності, порівнянної з людським мозком, а в 2022-му в США і Європі будуть діяти закони, що регулюють відносини між людьми і роботами. В 2029 році ШІ не тільки зможе повністю пройти тест Тьюринга, але зробить це краще багатьох реальних співрозмовників.

Непосвяченим складно зрозуміти, як працює сучасний штучний інтелект, тому й виникає страх перед цією технологією. Щоб заспокоїти соціум, розробники ІІ придумують і способи його безпечного використання. Так, співробітники лондонської компанії по розробці ІІ DeepMind, яку два роки тому придбала Google, впевнені, що впоратися з роботами допоможе спеціальна аварійна кнопка. До речі, саме фахівці DeepMind стали авторами комп'ютерної системи AlphaGo.

Новий проект розроблений за участю вчених з Оксфордського університету. Система, що дозволяє людині безпечно і багаторазово переривати роботу ІІ, буде використовуватися в нештатних ситуаціях, коли робот виходить з під контролю, а також при виникненні технічних проблем, щоб забезпечити саму машину. Паралельно інженери розробляють технологію, щоб ШІ не перешкоджав свого тимчасового відключення.

Між тим, всі, хто професійно займається штучним інтелектом, кажуть, що справжні небезпеки, пов'язані з ІІ, мають мало спільного з науково-фантастичними сюжетами. Насправді все залежить від людей і від того, як вони будуть використовувати розумні машини. Реальна ж небезпека в тому, що штучний інтелект в багатьох областях людської діяльності може дійсно виявитися набагато ефективніше і дешевше живої робочої сили і замінить людини в багатьох сферах.