Штучний інтелект проти британських вчених - майже як в кіно
Тут будуть вивчати довгострокові наслідки застосування штучного інтелекту, і можливі політичні рішення, які можуть бути використані для зменшення потенційних ризиків, пов'язаних з ШІ. Тобто британські вчені всерйоз турбуються про "загрозу роботів".
Коли ми говоримо про штучний інтелект і загрози з його боку, ми уявляємо щось грандіозне. Повстання машин. Чи навіть їхній диктат. У кращому - оптимістичному - випадку якийсь симбіоз чи навіть глобальний союз між людиною та машиною. Нічого не поробиш - масова уява у цій сфері виплекана Голівудом. Хоча, заради справделивості варто сказати, що куди як більш реалістичний сценарій входження ШІ в наше життя також було втілено Фабрикою мрій - у фільмі "Вона". Про "індивідуалізовану" операційну систему, створену в такий спосіб, що може підлаштовуватися під користувача - до його звичок, смаків, потреб - і в такий спосіб повністю опановує його життя.
Кіно, звісно, фантастичне. Але доволі правдиве. І в тому, що ми наразі все більше надаємо перевагу "машинним" рішенням. І в тому, що і самі редукуємо і примітивізуємо власні комунікативні звички - деякі аккаунти у соцмережах, таке враження, не пройшли би тесту Тьюрінга (і, може, недарма).
Щоправда, Стівен Гокінг обіцяє, що ШІ полонить нас не раніше, ніж за сто років. Натомість більшість провозвісників технологічної сингулярності майже впевнені у тому, що ми, тобто звичайні люди, цього навіть не побачимо.
І тому не дивно, що виникає підозра, що ШІ значно ближче, ніж вважає Гокінг. Може, він вже серед нас. І діє.
Ще у 90-х один відомий російський фантаст якось заявив, що ШІ вже існує - він пише кілометри поганих фантастичних романів, видає їх і збирається на конвенти. Малося на увазі, що нормальній притомній людині там нема чого робити.
Ця теза несподівано відгукнулася тепер. Це теж популярний сюжет: фантасти попереджають - науковці підтверджують. Судячи з усього, в Росії ШІ охолонув до фантастики - криза, наклади падають, ринки скорочуються - і взявся за держзамовлення на "наукове попередження кольорових революцій". Сибірські вчені заявили, що за допомогою мережі ботів можна "переполюсувати свідомість", "зламати когнітивне вікно" і змусити людей "бачити чорне - білим і навпаки". Тому всі сучасні революції - це "революції думок", а думку, як випливає з цього малочитабельного тексту, можна змінити за допомогою технологій. Принаймні, до досліджень активно долучаються математики, фізики, кібернетики та інші представники передових наук.
Тобто ще невідомо, як технічно ШІ може "переполюсовавувати свідомість", але його намір засвоювати державні кошти наявний.
Втім, без жартів - існують генератори повідомлень, які можуть підтримувати переписку з клієнтами різних служб, вони "удосконалюються" і "навчаються", породжує підозри в існуванні мереж ботів, які наповнюють соцмережі месиджами, які "комусь потрібні". І якщо вони не є самим штучним інтелектом, то, принаймні, його прототипом.
І тут британські вчені несподіваним чином перегукуються з сибірськими. Щоправда вони попереджають, що штучний інтелект може бути використаний нечистоплотними урядами, в той час як сибірські впевнені, що це вже відбувається (вони не стверджують, що це саме ШІ, і пишуть поки що лише про "мережі ботів") - тобто в ролі "нечистоплотних урядів" виступають модератори "кольорових революцій".
Звісно, цей сюжет випливає на поверхню, бо він щільно межує з масовою літературою. Людям подобаються сюжети, в яких йдеться про "змови" та "маніпулювання свідомістю". В той час, як справжня мета оксфордських дослідників загроз з боку ШІ водночас і прозаїчніша, і цікавіша. "Людський фактор" грає в них значно меншу роль - і розходиться не стільки про можливість використання ШІ для "промивки мізків" (справжньому ШІ, швидше за все, буде геть байдуже до наших мізків), скільки про те, наскільки багато аспектів свого життя ми готові перекласти і вже перекладаємо на машину, тобто наскільки велика наша залежність від її "рішень".
Втім, навіть у випадку з британськими вченими ми стикаємося з втіленням прозрінь фантастів. Бо головні "людські" вимоги до ШІ вже давно сформульовані Айзеком Азімовим у книзі "Я, робот". Лишається розібратися, як застосувати "три закони роботехніки" на практиці. І як змусити вчених та уряди дотримуватися цієї конвенції.