На рівні черв'яка. Чому "штучний інтелект" - обманка для довірливих простаків
Чи не щотижня з'являються повідомлення про нові успіхи штучного інтелекту. Незабаром, напевно, такі новини будуть виникати вже щодня. Технологія ІІ давно вийшла за рамки досліджень і розробок і знайшла практичне застосування в індустрії, комунікаціях і військовій сфері.
Глобальний ринок ШІ зростає вражаюче високими темпами. Свіжий прогноз американської компанії Tractica, що спеціалізується на консалтингу в сфері цифрових технологій, прогнозує збільшення річного світового доходу від програмного забезпечення для ІІ з $3,2 млрд до 2016 р. до $89,8 млрд у 2025-му, тобто в 28 раз за дев'ять років.
Разом з цим зростають і панічні настрої в суспільстві. Наприклад, власник SpaceX і Tesla Ілон Маск в серпні минулого року заявив, що ШІ несе в собі значно більший ризик, ніж Північна Корея". Трохи раніше керівництво соціальної мережі Facebook повідомило, що воно змушене було відключити свою систему ІІ, після того як машини почали спілкуватися на власному, неіснуючою мовою, який люди не розуміли. Природно, це викликало безліч коментарів у дусі "ну ось, як ми і попереджали, ІІ вже виходить з-під контролю".
"Я можу я все інше"
Однак до всім цим пристрастям варто ставитися з неабиякою часткою іронії. По-перше, тому, що розповіді про успіхи ІІ - найважливіша частина піару дослідних груп і компаній, що працюють над ІІ-технологіями. Чим більше успіхів, тим більше вдається зібрати фінансування, звідси і стрімке зростання ринку. Але і страшилки розганяються теж в цілях піару. Той же Ілон Маск захоплює публіку панічними заявами спеціально для того, щоб підігріти інтерес до своїм компаніям Neuralink (займається створенням інтерфейсу "людина - комп'ютер") і OpenAI (обіцяє розробити такий ШІ, який буде гарантовано дружнім до людини).
А по-друге, сам термін "штучний інтелект" - не більш ніж обманка для довірливих простаків. Ніхто з розробників ШІ не стверджує всерйоз про свою здатність створити комп'ютер, що вміє мислити. Реалістичні цілі зводяться до того, щоб комп'ютер вмів обчислювати рішення якоїсь конкретної завдання швидше, ніж людина його придумає. Це дійсно дуже небезпечна зброя, але - в руках людини (особливо в руках військових). І ця штука дійсно може вийти з-під контролю в тому ж сенсі, в якому може вийти з-під контролю мікрохвильовка, автомобіль або ядерний реактор, якщо людина-користувач не дотримується інструкцію по експлуатації та правила техніки безпеки. Але навіть вийшовши з-під контролю, ІІ ні про що не помыслит і нічого не придумає.
До речі, прекрасної ілюстрацією цьому може служити як саме та історія, яка налякала керівництво Facebook. Чат-боти, спочатку створені для спілкування з живими людьми, поступово почали спілкуватися між собою - і перейшли на якусь тарабарщину, незрозумілу людям. Чат-боту дійсно немає ніякої різниці, з ким спілкуватися - з людиною чи з собі подібним. Він лише імітує спілкування, спираючись на свою програму та інформацію, отриману від співрозмовника. Поки співрозмовником є людина, завдяки майстерної програмі чат-бот підтримує видимість інтелектуального спілкування. Але коли співрозмовником виявляється чат-бот, рівень інтелектуальності бесіди відразу ж виявляється нульовим.
Журнал The Atlantic навів приклад діалогів, які вели між собою фейсбучные чат-боти Боб і Аліса:
Боб: Я можу я все інше.
Аліса: М'ячі мають нуль для мене для мене для мене...
Боб: Ти я все інше.
Аліса: М'ячі мають м'яч для мене для мене для мене...
Обмін подібними "глибокодумними" репліками триває енну кількість разів. Без будь-яких проблисків інтелекту, хоча б випадкових.
"Джон подумав, що він тепер вовк і біла гавань"
Звичайно, тут можна заперечити, що все-таки чат-боти - це простаковатые істоти, винайдені лише для підтримки балаканини в чаті. Напевно, якщо спеціально створити штучного письменника, то він зуміє здивувати навіть найвимогливіший смак літературних гурманів? Пробували, і не раз. Виходило справді щось дивовижне.
Наприклад, як розповідає портал Motherboard, американський програміст Зак Тутт занепокоївся тим, що Джордж Мартін ніяк не може написати чергове продовження саги "Пісня льоду і полум'я" (її екранізацією є серіал "Гра престолів"). Статут чекати, коли Мартін закінчить шосту книгу саги (п'ята вийшла ще в 2011 р.), Тутт створив нейромережа, яка сама написала цю книгу. Твір складається з п'яти глав, програміст опублікував їх у серпні минулого року на сайті GitHub. Шедевр ІІ починається так (для повноти відчуттів ми доручили місію перекладу іншому ІІ - Google):
Тіріон почув кашель лорда Емона. "Я сумую з цього приводу. Чому ти правий?"
"Я боявся Вчителя Санса, Сер, - нагадав їй Сер Хайме. - Вона Баратеонов є одним з перетинів. Друге синів вашого цибулі наложниці".
Леді Донелла довжиною довгого меча, волосся, готові піднятися з неї. І між ними були белако-кістяні бризки і нічні години в їх кімнаті. Тільки він не міг дивитися на них, навіть на інших. "Як ти міг покинути світ?"
"Деякі мають, для вас, - ліниво мовила жінка. - Боги, Річок".
Звичайно, зустрічаються і не зовсім абсурдні пропозиції:
Джеймі вбив Серсо і був холодний і сповнений слів, і Джон подумав, що він тепер вовк і біла гавань...
"Ага, Паштет", - високий чоловік підняв меч і поманив його назад, після чого штовхнув великий сталевий трон туди, куди вийшла дівчина. Зелена Борода чекав біля воріт, великий засліплений бородатий прищ з його грішного тіла зірвав з його пальця каблучку з білого яблука...
Але наполовину книга складається з зовсім безглуздих словосполучень. Гірше того. Хоча Тутт використовував для навчання програми повний текст перших п'яти книг саги Мартіна (а це 5376 сторінок), проте нейромережа примудрилася забути, що деякі персонажі померли, і використовувала їх у своєму сюжеті.
Мабуть, їй просто невтямки, що таке смерть. Тутт не спромігся заборонити програмі подібні воскресіння, а сама нейромережа, прочитавши п'ять товстенних книг, так і не помітила, що людям не властиво воскрешаться з мертвих. "А що, люди вмирають назавжди?" - це питання, яке обов'язково одного разу приходить в голову будь-якій дитині, не виникло (та й не міг виникнути) у комп'ютерній імітації людського розуму.
"Гаррі відвів очі від голови і кинув їх у ліс"
За словами Тутта, кожна глава книги, створеної його програмою, починається з імені персонажа, яке поставив програміст, а в іншому нейромережа ні в чому себе не обмежувала. Можливо, занадто велика свобода і завела творчість ІІ в нетрі нісенітниці. Більш обережно надійшла команда Botnik Studios, яка описує себе як "спільнота письменників, художників і розробників, що створюють і використовують алгоритми для реміксу і перетворення мови". У грудні минулого року вона презентувала нову історію за мотивами циклу книг Джоан Роулінг про Гаррі Поттера.
Назва машинного твори - "Гаррі Поттер і портрет того, що виглядало як велика купа попелу". Втім, цей шедевр з'явився в результаті спільної творчості ІІ і людей. Як розповідає The Verge, розробники використовували алгоритм предиктивного введення тексту, який дозволяє друкувати слова повністю, а доповнює їх на основі вже введених букв і словника (знайомий всім приклад - спливаючі підказки в інтернет-пошуковиках).
Спочатку алгоритмом довелося прочитати всі сім книг Роулінг, щоб отримати словниково-фразеологічний запас. Далі програмісти навчили алгоритм генерувати продовження розпочатих фраз на основі наявного запасу. І лише потім настала черга створення зв'язного тексту. Разом з машиною над цим працювали дві групи людей. Одна група, що відповідає за хитросплетіння сюжету, вводила підібрані нею початкові слова фрагментів оповідання або діалогів. Алгоритм аналізував введені слова і пропонував на вибір кілька продовжень. А друга група, що відповідає за копіювання стилю Роулінг, вибирала на свій смак найбільш підходящі варіанти.
Тим не менш, за оцінкою BBC, результат вийшов розчаровує для фанатів поттеріани: текст виглядає як пародія, а іноді і просто як набір випадкових слів. Щоправда, початок оповідання не суперечить духу оригінальної книги: "Земля у підніжжя замку піднялася в повітря під дією магічного променя". Але потім текст швидко перетворюється в набір абсурдних і відверто безглуздих фраз:
Він побачив Гаррі і тут же почав їсти сім'ю Герміони...
Гаррі відвів очі від голови і кинув їх у ліс...
"Тепер не така вже й гарна", - подумав Гаррі, зануривши Герміону в гарячий соус.
Зрозуміло, що від стилю Роулінг, у всьому цьому є. Але це - лише наслідок того, що алгоритм автоматично користувався її улюбленими фразеологическими оборотами, а не плід самостійного осмисленого творчості.
Хоч щось від Мікеланджело
Тут хотілося б заперечити, що у розробників ІІ бувають і безсумнівні успіхи. Взяти, наприклад, самонавчальні пошукові системи - адже вони з кожним роком все тонше відчувають наші запити. Інколи здається навіть, що вони читають наші думки, а то і взагалі знають про нас щось, чого ми самі про себе не знаємо.
Ось зовсім свіжий приклад - функція Is your portrait in a museum? ("Чи є ваш портрет в музеї?"), яка в січні з'явилася в мобільному додатку Google Arts & Culture. Правда, поки вона працює тільки для користувачів з США - ну або для тих, хто зайшов через VPN.
Розробникам Google вдалося створити алгоритм, який шукає ваших двійників серед величезної бази даних, яка містить твори мистецтв з 1200 музеїв 70 країн світу - а це сотні тисяч експонатів. Функція працює за допомогою нейронної мережі, створеної командою Google. Потрібно тільки зробити селфи - і мережа, проаналізувавши ваші риси обличчя, намагатиметься відшукати максимально схожого на вас людини, зображеного на картині, фресці або втіленого у вигляді скульптури.
Функція також вимірює ступінь схожості. Іноді знаходяться дійсно дивовижні 100%-е збігу. Буває навіть, що ШІ здається нам надто самокритичним: він може оцінити в 53% таку подібність, яке ми вважали б за 100%.
Деякі 88%-е двійники виглядають жорсткої пародією. Комусь просто не щастить. Одна юна американка поскаржилася: "Я робила селфи 20 разів, і все одно кожен раз отримувала від програми цього страхітливого хлопця в якості свого двійника". Але вона просто не бачила, які трапляються більш страхітливі двійники.
Дехто намагається обдурити додаток і підсовує фото домашнього кота - нейромережа і йому знаходить подібність (у вигляді дивнуватого чоловіки в червоній шапці), оцінюючи схожість у 61%. Іноді ж програма сама жорстоко помиляються і знаходить чоловікові 74%-го двійника у вигляді дітородного органу зі скульптури Мікеланджело. Користувач, природно, оцінює додаток нецензурним виразом.
Ніхто заздалегідь не знає, який результат видасть ця функція. Побачивши своє альтер его, хтось захопиться, хтось посміється, хтось образиться. Якщо тепер оцінити по отриманому ефекту саму цю ІІ-технологію пошуку збігів, то доводиться визнати, що вона не здатна замінити людину. Вона годиться для забави, також вона може стати підмогою серйозним людям (наприклад, у карному розшуку), але на неї цілком можна покластися - і тому її шедеври проігнорує будь-який суд.
Скільки залишилося до рівня людини
Щоб реалістично оцінити просування на шляху до ШІ, потрібно дивитися не на імітації деяких людських навичок, а на спроби змоделювати нервову систему в цілому. Поки що найбільшого успіху досягла команда OpenWorm - це міжнародний проект щодо створення комп'ютерної моделі круглого хробака Caenorhabditis elegans, що відноситься до типу нематод.
Нервова система цього хробака налічує всього лише 302 клітини. В 1986 р. була повністю описана структура зв'язків між ними, а в 2014 р. команда OpenWorm змогла перевести отриману інформацію в цифрову модель для управління нейророботом.
Робот володіє набором еквівалентів всім частинам тіла круглого хробака, в т. ч. сонаром, замінюючим ніс, і набором механізмів, які імітують передачу нервових імпульсів і реакцію м'язової системи. Як стверджує засновник проекту OpenWorm Тімоті Бусбице, отримана модель не була запрограмована на які-небудь дії, але діє майже так само, як реальний біологічний організм. Датчик, імітує орган нюху, робота змушує зупинитися, а дотик до переднім і заднім сенсорним датчикам, що відповідає за роботу м'язів, змушує його рухатися вперед або назад. Якщо працює сенсор, який відповідає за виявлення їжі, конструкція також рухається вперед.
Кінцева мета проекту - вивчити принципи роботи нервової системи примітивного істоти, щоб надалі зайнятися вивченням людського мозку і його моделюванням. У мозку людини налічується близько 85 млрд нейронів, тобто 280 млн разів більше, ніж у нервовій системі хробака Caenorhabditis elegans. І вже з цього порівняння можна зрозуміти, наскільки велику дистанцію необхідно пройти.
А адже різниця між черв'яком і людиною - не тільки в кількості нервових клітин, але і в рівні нервової діяльності. Черв'як здатний лише на найпростіші інстинктивні реакції, тоді як людина володіє підсвідомістю, де таяться сни, передчуття, інтуїція, і свідомістю, здатним мислити. Жодних моделей цього немає і в помині.
