Казки роботів. Що спільного у штучного інтелекту і ГМО
Майже половина стартапів, пов'язаних з розвитком технологій штучного інтелекту і глибокого навчання, насправді з ними не пов'язана. До такого висновку прийшла венчурна фірма MMC, провівши опитування стартапів з 13 країн Євросоюзу, які класифікують себе як ШІ-компанії. У результаті з'ясувалося, що 40% з них насправді не використовують штучний інтелект. Ті ж, хто використовує, найчастіше не робить нічого оригінального - це чат-боти (26%) і виявлення шахрайства (21%).
Але що поробиш, якщо чарівні літери "Ї" так подобаються людям? За даними MMC, стартапи, які говорять про роботу з ІІ, залучають на 15-50% більше інвестицій, ніж інші компанії. Штучний інтелект, глибоке навчання, нейромережі, Біг Дата - це ж топ тренд, фішка. "Всі брешуть", - впевнено виводить у заголовок своєї книги (бестселера, до речі, і цілком заслужено) Сет Стівенс-Давидовиц, автор книги "Всі брешуть. Пошуковики, Біг Дата та Інтернет знають про вас все", заснованого на аналізі пошукових запитів Google. ІІ виведе нас на чисту воду. І добре, якщо тільки для того, щоб продати нам побільше речей, без яких ми цілком могли б обійтися.
Казку намагаються зробити страшною: кращі уми планети і генії Кремнієвої долини навперебій попереджають наївне людство про те, що ІІ небезпечний і в перспективі "всіх вб'є - один залишиться".
Звичайно, і серед них немає єдиної думки з приводу небезпеки ІІ. Маск, наприклад, малює страшні картини ШІ, який бігає по вулицях і відстрілює всіх білкових. А Цукерберг у відповідь фігурально крутить пальцем біля скроні. Загалом, немає ніякої впевненості в тому, що ШІ - це дуже небезпечно. Немає єдності думок. І від цього подвійно хвилююче.
Причин цього нагнітання бачиться дві. Перша пов'язана з тим, що більшість "пугателей" прямо не займається розробкою ІІ і побоюється, що ці розробки в перспективі виведуть конкурентів - тих, які займаються, - вперед на ринку. Що ШІ стане наступним етапом різкого збільшення розмірів конструкції, а тим, хто ним не займається, від цього пирога залишаться хіба що крихти.
Друга причина ще простіше, ніж перша: страшні казки краще продаються. Саме заради збільшення продажів половина технологічних стратапов, не мають ніякого відношення до ШІ, за вуха його притягає. ІІ немов талісман, який приносить гроші. ІІ стає фактором збільшення продажів поряд з котиками, діточками і вигини жіночого тіла. Причому ІІ продає не тільки стартапи - він продає і готові продукти. "Елементи штучного інтелекту" тепер всюди - в смартфонах, відеокамерах, системах безпеки та додатках, підбирають колір тіней і помади до вашого типу обличчя. Споживач довіряє штучного інтелекту. Іноді навіть більше, ніж власним. І іноді - небезпідставно.
Весь цей маркетинговий шум відволікає публіку від чогось важливого і, можливо, головного. Великі справи люблять тишу і в тиші відбуваються. Поки покупець купує "елементи штучного інтелекту" в смартфоні або додатку, организующем меню на тиждень, хто може сказати точно, чим займається гігант індустрії - IBM? Та сама фірма, яка зробила нинішній комп'ютеризований світ саме таким, яким він є, а потім продала майже все виробництво китайцям і майже всі ресурси - гроші, розум і руки - перенаправила на малозрозумілі широким споживчим масам розробки, пов'язані зі штучним інтелектом. Що широка публіка знає про IBM Watson, крім крихітних інформаційних ін'єкцій про застосування цієї системи в області медицини у віддалених куточках планети?
Навіть якщо б можна було уявити собі майбутнє без широкого застосування ШІ, після того як цим зайнялася IBM, не варто напружувати уяву. Це одна з небагатьох фірм, яка не на словах, а на ділі змінює світ, - так, як вважатиме за потрібне і вигідним.
Не те, щоб "страшилки" були абсолютно безпідставні. Легко уявити собі похмуру антиутопію, вибудувану якщо не самим ІЇ (це, зрештою, тільки інструмент, тільки знаряддя), то з його широким застосуванням. Звичайно, це не буде класичний Голлівуд, в якому бігають термінатори і трощать залишки крихкого людства, або навіть світ, в якому люди підключені до Матриці через здоровенні дірки в підставі черепа. Все може виявитися навіть дещо гірше, тому що справжній ІІ здатний на більше.
Справа в тому, що назад дороги немає. Як не стало її, коли був проведений перший успішний досвід ядерної реакції. І так само, як ядерна енергія, і ядерну зброю, ІІ виявиться ще одним потужним і небезпечним інструментом, з яким людству доведеться навчитися жити, тримаючи в узді і його, і себе.
ІІ проникає в наше життя двояко - і яскраво, і непомітно. Одні стартапи і продукти за вуха притягують ШІ, щоб подорожче продати. А інші продукти використовують технології великих даних і глибокого навчання, не зосереджуючи на цьому увагу клієнта. Часто, користуючись технологіями, ми не здогадуємося, в яких з них є "елементи ІІ", а в яких ні. Не здогадуємося і не замислюємося.
Але ситуація може змінитися, і не виключено, що мода на ІІ зміниться страхом перед ІІ. Ставлення публіки до технологій - полумагическое. А магічне мислення схильне до самим несподіваним маніпуляцій. Так само, як зараз успішно існують, проповідують і вербують апологетів антипрививочники і борці з ГМО, може піднятися рух борців проти ШІ. Яке-небудь популістське лобі зажадає вводити маркування на продукцію, яка містить елементи ІІ. Приспіють британські вчені, які знайдуть кореляції між застосуванням продуктів з ІІ і дитячим аутизмом (може, знайти такі кореляції виявиться навіть простіше, ніж між ГМО і аутизмом). Загалом, чи нам не знати, як це буває. IBM, звичайно, гігант, але і Монсанто в свій час не здавалося дрібною рибкою.
Аналогія, звичайно, кульгає. ІЇ, на відміну від ГМО, нічого не змінює в основах життя. Кіборги - не химери. Вживити імплантат в мозок або, тим більше, протез в тіло - це "лікування", в той час, як змінити геном - навіть з метою позбавити організм від хвороби або вірної смерті - це не "лікування", а втручання у святая святих, в саме таїнство життя.
ІЇ, як не крути - "укрзалізниця". Нам простіше провести аналогію між ним і ядерною бомбою, ніж генною модифікацією. І це, швидше за все, величезна помилка. У всякому разі в тому, що стосується контролю. Контролювати ІІ буде нітрохи не простіше, ніж поширенню генно-модифікованих організмів. І вже, звичайно, складніше, ніж ядерну бомбу.
Що ж до шкоди, яку може принести всюдисущий неконтрольований ШІ, то, боюся, ГМ-соя, навіть разом зі своїм незмінним супутником раундапом, тихенько сидить в передпокої.
Так що, можливо, не варто сильно переживати з-за того, що половина стартапів, пов'язаних з ШІ, зовсім з ним не пов'язана. Популярний герой мас-культу ІІ - який пише оповідання зі світу Толкієна і статті в "Ґардіан", закінчує "Незакінчену симфонію" замість Шуберта, відповідає на ваші питання гарячої лінії оператора стільникового зв'язку і тільки що не крутиться на трапеції під куполом цирку, але і туди скоро добереться - відмінно продає все підряд. Продавець впевнений, що ви - як і інвестори, бувалі акули капіталізму - "поведетесь" на ІІ і раскошелитесь. І це, звичайно, обман, але лише частково - ті функції, які заявлені в описі, продукт буде виконувати, не сумнівайтеся. Інша справа, що ШІ тут зовсім ні при чому. Тому що для виконання цих функцій він зовсім не потрібен - це як мікроскопом цвяхи забивати.
ІІ переоцінений на ринку високих технологій, роздутий і оточений товстим-товстим шаром міфу. Це багатьох турбує. Не стільки через те, що ІІ "нас всіх вб'є", скільки з-за того, що одного разу цей міхур може лопнути. Тема ІІ перегрівається маркетологами, які малюють для публіки (і інвесторів) фантастичні картини майбутнього, в якому ІІ вирішує будь-які проблеми будь-якої організації або виробництва швидко і задешево. В їх уявленні - це саме чари, а не довга і копітка робота команди інженерів, програмістів, математиків та інших людей - фахівців в тій області, в якій буде застосовуватися конкретний ІІ. Вам достатньо буде "підключитися", "закачати", "поставити", "перевести свою роботу на нашу систему" - і вуаля, ви заробите в чотири рази більше з нашим чарівним ІІ. Заодно на персоналі заощадите - зможете звільнити всіх, замість них роботи будуть працювати.
Якщо б це було дійсно так - півбіди. Але цього "революційного" продукту все немає і немає, а те, що є, не має в собі дуже багато революційного. Найчастіше вся революція - на обкладинці, на якій незмінно зображується кіношний андроїд з пластиковим особою і розкритої черепною коробкою, з якої стирчать дроти і блимають світлодіоди. А сама проблема вирішена за допомогою технологій, яким сто років в обід. Добре вирішена. Витончено. Економно. Але... не ШІ.
У більшості випадків революційний ІІ-стартап - це казка. Яка одного разу втомить публіку. І публіка просто перестане купувати ІІ. Гірше того, публіка може розчаруватися. Ні, ще гірше: публіка може вирішити, що ШІ - це обман. А де обман - там загроза (конспірологи потирає спітнілі рученята - ось і вони зможуть подмолотить грошенят на популярній темі). Все це може сильно загальмувати розвиток цього дійсно перспективного напряму. І "справжній" ШІ - той, який дійсно зможе змінити наш світ буде і далі розвиватися, прихований від очей і уваги публіки.
