Інтелект у законі. До чого приведе закон ЄС про синтез природного та рукотворного розумів

Європейський Союз ухвалив перший у світі комплексний закон щодо регулювання розробок та використання штучного інтелекту (ШІ).

Суть нового закону досить проста:

• У найближчій перспективі він має захистити людину від маніпулювання з боку ШІ. Зокрема, закон забороняє використання технологій ШІ поліцією, роботодавцями чи торговими закладами для стеження людей в реальному часі, включаючи емоційне розпізнавання. Єдиний виняток зроблений для поліції у разі екстрених ситуацій, а також для розслідування особливо тяжких злочинів.
• Надалі, у міру вдосконалення ШІ, він повинен забезпечити конструктивну взаємодію штучного та людського інтелектів, аж до гармонійного синтезу, при максимальному уникненні їхнього суперництва.
• Крім того, закон встановлює мінімальні параметри стійкості ШІ у складних ситуаціях при його застосуванні на транспорті, медицині та в небезпечних виробництвах. Він також конкретизує стандарти ризиків, пов'язуючи їх із кількістю комп'ютерних операцій, необхідні навчання ШІ.

За всієї очевидності цих завдань загалом розробка такого закону, що відбувалася на стику юриспруденції, психології, технологій IT у широкому розумінні, та ШІ зокрема, а також сфер діяльності, де ці технології застосовуються, була пов'язана з величезними труднощами. У цьому плані закон справді новаторський і проривний. Він мав охопити надзвичайно широкий спектр людської діяльності: від виробництва технологій ШІ до соцмереж, систем стеження, роботи кадрових агенцій та систем регулювання руху. Закон також враховує досвід застосування ШІ в тоталітарному Китаї, розглядаючи його як суто негативний приклад, який не має відтворюватись у демократичних країнах.

Тим часом використання технологій ШІ для обмеження громадянських свобод, аж до повного закабалення людей, стає в тоталітарних країнах все більш витонченим. Це створює окремий набір проблем, оскільки тоталітарний та ліберальний світи стикаються та взаємодіють через Всесвітню мережу. Як наслідок, тоталітарні технології підпорядкування людини та маніпулювання ним за допомогою ШІ неминуче потраплятимуть у вільний обіг, використовуватимуться тоталітарними режимами для агресії у віртуальному просторі, а також свідомо передаватися у розпорядження злочинних та терористичних організацій, які використовуються для дестабілізації ліберальних демократій. Ця проблема, за словами розробників закону, вже зараз стала на весь зріст, а збитки, які завдають тоталітарні країни, що діють через кіберзлочинні угруповання, вимірюється десятками мільярдів доларів. Широке використання ШІ обіцяє значне посилення цих проблем.

Треба визнати, що саме в частині захисту від спроб кримінального використання ШІ новий закон виглядає, як мінімум, недостатньо опрацьованим. Втім, справа тут, ймовірно, у слабкому опрацюванні самої проблематики боротьби з кіберзлочинами та відставанні розробки інструментів для їх виявлення та протидії їм від реальних потреб у них. Створення таких інструментів, що використовують технології ШІ, а також розробка стратегій їх застосування, вже найближчими роками стане, мабуть, однією з найважливіших сфер діяльності розробників.

Загальна ідеологія закону виходить з того, що з урахуванням порівняльної спроможності до багатофакторного аналізу, якою володіють ШІ, що стають все більш потужними, і звичайна людина, остання опиняється у вразливому становищі. Незалежно від сили свого інтелекту та інших особистих якостей, будь-яка людина беззахисна перед маніпуляціями з боку людини, або групи людей, які використовують ШІ для досягнення своїх цілей. Очевидно й те, що самі собою заборони є лише частковим вирішенням питання. Справжнім його рішенням може стати лише перетворення ШІ на загальнодоступну технологію, яка повсюдно використовується всіма людьми. Іншими словами, взаємодія з ШІ, в тому числі через прямі інтерфейси мозок-ШІ, в найближчому майбутньому стане таким же рутинним процесом, яким на наших очах стало використання смартфонів. У цьому немає нічого незвичайного – така доля будь-яких інновацій, які викликають чергову НТР. Масове використання ШІ якраз і стане новою НТР, яка багаторазово збільшує можливості людського інтелекту.

Але будь-яке збільшення можливостей людини, починаючи від заміни кам'яної зброї — бронзовою, і до широкого застосування ШІ в побуті, може бути використане як на благо, так і для здійснення протиправних дій. Зокрема, розробники закону зазначають, що однією з найгарячіших загроз, пов'язаних із ШІ, у поєднанні з можливостями сучасних біотехнологій, може стати легкість у створенні нових патогенів. "Ви можете виростити свого власного маленького монстра у себе на кухні", — сказав із цього приводу один із розробників закону. Втім, це означає спрощення створення захисту від таких загроз.

Іншими словами, світ на наших очах вкотре ускладнюється, знаходячи ще один вимір. Це не обіцяє будь-яких неминучих катастроф, але лише за умови, що нові технології не вийдуть з-під контролю, і розробка механізмів їх регулювання встигатиме за їх розвитком.