Повстання машин. Як штучний інтелект породив цифрового дитини

NASNet - так назвали "дитини", нещодавно народженого штучним інтелектом AutoML. Програма, створена Google Brain, здатна розробляти власні ІІ. Причому NASNet вийшов розумніші, ніж аналоги, створені людьми. Він здатний навчатися, звітуючи перед "батьком", який удосконалює алгоритми "малюка", виходячи з отриманих даних.

У травні цього року команда Google Brain оголосила про запуск проекту AutoML (Auto Machine Learning), метою якого було створення інтелекту, який, у свою чергу, зможе створити власний ІІ. Вчені з Google використовували в своїй роботі метод під назвою "посилене навчання", застосувавши його до нейронних мереж. "Батьківська" програма є головним контролером нейронної мережі, яка будує модель нейронної мережі "дитини". Кожен такий "дитина" може бути призначений для певної цілі та "отримує" від батька оригінальну модель своєї власної мережі "Коли у "дитини" вже є певні базові знання або навички, вони тестуються, оцінюються та передаються "батькам", завдання яких - знайти спосіб їх поліпшити. Коли виникає краща версія структури нейронної мережі, вона повертається до "дитини". Знову перевіряється, оцінюється і відправляється для поліпшення "батьком", - розповідають експерти Google Brain. Весь процес повторюється тисячі разів.

"Малюка" NASNet навчили розпізнавати різні об'єкти: людей, предмети (сумки, рюкзаки, а також автомобілі) або кольору дорожнього освітлення. Мова йде не про просте розпізнаванні об'єктів на фотографіях - NASNet в режимі реального часу ідентифікує рухомі об'єкти на відеороликах.

Вчені використовували дві системи, які вважаються кращими для подібного роду досліджень, - систему класифікації зображень ImageNet і базу даних COCO.

У випадку з ImageNet рівень розпізнавання об'єктів "малюком" NASNet склав 82,7%, це на 1,2% краще, ніж показники всіх попередніх проектів. У випадку з базою даних COCO ефективність склала 43,1%, на 4% краще, ніж у попередників.

Дослідники створили і трохи спрощену версію NASNet, призначену для мобільних пристроїв. У порівнянні з аналогічними системами проект Google в справі виявлення та розпізнавання об'єктів опинився на 3% ефективніше.

З суто наукової точки зору інженери з Google Brain досягли величезного успіху. Діапазон використання умінь NASNet величезний. Так. Вже є ідеї щодо використання ШІ для допомоги слабозрячим або навіть зовсім сліпим. Крім того, цифровий "малюк" може допомогти зробити прорив у створенні автомобілів з автопілотами, оскільки дозволить з високою точністю розпізнавати об'єкти на шляху.

Розробники NASNet також заявляють, що готові поділитися інформацією про проект з іншими вченими, щоб об'єднати зусилля і придумати нових "діток" для AutoML.

Втім, не всі поділяють радість розробників. Так, окремі експерти підкреслюють, що NASNet цілком може використовуватися для створення автоматичної системи спостереження за людьми. До того ж учені поки не можуть гарантувати, що "діти" не перещеголяют своїх цифрових "батьків". Плюс до цього машини не знайомі з поняттями моралі, і хто знає, чого в підсумку навчиться цифровий дитсадок.

У Google запевняють, що ніякої шкоди їх програми не принесуть - разом з Amazon, Facebook і Apple вони є членами ініціативи "Партнерство за ІІ в інтересах людей і суспільства". Його мета - переконатися, що робота над ІІ служить виключно на благо людства. Однак далеко не всі фахівці вважають, що інженери зможуть контролювати свої творіння.

Влітку засновник компанії Tesla Motors Ілон Маск заявив, що штучний інтелект небезпечніше КНДР. "Врешті-решт машини переможуть", - написано на плакаті, фото якого Маск виклав в Twitter. Не в захваті від перспектив розвитку ШІ і Стівен Хокінг: від вважає, що неминучий кінець світу настане через ядерної війни, генетично створеного вірусу або штучного інтелекту. У Facebook навіть зупинили експеримент з штучним інтелектом після винаходу власної мови чат-ботами - хоча їх діалог виглядав набором слів, інженери вважали, що штучний інтелект динамічно генерував власну мову і навіть навчився розуміти розмови.

Захисники ІІ стверджують: все залежить від того, хто цей самий інтелект розробляє. Так, Марк Цугерберг заявив: "Кожен раз, коли я чую про те, що штучний інтелект завдасть шкоди людству в майбутньому, я думаю: так, технології завжди можуть бути використані як для хорошого, так і поганого. Потрібно бути обережним щодо того, що саме ти робиш, як ти це робиш, і як воно буде використовуватися". Генеральний виконавчий директор Microsoft Сатья Наделла впевнений, що штучний інтелект може створити більше робочих місць, ніж ліквідувати. "Зараз розробка штучного інтелекту спрямована на допомогу людям і поліпшення їхніх можливостей. Навіть у самонавчаючих системах багато рішень залежать від розробників. Ми повинні переконатися, що на цьому етапі в систему не потраплять упереджені або погані дані", - заявив Наделла.

Правда, як саме можна перешкодити розвитку ШІ з "поганими даними", його захисники не кажуть - сподіваються на порядність розробників. Між тим давно не секрет, що підвищений інтерес до ІІ живлять, наприклад, військові.

У той же час тривожні дзвіночки вже з'явилися. На конференції з проблем штучного інтелекту Neural Information Processing Systems, нещодавно пройшла в Лонг-Біч (Каліфорнія), відразу кілька фахівців заявили, що вони перестали розуміти, як працює ШІ - виявляється, він схильний приймати неупереджені рішення і шукати непотрібні аналогією.

Фахівці з штучного інтелекту прогнозують злиття людей і машин протягом 20 років. Інвестиції венчурних капіталів в розробку технології ШІ за перші 9 місяців 2017 р. склали $7,6 млрд. У своїх звітах про доходи державні компанії згадують AI частіше, ніж big data.

Обернеться це повстанням машин - питання поки відкрите.