Чому роботи "Тесли" почали вбивати людей
Національне управління безпеки дорожнього руху США (NHTSA) проводить розслідування дорожньо-транспортної пригоди, у якій загинув водій автомобіля Tesla Model S, який їхав з включеною функцією автопілота. Це перше ДТП зі смертельним результатом в історії самокерованих автомобілів. До того безпілотники хоча і потрапляли в аварії, їх пасажирам вдавалося відбутися "легким переляком". Тепер же ситуація прийняла серйозний оборот, що може негативно вплинути на розвиток сегмента безпілотних авто.
Представники Tesla кажуть, що функція автопілота перебуває зараз у стадії публічного бета-тестування, тому користуватися нею поки не рекомендується і автовиробник за замовчуванням її не активує. Однак власники дорогого авто бажають отримати "все і відразу", тому часто ігнорують потенційні небезпеки. При використанні автопілота водій зобов'язаний стежити за дорогою і постійно тримати руки на кермі. На практиці ж власники Tesla та інших самоврядних транспортних засобів часто ігнорують цю вимогу, були навіть випадки, коли господар авто просто засинав у кріслі.
У разі згаданої аварії зі смертельним результатом ні водій, ні автопілот не встигли помітити небезпеку — не розпізнали білий борт вантажівки, з яким зіткнулася Tesla, на тлі яскравого неба, що і привело до ДТП. Як з'ясувалося, загиблий водій, Джошуа Браун, був активним членом Tesla Reddit forum і регулярно публікував у соцмережах відео, де його автомобіль ухилявся від зіткнення в режимі автопілота.
Насправді, безпілотні автомобілі — ідея перспективна. Передбачається, що вони зроблять більш ефективним дорожній рух, стануть більш економним видом транспорту, скоротять викиди в атмосферу і суттєво знизять кількість дорожньо-транспортних пригод. За прогнозами McKinsey Global Institute, до 2025 р. сумарна економія, яку забезпечать безпілотники, може скласти більше $1 трлн, а кількість аварій зі смертельним результатом знизиться на 70%. Не дарма над функцією автопілота працюють зараз практично всі світові автовиробники, включаючи Volvo, Nissan, Mercedes-Benz, Audi, Diamler, Tesla. Самоврядні технології також в активі таких технологічних гігантів, як Google і Apple.
Що стосується "Тесли", то корпорація оснастила свої електромобілі S і X повноцінними автопілотами в 2015 р. Теоретично машини можуть самостійно пересуватися по шосе, перебудовуватися в потрібний ряд, уникати зіткнень і вибирати оптимальну швидкість з урахуванням умов на дорозі. Система орієнтується на свідчення камер, радарів, ультразвукових сенсорів і навігаційної системи. Фахівці кажуть, що на сьогодні у "Тесли" сама просунута технологія автономного водіння на ринку, тому згадана аварія зі смертельним результатом стала дуже показовою. Адже якщо кращий автопілот дав збій і не зміг зорієнтуватися в ситуації, чого чекати від інших?
Звичайно, водія можна звинуватити в необачності і необережності, але смерть людини, причиною якої стало використання функції автопілота, в черговий раз демонструє недосконалість нинішніх систем самоврядування. Такі технології явно потребують серйозної технічної доопрацювання. Насамперед належить створити максимально ефективну систему безпеки, щоб звести до мінімуму ризик ДТП.
Існує і морально-етична дилема при використанні безпілотників: машина повинна бути запрограмована на порятунок життя пішоходів чи будь-якою ціною захистити господаря авто? Оскільки безпілотники — по суті, роботи, до них повинен бути відповідний підхід. Знаменитий письменник-фантаст Айзек Азімов вивів ще в 1942 р. три закони робототехніки. Вони свідчать, що робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людина постраждала. Машина повинна коритися всім наказам, які дає людина, крім тих випадків, коли ці накази суперечать першому закону. Робот також повинен піклуватися про свою безпеку, але лише в тій мірі, в якій це не суперечить першому або другому законам.
Всі згадані правила ідеальні для безпілотних автомобілів, але у випадку з транспортним засобом, роботизованим систем рано чи пізно доведеться робити вибір, адже нерідкі ситуації на дорогах, коли можна врятувати лише одну людину: власника авто або пішохода. Вивченням цієї теми зайнялися дослідники Массачусетського технологічного інституту (MIT). У статті, опублікованій у свіжому номері Science, вони пишуть, що люди, які готові купити авто з функцією автопілота, керуються в загальному благородними цілями: вони хочуть, щоб їхні машини не заважали пішоходам і зробили дороги безпечними. Але, з іншого боку, жоден з опитаних не погодився пожертвувати власною безпекою на користь пішоходів.
Учені давно розглядають подібні етичні парадокси. Приміром, у когнітивістики використовується популярна завдання з вагонеткою, коли людині пропонується перевести стрілку перед поїздом, щоб врятувати п'ять пасажирів, але вбити одного сторонньої людини. Проблема в тому, що компромісного рішення в таких ситуаціях не існує. Аналогічна дилема, на думку очолив дослідження в MIT Іяда Рахвана, може серйозно ускладнити процес впровадження самоврядних машин. Адже якщо авто буде запрограмовано на те, щоб врятувати життя пасажира і, відповідно, врізатися в пішоходів, чи багато знайдеться бажаючих купити машину-вбивцю? Навряд чи кому-то підійде і зворотний варіант, коли гине власник машини. До того ж, готові в принципі люди довірити своє життя роботу?
Крім технічних і етичних, у самоврядних авто є ще одна серйозна проблема. Справа в тому, що їх використання зробить приватне життя людей абсолютно незахищеною. Автопілот фіксує всі пересування водія, а значить, ці дані надходять автовиробника. Таку інформацію можна використовувати, зокрема, у судових процесах, і в цьому випадку робот здасть свого власника з потрохами.
Прогрес, без сумніву, не зупинити, і самоврядний транспорт занадто гарний, щоб від нього відмовитися. Ще в 2012 р. влада штату Каліфорнія легалізували безпілотні автомобілі, а в цьому році узаконили використання самоврядних машин в Південній Австралії. Крім того, в лютому цього року у США легалізували безпілотники Google. Експерти вважають, що законодавче закріплення використання автопілотів істотно прискорить процес їх виведення на дороги. Згідно з доповіддю Асоціації автомобільної промисловості Німеччини автопілот може отримати масове поширення до 2030 р.
Набагато більш оптимістичні прогнози в глава Tesla Елона Маска. Незабаром після смертельного ДТП за участю авто його компанії підприємець заявив, що основні проблеми у створенні автономних автомобілів вже вирішені, а на всі необхідні технічні доопрацювання буде потрібно не більше двох років. Ще рік Маск відвів на зміну законодавства. За прогнозами глави "Тесли", через три роки більшість автомобілів буде їздити без водія. Схоже, він помиляється: перед тим, як на дороги світу масово виїдуть самоврядні машини, інженерам і регулюючим органам доведеться вирішити чимало серйозних проблем, і три роки на це явно не достатньо.
