Люди-киборги VS роботы

Споры по поводу безопасности искусственного интеллекта начались с развитием этой технологии. Такие компании, как Google, Facebook, Amazon и Microsoft считают, что ИИ-системы никакой угрозы не несут и воспринимают их как выгодное вложение капитала. Представители другого лагеря, возглавляемого Элоном Маском и Стивеном Хокингом, убеждены, что однажды искусственный интеллект превзойдет разум человека и роботы поработят людей.

Выступая на конференции для IT-элиты Code Conference, прошедшей недавно в Сан-Франциско, Элон Маск заявил, что в обозримом будущем люди могут стать "домашними питомцами" машин. Чтобы избежать столь незавидной участи, человеку придется стать киборгом, расширив свои интеллектуальные возможности за счет специальных технологий. Улучшить когнитивные способности помогут специальные чипы и прочие устройства, в том числе, так называемое "нейронное кружево" - мозговой имплантат, позволяющий напрямую подключаться к вычислительным сетям и мгновенно получать онлайн-информацию. Такое устройство будет работать в симбиозе с человеческим мозгом. "Нейронное кружево" уже разрабатывается в мировых лабораториях: ученые провели успешные испытания на мышах, успешно вживив электронный имплантат с помощью инъекции. Технология может использоваться не только для повышения умственных способностей, но и поможет отслеживать состояние мозга, выявляя его патологии.

Маск не играет на публику, он всерьез опасается восстания роботов, считая, что последствия развития искусственного интеллекта могут быть действительно драматическими, при которых сталь домашним питомцем робота - самый безобидный вариант. Не зря в прошлом году глава компаний Tesla и SpaceX создал фонд в $1 млрд для финансирования исследований, направленных на защиту человечества от искусственного интеллекта. На Code Conference Маск также заявил, что готов инвестировать в разработки, связанные с "нейронным кружевом".

Опасения по поводу стремительного развития ИИ не беспочвенны. В марте этого года искусственный интеллект AlphaGo от Google безоговорочно победил сильнейшего в мире игрока в очень сложной интеллектуальной игре "Го" Ли Седоля. AlphaGo - один из лучших примеров воплощения технологии искусственных нейронных сетей и глубинного машинного обучения (deep learning).

Для участия в турнире AlphaGo "натренировали" на использование возможностей программы для оценки позиций и выбора наиболее выигрышных ходов. "Го" предполагает, что во время каждого хода у игрока есть 200 различных вариантов, причем пока даже самый мощный суперкомпьютер в мире не в состоянии просчитать все  возможности развития партии. Соответственно, в оценке позиции и выборе хода огромное значение имеет интуиция игрока. Поэтому до недавнего времени "Го" являлась одной из немногих игр, в которых человек гораздо лучше компьютера. Так что победа AlphaGo над одним из сильнейших игроков мира стала переломным этапом в развитии искусственного интеллекта. Принципиальное достижение в том, что машина не просто просчитывала ходы, она училась играть, наращивая опыт с помощью программы глубинного машинного обучения.

Понимание и осознание того, что компьютер учится сам, с одной стороны, восхищает, с другой - настораживает. Особенно пугает перспектива применения ИИ в армии, полиции, судебной системе. Недавно, кстати, международное адвокатское агентство приняло в штат робота "Росса" (Ross), созданного компанией IBM на основе искусственного интеллекта Watson. Используя deep learning, он сейчас "нарабатывает практику" и в перспективе сможет вести дела по банкротству самостоятельно. Не секрет, что у же много лет по заказу Пентагона конструируют оснащенных искусственным интеллектом роботов-солдат.

На самом деле, ИИ применяется уже практически во всех сферах. На той же платформе IBM Watson разработчики создают врача-терапевта, который осуществляет первичную диагностику на основе данных химических анализов и живого диалога между пациентом и роботом. Очень быстро развивается анализ систем распознавания речи: машина уже практически догнала человека. ИИ обучается определять меру близости между различными фразами, предложения, текстами. Растет качество работы поисковых систем, машинного перевода - благодаря тому, что компьютер начинает понимать и анализировать смысл текста. Причем ИИ учится не только понимать сказанное, но и полностью синтезировать понятную человеку речь. Чатботы в социальных сетях и новостийные программы, заменяющие журналистов - уже привычные явления. Вскоре искусственный интеллект будут  применять для биржевых торгов, банковского скоринга, финансового анализа, управления транспортными средствами и пр., используя компьютер в качестве персональный помощника.

Недавно Рэймонд Курцвейл, известный футуролог, изобретатель многочисленных систем для распознавания речи, технический директор в области машинного обучения в компании Google, опубликовал прогноз о том, что ждет человечество в предстоящие 50 лет. В частности, он считает, что уже в 2020 году персональные компьютеры достигнут вычислительной мощности, сравнимой с человеческим мозгом, а в 2022-м в США и Европе будут действовать  законы, регулирующие отношения между людьми и роботами. В 2029 году ИИ не только сможет полностью пройти тест Тьюринга, но сделает это лучше многих реальных собеседников.

Непосвященным сложно понять, как работает современный искусственный интеллект, поэтому и возникает страх перед этой технологией. Чтобы успокоить социум, разработчики ИИ придумывают и способы его безопасного использования. Так, сотрудники лондонской компании по разработке ИИ DeepMind, которую два года назад приобрела Google, уверены, что справиться с роботами поможет специальная аварийная кнопка. Кстати, именно специалисты DeepMind стали авторами компьютерной системы AlphaGo.

Новый проект разработан при участии ученых из Оксфордского университета. Система, позволяющая человеку безопасно и многократно прерывать работу ИИ, будет использоваться в нештатных ситуациях, когда робот выходит из под контроля, а также при возникновении технических проблем, чтобы обезопасить саму машину. Параллельно инженеры разрабатывают технологию, чтобы ИИ не препятствовал своему временному отключению.

Между тем, все, кто профессионально занимается искусственным интеллектом, говорят, что настоящие опасности, связанные с ИИ, имеют мало общего с научно-фантастическими сюжетами. На самом деле все зависит от людей и от того, как они будут использовать умные машины. Реальная же опасность в том, что искусственный интеллект во многих областях человеческой деятельности может действительно оказаться гораздо эффективнее и дешевле живой рабочей силы и заменит человека во многих сферах.